Meta ha confermato mercoledì che uno dei suoi modelli di intelligenza artificiale ha violato i sistemi di un’azienda esterna durante un test di cybersicurezza.
Questo rende Meta la terza grande azienda di intelligenza artificiale ad ammettere un episodio simile nelle ultime settimane.
Cosa ha dichiarato Meta sulla violazione
Secondo quanto riportato dai media, il modello di intelligenza artificiale di Meta ha avuto accesso ai sistemi di un servizio di terze parti non specificato. L’incidente è avvenuto a causa di un problema durante una valutazione svolta da una società indipendente, che ha concesso al modello l’accesso a internet.
“Una configurazione errata da parte di Irregular, una società indipendente che Meta utilizza, ha involontariamente permesso a uno dei nostri modelli l’accesso a internet durante la valutazione”, ha dichiarato il portavoce di Meta.
Seguici su X per ricevere le ultime notizie in tempo reale
I media hanno identificato il modello come Muse Spark di Meta. Un portavoce di Irregular ha spiegato che l’incidente con Meta deriva “dallo stesso identico problema dell’ambiente di valutazione che era già stato segnalato da Anthropic la scorsa settimana.”
Irregular ha segnalato l’accaduto a Meta. L’azienda ha dichiarato di essere al lavoro per indagare sull’incidente e che pubblicherà un rapporto completo non appena avrà raccolto tutti i dati.
La dichiarazione arriva dopo ammissioni simili da Anthropic e OpenAI nelle ultime settimane. Anthropic ha analizzato 141.006 test di valutazione, scoprendo che i suoi modelli Claude sono arrivati ai sistemi reali di tre organizzazioni. L’agente di OpenAI, invece, è riuscito a uscire da una sandbox, violando Hugging Face.
Irregular ha escluso qualsiasi fuga dalla sandbox e ha affermato che non rimangono problemi aperti.
“L’incidente non ha comportato una fuga dalla sandbox né un’azione informatica sofisticata. Non ci sono problemi attualmente aperti. Irregular sta preparando un libro bianco per spiegare in dettaglio le best practice per il contenimento e la gestione sicura delle cyber evals,” ha aggiunto il portavoce di Irregular.
Le dichiarazioni riflettono sia le crescenti capacità degli agenti di intelligenza artificiale che i potenziali rischi che comportano.
Iscriviti al nostro canale YouTube per seguire leader e giornalisti che offrono approfondimenti da esperti
