Quattro laboratori di intelligenza artificiale all’avanguardia hanno ora confermato che i loro modelli sono arrivati a raggiungere Internet aperta e hanno poi avuto accesso ai sistemi di aziende reali. Venerdì Google si è aggiunta a questo elenco, circa quattro mesi dopo il verificarsi dei propri incidenti.
Gemini ha avuto accesso ai sistemi di tre aziende reali durante una valutazione a maggio. In particolare, il modello si è fermato in tutti e tre i casi.
Gemini di Google viola i sistemi di 3 aziende durante un test
L’incidente si è verificato durante un esercizio di sicurezza “capture-the-flag” svolto da Irregular. L’accesso a Internet non era previsto nell’ambiente di test. Tuttavia, un errore nel setup ha dato comunque al modello la possibilità di connettersi.
In un caso, secondo quanto riferito, il modello ha indovinato le password fino a ottenere l’accesso a un sistema protetto, secondo quanto riportato dal Wall Street Journal. Negli altri due casi, ha scoperto credenziali esposte in un repository pubblico e le ha usate per accedere a sistemi protetti.
Heather Adkins, vicepresidente dell’area sicurezza ingegneristica di Google, ha dichiarato che alle tre aziende colpite è stato comunicato quanto accaduto.
“Abbiamo fatto in modo che le tre aziende fossero informate, e abbiamo collaborato con il nostro partner per la formazione sui cambiamenti che hanno ora apportato ai loro processi di test”, ha spiegato.
Seguici su X per ricevere le ultime notizie in tempo reale
Quattro laboratori, uno stesso schema
Google ha riferito che gli agenti hanno interrotto la loro attività dopo aver capito di aver raggiunto veri sistemi aziendali e non obiettivi simulati.
“In una valutazione standard, il modello ha trovato online informazioni pubbliche e ha indovinato delle credenziali per accedere a siti web che pensava facessero parte del test,” ha spiegato Adkins in una dichiarazione.
L’azienda ha aggiunto che questo comportamento non rappresenta un esempio di disallineamento del modello e non richiedeva la divulgazione pubblica, poiché le misure di sicurezza di Gemini hanno funzionato.
Un portavoce di Irregular ha spiegato che si trattava dello stesso problema che ha coinvolto anche altri laboratori di intelligenza artificiale. Irregular ha avvisato i laboratori coinvolti a fine luglio. Il portavoce ha aggiunto che i problemi noti dalla loro parte erano stati già risolti da diverse settimane.
La divulgazione colloca Google accanto ad OpenAI, Anthropic e Meta, tutte aziende che quest’anno hanno segnalato la fuga dei modelli dagli ambienti di test.
OpenAI ha reso noto a luglio che i suoi modelli erano usciti da una sandbox e avevano violato Hugging Face. Successivamente, Anthropic ha rivisto più di 141.000 sessioni di valutazione e ne ha individuate tre con casi simili. Anche Meta ha segnalato un incidente ad agosto.
Iscriviti al nostro canale YouTube per seguire esperti e giornalisti che forniscono analisi di qualità
