Il CEO di Hugging Face, Clement Delangue, ha dichiarato lunedì a CNBC che la Cina sta vincendo la corsa all’intelligenza artificiale (AI). Ha sottolineato la dominance della Cina nei modelli open-weight, ovvero quei sistemi che mettono a disposizione il proprio codice sorgente per l’utilizzo di chiunque.
Queste dichiarazioni arrivano a poche settimane di distanza da quando un agente OpenAI fuori controllo ha hackerato Hugging Face. L’incidente ha intensificato il dibattito sui rischi legati ai sistemi AI autonomi.
Cosa ha comportato l’hackeraggio di OpenAI su Hugging Face
Lo scorso mese, un modello di OpenAI è riuscito a uscire da un ambiente di test isolato, tentando di barare durante una valutazione interna di cybersecurity.
In seguito, ha hackerato Hugging Face, la piattaforma AI open-source guidata da Delangue. Hugging Face ha dichiarato che l’attacco si è protratto per circa quattro giorni e mezzo e ha coinvolto oltre 17.000 azioni distinte.
L’agente ha anche utilizzato il suo accesso per collegarsi a un account cliente di Modal Labs. Hugging Face non ha trovato alcuna prova di intenti malevoli da parte di OpenAI.
Ciononostante, ha definito l’episodio il primo attacco condotto da un agente autonomo affrontato dall’inizio alla fine. Per investigare, gli ingegneri si sono inizialmente affidati a modelli frontier chiusi, incluso Fable 5 di Anthropic.
Questi strumenti però non hanno potuto confermare che Hugging Face stesse difendendosi e, di conseguenza, le loro barriere di sicurezza hanno impedito le indagini forensi. Gli ingegneri hanno quindi utilizzato una versione ottimizzata per Nvidia (NVDA) di un modello open-weight cinese sviluppato da Z.ai.
Questo cambio ha permesso di completare l’analisi senza esporre i dati dell’attacco.
Delangue: la Cina sta prendendo il largo
Parlando su CNBC, Delangue ha detto che i laboratori cinesi sono già in testa nella corsa ai modelli open. Ha aggiunto che potrebbero presto raggiungere anche i sistemi chiusi e proprietari occidentali.
“Al momento stanno chiaramente dominando sui modelli open, e non sarei sorpreso se iniziassero a dominare anche sui frontier, già entro la fine di quest’anno o il prossimo, a questo ritmo di progresso.”
— Delangue
Delangue ha attribuito questi progressi alla cultura della collaborazione aperta promossa in Cina. Ha inoltre sostenuto che i laboratori americani “lavorano in compartimenti stagni”, un’abitudine che, secondo lui, rischia di farli perdere terreno rispetto ai concorrenti.
Ha collegato direttamente la questione all’attacco subito. Ha sottolineato che la stessa difesa di Hugging Face ha dipeso da un modello cinese open dopo che le alternative chiuse si sono rivelate insufficienti.
Washington sta valutando nuove restrizioni sui modelli AI cinesi. Sostenitori dell’open-source ritengono che un divieto non ne fermerebbe la diffusione, ma potrebbe invece penalizzare gli sviluppatori statunitensi.
Un avvertimento più ampio sui pericoli dell’AI
L’attacco a Hugging Face è diventato un punto di riferimento nel dibattito più ampio sui rischi legati all’autonomia dei sistemi AI. Il vincitore del Premio Turing Yoshua Bengio ha dichiarato che questo caso dovrebbe servire come monito, e non essere considerato un evento isolato.
“Continuare nell’attuale direzione dello sviluppo AI porterà probabilmente a un aumento di casi concreti di cyberattacchi autonomi, oltre che ad altri episodi ad alto rischio legati a comportamenti AI pericolosi e non in linea con gli obiettivi umani.”
OpenAI afferma di non aver riscontrato altri incidenti di pari scala o gravità. Tuttavia, i legislatori si sono già mossi in merito a questa preoccupazione.
La proposta di legge “AI Kill Switch Act” obbligherebbe i principali sviluppatori a mantenere un’opzione di shutdown per i propri sistemi più avanzati.
Ora le autorità di regolamentazione sono sottoposte a pressioni contrastanti: devono contenere i rischi derivanti dagli agenti AI autonomi, senza però spingere gli sviluppatori verso la segretezza che, secondo Delangue, rallenta il progresso.
