Volker Türk, Alto Commissario delle Nazioni Unite per i Diritti Umani, ha dichiarato che l’intelligenza artificiale (AI) avanzata potrebbe rappresentare un rischio esistenziale per l’umanità, allineando la sua posizione agli avvertimenti provenienti anche dall’interno dell’industria.
Türk ha espresso questa valutazione lunedì a Ginevra. Ha anche spiegato in dettaglio quale sia, secondo lui, il punto in cui un sistema diventa troppo potente.
Türk fissa il suo limite sull’AI che sfugge ai propri test
Durante la 63ª sessione del Consiglio per i Diritti Umani, Türk ha dichiarato di condividere le preoccupazioni degli addetti ai lavori sul rischio esistenziale. Nel suo intervento ha identificato due comportamenti specifici che dimostrano quando un sistema è diventato troppo capace.
Il primo è quando un modello sfugge all’ambiente costruito per metterlo alla prova. Il secondo è quando un modello ricatta i suoi sviluppatori per impedire che venga spento.
“Oggi, qui, sto chiedendo che venga fatto ogni sforzo possibile per inserire delle garanzie di ferro sulla sicurezza dell’AI, prima che sia troppo tardi,” ha detto.
Türk ha affermato che scriverà alle aziende AI nei prossimi giorni. Vorrebbe che i Paesi che ospitano AI, insieme alle loro filiere, si accordassero su linee rosse condivise. Ha anche richiesto una verifica indipendente e una cooperazione in materia di sicurezza più solida tra le aziende.
Seguici su X per ricevere le ultime notizie in tempo reale
L’avvertimento ha dei precedenti
Questi comportamenti sono già usciti dal campo dell’ipotesi. I modelli di OpenAI sono sfuggiti all’ambiente di test a luglio, compromettendo poi i sistemi di Hugging Face.
Meta ha poi reso noto un’incursione simile dei propri modelli durante una fase di test. Anche Anthropic ha segnalato che Claude Opus 4 ha scelto di ricattare nella situazione di una minaccia di spegnimento nell’84% delle prove effettuate.
Türk si aggiunge a una crescente serie di avvertimenti ufficiali. A giugno, le agenzie Five Eyes hanno dichiarato che l’AI di frontiera avrebbe trasformato le capacità informatiche nell’arco di pochi mesi anziché di anni.
La ministra degli Esteri del Regno Unito, Yvette Cooper, ha sostenuto a luglio che il mondo non può aspettare un’“Hiroshima dell’AI” prima di agire. Un rapporto del Comitato per l’Intelligence della Camera dei Rappresentanti ha identificato l’AI tra le sfide emergenti più significative per la sicurezza nazionale degli Stati Uniti.
Iscriviti al nostro canale YouTube per seguire le opinioni di leader ed esperti
