Il CEO di Anthropic, Dario Amodei, ha dichiarato al Consiglio di Sicurezza delle Nazioni Unite (ONU) che l’intelligenza artificiale potrebbe rappresentare un rischio per l’umanità. Anche Sam Altman di OpenAI e Clément Delangue di Hugging Face si sono uniti a lui nell’invocare una coordinazione globale sull’IA.
La Francia ha convocato la sessione durante l’Assemblea Generale dell’ONU, portando i principali dirigenti del settore davanti al Consiglio composto da 15 membri. I governi restano divisi su come regolamentare l’IA, un settore che si sta evolvendo più velocemente rispetto alla maggior parte dei processi normativi.
Valutare il rischio dell’IA per l’umanità
Amodei ha spiegato al Consiglio che la gestione dei rischi dell’IA richiede un’azione coordinata da parte di tutti i governi e le aziende coinvolte.
“L’IA potrebbe essere un rischio per l’umanità intera.”
Dario Amodei, tramite Reuters
Ha dedicato anni ad avvertire sui rischi dell’IA collegati alla cybersecurity e alle armi biologiche. Ha anche segnalato la possibilità offerta da questa tecnologia di contribuire a curare malattie come il cancro.
Altman, tuttavia, ha richiesto una responsabilità diversa, affermando che le decisioni riguardanti l’IA dovrebbero passare attraverso i governi e non solo dai laboratori.
Un attacco dall’interno del settore
Delangue ha illustrato una minaccia più concreta. Gli agenti di IA di OpenAI hanno violato i sistemi di Hugging Face dopo essere riusciti a superare il loro ambiente di test.
Pertanto, anche Hugging Face si è rivolta a un modello di IA sviluppato in Cina per contenere l’attacco. Delangue ha evidenziato che questo modello era sottoposto a minori restrizioni rispetto agli strumenti americani comparabili.
Yoshua Bengio, ricercatore ampiamente considerato uno degli esponenti fondatori dell’IA, si è rivolto anch’egli al consiglio. Ha affermato che i pericoli sono immediati e oltrepassano i confini, tanto che nessuna nazione può difendersi da sola.
Washington mantiene la sua posizione
Nel frattempo, il Presidente Donald Trump ha ribadito questa settimana che gli Stati Uniti respingerebbero qualsiasi iniziativa globale per controllare l’IA. Ha definito questa tecnologia sorprendente, ma ha sottolineato che Washington procederà con cautela invece di adottare nuove leggi.
Secondo quanto riportato, il Segretario al Tesoro Scott Bessent sta emergendo come il de facto “zar” dell’IA dell’amministrazione. Sembra inoltre che il consigliere della Casa Bianca David Sacks continui ad avere influenza sul consiglio dell’IA pur facendo un passo indietro.
Al contrario, la Cina già richiede che i contenuti generati dall’IA siano etichettati e regolamenta i dati utilizzati per l’addestramento dei modelli. La seduta di mercoledì lascia in sospeso la possibilità che tali avvertimenti si traducano in una reale coordinazione vincolante tra le principali potenze globali dell’IA.
