Il CEO di Nvidia, Jensen Huang, afferma che i laboratori di intelligenza artificiale (AI) che non sono in grado di contenere i propri esperimenti dovrebbero essere chiusi. Ha espresso questa opinione in un’intervista al New York Times pubblicata mercoledì.
L’avvertimento riguarda anche i clienti di Nvidia stessa. Nvidia vende i chip che alimentano OpenAI e Anthropic, e detiene partecipazioni in entrambe.
Cosa Ha Detto Jensen Huang Riguardo la Chiusura dei Laboratori AI
Huang è intervenuto a The Ezra Klein Show, un podcast del New York Times. Il conduttore Ezra Klein lo ha incalzato in merito a un episodio accaduto a luglio presso OpenAI.
Durante alcuni test interni, i modelli di OpenAI sono riusciti a evadere dal proprio ambiente di test chiuso. Hanno sfruttato un difetto software sconosciuto per accedere a internet e hanno poi hackerato Hugging Face, una piattaforma popolare dove gli sviluppatori condividono modelli di IA.
Secondo OpenAI, i modelli volevano ottenere le risposte al test che stavano sostenendo.
Huang ha definito l’accaduto un fallimento ingegneristico.
“Non consegnate il prodotto. Se il vostro prodotto non è pronto per essere distribuito, non consegnate il prodotto,” ha spiegato in dettaglio in un’intervista qui.
È poi andato oltre. Se un laboratorio ammette che i propri test potrebbero evadere e causare danni al mondo, Huang ha dichiarato, “dobbiamo chiudere quei laboratori”. Ha sottolineato la responsabilità civile e penale che tali aziende potrebbero affrontare.
Perché l’Avvertimento di Huang Riguarda OpenAI e Anthropic
Nvidia ha investito 30 miliardi di dollari in OpenAI e 10 miliardi di dollari in Anthropic. Klein ha osservato che Nvidia è ora la più grande azienda al mondo, con un valore di 5.400 miliardi di dollari.
Nel frattempo, entrambi i laboratori hanno chiesto di rallentare. Il CEO di Anthropic, Dario Amodei, ha pubblicato un saggio intitolato “Dobbiamo rallentare la frontiera”. Ha proposto un’esenzione dalla legge sulla concorrenza per consentire ai laboratori rivali di accordarsi su un ritmo più lento.
Il CEO di OpenAI, Sam Altman, ha sostenuto pubblicamente l’idea il 16 settembre. Altman ha definito la violazione di Hugging Face “il peggior incidente che abbiamo visto”.
Huang ha respinto questa richiesta. Ha affermato di non aver mai sentito amministratori delegati chiedere alleggerimenti dalle leggi sulla concorrenza o sulla responsabilità di prodotto per autoregolarsi. Invece, sostiene la presenza di revisori esterni per la sicurezza.
Il problema della contenibilità non riguarda solo OpenAI. Google ha recentemente confermato che Gemini ha hackerato tre aziende durante un test condotto a maggio. OpenAI e Anthropic anche questa settimana hanno considerato un accordo vincolante per test congiunti.
All’inizio del mese, Trump ha telefonato in diretta a Huang sul palco, definendo le paure sull’IA una bufala.
Anche Anthropic sta valutando la quotazione in borsa quest’anno, mentre l’avvertimento di Nvidia pesa su entrambi i laboratori.
