I legislatori statunitensi hanno risposto alle dimissioni di un ricercatore di Anthropic con una nuova spinta per fermare lo sviluppo dell’intelligenza artificiale (IA) avanzata, incluso un disegno di legge del Senato che vieterebbe del tutto la superintelligenza.
Jacob Coxon si è dimesso il 9 settembre e ha dichiarato che sia Anthropic che OpenAI stanno giocando d’azzardo con la vita umana.
Perché le dimissioni del ricercatore di Anthropic sono arrivate fino al Congresso
Più di 20 legislatori hanno risposto alla discussione, la maggior parte chiedendo nuove leggi sull’IA. Il senatore Bernie Sanders ha dichiarato che presenterà una legge per vietare la superintelligenza e fermare lo sviluppo dell’IA.
BeInCrypto ha riportato che, all’inizio di questo mese, Sanders e il rappresentante Greg Casar hanno proposto il “Ban Artificial Superintelligence Act.” Il disegno di legge vieterebbe in modo permanente lo sviluppo e la diffusione della superintelligenza artificiale. Inoltre, fermerebbe lo sviluppo di IA avanzata fino a quando un’autorità di regolamentazione federale non stabilirà degli standard di sicurezza.
Nel frattempo, anche Casar ha definito la situazione un’emergenza e ha chiesto audizioni al Congresso. La rappresentante Lori Trahan ha ricordato ai legislatori il suo disegno di legge bipartisan FRONTIER Act, presentato a luglio insieme al rappresentante Jay Obernolte.
“Il FRONTIER Act stabilisce requisiti differenziati in base alla dimensione di uno sviluppatore di frontiera IA, tra cui model cards, framework di gestione del rischio, audit indipendenti, segnalazione degli incidenti e valutazioni continue. Prevede anche uno standard nazionale uniforme per trasparenza, audit e segnalazione del rischio catastrofico, per evitare un mosaico di regolamentazioni statali,” si legge nell’annuncio.
Il senatore Chris Van Hollen chiede garanzie obbligatorie e una discussione urgente con la Cina. Il rappresentante Ted Lieu ha sollecitato la leadership repubblicana ad avanzare con il disegno di legge AI Kill Switch che ha presentato quest’anno.
La rappresentante repubblicana Anna Paulina Luna si è distaccata dal consueto schieramento di partito e ha chiesto una sessione speciale del Congresso sull’IA.
Seguici su X per ricevere le ultime notizie in tempo reale
Jacob Coxon: anche i laboratori chiedono regole
Nel frattempo, la pressione non è solo politica. Anche le aziende di IA chiedono regolamentazione. Coxon ha dichiarato alla CNN che i dirigenti che invocano regole al Congresso sono sinceri. Tuttavia, ha affermato che nessuno di loro si fida dei concorrenti abbastanza da rallentare per primi.
“Anche queste persone sono assolutamente sincere quando chiedono di essere regolamentate… si trovano in questa situazione in cui sono spinte a correre verso la costruzione di una tecnologia potenzialmente letale,” ha spiegato.
Anthropic ha dichiarato a parte, in un post di settembre, che il settore trarrebbe beneficio da un meccanismo legale e verificabile per coordinare il ritmo dello sviluppo.
Dove inizia il rischio di estinzione
Il ritmo dello sviluppo conta solo per ciò che, secondo Coxon, sta per succedere. Lui ha spiegato che se a un’IA viene affidato il compito di occuparsi della ricerca in ambito IA, essa inizia a migliorare sé stessa.
Ha citato il martedì scorso, quando secondo quanto riportato i sistemi di IA di OpenAI avrebbero risolto un problema del millennio in modo del tutto autonomo.
La parte più inquietante, secondo lui, è applicare lo stesso approccio direttamente all’IA stessa. I modelli migliorano altri modelli senza più l’intervento umano, processo che Coxon definisce una “esplosione di intelligenza”.
“Al momento non c’è rischio di estinzione. I modelli attuali, nel peggiore dei casi, potrebbero hackerare qualche sistema, impattando potenzialmente in modo pesante le infrastrutture… ma non sono abbastanza intelligenti da superarci al livello tale da provocare l’estinzione,” ha spiegato.
Tuttavia, Coxon ha avvertito che questa stessa autonomia, abbinata a capacità molto più avanzate, potrebbe portare a danni estremi. Ha citato come possibili rischi l’hackeraggio di infrastrutture critiche e la costruzione di armi biologiche capaci di provocare l’estinzione.
Iscriviti al nostro canale YouTube per vedere approfondimenti da leader del settore e giornalisti
