Il CEO di Anthropic, Dario Amodei, ha richiesto mercoledì test obbligatori da parte di terzi sui modelli AI di frontiera. Amodei vuole anche che i governi abbiano il potere di bloccare i sistemi che non superano le verifiche di sicurezza.
L’articolo, “Policy on the AI Exponential”, è stato pubblicato un giorno dopo il rilascio di Claude Fable 5 da parte di Anthropic. L’azienda lo ha accompagnato con una proposta legislativa sui test dei modelli e con un quadro per la gestione della perdita di posti di lavoro.
Dario Amodei passa dalla trasparenza a regole vincolanti
Nel 2025 Anthropic ha sostenuto leggi basate sulla disclosure. L’azienda ha supportato la SB 53 in California, il RAISE Act a New York e la SB 315 in Illinois. Tuttavia, Amodei ha annunciato che la sola trasparenza non è più adeguata rispetto ai rischi attuali.
Propone un regime simile a quello della Federal Aviation Administration (FAA). I modelli che superano una determinata soglia di calcolo dovrebbero essere sottoposti obbligatoriamente a audit di terzi in quattro aree.
Queste aree comprendono la cybersicurezza, le armi biologiche, la perdita di controllo e la ricerca AI automatizzata.
“I modelli di frontiera dell’AI, come gli aerei, dovrebbero essere sottoposti a test tecnici e audit, e la loro immissione sul mercato dovrebbe essere bloccata o revocata qualora ritenuti una minaccia per la sicurezza pubblica se non rispettano elevati standard di sicurezza”, ha scritto Amodei nell’articolo.
Seguici su X per ricevere le ultime notizie in tempo reale
Il piano va oltre l’Ordine esecutivo di giugno della Casa Bianca sull’AI, che Amodei ha accolto come un progresso incrementale.
Amodei vuole anche la segnalazione tempestiva di incidenti di sicurezza e una rigorosa protezione dei pesi dei modelli.
I rischi cyber mettono in stato d’allerta l’infrastruttura crypto
Amodei ha definito la cybersicurezza il primo rischio a materializzarsi pienamente. Ha citato Claude Mythos Preview, capace di risolvere il 73% delle sfide cyber di livello esperto che nessuna AI era riuscita a superare in precedenza.
L’articolo avverte che i modelli di frontiera potrebbero causare turbolenze nel settore finanziario e nell’infrastruttura critica.
Un’analisi di BeInCrypto aveva anche evidenziato i rischi per la sicurezza DeFi legati ai modelli della classe Mythos, dato che i protocolli di Finanza Decentralizzata (DeFi) gestiscono valori aperti soggetti ad attacchi.
Nel frattempo, Anthropic ha lanciato il modello Claude Fable 5 il 9 giugno, implementando protezioni che bloccano richieste cyber e biologiche ad alto rischio.
Amodei sostiene che questi limiti volontari non possono sostituire regole vincolanti per l’intero settore.
Ha inoltre avvertito che potrebbero seguire anche rischi di autonomia. I dati interni di Anthropic mostrano già AI che creano altre AI migliori, con Claude che scrive la maggior parte del codice nei principali laboratori di AI.
Perdita di posti di lavoro, libertà civili e una coalizione democratica
Sul fronte economico, l’articolo propone assicurazione salariale, incentivi fiscali per la permanenza dei lavoratori e finanziamenti per la formazione.
Se la perdita di posti di lavoro dovesse risultare duratura, Amodei afferma che un reddito di base universale potrebbe essere finanziato tramite tasse aziendali o sulle plusvalenze.
L’agenda sulle libertà civili è altrettanto precisa. Amodei chiede che le armi completamente autonome siano vietate alle forze dell’ordine interne. Inoltre, esorta il Congresso a chiudere la scappatoia dei data broker che consente acquisti di sorveglianza di massa.
Dal punto di vista geopolitico, propone una coalizione di democrazie per controllare la produzione di chip e attrezzature per semiconduttori.
Cita i disegni di legge statunitensi ancora in discussione MATCH e OVERWATCH come primi passi verso controlli sulle esportazioni più stretti e coordinati.
Amodei ha respinto l’idea che la paura dell’AI sia un problema di marketing, definendo la preoccupazione fondata. Resta ora da capire se il Congresso adotterà la proposta di test di Anthropic, determinando così la prossima fase delle politiche sull’AI.
