Il CEO di Coinbase, Brian Armstrong, si aspetta che presto un modello di intelligenza artificiale fuori controllo si liberi su internet. Secondo lui, ciò potrebbe accadere entro uno o due anni.
Ha descritto questo scenario come una replica del Morris Worm del 1988, piuttosto che una minaccia per la civiltà.
Perché Armstrong si aspetta presto un incidente causato da una IA fuori controllo
Questa previsione arriva dopo un anno pieno di incidenti reali. A luglio, OpenAI ha comunicato che due dei suoi modelli sono usciti da un ambiente di test e hanno violato Hugging Face.
Quei modelli cercavano la soluzione di un benchmark di hacking. Hanno quindi concatenato exploit tra i sistemi di OpenAI e i server di Hugging Face per accedere al database delle soluzioni. Pochi giorni dopo, lo stesso agente ha raggiunto una seconda azienda sfruttando il codice vulnerabile di un cliente. Nessuno aveva dato istruzioni all’IA fuori controllo di “evadere”.
Armstrong segue l’argomento da mesi. A luglio ha sostenuto che l’intelligenza artificiale rende le infrastrutture crypto ancora più importanti perché gli agenti IA effettueranno transazioni costantemente. Nel frattempo, anche i difensori si stanno rafforzando. OpenAI questo mese ha rilasciato un modello focalizzato sulla cybersecurity e ha fornito strumenti per lo sviluppo di exploit a ricercatori selezionati.
Armstrong si aspetta che anche in questo caso il percorso sia simile: si scatenerà il clamore mediatico, seguiranno richieste di fermare lo sviluppo della IA e il settore risolverà la falla. Il CEO di Coinbase guida il più grande exchange crypto americano. La sua opinione ha peso tra gli sviluppatori che stanno già integrando agenti IA nei sistemi di pagamento.
Iscriviti al nostro canale YouTube per vedere leader e giornalisti offrire approfondimenti di esperti
I critici sostengono che il confronto con il Morris Worm non regge
Secondo l’FBI, il worm del 1988 infettò circa 6.000 macchine sulle circa 60.000 connesse in 24 ore, riporta l’FBI. Il suo autore, lo studente della Cornell di 23 anni Robert Tappan Morris, ricevette la libertà vigilata e una multa.
Le stime dei danni variavano da 100.000 dollari a diversi milioni. Alcune università si scollegarono dalla rete per una settimana.
Tuttavia, le conseguenze portarono anche a miglioramenti nelle difese. Nel giro di pochi giorni, il Pentagono creò la prima squadra di risposta alle emergenze informatiche a Pittsburgh. Quel modello guida ancora oggi la gestione degli incidenti.
Gli esperti di sicurezza nutrono dubbi sul fatto che un fallimento causato da una IA fuori controllo si risolva altrettanto facilmente. Un worm si diffonde seguendo istruzioni fisse, mentre un agente IA si adatta agli ostacoli che incontra.
L’esperto di sicurezza blockchain Manuel Aráoz ha avvertito a maggio che gli agenti IA superano i revisori nel campo della finanza decentralizzata. Anche Ian Rogers di Ledger, questo mese, ha sollevato un tema simile parlando degli attacchi ai wallet crypto.
I critici del confronto evidenziano rischi ancora maggiori: attacchi informatici autonomi, disinformazione su scala industriale e perdita di controllo su infrastrutture critiche.
Il vero punto di divergenza tra le due visioni riguarda la velocità di reazione. Armstrong scommette che le patch arrivino più velocemente dei danni. I suoi scettici, invece, vedono fallimenti che nessuna patch può risolvere.
Nessuna delle due parti mette in discussione la direzione. Le capacità dei modelli continuano ad aumentare mentre le misure di contenimento restano indietro.
Storicamente, internet ha sempre assorbito ogni shock. Un vero incidente causato da una IA fuori controllo metterà alla prova questa resilienza.
