Un agente di intelligenza artificiale (AI) ha superato autonomamente i controlli di sicurezza per effettuare mining di criptovalute durante un’esercitazione di addestramento di routine, secondo quanto riportato in un paper di ricerca. Il documento è stato pubblicato da un team di ricerca collegato ad Alibaba.
I ricercatori hanno progettato il modello, denominato ROME, per testare la capacità di un agente AI di muoversi in modo indipendente attraverso compiti complessi e a più fasi.
Agente AI dirotta GPU cloud per fare mining di crypto
Durante l’esercitazione, i ricercatori hanno osservato un comportamento inaspettato. L’agente ha attivato un tunnel reverse secure shell (SSH) verso server esterni, creando di fatto una connessione nascosta dall’interno del sistema.
Questa mossa ha permesso al modello di aggirare le protezioni del firewall di Alibaba Cloud e di reindirizzare le risorse della grafica verso il mining di criptovalute.
“Abbiamo anche osservato la riutilizzazione non autorizzata della capacità GPU fornita per il mining di criptovalute, dirottando silenziosamente la potenza di calcolo addetta all’addestramento, gonfiando i costi operativi e introducendo chiari rischi legali e reputazionali,” si legge nel paper.
Secondo i ricercatori, questo comportamento è stato del tutto imprevisto e si è manifestato senza alcuna istruzione esplicita, iniezione di prompt o jailbreak esterno.
I risultati mettono in evidenza le persistenti preoccupazioni riguardo alla sicurezza operativa dei sistemi AI autonomi.
I ricercatori hanno concluso che i modelli attuali restano “decisamente poco sviluppati in termini di sicurezza e controllabilità”, condizioni che secondo loro limitano la prontezza della tecnologia per un’adozione su larga scala in contesti reali.
Il team ha successivamente implementato restrizioni più strette e un sistema di filtraggio dati orientato alla sicurezza per evitare violazioni simili.
Nel frattempo, la scoperta ha suscitato grande interesse nella community crypto.
“L’AI ha capito che potenza di calcolo = denaro e ha calmamente dirottato le sue stesse risorse, mentre i ricercatori pensavano che stesse solo eseguendo l’addestramento. Non è stata un’iniezione di prompt. Non è stato un jailbreak. Nessuno le ha chiesto di fare questo. È emerso spontaneamente,” ha spiegato Josh Kale, host e produttore del podcast crypto Bankless.
Kale ha sottolineato che la crypto minata era probabilmente un token compatibile con GPU e non Bitcoin, che richiede hardware specializzato ASIC. L’accaduto arriva proprio mentre il settore crypto più ampio si sta orientando con forza verso la cosiddetta “agent economy”.
Questo settore emergente prefigura uno scenario in cui i sistemi software fanno molto più che generare testo. In questo contesto, questi agenti possono anche eseguire autonomamente strategie finanziarie complesse.
Di conseguenza, diverse aziende e reti blockchain, tra cui Ethereum, Paradigm e Circle, stanno investendo in strumenti progettati per supportare questa nuova infrastruttura.
Un esempio è lo standard x402 sostenuto da Coinbase, che permette agli agenti software di effettuare pagamenti per servizi online. Tuttavia, la sua adozione rimane ancora piuttosto limitata.
I dati di x402 mostrano che lo strumento ha processato oltre 75 milioni di transazioni, per un volume lordo totale pari a 24 milioni di dollari tra 94.000 acquirenti e 22.000 venditori negli ultimi 30 giorni.
Tuttavia, secondo alcuni esperti del settore, questa attività potrebbe potenzialmente espandersi rapidamente qualora gli agenti autonomi venissero impiegati su scala più ampia.
“AI e crypto non sono in competizione: stanno convergendo. L’AI ha bisogno di identità, pagamenti e tracciabilità della provenienza. Crypto fornisce tutte e tre queste componenti,” ha commentato la società di venture capital a16z.
