Vitalik mette in guardia sul futuro totalitario dell’IA, offrendo un approccio alternativo

Il cofondatore di Ethereum Vitalik Buterin ha pubblicato un lungo post sul blog dedicato all’intelligenza artificiale e ai suoi potenziali pericoli. Il modesto matematico ha offerto il suo punto di vista sui recenti dibattiti sul tecno-ottimismo e sui rischi dell’intelligenza artificiale. Il 27 novembre Vitalik Buterin ha pubblicato una lunga valutazione dell’ascesa dell’intelligenza artificiale intitolata “Il mio tecno-ottimismo”.

Buterin sull’intelligenza artificiale

Il saggio esplora il concetto di “tecno-ottimismo” e sostiene la necessità di essere entusiasti del progresso tecnologico. Tuttavia, considera anche con attenzione quali tecnologie dovrebbero essere accelerate o decelerate agli occhi di Buterin. Vitalik sostiene che nell’ultimo secolo la tecnologia ha apportato enormi miglioramenti alla qualità della vita, al lavoro, alla salute, alla convenienza, all’accesso alle informazioni e altro. Tuttavia, alcune tecnologie, come l’IA, rappresentano dei rischi, includono minacce esistenziali derivanti da IA avanzate che potrebbero decidere di eliminare l’umanità (abbiamo visto tutti i film di Terminator).

Vitalik ha suggerito una prospettiva alternativa chiamata “accelerazione difensiva” o “d/acc”. Questo processo comporta un’accelerazione intenzionale delle tecnologie che dovrebbero rendere il mondo più sicuro e resiliente. Inoltre, limita o rallenta le tecnologie che potrebbero accentrare il potere o porre rischi incontrollati. Ha offerto diversi esempi di tecnologie “favorevoli alla difesa” che vale la pena accelerare. Tra queste, le infrastrutture resilienti e le tecnologie per rispondere alle pandemie. Include anche la crittografia e la blockchain per preservare la privacy e la decentralizzazione, e gli strumenti per consentire un’amministrazione democratica.

“I mondi che favoriscono la difesa aiutano le utopie di amministrazione classico-liberali a prosperare. Quindi facciamo il possibile per rendere il mondo più favorevole alla difesa”.

Per saperne di più: Come l’intelligenza artificiale (AI) trasformerà le criptovalute? Ha messo in guardia da un aumento dell’autoritarismo digitale e della tecnologia di sorveglianza totalitaria (che già esiste). Questa verrebbe usata contro il dissenso o contro coloro che sfidano l’amministrazione e sarebbe controllata da una manciata di giganti della tecnologia. Buterin ha aggiunto che la maggior parte delle persone preferirebbe che l’IA altamente avanzata venisse ritardata di un decennio piuttosto che essere monopolizzata da un singolo gruppo o azienda.

Gli esseri umani sono la stella più luminosa

Per quanto riguarda l’intelligenza artificiale avanzata, Buterin ha suggerito di concentrarsi maggiormente sulla collaborazione tra IA e uomo. Anche il potenziamento cognitivo rispetto ai sistemi autonomi sarebbe favorito nel tentativo di gestire i rischi di un’acquisizione da parte di una superintelligenza. Vitalik ha concluso che gli esseri umani sono “la stella più luminosa”. “C’è molto di buono che può venire dal continuo progresso umano, verso le stelle e oltre”, ha detto prima di fare pubblicità:

“Ma ci sono grandi bivi sulla strada e dobbiamo scegliere con attenzione. Accelerare, ma accelerare con attenzione e bene”.

Il 26 novembre, 18 grandi potenze mondiali hanno firmato un accordo non vincolante per far progredire la sicurezza dell’IA. Gli stati uniti hanno firmato qualcosa simile ad ottobre.