Il co-fondatore di Ethereum, Vitalik Buterin, ha lanciato l’allarme sui rischi associati all’IA superintelligente e sulla necessità di un forte meccanismo di difesa.
I commenti di Buterin arrivano in un momento in cui, con lo sviluppo rapido dell’intelligenza artificiale, le preoccupazioni sulla sicurezza dell’IA sono cresciute significativamente.
Il piano di regolamentazione dell’AI di Buterin: responsabilità, pulsanti di pausa e controllo internazionale
In un post sul blog datato 5 gennaio, Vitalik Buterin ha delineato la sua idea di ‘d/acc o accelerazione difensiva’, dove la tecnologia dovrebbe essere sviluppata per difendere piuttosto che causare danni. Tuttavia, non è la prima volta che Buterin si esprime sui rischi associati all’Intelligenza Artificiale.
“Un modo in cui l’IA sbagliata potrebbe peggiorare il mondo è (quasi) il peggiore possibile: potrebbe letteralmente causare l’estinzione umana,” ha detto Buterin nel 2023.
Buterin ha ora seguito le sue teorie del 2023. Secondo Buterin, la superintelligenza potrebbe esistere tra pochi anni.
“Sembra probabile che abbiamo tre anni di tempo fino all’AGI e altri tre anni fino alla superintelligenza. E quindi, se non vogliamo che il mondo venga distrutto o cada in una trappola irreversibile, non possiamo solo accelerare il bene, dobbiamo anche rallentare il male,” ha scritto Buterin.
Per mitigare i rischi legati all’IA, Buterin sostiene la creazione di sistemi di IA decentralizzati che rimangano strettamente legati al processo decisionale umano. Assicurando che l’IA rimanga uno strumento nelle mani degli esseri umani, si può minimizzare la minaccia di esiti catastrofici.
Buterin ha poi spiegato come i militari potrebbero essere gli attori responsabili di uno scenario di ‘doom dell’IA’. L’uso militare dell’IA sta aumentando a livello globale, come si è visto in Ucraina e Gaza. Buterin crede anche che qualsiasi regolamentazione dell’IA che entrerà in vigore esenterà probabilmente i militari, rendendoli una minaccia significativa.
Il co-fondatore di Ethereum ha ulteriormente delineato i suoi piani per regolamentare l’uso dell’IA. Ha detto che il primo passo per evitare i rischi associati all’IA è rendere gli utenti responsabili.
“Sebbene il legame tra come un modello è sviluppato e come finisce per essere utilizzato sia spesso poco chiaro, l’utente decide esattamente come viene utilizzata l’IA,” ha spiegato Buterin, evidenziando il ruolo degli utenti.
Se le regole di responsabilità non funzionano, il passo successivo sarebbe implementare pulsanti di “pausa morbida” che consentano di rallentare il ritmo dei progressi potenzialmente pericolosi dell’IA.
“L’obiettivo sarebbe avere la capacità di ridurre il calcolo disponibile a livello mondiale del ~90-99% per 1-2 anni in un periodo critico, per guadagnare più tempo per l’umanità per prepararsi.”
Ha detto che la pausa può essere implementata tramite la verifica e la registrazione della posizione dell’IA.
Un altro approccio sarebbe controllare l’hardware dell’IA. Buterin ha spiegato che l’hardware dell’IA potrebbe essere dotato di un chip per controllarlo.
Il chip permetterà ai sistemi di IA di funzionare solo se ottengono tre firme da organismi internazionali settimanalmente. Ha aggiunto che almeno uno degli organismi dovrebbe essere non affiliato ai militari.
Tuttavia, Buterin ha ammesso che le sue strategie hanno delle lacune e sono solo ‘soluzioni temporanee’.
Dichiarazione di non responsabilità
Tutte le informazioni contenute nel nostro sito web sono pubblicate in buona fede e solo a scopo informativo generale. Qualsiasi azione intrapresa dal lettore in base alle informazioni contenute nel nostro sito web è strettamente a suo rischio e pericolo.
