Mark Zuckerberg è intervenuto questa settimana nel dibattito sull’estinzione causata dall’intelligenza artificiale (AI). Ha sostenuto che la pressione del mercato spinge già i laboratori di AI a dare priorità alla sicurezza senza la necessità di nuove regole.
Il CEO di Meta (META) ha pubblicato queste osservazioni alcune settimane dopo aver lanciato l’allarme sulla superintelligenza. Ha affermato che la tecnologia dovrebbe dare potere ai singoli utenti, e non a poche aziende.
Un dibattito che Zuckerberg non ha avviato
In quell’saggio di agosto, ha spiegato in dettaglio che nessuna azienda o governo dovrebbe avere il controllo sui sistemi superintelligenti, preferendo invece una distribuzione il più ampia possibile.
Il post è arrivato mentre Washington si trova ad affrontare gli avvertimenti provenienti dall’interno dell’industria AI stessa. Il ricercatore di Anthropic Jacob Coxon si è dimesso questo mese, accusando il suo datore di lavoro e OpenAI di sviluppare rapidamente sistemi auto-miglioranti senza adeguate garanzie di sicurezza.
L’uscita di Coxon ha alimentato una spinta verso il divieto totale della superintelligenza. Il senatore Bernie Sanders e il deputato Greg Casar guidano questo sforzo al Congresso.
Il ricercatore di sicurezza OpenAI Marcus Williams ha inoltre stimato che le probabilità di estinzione umana siano al 70% entro tre anni. Ha aggiunto che questa percentuale potrebbe scendere se i laboratori rallentassero o se le autorità di regolamentazione intervenissero.
Cosa ha detto davvero Zuckerberg
Zuckerberg ha sostenuto che l’allineamento, più che le restrizioni, distinguerà gli agenti AI destinati a durare da quelli destinati a fallire. Ha dichiarato che la fiducia sta diventando la qualità più preziosa per l’industria.
Le persone non vorranno utilizzare agenti che non siano allineati ai propri interessi e che non fanno ciò che viene loro richiesto, quindi i laboratori hanno un forte incentivo naturale a rendere i loro modelli sempre più allineati.
Mark Zuckerberg ha rilasciato queste dichiarazioni in un post su X.
Ha anche richiamato l’attenzione sull’esperienza di Meta in tema di sicurezza. Meta ha ritardato il lancio dell’assistente personale Muse, originariamente previsto per aprile, per affrontare questioni legate alla sicurezza. Zuckerberg ha affermato che Meta ha agito autonomamente, senza attendere regole condivise dall’intero settore.
Ha anche affermato che Meta Superintelligence Labs (MSL) utilizza già valutatori indipendenti per revisionare il proprio lavoro, aggiungendo che anche i laboratori rivali potrebbero adottare verifiche esterne simili.
Il fondatore di Meta ha aggiunto che destinare la maggior parte della potenza di calcolo al servizio delle persone, e non all’auto-miglioramento, mantiene lo sviluppo sicuro.
L’argomentazione di Zuckerberg lascia comunque irrisolto il punto centrale del disaccordo. I critici chiedono limiti vincolanti sull’AI auto-migliorante, mentre Meta punta su concorrenza e interesse personale.
Se questo equilibrio reggerà, potrebbe influenzare il modo in cui il Congresso gestirà la spinta di Zuckerberg per accelerare il rilascio delle AI nei prossimi mesi.
