L’uso sempre più diffuso di strumenti basati sull’intelligenza artificiale per generare contenuti deepfake ha riacceso le preoccupazioni sulla sicurezza pubblica.
Man mano che la tecnologia diventa più avanzata e ampiamente accessibile, solleva anche interrogativi sull’affidabilità dei sistemi di verifica dell’identità visiva utilizzati dagli exchange centralizzati.
SponsoredI governi si muovono per limitare i deepfake
I video ingannevoli si stanno diffondendo rapidamente sulle piattaforme social, alimentando ulteriormente i timori per una nuova ondata di disinformazione e contenuti falsificati. Il crescente abuso di questa tecnologia mina sempre di più la sicurezza pubblica e l’integrità personale.
Il problema ha raggiunto nuovi livelli, spingendo i governi di tutto il mondo ad approvare leggi che rendono illegale l’uso dei deepfake.
Questa settimana, la Malesia e l’Indonesia sono diventati i primi Paesi a limitare l’accesso a Grok, il chatbot basato su intelligenza artificiale sviluppato dalla xAI di Elon Musk. Le autorità hanno dichiarato che la decisione è stata presa a seguito di preoccupazioni riguardo all’abuso del sistema per generare immagini sessualmente esplicite e non consensuali.
SponsoredIl procuratore generale della California, Rob Bonta, ha annunciato una mossa analoga. Mercoledì ha confermato che il suo ufficio sta indagando su molteplici segnalazioni che coinvolgono immagini sessualizzate e non consensuali di persone reali.
“Questo materiale, che raffigura donne e bambini in situazioni di nudo e atti sessualmente espliciti, è stato usato per molestare persone in tutta la rete. Esorto xAI a intervenire immediatamente per evitare che la situazione peggiori ulteriormente,” ha dichiarato Bonta in un comunicato.
A differenza dei primi deepfake, i nuovi strumenti possono rispondere dinamicamente agli input e replicano in modo convincente movimenti facciali naturali e parlato sincronizzato.
Di conseguenza, controlli di base come il battito di ciglia, il sorriso o l’inclinazione della testa potrebbero non essere più sufficienti a confermare in modo affidabile l’identità di un utente.
Questi progressi hanno implicazioni dirette per gli exchange centralizzati che fanno affidamento sulla verifica visiva durante il processo di onboarding.
Gli exchange centralizzati sotto pressione
L’impatto finanziario delle frodi facilitate dai deepfake non è più solo teorico.
Osservatori del settore e ricercatori tecnologici hanno avvertito che immagini e video generati dalle IA compaiono sempre più spesso in contesti come richieste assicurative e dispute legali.
Le piattaforme crypto, che operano a livello globale e spesso si affidano a processi automatizzati di onboarding, potrebbero diventare un bersaglio interessante per queste attività se i sistemi di sicurezza non si evolveranno di pari passo con la tecnologia.
Man mano che i contenuti generati dall’IA diventano più accessibili, la fiducia basata solo sulla verifica visiva potrebbe non essere più sufficiente.
La sfida per le piattaforme crypto sarà adattarsi rapidamente, prima che la tecnologia superi le misure di sicurezza pensate per proteggere utenti e sistemi.
