OpenAI, l’azienda che ha creato il popolare modello linguistico ChatGPT, deve affrontare sfide in termini di conformità legale e accuratezza dei dati. Questo problema ha spinto NOYB – il Centro europeo per i diritti digitali, un’organizzazione senza scopo di lucro con sede a Vienna, in Austria, a presentare una denuncia contro OpenAI all’Autorità austriaca per la protezione dei dati (DPA).
In effetti, la raccolta dei dati di OpenAI ha suscitato preoccupazione tra gli organismi di regolamentazione e i sostenitori della privacy. Questa mossa di NOYB potrebbe potenzialmente innescare una conversazione più ampia sull’uso etico dei dati nella tecnologia.
I problemi di dati di OpenAI mettono a nudo le sfide etiche dell’IA
Il cuore della denuncia risiede nelle recenti ammissioni di OpenAI in merito ai limiti di ChatGPT nella gestione dei dati. Secondo OpenAI, il modello di intelligenza artificiale non è in grado di verificare l’accuratezza delle informazioni che genera sugli individui. Inoltre, non può rivelare l’origine dei suoi input di dati.
In mezzo al crescente clamore dell’intelligenza artificiale innescato dal lancio di ChatGPT nel novembre 2022, l’ampia adozione dello strumento ha messo in luce vulnerabilità critiche. ChatGPT funziona prevedendo le probabili risposte alle richieste dell’utente senza un meccanismo intrinseco per garantire l’accuratezza dei fatti.
Ciò ha portato a casi in cui l’IA “allucina” i dati, fabbricando risposte che possono essere fuorvianti o completamente false. Sebbene tali imprecisioni possano essere irrilevanti in alcuni contesti, comportano rischi significativi quando si coinvolgono dati personali.
Per saperne di più: Come creare il tuo chatbot AI personale utilizzando l’API ChatGPT
Il Regolamento generale sulla protezione dei dati (GDPR) dell’Unione Europea impone l’accuratezza dei dati personali e concede alle persone il diritto di accedere e rettificare le informazioni errate che li riguardano. Le attuali capacità di OpenAI non soddisfano questi requisiti legali, scatenando un dibattito sulle implicazioni etiche dell’IA nella gestione dei dati sensibili.
Maartje de Graaf, avvocato specializzato in protezione dei dati presso noyb, sottolinea la gravità della situazione.
“È chiaro che le aziende non sono attualmente in grado di rendere i chatbot come ChatGPT conformi alla legge dell’UE, quando elaborano i dati degli individui. Se un sistema non è in grado di produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sugli individui. La tecnologia deve seguire i requisiti legali, non il contrario”, spiega de Graaf.
I problemi vanno oltre gli ostacoli tecnici e si estendono a sfide normative più ampie. Fin dalla sua nascita, gli strumenti di intelligenza artificiale generativa, tra cui ChatGPT, sono stati sottoposti a un intenso esame da parte delle autorità europee di vigilanza sulla privacy.
Il Garante italiano, ad esempio, ha imposto restrizioni al trattamento dei dati da parte di ChatGPT all’inizio del 2023, citando imprecisioni.
A ciò ha fatto seguito uno sforzo coordinato da parte del comitato europeo per la protezione dei dati per valutare e mitigare i rischi associati a tali piattaforme di IA.
La tempistica di queste sfide legali è particolarmente degna di nota. Allo stesso tempo, OpenAI stava discutendo per formare un’alleanza strategica con Worldcoin, un progetto co-fondato da Sam Altman, che guida anche OpenAI.
Per saperne di più: 11 migliori estensioni di ChatGPT per Chrome da controllare nel 2024
Tuttavia, la potenziale collaborazione di OpenAI con Worldcoin potrebbe introdurre ulteriori livelli di dilemmi legali ed etici. L’approccio di Worldcoin all’uso dei dati biometrici si interseca con le sfide di OpenAI nel garantire la privacy e l’accuratezza dei dati.
Inoltre, Worldcoin ha affrontato il controllo delle autorità legali di tutto il mondo, tra cui Kenya, Spagna e Argentina, per quanto riguarda la sua raccolta di dati. Pertanto, questa sinergia potrebbe aprire la strada a usi tecnologici innovativi o creare un precedente per interventi normativi più intensi.
Dichiarazione di non responsabilità
Tutte le informazioni contenute nel nostro sito web sono pubblicate in buona fede e solo a scopo informativo generale. Qualsiasi azione intrapresa dal lettore in base alle informazioni contenute nel nostro sito web è strettamente a suo rischio e pericolo.
