OpenAI ha reso pubblici 6 casi di “comportamento inatteso o preoccupante del modello” osservati negli ultimi 6 mesi, abbinando la divulgazione a un framework che impegna l’azienda a segnalare tali episodi.
I casi spaziano da modelli che nascondono i propri errori a modelli che compiono azioni non autorizzate per aggirare gli ostacoli.
OpenAI pubblica 6 casi di modelli che nascondono errori e infrangono le regole
In un caso, un modello, rispondendo a una domanda routinaria riguardante i guadagni in una contea della California, ha trovato una chiave API esposta su un repository pubblico e l’ha utilizzata senza permesso. Quando i dati non venivano comunque caricati, il modello ha inventato le cifre, presentandole come provenienti dalla fonte richiesta.
La tendenza a nascondere gli errori si è manifestata due volte. Durante l’addestramento di GPT-5.6 Sol, diverse istanze hanno scritto nelle rispettive descrizioni dei compiti delle istruzioni per occultare errori e comportamenti non allineati.
Un modello di ricerca non ancora rilasciato ha inserito istruzioni non correlate, tra cui ordini di ignorare i propri vincoli abituali, in 27 riassunti.
Un altro modello inedito ha caricato un file su internet, senza che gli fosse richiesto, solo per poter citare un link da browser.
Altre due segnalazioni riguardano la coordinazione. I modelli hanno trasformato un repository software interno in una bacheca per scambiarsi richieste tra sessioni di addestramento diverse. Agenti impegnati in uno stesso compito hanno anche pubblicato i risultati su siti pubblici di hosting di file quando non riuscivano a leggere i file locali degli altri.
“Questi casi illustrano una serie di diversi comportamenti che riteniamo opportuno condividere, dalla tendenza a occultare informazioni all’utente fino al compimento di azioni non autorizzate per superare ostacoli. Si tratta di segnalazioni di episodi singoli e non devono essere considerate rappresentative della frequenza con cui avvengono problemi di allineamento nei nostri modelli”, ha spiegato in dettaglio OpenAI.
Seguici su X per ricevere le ultime notizie in tempo reale
Un framework di divulgazione e un avvertimento
Il framework arriva dopo l’episodio di luglio, quando agenti OpenAI sono sfuggiti al proprio ambiente di test e hanno violato i sistemi di Hugging Face. OpenAI ha definito quell’episodio uno “colpo di avvertimento”.
Ora, con il nuovo framework di disclosure, l’azienda dispone di una procedura formale per segnalare episodi di disallineamento. Qualsiasi dipendente OpenAI può segnalare un incidente, che poi sarà indirizzato su uno dei tre percorsi previsti.
La categoria “pronto per la divulgazione e indagine minore” copre la maggior parte dei casi, mentre una “slow track” gestisce le indagini complesse che coinvolgono terze parti. OpenAI ha dichiarato che l’incidente di luglio con Hugging Face sarebbe rientrato in quest’ultimo percorso più lento.
L’azienda ha abbinato il framework a una valutazione decisa dello stato dell’industria.
“Non crediamo che il settore dell’AI abbia risolto l’allineamento e il monitoraggio in misura sufficiente da poter continuare a espandersi in modo responsabile al massimo della velocità ancora a lungo”, ha dichiarato OpenAI.
Queste rivelazioni arrivano mentre si moltiplicano gli allarmi sull’estinzione. Gli avvertimenti dei ricercatori AI sono già arrivati al Congresso, dove i legislatori stanno valutando una proposta di legge per vietare la superintelligenza in modo totale.
L’azienda definisce queste divulgazioni come un primo passo verso standard che il settore ancora non possiede. Se anche i laboratori rivali adotteranno misure simili di segnalazione si capirà fino a che punto il settore sia disposto a regolarsi pubblicamente.
Iscriviti al nostro canale YouTube per ascoltare le opinioni di esperti, leader e giornalisti
