Un matematico della NYU afferma che uno dei modelli di OpenAI ha raggiunto i suoi risultati inediti entro un giorno da quando aveva scoperto il suo nome e ora tiene le sue idee originali lontane dagli strumenti AI dell’azienda. OpenAI sostiene che i suoi prompt non avrebbero potuto influenzare il sistema.
Tristan Buckmaster ha lanciato l’allarme pochi giorni dopo che OpenAI ha pubblicato 722 articoli matematici scritti da AI. Uno dei suoi account, secondo quanto riferisce, aveva ancora attiva di default la modalità di addestramento del modello.
Cosa dice Buckmaster sia successo ai suoi lavori inediti
Buckmaster e Levent Alpöge, un matematico di Anthropic (rivale di OpenAI), hanno trascorso quasi un anno su un passaggio verso Navier-Stokes, un enigma sui flussi fluidi che prevede un premio da 1 milione di dollari.
Buckmaster ha inserito il lavoro su Codex, l’assistente alla programmazione di OpenAI, tramite un account personale a pagamento. Le loro bozze erano sui server di OpenAI.
Ha raccontato a CNBC che OpenAI non aveva fatto progressi prima che lui rivelasse il suo nome. In seguito, sostiene, i suoi agenti sono arrivati “esattamente dove eravamo noi” entro un solo giorno.
A settembre, Buckmaster ha dichiarato di non accusare nessuno, come riportato da BeInCrypto. Ora definisce la tempistica sospetta.
“Prima che conoscessero il mio nome, non avevano fatto progressi. Dopo che hanno saputo chi ero, improvvisamente sono ripartiti dal punto dove ci eravamo fermati noi… La cosa mi sembra sospetta,” ha detto.
Prima che OpenAI annunciasse la sua soluzione per Navier-Stokes l’8 settembre, secondo Buckmaster, gli sarebbe stata offerta la paternità unica del lavoro se avesse escluso Alpöge. Ha rifiutato.
OpenAI respinge ogni collegamento con i suoi dati.
“Possiamo affermare categoricamente che è impossibile che i prompt sul Codex del dottor Buckmaster negli ultimi due mesi abbiano influenzato in qualsiasi modo, incluso l’addestramento, il nostro sistema”, ha riportato ABC, citando un portavoce di OpenAI.
Buckmaster ha affermato che questa finestra temporale continuava a essere cambiata. Un successivo comunicato dell’azienda l’ha fissata al 3 luglio.
Perché Buckmaster consiglia ora ai ricercatori di tenere le idee lontane dall’AI
Buckmaster continua ad avere l’accesso a Codex, ma non inserisce più idee che intende mantenere originali.
Ha spiegato che spesso i revisori di grant copiano le proposte di ricerca negli strumenti AI per creare riassunti, consegnando così piani inediti alle aziende di AI.
La pubblicazione di OpenAI a ottobre si è basata su 4.000 problemi irrisolti. Buckmaster ha sottolineato che questo ha cancellato le linee di ricerca di molti giovani matematici.
Il lead researcher di OpenAI Sébastien Bubeck ha spiegato al New York Times che le sue offerte erano pensate per aiutare Buckmaster.
Un portavoce ha dichiarato che OpenAI ha raggiunto “progressi significativi” anche su un altro dei problemi da 1 milione di dollari.
