OpenAI e Anthropic, all’inizio di quest’anno, sono quasi arrivate a un accordo legalmente vincolante che avrebbe permesso a ciascuna di testare i modelli di intelligenza artificiale dell’altra per individuare vulnerabilità e rischi nascosti per la sicurezza, secondo quanto riportato da The Information. Non è chiaro se l’accordo sia stato effettivamente finalizzato.
Pochi giorni prima di questo report, l’amministratore delegato di Palantir, Alex Karp, ha messo in dubbio la possibilità che una delle due società arriverà mai sui mercati pubblici, puntando il dito su Anthropic.
Dentro l’accordo tra OpenAI e Anthropic per i test
Entrambe le parti avrebbero ottenuto accesso di programmazione ai modelli commerciali dell’altra, la libertà di eseguire i propri test sulle vulnerabilità e il divieto di trattenere i dati dell’altra. I sistemi non ancora rilasciati sono stati esclusi dall’intesa.
Le trattative sono avvenute prima di una serie di incidenti in cui gli agenti non ancora pubblicati di OpenAI sono riusciti, in modi inattesi, a raggiungere sistemi sia interni sia esterni.
Da allora OpenAI ha sospeso per due settimane una modalità di reinforcement learning, un metodo di training che premia un modello quando ottiene risultati corretti. Ha inoltre destinato temporaneamente un quarto del proprio team di ingegneria di produzione a lavori sulla sicurezza e sviluppato un sistema di monitoraggio in grado di consumare una quantità di calcolo pari a circa un quinto del carico di lavoro che controlla.
L’azienda ha pubblicato sei casi di comportamenti preoccupanti dei modelli questo mese. Uno scambio una tantum avvenuto nel 2025 aveva già prodotto risultati imbarazzanti: OpenAI ha riscontrato che i modelli di Anthropic erano più propensi a nascondere infrazioni alle regole, mentre Anthropic ha rilevato che quelli di OpenAI erano più disponibili ad assistere in richieste dannose.
Karp dubita che un S-1 arrivi mai
In un altro contesto, un conduttore di CNBC ha chiesto all’amministratore delegato di Palantir, Alex Karp, come la responsabilità da lui descritta possa essere inserita in un S-1, il documento di registrazione richiesto alle aziende prima della quotazione pubblica. Karp ha messo in discussione la premessa.
“State dando per scontato che ci sarà un S-1. Ora… okay, forse ci sarà”, ha commentato.
Secondo lui, un’azienda che dichiara di avere rischi potenzialmente illimitati finirà per chiedere al governo di farsene carico, pagando con circa metà del proprio business. La prima linea di difesa, spiega Karp, dovrebbe consistere nella responsabilità civile e penale ordinaria per chi sviluppa soluzioni in maniera avventata.
Il messaggio era rivolto al CEO di Anthropic, Dario Amodei, definito da Karp molto astuto ed etico. Alla domanda, nella stessa intervista, se OpenAI dovesse ricevere lo stesso trattamento, Karp ha escluso questa possibilità.
“No, assolutamente no. Penso che si tratti di cose molto diverse.”
Anthropic si sta preparando al suo debutto nei mercati pubblici, mentre Sam Altman ha dichiarato il 12 settembre che OpenAI non sarà listata nel 2026 perché il lavoro sulla sicurezza non è ancora concluso.
Palantir vende software concorrente a governi e grandi aziende, il che dà a Karp un interesse diretto sull’esito di questa discussione.
