Un piccolo gruppo di utenti non autorizzati ha avuto accesso alla Preview di Claude Mythos di Anthropic nello stesso giorno in cui l’azienda ha annunciato il rilascio controllato del modello, secondo quanto riportato da Bloomberg.
L’incidente solleva dubbi sulla capacità di Anthropic di contenere un modello che la stessa azienda ha giudicato troppo pericoloso per essere rilasciato al pubblico.
Come un gruppo Discord è riuscito ad accedere a Mythos
I membri di un canale Discord privato, dedicato alla ricerca di modelli AI non ancora rilasciati, hanno formulato un’ipotesi fondata sull’URL dell’endpoint di Mythos.
“Anthropic ha dichiarato che Mythos era troppo pericoloso per essere rilasciato. Poi, quattro persone a caso su Discord sono riuscite ad accedere nel giorno stesso indovinando l’URL…”, ha scritto Josh Kale, un utente popolare su X.
Bloomberg ha spiegato in dettaglio, citando una persona a conoscenza dei fatti, che hanno ricostruito le convenzioni di denominazione di Anthropic sfruttando dati emersi nella violazione Mercor avvenuta tre settimane prima.
Inoltre, un membro del gruppo possedeva credenziali di valutazione legittime grazie a un lavoro tramite un fornitore di Anthropic. Quelle credenziali, unite all’URL indovinato, hanno consentito al gruppo di mantenere l’accesso.
Sembra che gli utenti stiano utilizzando Mythos regolarmente da quando sono riusciti a entrare. Tuttavia, hanno evitato qualsiasi prompt legato alla cybersecurity, preferendo invece usarlo per compiti innocui come creare semplici siti web.
Anthropic ha confermato di stare indagando sull’accaduto, ma ha dichiarato di non aver trovato prove che l’accesso sia avvenuto al di fuori dell’ambiente del fornitore.
Anthropic ha spiegato che Mythos è in grado di individuare e sfruttare vulnerabilità zero-day in tutti i principali sistemi operativi e browser.
Nell’ambito del Project Glasswing, l’azienda ha limitato l’accesso a circa 40 organizzazioni approvate, tra cui Apple, Amazon e Cisco, esclusivamente per test difensivi di sicurezza.
La Casa Bianca spinge per l’accesso federale nonostante il divieto del Pentagono
La violazione è avvenuta proprio mentre la Casa Bianca sta cercando di ampliare l’accesso a Mythos per le agenzie federali civili. L’Office of Management and Budget ha inviato una email ai funzionari del Gabinetto il 15 aprile illustrando i piani per una versione protetta del modello.
Si tratta di una svolta rispetto a inizio anno, quando il Pentagono aveva definito Anthropic un “rischio per la supply chain” dopo che l’azienda si era rifiutata di rimuovere le protezioni di sicurezza per un impiego militare.
“Non permetteremo a nessuna azienda di dettare le condizioni sulle nostre decisioni operative,” ha scritto su X Sean Parnell, portavoce del Dipartimento della Difesa.
Successivamente, un giudice federale ha sospeso il divieto più ampio in seguito a una causa avviata da Anthropic.
L’amministratore delegato di Anthropic, Dario Amodei, ha incontrato i funzionari della Casa Bianca il 17 aprile. Entrambe le parti hanno definito “costruttivo” il confronto.
Secondo Axios, la NSA sta già utilizzando Mythos per le scansioni di vulnerabilità, malgrado la blacklist del Pentagono.
