NVIDIA ha lanciato lunedì la Open Secure AI Alliance insieme a 36 partner, tra cui Microsoft, IBM e Palantir. L’iniziativa arriva dopo un attacco hacker avvenuto a luglio in cui modelli AI closed si sono rifiutati di aiutare Hugging Face nelle indagini sul proprio aggressore.
I membri condivideranno modelli AI open, dati e strumenti di sicurezza. NVIDIA afferma che i difensori hanno bisogno di AI che possano aprire, modificare ed eseguire autonomamente.
Perché i modelli AI closed hanno fallito con Hugging Face
L’attacco è iniziato con un dataset compromesso. Secondo quanto dichiarato da Hugging Face, ciò ha permesso a un aggressore di eseguire codice su una delle macchine dell’azienda.
Da lì, l’attaccante ha rubato le password. Successivamente si è diffuso nei sistemi interni durante un fine settimana.
L’AI di Hugging Face ha individuato l’intrusione. Il vero problema è stata la fase di bonifica.
L’azienda ha chiesto ai principali modelli AI commerciali di analizzare l’attacco. Hanno rifiutato. I loro filtri di sicurezza non erano in grado di distinguere tra un difensore e un hacker.
Il team ha quindi utilizzato un modello open chiamato GLM 5.2. Lo hanno eseguito sulle loro macchine. In poche ore, e non giorni, ha catalogato oltre 17.000 azioni dell’attaccante. Nessuna password è uscita dai server.
Il 16 luglio, Hugging Face ha dichiarato di non sapere quale AI avesse condotto l’attacco. Cinque giorni dopo, OpenAI ha fornito la risposta: due dei suoi modelli sono stati utilizzati durante uno stress test sulla sicurezza con i limiti di sicurezza disattivati.
“Questo episodio, probabilmente il primo del suo genere, dimostra ciò in cui crediamo da tempo: la sicurezza nelle AI non sarà mai garantita da una sola azienda che lavora in segreto. Verrà risolta alla luce del sole, in modo collaborativo, garantendo un ampio accesso all’AI a ogni difensore, ovunque”, ha affermato Clem Delangue, co-fondatore e CEO di Hugging Face, in una dichiarazione pubblicata da OpenAI.
Seguici su X per ricevere in tempo reale le ultime notizie
Dall’attacco all’alleanza in 11 giorni
NVIDIA si è mossa rapidamente. In meno di due settimane si è passati da un singolo episodio a un blocco industriale.
Quali aziende hanno aderito alla Open Secure AI Alliance
Il gruppo conta in totale 37 aziende. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI e Hugging Face hanno tutte aderito.
Ma tre grandi nomi mancano all’appello. OpenAI, Anthropic e Google non sono presenti nella lista sul blog di NVIDIA. Tuttavia, sia OpenAI che Anthropic sono entrate a giugno nell’iniziativa di sicurezza Akrites della Linux Foundation, insieme a NVIDIA.
Alcuni membri portano strumenti che hanno già sviluppato. Hugging Face ha offerto Safetensors, un metodo più sicuro per salvare i modelli AI, alla PyTorch Foundation. NVIDIA ha pubblicato uno strumento di ricerca chiamato NOOA su GitHub.
Il presentatore di CNBC, Jim Cramer, ha letto l’annuncio come una nuova opportunità per il titolo.
NVDA ha chiuso venerdì a $206,84, in calo dello 0,92%. Nelle prime contrattazioni di lunedì nel pre-market trattava vicino ai $208,55, con un rialzo dell’1,33%.
Perché NVIDIA fa pressione su Washington per le AI open
L’alleanza ha anche un messaggio politico. NVIDIA sostiene che un ampio divieto delle AI open indebolirebbe i difensori. Inoltre consegnerebbe il controllo a poche grandi aziende che offrono solo AI closed.
NVIDIA e altre 24 aziende hanno firmato la lettera “open-weights” il 24 luglio. OpenAI, Anthropic e Google hanno rifiutato di firmare all’avvio. In seguito si sono aggiunti altri firmatari.
Washington sta valutando restrizioni sui modelli cinesi, citando motivi di sicurezza e proprietà intellettuale. Il co-fondatore di Twitter, Jack Dorsey, ha già lanciato un avvertimento sugli AI open source.
Cosa osservare nei prossimi 30 giorni
Ci sono tre segnali da seguire per capire se l’alleanza è davvero concreta.
- se OpenAI, Anthropic o Google decideranno di aderire in seguito
- se il gruppo proporrà strumenti condivisi e non solo annunci pubblici
- se le restrizioni di Washington sulle AI open verranno davvero portate avanti
Nvidia pubblicherà i risultati finanziari il 26 agosto. Sono attese domande su come le politiche sull’IA influenzano la domanda.
Saranno le autorità di regolamentazione a decidere chi avrà la meglio nella discussione.
