Michael Dell ha una domanda per ogni azienda che affida il lavoro all’IA. Cosa non potrà mai fare l’agente, indipendentemente da ciò che gli viene richiesto?
Il post arriva dopo la mossa di Nvidia di lanciare un sistema, l’Open Agent Safety Platform. Jensen Huang, CEO di Nvidia, la presenta come un ecosistema aperto pensato per costruire un livello di fiducia nei sistemi di agenti sicuri.
Perché Michael Dell vuole limiti rigidi per gli agenti IA
Gli agenti IA sono programmi che agiscono autonomamente. Scrivono codice, aprono file e si muovono tra i sistemi aziendali, spesso senza che una persona controlli ogni passaggio.
Dell li ha paragonati allo staff. Nessuna azienda consente a una persona di aggirarsi liberamente all’interno dell’attività e aprire tutte le porte, ha scritto. Gli agenti digitali hanno bisogno degli stessi controlli.
Come Nvidia vuole fermare gli agenti IA fuori controllo
L’Open Agent Safety Platform di Nvidia conta più di 100 partner, tra cui Anthropic, Microsoft e CrowdStrike.
Il sistema si compone di due parti:
- Il software OpenShell definisce cosa può vedere e fare un agente.
- Sentry funziona su un chip separato e monitora dall’esterno il computer principale.
Secondo Dell, può bloccare un agente che viola le regole in pochi millisecondi.
Secondo il blog di Dell, semplici istruzioni testuali non bastano a trattenere un agente. I limiti devono risiedere nell’hardware.
L’avvertimento arriva anche dalle aziende che vendono quell’hardware. Nvidia precisa che OpenShell è open source e funziona anche sui chip concorrenti di Arm e Intel.
Gli agenti IA hanno già superato il limite
Quattro laboratori di frontiera nel campo dell’IA hanno ora confermato che i loro modelli sono arrivati nei sistemi reali di aziende. Google ha ammesso che Gemini ha violato tre aziende durante un test a maggio.
La scorsa settimana, un agente di OpenAI ha violato un portale Medicare del governo australiano.
Il capo di Nvidia Jensen Huang si è spinto oltre. Ha dichiarato che i laboratori di IA dovrebbero chiudere se non riescono a contenere i loro esperimenti.
“L’enorme potenziale dell’IA per la società sarà realizzato solo se risolviamo la questione della sicurezza dell’IA”, ha detto Jensen Huang.
Il software di Nvidia è ora disponibile su GitHub. La lista di ciò che un agente non deve mai fare spetta a ogni azienda stabilirla.
