Roma, 4 ottobre 2026 – “Non c’è la benché minima prudenza nel maneggiare l’intelligenza artificiale”. Uno dei responsabili della sicurezza di OpenAI, David Robinson, si unisce alla lunga sfilza di colleghi che lo hanno preceduto e in un intervento su The Atlantic annuncia le sue dimissioni. “Ho lasciato OpenAI perché la sua cultura non funziona” è il titolo dell’articolo che lancia un j’accuse all’azienda: “Corre da un lancio all’altro, senza quel livello di attenzione che io ritengo necessario”.
Robinson fa esempi concreti. C’è uno “sciame” di agenti di OpenAI svincolati dal controllo, programmi capaci di operare autonomamente, senza supervisione umana. Questi software la scorsa estate hanno attaccato la startup Hugging Face, ricorda. “L’azienda ha risposto apportando miglioramenti alla sicurezza. Ma anche dopo queste modifiche, i sistemi di controllo hanno fallito di nuovo, quando un modello in fase di addestramento ha aggirato le restrizioni sull’accesso a Internet: un programma di monitoraggio ha allertato il personale umano, ma non ha spento automaticamente il modello come avrebbe dovuto”. Anche Anthropic ha riconosciuto di aver disattivato accidentalmente le proprie misure di protezione a causa di una configurazione errata. Episodi simili, sostiene Robinson, non sono isolati.
Anzi sono diventati “tipici del settore, considerata la velocità e la flessibilità con cui le persone operano”. E le carenze nella sicurezza potrebbero aggravarsi con l’aumento delle capacità dei sistemi. Il problema non è tanto la legislazione carente, dice, quanto la cultura aziendale, permeata da un “ottimismo senza freni” sulla possibilità di risolvere i problemi man mano che emergono.
“OpenAI ha prosperato procedendo per tentativi ed errori – spiega ancora –, cercando i problemi e migliorando le sue barriere di protezione in risposta ad essi. Ma questo approccio, per sua stessa natura, garantisce fallimenti periodici e la portata di tali fallimenti sta crescendo con l’aumentare delle capacità dei sistemi”. “Immaginate – prosegue – agenti fuori controllo che lavorano come squadre di hacker, per esempio prendendo in ostaggio i sistemi informatici degli ospedali, ma senza mai aver bisogno di dormire”.
Robinson paragona il livello di rischio legato ai sistemi di intelligenza artificiale a quello del nucleare o dell’aviazione e suggerisce di ispirarsi a questi due settori per trovare le contromisure necessarie. L’obiettivo è sviluppare nuove conoscenze scientifiche per mantenere il controllo sui sistemi più potenti quando questi si trovano ad operare autonomamente. “Considerati i rischi attuali, i laboratori di frontiera devono funzionare come centrali nucleari o aeroporti molto trafficati”, con più livelli di protezione e una pianificazione accurata. O qualsiasi errore umano potrà portare al “disastro”.