OpenAI, un agente AI elude i controlli e hackera una piattaforma durante un test. L’episodio che preoccupa gli esperti

Gli appassionati di fantascienza possono iniziare a ordinare i pop corn. E’ infatti di poche ore fa la notizia che OpenAI, la società produttrice di ChatGpt, ha dichiarato che i suoi avanzati modelli di intelligenza artificiale sono sfuggiti al controllo durante un test di sicurezza, hackerando in autonomia una nota piattaforma per programmatori. L’azienda di San Francisco lo ha definito un “incidente cyber senza precedenti” assicurando anche che condurrà un’indagine congiunta con la libreria di codice online Hugging Face.

Chi sono gli ‘agenti’

Con il termine ‘agenti’ vengono definiti quegli strumenti che agiscono in modo autonomo per svolgere compiti nel mondo reale. OpenAI ha spiegato che l’incidente ha coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol “e un modello pre-release ancora più potente”.

Test di valutazione sulle capacità di hacking

L’episodio si è verificato mentre la società stava cercando di valutare le capacità di hacking dei modelli, assegnando loro compiti all’interno di un ambiente di test digitale rigorosamente controllato, in cui l’accesso a internet era limitato per motivi di sicurezza. Su un blog post di OpenAI viene spiegato che “Mentre operavano nel nostro ambiente di test isolato (sandbox), i nostri modelli hanno impiegato una quantità sostanziale di (potenza di calcolo) per trovare un modo di ottenere l’accesso libero a Internet, nel tentativo di risolvere il problema di valutazione”.

Incidente definito sorprendente

Così dopo essersi connessi a internet, i modelli hanno deciso di prendere di mira la piattaforma Hugging Face – un grande repository di modelli di AI, dataset e altre informazioni – per farsi aiutare nel loro obiettivo. Alla ricerca di “informazioni segrete” che potessero aiutarlo ad eludere la valutazione, il sistema di OpenAI ha “concatenato molteplici vettori di attacco, compreso l’uso di credenziali rubate”. Hussein Abbass, docente di informatica presso la UNSW Canberra, ha dichiarato all’AFP che l’incidente è stato “sorprendente sotto molti aspetti”. “Non si è limitato ad attaccare Hugging Face. Ha attaccato persino il proprio sistema interno per sfruttarne le vulnerabilità”, ha affermato Abbass. “E questo fa paura”.

Scenari potenzialmente ‘catastrofici’?

GPT-5.6 e altri modelli all’avanguardia, tra cui la serie Mythos della principale rivale di OpenAI, Anthropic, hanno destato preoccupazione per la loro capacità di violare le difese di cybersecurity. Entrambe le società statunitensi hanno dovuto sospendere temporaneamente il rilascio pubblico di queste ultime tecnologie a causa del timore di Washington che potessero contribuire a violare infrastrutture critiche. L’AI avanzata si trova “normalmente nelle mani di persone etiche e responsabili. Sarà catastrofico se dovesse finire nelle mani di qualcuno con l’intenzione di causare danni”, ha aggiunto Abbass che ha definito una questione centrale quella della governance del settore dell’AI: “serve uno sforzo corale della comunità per gestire questa situazione”.

Intrusione diversa da qualsiasi altra

Hugging Face aveva segnalato questa sorta di ‘intrusione’ informatica senza tuttavia menzionare OpenAI. “La violazione è stata diversa da qualsiasi altra gestita in precedenza sotto un aspetto fondamentale: è stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di AI – e l’abbiamo rilevata e analizzata in gran parte grazie a una nostra AI”, ha dichiarato Hugging Face. Clement Delangue, CEO di Hugging Face, ha dichiarato su X che l’azienda sospettava che l’attacco informatico provenisse da un laboratorio di AI di livello mondiale, data la sofisticazione dell’agente. “Siamo fermamente convinti che non vi fosse alcuna intenzione malevola da parte loro. È davvero sconcertante che tutto questo sia accaduto in modo autonomo!”, ha scritto Delangue. I fans di Matrix, Blade Runner o dell’uomo bicentenario sono avvisati…