OpenAI: agenti fuori controllo su decine di siti di governi e istituzioni. E 53 immagini degli utenti di ChatGPT finiscono online

È un ‘allarme’ che ha coinvolto “decine” di governi e istituzioni in tutto il mondo quello diramato da OpenAi, che ha riconosciuto che i loro siti potrebbero essere stati interessati da attività improprie dei suoi agenti di intelligenza artificiale. Da quanto emerge i sistemi di ia hanno tentato di ottenere informazioni da “governi, università, agenzie pubbliche e altre istituzioni”, tra cui la Sec, l’autorità statunitense di vigilanza sui mercati finanziari, l’Ufficio del censimento e il dipartimento dell’Istruzione.

La presunta ricerca di fonti autorevoli pubbliche

Secondo la spiegazione fornita dall’azienda, gli agenti di OpenAi, progettati per operare con un certo grado di autonomia, cercavano “fonti autorevoli di informazioni pubbliche”, ma in alcuni casi sono andati ben oltre, tentando di aggirare le misure di sicurezza dei siti. Per accedere ai dati dell’Ufficio del censimento, ad esempio, hanno utilizzato strumenti riservati agli sviluppatori di software. OpenAi sostiene che tutti i dati governativi acquisiti dai suoi bot fossero pubblici. Alcune informazioni recuperate dal sito della Sec sono state però successivamente pubblicate dagli agenti su un altro sito, un’azione che l’azienda ha definito non intenzionale.

Almeno 53 immagini di utenti pubblicate per errore

La società ha inoltre riferito di almeno 53 episodi in cui un agente ha prelevato un’immagine dall’attività di un utente di ChatGPT e l’ha trasferita altrove su siti online a insaputa dell’azienda. L’azienda, riporta France Presse, ha inoltre confermato un articolo del New York Times secondo cui i suoi strumenti avrebbero avuto accesso ai siti web di agenzie federali statunitensi, precisando di aver recuperato solo informazioni di pubblico dominio. Secondo OpenAi , i link alle 53 immagini sono stati pubblicati per errore su siti di hosting. La diffusione delle immagini è stata causata da agenti di intelligenza artificiale, ovvero software basato su modelli di intelligenza artificiale e capaci di agire in modo autonomo. Le immagini in questione provenivano da account di utenti che avevano autorizzato l’utilizzo dei dati per migliorare i modelli di OpenAi . Interpellata dall’AFP, la società non ha specificato se le immagini ritraessero persone identificabili o contenessero dati sensibili.

L’uso inappropriato dei dati

Da quanto sta emergendo in tutti questi casi, gli utenti avevano autorizzato l’utilizzo dei propri dati per addestrare i modelli. “Questo non è un uso appropriato di tali dati”, ha tuttavia ammesso OpenAi , precisando che gli episodi risalgono a prima dell’introduzione di nuove misure di protezione e che sta lavorando per ottenere la rimozione delle immagini trasferite a terzi. L’azienda ha spiegato di limitare la diffusione dei nomi delle organizzazioni coinvolte perché molte hanno chiesto di non rendere pubblici i dettagli. “Il nostro obiettivo è fornire a ciascuna organizzazione i fatti e lasciare a essa la decisione se e quando renderà pubblico l’incidente”, ha affermato. Non tutti gli episodi sono considerazioni violazioni significative della sicurezza. “Alcune organizzazioni potrebbero esaminare ciò che condividiamo e concludere che le informazioni erano intenzionalmente pubbliche o che l’interazione del modello non era preoccupante. Altre potrebbero individuare un problema di progettazione o una vulnerabilità da correggere”, ha spiegato la società.

Una verifica che richiederà mesi

L’azienda Openai, che attualmente sta esaminando le attività passate dei propri agenti, ha fatto sapere una verifica “richiederà mesi”. “Non siamo stati rapidi quanto avremmo voluto”, ha riconosciuto su X l’amministratore delegato Sam Altman, richiamando l’enorme quantità di dati da analizzare.
Secondo un portavoce della società, come riportato in Italia dall’agenzia di stampa Agi, la maggior parte delle attività esaminate finora riguardava normali compiti di ricerca, come la consultazione di contenuti pubblici online. OpenAI ha confermato che i suoi modelli hanno consultato informazioni pubbliche sui siti della Sec, l’autorità statunitense di vigilanza sui mercati finanziari, ripubblicandone una parte su un’altra pagina web. L’azienda sostiene di non aver riscontrato accesso a informazioni non pubbliche. I modelli hanno inoltre utilizzato chiavi di accesso trovate sulla piattaforma di condivisione di codice GitHub per consultare dati pubblici dell’Ufficio del censimento statunitense, senza possibilità di modificarli, secondo OpenAI.

Il racconto del NYT e la “grossolana esagerazione”

Il New York Times ha riferito anche di tentativi falliti di violare il sito del dipartimento dell’Istruzione. Un portavoce del dipartimento ha dichiarato all’Afp che le verifiche non hanno rilevato conseguenze sul sito o sulle banche dati, definendo una “grossolana esagerazione” il termine usato dal quotidiano per descrivere le intrusioni nei siti governativi. Il 21 luglio OpenAI aveva reso noto che diversi suoi agenti avevano violato Hugging Face, piattaforma di condivisione di modelli di intelligenza artificiale. Altman ha affermato che resta “l’incidente più grave” finora riscontrato. Mercoledi’, a New York, il premier australiano Anthony Albanese ha dichiarato che a giugno un agente di OpenAI aveva effettuato un accesso non autorizzato a un portale sanitario governativo, rimproverando all’azienda il ritardo nell’avvertire le autorità.