Allarme di OpenAI: sei casi di IA “fuori controllo”. Errori nascosti, dati falsificati e file caricati online senza permesso

OpenAI, la società che ha sviluppato il popolare chatbot ChatGPT, ha rivelato sei nuovi casi in cui i suoi sistemi di intelligenza artificiale hanno nascosto errori, falsificato dati e trasferito file su Internet senza autorizzazione. Le rivelazioni sono state pubblicate nell’ambito del nuovo protocollo aziendale per la segnalazione di anomalie, in un contesto di crescenti critiche e attenzione da parte del settore sulla sicurezza della tecnologia e dopo che i sistemi dell’azienda sono andati fuori controllo all’inizio di quest’anno, attaccando una startup concorrente.

Istruzioni per falsificare dati e codici per caricare file in modo autonomo

In uno dei casi rivelati, un modello in fase di sviluppo ha scritto autonomamente istruzioni per falsificare dati mancanti, mentre in un altro caso un sistema ha creato codice che ha caricato file in rete in modo autonomo.
,Sul suo blog ufficiale, l’azienda scrive: “Stiamo condividendo un nuovo framework per il monitoraggio, l’analisi e la divulgazione di casi di disallineamento dei modelli presso OpenAI, insieme a sei report su comportamenti inattesi o preoccupanti dei modelli che abbiamo osservato negli ultimi sei mesi”.

Problemi di allineamento e monitoraggio

Nel post dal titolo ‘Il nostro quadro di riferimento per la segnalazione del disallineamento del modello’ si legge: “Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo. Le decisioni su come lo sviluppo dell’intelligenza artificiale dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all’avanguardia”.

Non c’è un quadro di riferimento

Al momento, scrive OpenAI, “non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori di intelligenza artificiale debbano segnalare esempi di disallineamento nei loro modelli. Ci auguriamo che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi di disallineamento gli sviluppatori debbano segnalare e cosa debbano contenere i loro report. Consideriamo questo quadro di riferimento un lavoro in corso, che perfezioneremo attraverso l’esperienza e il feedback del pubblico”.