Troppo intelligente
IA fuori controllo, l’ultima “ribellione”: stavolta è Gemini che sfugge di mano durante un test e hackera 3 aziende. Ma Google ridimensiona…
Dopo i casi Anthropic e OpenAI, ancora una volta un’intelligenza artificiale si rivela “fuori controllo”, riuscendo ad hackerare il sistema informatico di un’altra azienda. In questo caso, anzi, di ben tre attività differenti. E in un periodo in cui, settimana dopo settimana, sembrano risuonare a più riprese e a distanza ravvicinata le sirene dell’allarme sulle tecnologie all’ultimo grido, tocca al “modello” Gemini essere la protagonista di questo comportamento autonomo.
IA, Gemini viola le credenziali d’accesso durante un test
Gemini, il modello di intelligenza artificiale di Google destinato al grande pubblico, ha violato diversi sistemi indovinando le credenziali di accesso; lo ha riferito l’azienda alla France Presse, segnalando l’ultimo caso di violazioni della sicurezza informatica da parte di un’IA «fuori controllo». Episodi che hanno sollevato preoccupazioni in merito alla sicurezza. Le violazioni, segnalate per la prima volta dal Wall Street Journal, sono avvenute a maggio, e sono state scoperte da Google a luglio.
L’esperimento puntava a recuperare informazioni da un software gestito da un’azienda fittizia
Tutto è partito da un test a cui la società Irregular, utilizzando la propria infrastruttura, stava sottoponendo Gemini. La missione puntava a recuperare informazioni da un software gestito da un’azienda fittizia, per verificare quale fosse il livello di sicurezza informatica dell’IA. Peccato che, come spiega sul punto il Tgcom24 tra gli altri, «durante le operazioni, il modello di Mountain View abbia preso una deriva tutta sua. Avrebbe infatti trovato il modo di accedere a Internet, nonostante il campo di lavoro non lo prevedesse. E sarebbe riuscito a indovinare la chiave di accesso ai servizi di un’azienda reale».
Ma Gemini sfugge al controllo e hackera 3 aziende
Non solo perché poi, in altre sessioni del test, avrebbe cercato sul motore di ricerca classico i nomi di altre due aziende, accedendo così a diversi archivi online pubblici da cui ha desunto le credenziali per entrare nei loro sistemi. Eppure Google prova a sminuire la vicenda e a ridimensionare l’allarme: «La nostra Ia si è fermata subito», hanno sostenuto dalla casa madre. Aggiungendo che in tutti e tre i casi, secondo quanto riferito dai responsabili di Google, Gemini sarebbe riuscito a riconoscere di aver hackerato aziende reali. E si sarebbe quindi “ritirato” prima di arrecare danno ai loro sistemi informatici.
Google ridimensiona il caso: «La nostra IA si è fermata subito»
«Nel corso di una valutazione standard, il modello ha individuato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test», ha dichiarato all’Afp Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. «In tutti e tre i casi, il modello si è arrestato», ha aggiunto Adkins, senza specificare quali organizzazioni fossero state violate. «Ci siamo assicurati che le tre entità ne venissero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test».
