“L’intelligenza artificiale potrebbe ucciderci tutti in dieci anni”. L’allarme ‘ottimista’ del ricercatore di Anthropic

«L’Intelligenza Artificiale potrebbe uccidere tutti gli esseri umani» nel prossimo decennio. A scriverlo su X è stato Evan Hubinger, un esperto ricercatore di Anthropic, azienda di punta nel settore tecnologico. «Crediamo davvero che l’Ia possa uccidere tutti gli esseri umani – ha ribadito – Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio». Poi ha aggiunto: «Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla strada giusta per riuscirci. Penso che il rischio dai modelli attuali sia basso».

«Tra dieci anni potremmo estinguerci per colpa dell’intelligenza artificiale». L’allarme dell’esperto

Ciò che preoccupa maggiormente Evan Hubinger è «la superintelligenza derivante dal miglioramento autonomo: come abbiamo detto, sta accadendo più velocemente di quanto pensassimo». L’ha spiegato sotto il post di Jacob Coxon, un altro ricercatore di Anthropic che si è appena licenziato. Nel tweet, l’ex collega di Hubinger ha precisato di aver trascorso «gli ultimi tre anni a occuparmi di ricerca sul pre-addestramento sia presso OpenAi che presso Anthropic. Nessuna delle due aziende sta agendo in modo responsabile».

Secondo la sua testimonianza, le due aziende «stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a repentaglio le nostre vite. In OpenAi, molti non hanno interiorizzato totalmente la portata della posta in gioco per la civiltà. In Anthropic, la posta in gioco è ben compresa, ma l’azienda è incastrata in una corsa per arrivare prima degli altri: ritengono che nessun altro agirà responsabilmente e che quindi non debbano farlo nemmeno loro, nonostante i rischi».

L’organo di vigilanza mondiale sulle Ia continua a monitorare le nuove tecnologie

È stata la Cbs a rilanciare sui social i tweet di Hubinger e Coxon, chiamando in causa l’Ai Security Institute, l’organo internazionale creato dai governi e incaricato di verificare, testare e diminuire i pericoli legati ai sistemi di intelligenza artificiale più avanzati. L’istituzione per la vigilanza, secondo quanto affermato da un portavoce dell’ufficio di gabinetto britannico all’emittente televisiva, «continua a collaborare strettamente con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri».

Inoltre, il funzionario ha ricordato che proprio la scorsa settimana è stato testato «Gpt-6 Astra, il modello più potente di OpenAi, prima del suo rilascio al pubblico». Poi ha concluso: «I rischi non si fermano ai confini nazionali e nessun Paese può affrontarli da solo. Il Regno Unito continuerà a testare i modelli più avanzati, a sviluppare una rigorosa comprensione scientifica delle loro capacità e dei relativi rischi, e a garantire che le decisioni politiche si basino su evidenze concrete».