IA fuori controllo, l’allarme del fondatore di Anthropic: «Entro un anno potrebbe controllare la Rete»

L’intelligenza artificiale si sta sviluppando a un ritmo che lo stesso settore fatica a comprendere appieno. Lo ha ammesso Dario Amodei, amministratore delegato di Anthropic, in un’intervista rilasciata a Cbs News e che andrà in onda nel programma Cbs News Sunday Morning.

Secondo il manager italoamericano, se non verranno introdotte al più presto misure di sicurezza adeguate, entro i prossimi 6-12 mesi l’IA potrebbe raggiungere una capacità tale da coordinare sciami di agenti autonomi in grado di assumere il controllo di ampie porzioni della rete Internet.

“Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido”, ha dichiarato Amodei, definendo la situazione attuale un “segnale d’allarme” per l’intero settore.

Una curva sempre più ripida

Nel corso dell’intervista, il capo di Anthropic ha descritto lo sviluppo dell’intelligenza artificiale come una progressione esponenziale — “uno, poi due, poi quattro, poi otto, poi 16, poi 32” — sostenendo che il settore si trova attualmente in un punto della curva che “sta iniziando a farsi ripida”.

Amodei ha comunque cercato di ridimensionare i toni allarmistici: “Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto”. Ha però ribadito la necessità di rallentare lo sviluppo e di dotare la tecnologia di sistemi di sicurezza capaci di evolversi “con la stessa velocità con cui la tecnologia stessa evolve”.

L’appello del settore e il sostegno di Musk e Altman

Le dichiarazioni televisive sono arrivate a poche ore da un post pubblicato sul blog aziendale, in cui Amodei esorta le imprese del settore a procedere con maggiore lentezza e cautela nello sviluppo dell’intelligenza artificiale, ponendo la prevenzione dei rischi al centro della strategia industriale. L’appello ha ottenuto un’adesione immediata da parte di due dei principali protagonisti della Silicon Valley, Elon Musk, fondatore di SpaceX, e Sam Altman, amministratore delegato di OpenAI.

Nel medesimo intervento, Amodei ha delineato un piano articolato in tre punti, con l’obiettivo dichiarato di “gestire il ritmo di avanzamento della frontiera tecnologica”: il potenziamento dei sistemi di valutazione interna (“embedded evaluators”), il rafforzamento del coordinamento democratico e l’avvio di un coordinamento a livello globale tra i principali attori del settore.

“Un rischio grave, ma gestibile”

Nonostante i toni preoccupati, Amodei ha voluto lasciare spazio anche a una lettura più ottimistica del fenomeno. Se gestita con la dovuta attenzione, ha scritto nel suo post, l’intelligenza artificiale “può essere l’ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l’umanità”. Ma, ha avvertito, “come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi”.