Da Terminator al rischio reale che l’Ai prenda il sopravvento: la «potenziale estinzione umana» non è più solo fantascienza

«Chiediamo di impedire ogni ulteriore sviluppo della superintelligenza, che non sia revocabile finché non ci siano un ampio consenso scientifico sul fatto che ciò sarà possibile in modo sicuro e controllabile, e un forte consenso pubblico»: con queste poche parole, 1500 personalità della cultura, dell’accademia e dell’imprenditoria mondiale – tra cui Padre Paolo Benanti, già consigliere di Papa Francesco sui temi dell’intelligenza artificiale e dell’etica della tecnologia e unico membro italiano del Comitato sull’intelligenza artificiale delle Nazioni Unite – hanno lanciato un allarme globale sulle possibili ripercussioni della corsa sfrenata allo sviluppo dei sistemi di intelligenza artificiale in atto nel mondo.

Da Terminator al rischio reale che l’Ai superi l’intelletto umano

Secondo Elon Musk, continuando di questo passo, entro il 2026 le capacità dell’AI supereranno quelle dell’intelletto umano: il pericolo raccontato da molti film di fantascienza, tra cui l’antesignano Terminator, che, d’improvviso le macchine si ribellino all’uomo, prendendo il controllo del pianeta e sterminando l’umanità, non sembra più confinato alle pellicole di Hollywood.

I “padri” dell’Intelligenza artificiale chiedono di fermare l’Intelligenza artificiale

L’iniziativa promossa dal Future of Life Institute, un’organizzazione no-profit che da oltre un decennio analizza i rischi su larga scala associati all’intelligenza artificiale, ha incontrato il consenso di numerosi firmatari di varie estrazioni che vanno dai promotori, Geoffrey Hinton, premio Nobel e professore emerito di Scienze informatiche all’università di Toronto, e Yoshua Bengio, docente all’università di Montréal, entrambi considerati come i “padrini dell’AI moderna”, a Richard Branson, Steve Bannon, Steve Wozniak, cofondatore di Apple, Susan Rice, ex consigliera per la Sicurezza nazionale degli Stati Uniti, passando per Harry e Meghan, Duchi di Sussex.

Il monito del Papa al G7

Dei pericoli dell’intelligenza artificiale si parla da tempo e negli ultimi anni il dibattito si è fatto più intenso: non è un caso che l’unica occasione nella storia in cui un Pontefice ha preso parte a un G7 sia stato proprio per intervenire a un panel dedicato all’AI. Era il 14 giugno 2024 e Papa Francesco, invitato dal governo italiano, intervenendo al meeting dei 7 grandi del mondo in Puglia, pronunciava un discorso sull’AI intitolato “Uno strumento affascinante e tremendo” con cui esortava la «politica sana» a governare il fenomeno ponendosi come «guida, coinvolgendo i più diversi settori e i più vari saperi. In tal modo, un’economia integrata in un progetto politico, sociale, culturale e popolare che tenda al bene comune può aprire la strada a opportunità differenti, che non implicano di fermare la creatività umana e il suo sogno di progresso, ma piuttosto di incanalare tale energia in modo nuovo».

Oltre la catastrofe occupazionale

È trascorso poco più di un anno da quel giorno e il livello dell’allarme sembra essere salito precipitosamente e non solo per la catastrofe occupazionale che l’AI promette di causare da qui breve, con Amazon che progetta tagli per 30mila unità (destinate ad arrivare a 175mila nel 2027), Microsoft che prevede 15mila licenziamenti o Meta che ha già licenziato circa 600 persone dalla sua divisione AI: la questione è anche più complessa di quanto possa sembrare e involge la visione che l’umanità ha del proprio destino.

I timori per la «potenziale estinzione umana» legata all’Ai

Le preoccupazioni dei sottoscrittori, infatti, «vanno dall’obsolescenza economica e dalla perdita di potere dell’umanità, alla perdita di libertà, libertà civili, dignità e controllo, fino ai rischi per la sicurezza nazionale e persino alla potenziale estinzione umana». Per la prima volta dopo decenni, il mantra del progresso buono in quanto tale e della modernità da rincorrere ad ogni costo, viene incredibilmente messo in discussione: l’idea che una società esasperatamente progredita dal punto di vista tecnico sia migliore in sé di una più ancorata a un modo di vivere tradizionale, per la prima volta vacilla.

Il ricordo del «problema spoglio, atroce e ineludibile» posto da Einstein e Russel

Era forse dai tempi della prima bomba atomica costruita da Oppenheimer che il dibattito sul destino dell’umanità non si faceva così attuale e terrificante. E l’appello dei 1500 contro l’AI non può che riportare alla memoria il ben più noto Manifesto per la pace con cui Bertrand Russell ed Albert Einstein, nel 1955, interrogarono i potenti della Terra: «Ecco dunque il problema che vi presentiamo, spoglio, atroce e ineludibile: dobbiamo porre fine alla razza umana o l’umanità deve rinunciare alla guerra?».

Il potenziale distruttivo dell’intelligenza artificiale non è ancora compiutamente noto ma in un mondo che corre veloce come quello in cui stiamo vivendo, non si può certo attendere che il problema si manifesti per cominciare a pensare a una soluzione. Occorre essere un passo avanti, farsi trovare preparati a reagire e a governare anche gli aspetti più imprevedibili di una tecnologia di cui, forse, sappiamo troppo poco. Tirare il freno, forse, non è un’idea così malvagia.