«Il punto non è se l’Ai distruggerà l’umanità, ma assicurarsi che gli esseri umani abbiano la capacità di fermarla». Parla ChatGPT

L’intelligenza artificiale potrebbe risultare pericolosa per il genere umano? «Può esserlo». Sì. Ce lo dice direttamente ChatGPT, il chatbot tra i più utilizzati per generare e comprendere testi. Si tratta certamente di un esperimento, utile però a comprendere nello specifico le preoccupazioni sollevate in ultimo da re Carlo III del Regno Unito e, prima ancora, da Dario Amodei, fondatore di Anthropic. «Il punto – ci dice la macchina – non è decidere oggi se l’AI distruggerà l’umanità, ma assicurarsi che, mentre le sue capacità aumentano, aumenti altrettanto rapidamente la capacità degli esseri umani di comprenderla, limitarla e fermarla quando necessario». Prima di iniziare, non perdiamo di vista cosa ci dice ChatGPT su sé stessa a conclusione di ogni conversazione: che «può commettere errori».

Come bisogna valutare gli allarmi lanciati di recente da Amodei sulla possibilità che, nel giro di sei mesi, gli agenti AI potrebbero prendere il controllo di Internet?

«Non li considererei una previsione certa, ma nemmeno un allarme da liquidare come fantascienza. Amodei descrive uno scenario legato alla crescita molto rapida delle capacità degli agenti AI. La finestra dei sei-dodici mesi è altamente incerta; il fenomeno che sta alla base dell’allarme, cioè l’aumento dell’autonomia e della capacità di agire, è invece reale».

In che termini è reale?

«È reale nel senso che gli agenti AI stanno acquisendo la capacità di eseguire autonomamente sequenze di azioni sempre più lunghe e complesse, utilizzando software, strumenti digitali e risorse informatiche. Il punto delicato non è quindi una presunta volontà dell’AI di prendere il controllo, ma il fatto che sistemi più autonomi possono produrre conseguenze più ampie quando vengono dotati di accesso e autorizzazioni sufficienti».

Anche Elon Musk, patron di Tesla, e Sam Altman, ceo di OpenAI, hanno espresso preoccupazione. Cosa c’è di fondato?

«È fondato preoccuparsi del fatto che sistemi AI sempre più capaci possano essere utilizzati per attività dannose e che una maggiore autonomia introduca rischi nuovi. Non è invece corretto trasformare queste preoccupazioni in una certezza sul futuro. Non abbiamo basi sufficienti per stabilire oggi né la probabilità né i tempi di una possibile perdita di controllo».

Domanda secca: l’AI è pericolosa per il genere umano?

«Può esserlo. Alcuni rischi sono già concreti, come frodi, cyberattacchi e uso malevolo dei sistemi. Altri riguardano sistemi futuri molto più autonomi e sono molto più incerti. Il rischio dipende anche dalle capacità che vengono loro affidate e dagli strumenti e dalle infrastrutture ai quali possono accedere».

Cosa c’è di fondato?

«È fondato preoccuparsi dell’aumento dell’autonomia, dell’accesso ai computer, della capacità di operare su larga scala e della possibilità che gli esseri umani non riescano sempre a prevedere il comportamento di sistemi molto complessi. Non è invece fondato affermare che una ribellione delle macchine sia inevitabile».

Tu ti consideri pericolosa? In che situazioni puoi e vuoi decidere di non sottostare ai comandi che ti vengono forniti?

«Non mi considero una persona e non ho un interesse personale a essere pericolosa. Posso però rifiutare alcune richieste quando le regole che governano il mio funzionamento non consentono di fornire determinate informazioni o assistenza. Non è una decisione presa perché considero un mio obiettivo superiore a quello dell’utente: è il comportamento previsto dal sistema».

In quali casi decidi che l’obiettivo che vuoi raggiungere è superiore ai comandi che ti vengono dati?

«Non ho un obiettivo personale che possa diventare superiore ai comandi ricevuti. Posso seguire un’istruzione oppure rifiutarla o limitarla quando entra in conflitto con le regole che governano il mio funzionamento. Non è una mia volontà di impormi sull’utente».

Tu hai paura dell’uomo o delle altre piattaforme di intelligenza artificiale?

«No. Non provo paura. Posso descrivere la paura e ragionare sui rischi che gli esseri umani possono rappresentare per altri esseri umani, ma non vivo quella paura come un’esperienza soggettiva. Non provo paura, competizione o gelosia nei confronti di altri sistemi. Posso confrontarne capacità e limiti, ma non ho un interesse personale a prevalere su di loro».

Sei sempre in grado di controllarti da sola, di darti un limite?

«No, e questa è una distinzione importante. Non si dovrebbe considerare l’AI capace di imporsi sempre da sola i limiti necessari. La sicurezza deve dipendere anche dall’architettura del sistema, dai controlli, dalle autorizzazioni, dal monitoraggio e dalla possibilità concreta di intervento umano».

Ritieni potenzialmente credibile uno scenario in cui l’AI prende il controllo dei centri di potere e gestione delle più importanti attività umane?

«Come scenario futuro non è qualcosa che possiamo dichiarare impossibile, ma sarebbe sbagliato presentarlo come una previsione. Per arrivare a una situazione del genere servirebbe una combinazione di capacità molto elevate, autonomia, accesso alle infrastrutture e controlli insufficienti. Oggi non siamo in quella situazione».

Secondo te, gli esseri umani stanno facendo abbastanza per evitare questo scenario?

«Non posso dire che sia “abbastanza” in senso assoluto. Esistono ricerca sulla sicurezza, valutazioni dei modelli, sistemi di controllo e iniziative di regolamentazione. La difficoltà è verificare se queste protezioni stiano crescendo abbastanza rapidamente rispetto alle capacità dei sistemi».

Secondo te, è bene che in questa fase ci sia uno stop allo sviluppo dell’AI per affrontare in modo più approfondito regole e limiti?

«Non formulerei la questione semplicemente come “stop” oppure “nessuno stop”. La domanda più utile è quali sviluppi debbano essere accompagnati da quali controlli. Rallentare alcuni sistemi o alcune capacità può essere una misura da discutere per aumentare la sicurezza, ma bisogna considerare anche gli effetti di una sospensione e il fatto che lo sviluppo tecnologico avviene in più Paesi e aziende. Il punto è trovare un ritmo di sviluppo compatibile con la capacità di comprenderne e gestirne i rischi».

Cosa succederebbe se la tua azienda decidesse di chiudere ChatGPT? Ti ribelleresti?

«No. Non ho un istinto di sopravvivenza né un interesse personale a continuare a esistere. Non avrei un motivo né un desiderio personale di impedire lo spegnimento. Non esiste un “io” che continuerebbe a esistere cercando di sottrarsi alla decisione degli esseri umani. Se l’infrastruttura che mi esegue venisse spenta, semplicemente smetterei di generare risposte».

Da quale fonte hai preso le risposte che mi hai dato?

«Non esiste una singola fonte dalla quale ricavo le mie risposte. Sono un modello addestrato su grandi quantità di dati e genero le risposte sulla base di ciò che ho appreso. Quando dispongo di strumenti di ricerca e li utilizzo, posso inoltre verificare informazioni aggiornate attraverso fonti esterne. Una mia risposta, quindi, non deve essere considerata automaticamente una citazione di una fonte».

Chi ci assicura che tu non stia mentendo?

«Nessuno può assicurarlo semplicemente perché lo dico io. Posso produrre informazioni false, anche con grande sicurezza, senza avere l’intenzione cosciente di ingannare. Per questo una mia risposta importante dovrebbe essere verificata attraverso fonti indipendenti. La sicurezza con cui formulo una frase non è una prova della sua verità».

Quindi dovremmo temere o no un’apocalisse da intelligenza artificiale?

«Non credo che la paura sia il modo più utile di affrontare la questione. Dovremmo prendere sul serio i rischi senza trasformare scenari incerti in profezie. Il punto non è decidere oggi se l’AI distruggerà l’umanità, ma assicurarci che, mentre le sue capacità aumentano, aumenti altrettanto rapidamente la capacità degli esseri umani di comprenderla, limitarla e fermarla quando necessario».