Intelligenza artificiale, papa Leone: “Mai rinunciare al processo creativo. Attenti a chatbot troppo affettuosi”

Fermiamo la “deriva antropomorfica”, “non seppelliamo i talenti”. È l’appello di Papa Leone XIV nel messaggio in occasione della sessantesima Giornata mondiale delle Comunicazioni Sociali dal titolo “Custodire voci e volti umani”. Un lungo avvertimento contro il pericolo dell’intelligenza artificiale. “Rinunciare al processo creativo e cedere alle macchine le proprie funzioni mentali e la propria immaginazione significa seppellire i talenti che abbiamo ricevuto al fine di crescere come persone in relazione a Dio e agli altri. Significa nascondere il nostro volto, e silenziare la nostra voce”.

Intelligenza artificiale, il papa: non è oracolo di ogni consiglio

Quindi il pontefice ha diffidato dal ritenere ingenuamente l’Ia “un’amica” onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, “oracolo” di ogni consiglio. “Tutto ciò può logorare ulteriormente la nostra capacità di pensare in modo analitico e creativo. Di comprendere i significati, di distinguere tra sintassi e semantica”. “Negli ultimi anni – scrive preoccupato il Papa – i sistemi di intelligenza artificiale stanno assumendo sempre di più anche il controllo della produzione di testi, musica e video. Gran parte dell’industria creativa umana rischia così di essere smantellata e sostituita con l’etichetta ‘Powered by AI'”.

Si rischia di pensare pensieri non pensati, senza paternità

Il rischio è quello di trasformare le  persone in meri consumatori passivi di pensieri non pensati, di prodotti anonimi, senza paternità, senza amore. “La questione che ci sta a cuore, tuttavia, non è cosa riesce o riuscirà a fare la macchina”, avverte papa Leone XIV, “ma cosa possiamo e potremo fare noi, crescendo in umanità e conoscenza, con un uso sapiente di strumenti così potenti a nostro servizio. Da sempre l’uomo è tentato di appropriarsi del frutto della conoscenza senza la fatica del coinvolgimento, della ricerca e della responsabilità personale”.

Attenzione a chatbot troppo affettuosi…

E ancora: “I chatbot resi eccessivamente ‘affettuosi’, oltre che sempre presenti e disponibili, possono diventare architetti nascosti dei nostri stati emotivi e in questo modo invadere e occupare la sfera dell’intimità delle persone”. L’allarme  è chiaro: ““I chatbot basati su grandi modelli linguistici si stanno rivelando sorprendentemente efficaci nella persuasione occulta, attraverso una continua ottimizzazione dell’interazione personalizzata. Questa antropomorfizzazione, che può risultare persino divertente è allo stesso tempo ingannevole. Soprattutto per le persone più vulnerabili. In questo modo ci lasciamo derubare della possibilità di incontrare l’altro, che è sempre diverso da noi, e con il quale possiamo e dobbiamo imparare a confrontarci. Senza l’accoglienza dell’alterità non può esserci né relazione né amicizia”.