L’Ai per “scovare” i bambini a rischio di diventare criminali: la preoccupante deriva orwelliana di Londra

È notizia di qualche giorno fa che il ministero della Giustizia britannico starebbe mettendo a punto un programma governativo che prevederebbe l’utilizzo dell’Intelligenza artificiale per prevenire la criminalità, schedando i minori che hanno la maggior possibilità di commettere crimini una volta diventati adulti. A quanto si apprende da indiscrezioni pubblicate sul quotidiano inglese Times, confermate poi dal governo britannico, l’Ia dovrebbe incrociare una serie di dati divisi nei vari dipartimenti governativi, dal servizio sanitario al ministero del Lavoro, dai servizi sociali fino alle informative di polizia, per ricercare quei profili che avrebbero una maggiore probabilità di commettere crimini, così da monitorarli fin da bambini.

Ingegneria sociale e schedatura preventiva

Si tratterebbe di una vera e propria schedatura preventiva, che comporterebbe una spiacevole conseguenza per chi ne resterebbe intrappolato, ovvero non precisati programmi appositi di «sostengo e prevenzione», ideati dal ministero, che sanno molto di corsi distopici di rieducazione. Il ministero della Giustizia precisa che il tutto si svolgerà in maniera «etica e morale», senza intenti discriminatori, ma è il principio di per sé, una schedatura fin da bambino per un’ipotesi di una presunta propensione al crimine, che lascia perplessi.

Problema giuridico e problema morale

Non si capisce con quali presupposti giuridici si possa etichettare una persona, per lo più minore, senza riscontri oggettivi ma solo nell’ambito della probabilità; si oltrepassa il cosiddetto “processo alle intenzioni” (che in campo giuridico non esiste) per arrivare al processo alla probabilità. Certo non siamo di fronte ad una condanna, ma ad una misura che, stando a come viene descritta oggi, sarebbe fortemente discriminatoria.

Ma il punto dolente è quello morale, ovvero come si possa addossare un così forte stigma sociale su un minore, partendo da presupposti statistici creati da un algoritmo, che si basano su fattori come la provenienza sociale, o lo status economico della famiglia. Ora aldilà della violenza che si perpetua nei confronti dei bambini, già “etichettati”, senza aver fatto nulla di male, per capire bene la faccenda, bisogna inquadrarla secondo una precisa interpretazione antropologica dell’uomo.

Una questione antropologica

Se è innegabile che le scelte fatte dalle persone sono profondamente condizionate da stimoli esterni, contesti e situazioni ambientali ben precisi, è altrettanto vero che l’essere umano non si può ridurre solo a questo, ovvero a una sorta di macchina condizionata dall’esterno (come ad esempio sostiene la psicologia comportamentista o una certa sociologia). L’essere umano infatti, è un individuo libero, capace di autodeterminarsi, perché dotato delle due facoltà che lo distinguono dagli animali, l’intelletto e la volontà.

La definizione di persona nata in Occidente, che ne ha condizionato tutto il pensiero filosofico, politico e sociale (pensiamo alla moderna concezione dei diritti umani ad esempio), è quella elaborata nel medioevo da Severino Boezio: «Sostanza individuale di natura razionale», che sviluppa e perfeziona quella di Aristotele, che definiva l’uomo un «animale razionale». L’uomo sussiste di per sé, non è un’idea astratta, possiede una personalità individuale, ed è in grado di conoscere il fine per cui agisce liberamente grazie alla sua volontà. Partendo da questi presupposti, non si può circoscrivere una persona e le sue libere scelte dentro un determinismo soffocante, che pretende di stabilirne le sue possibili azioni future sulla base di un algoritmo.

Una deriva da Stato etico

Si obietterà “ma questa è semplicemente una misura preventiva”, in realtà dal momento che si prendono provvedimenti come i corsi rieducativi, si sta già infliggendo una sorta di pena a priori, praticando una discriminazione sulla base di un calcolo di probabilità, oltre che la spietatezza di etichettare un minore. È una deriva da Stato etico di orwelliana memoria, dove lo Stato non è visto come una realtà al servizio dei cittadini ma come una struttura che li educa (o rieduca), per plasmarli ad un ipotetico bene.

La contraddizione britannica

Curioso che tutto questo avvenga per mano del ministro della giustizia labourista David Lammy, che si è speso contro le discriminazioni giudiziarie delle minoranze, nel Paese dello scandalo delle “grooming gang”, dove tra il 1997 e il 2013 si contano migliaia di abusi sessuali sistematici, ad opera di un gruppo di pakistani, alcuni dei quali si giustificarono dicendo che le vittime erano “ragazze bianche di facili costumi, non musulmane”. La cosa che più fece clamore è che emerse come la polizia e le autorità in generale, non fecero niente o peggio insabbiarono il caso per paura di accuse di razzismo e islamofobia. Casi come questo ci invitano a riflettere sull’importanza di sviluppare un’etica seria dell’intelligenza artificiale, visto l’impatto sempre maggiore che la stessa avrà sulle nostre vite.