di Maria Stella Bosco
C’è una frase, in questa vicenda, che pesa più della condanna. L’ha messa nero su bianco, nel 2021, una pm della Procura di Benevento, chiedendo di archiviare la denuncia di Audrey Ubeda contro l’ex compagno: per un uomo — si legge in sostanza — sarebbe “comune” dover vincere quel minimo di resistenza che una donna, alla fine di una giornata, oppone alle sue avances. Lo stesso atto liquidava come “scherzo di cattivo gusto” un coltello puntato alla gola.
Una riga. Ma scritta dentro un atto dello Stato, dove la parola non descrive la realtà: la fabbrica.
Il 2 luglio la Corte europea dei diritti dell’uomo ha condannato l’Italia — violati gli articoli 3 e 8 della Convenzione, circa 60mila euro di risarcimento — per un’indagine né tempestiva né efficace e per quelle motivazioni “sessiste e stereotipate” che, ha scritto Strasburgo, contribuiscono a normalizzare la violenza. Audrey, quarantadue anni, nata in Francia da madre campana, oggi prova a ricostruire la sua vita. Per più di tre anni, a vivere reclusi in una comunità protetta erano stati lei e i suoi bambini, non l’uomo.
Fin qui la cronaca, e basterebbe a indignarci. Ma vorrei fermarmi su quella riga, perché è lì che il mio lavoro di ogni giorno incontra questa storia.
Avvicino alla tecnologia chi la teme, e la prima cosa che provo a dire è che una macchina non inventa nulla: impara da noi. Un sistema di intelligenza artificiale addestrato ad “assistere” i giudici — se ne parla ovunque come della prossima frontiera per snellire i tribunali — imparerebbe leggendo esattamente gli atti del passato. Comprese le archiviazioni come questa.
È qui che sorge una riflessione necessaria. Una convinzione arcaica, trasfusa in un atto giudiziario, resta discutibile: si può impugnare, e Audrey l’ha fatto, vincendo. Ma la stessa convinzione, appresa da un algoritmo e restituita sotto forma di calcolo, diventa qualcos’altro. Assume l’aria della neutralità. Dell’oggettività. Del dato. Smette di sembrare un’opinione e comincia a sembrare una verità scientifica. Ed è molto più difficile fare ricorso contro un numero.
È ciò che chiamo, da tempo, lo specchio digitale. La tecnologia non crea i nostri pregiudizi: li riflette e li amplifica, restituendoceli più grandi e più credibili. Se lo specchio è costruito con i dati di una cultura che ancora fatica a distinguere una vittima da un colpevole, non ci mostrerà un mondo più giusto. Ci mostrerà il nostro, ingrandito, e ce lo consegnerà come verità.
Per questo continuo a ripetere che non esiste rivoluzione digitale senza rivoluzione culturale, e che la seconda viene prima. Non serve insegnare a un cittadino a usare un software, se prima non abbiamo il coraggio di guardare che cosa quel software ha imparato, e da chi. Prima del codice informatico c’è sempre un codice umano, ed è quello che va ripulito.
La condanna di Strasburgo, allora, non parla soltanto di un tribunale e di una donna. Ci avverte, con anni di anticipo, su ciò che rischiamo di automatizzare. Possiamo costruire macchine velocissime; ma se le nutriamo con le nostre idee peggiori, non avremo una giustizia più giusta. Ne avremo una uguale a prima, solo molto più rapida. E — è questo a spaventarmi di più — molto più difficile da riconoscere.
Audrey ha vinto opponendo la sua voce a una parola sbagliata. La domanda che resta è semplice: quella voce, a una macchina, l’avremmo insegnata?
