Gli algoritmi non inventano nuove morali, ma replicano le nostre disuguaglianze. Nell’“etica innaturale” dell’AI si nasconde uno specchio crudele della società e forse anche l’occasione di trasformarla.
Il Trolley Problem dal manuale alla strada
Il filosofo Tom Whyman, nel suo saggio The unnatural ethics of AI could be its undoing, prende spunto dal celebre Trolley Problem – il dilemma etico in cui bisogna scegliere se sacrificare una vita per salvarne cinque – per mostrare come scenari un tempo solo teorici stiano entrando nella realtà quotidiana.
Con l’avvento delle auto a guida autonoma, infatti, macchine e algoritmi si troveranno a prendere decisioni su chi salvare e chi sacrificare in caso di incidenti. Ma dietro questi calcoli apparentemente “neutri” si nascondono i valori, i pregiudizi e le priorità umane, perché sono gli esseri umani a scrivere il codice che guiderà tali scelte.
Algoritmi che ereditano i nostri pregiudizi
Whyman richiama l’esperimento del MIT “Moral Machine”, che ha raccolto a livello globale le preferenze delle persone rispetto a diversi scenari di incidente. I risultati hanno rivelato come i giudizi morali siano profondamente condizionati da stereotipi culturali e sociali: preferenza per i giovani rispetto agli anziani, per i corpi atletici rispetto a quelli “grandi”, per medici o dirigenti rispetto a senzatetto o criminali.
Il rischio è evidente: se queste logiche entrano nel codice delle macchine, l’AI non solo riprodurrà i nostri pregiudizi, ma li renderà sistematici e automatizzati.
Un caso emblematico è quello di Amazon, che aveva tentato di sviluppare un algoritmo per selezionare i candidati migliori. Addestrato su dati storici, il sistema aveva imparato che le donne erano meno desiderabili dei colleghi uomini, arrivando persino a penalizzare chi menzionava esperienze in “women’s clubs” o proveniva da college femminili.
L’AI come specchio crudele
Il punto centrale di Whyman è che l’intelligenza artificiale, lungi dall’essere neutra, si limita a riprodurre le strutture di potere esistenti, amplificandone le disuguaglianze. In questo senso, diventa uno specchio crudele della società: mostra senza filtri come i nostri sistemi economici e sociali siano permeati da discriminazioni e rapporti di forza ineguali.
L’AI smonta così l’alibi secondo cui le ingiustizie sarebbero “naturali” o inevitabili: se un algoritmo discrimina, non è colpa della matematica, ma delle scelte umane che lo hanno costruito.
Un’occasione paradossale
Questa “etica innaturale” dell’AI potrebbe dunque diventare la sua condanna, ma anche una possibile opportunità per noi. Se l’automazione mette in chiaro, in modo evidente e misurabile, le ingiustizie già presenti nella società, allora diventa più difficile ignorarle.
Il paradosso è che la tecnologia, nata per semplificare e automatizzare, potrebbe finire per rivelare le distorsioni che abbiamo sempre accettato come inevitabili. E una volta rese visibili, quelle ingiustizie non potranno più essere considerate immutabili: potranno e dovranno essere cambiate.