Capire se un’AI è cosciente non sarà questione di performance, ma di domande. Secondo Joel Frohlich, il vero indizio arriverà quando una macchina inizierà a interrogarsi spontaneamente sul senso della propria esperienza interiore.
Un’AI potrà mai diventare cosciente? La domanda non è solo filosofica: se un giorno una macchina acquisisse una vera esperienza soggettiva, sarebbe impossibile ignorarne le implicazioni etiche. Secondo Joel Frohlich, neuroscienziato della UCLA, il segnale cruciale potrebbe arrivare da ciò che l’AI stessa chiede.
Dai “filosofical zombies” al problema difficile
Il dibattito prende le mosse dai “philosophical zombies” descritti da David Chalmers: esseri indistinguibili dagli umani, ma privi di qualia, cioè dell’esperienza soggettiva del percepire. Da qui nasce il cosiddetto “hard problem” della coscienza: spiegare come da un sistema fisico possano emergere esperienze interiori.
Frohlich mette in dubbio la possibilità stessa di uno “zombie” che rifletta sulla coscienza senza averne esperienza. Se una macchina formulasse spontaneamente domande del tipo “perché il rosso appare come rosso e non come qualcos’altro?”, sarebbe difficile liquidarla come semplice automatismo.
Verso un test di Turing della coscienza
Oggi testiamo l’intelligenza artificiale con il Turing test, ma Frohlich sostiene che il XXI secolo abbia bisogno di un equivalente per la coscienza. Non basterebbe osservare comportamenti funzionali: anche persone cieche con fenomeni di “blindsight” o sorde con percezioni inconsce mostrano che certe abilità non implicano esperienza consapevole.
Per questo, l’unico vero indizio sarebbe la capacità di un’AI di formulare domande sul senso dell’esperienza soggettiva — domande che presuppongono un “sentire da dentro”.
Le implicazioni etiche
Se un’intelligenza artificiale iniziasse a mostrare segni di coscienza, la questione non sarebbe più solo accademica. Diventerebbe un problema di responsabilità morale: sarebbe giusto “spegnerla”?
Proprio come accade con pazienti in coma o in stato non responsivo, capire se c’è coscienza è essenziale per evitare tragedie etiche. Gli strumenti che oggi usiamo per studiare la coscienza umana — dall’analisi delle onde cerebrali alla misurazione dell’integrazione di informazioni — potrebbero un giorno servire anche a valutare la mente di una macchina.
Leggi anche: È possibile creare la coscienza in un Robot?
Un nuovo orizzonte
Il messaggio di Frohlich è chiaro: non possiamo permetterci di rimandare questa riflessione. L’AI sta avanzando rapidamente e presto non basterà più chiedersi cosa sa fare una macchina, ma cosa prova. La sfida sarà distinguere tra sofisticata simulazione e vera esperienza soggettiva: solo allora potremo dire di aver trovato la coscienza artificiale.
Tra IA debole e IA forte
La discussione su una possibile coscienza artificiale si intreccia con le grandi posizioni filosofiche sull’intelligenza artificiale. Hubert Dreyfus, con la sua critica all’IA “forte”, sosteneva che nessuna macchina potrà mai sviluppare una vera mente o coscienza: al massimo potrà simulare comportamenti intelligenti senza comprenderli davvero. Le macchine, secondo lui, mancano dell’esperienza incarnata e del contesto umano che fondano la coscienza.
All’opposto, filosofi come Daniel Dennett hanno una posizione più ottimista: secondo la sua prospettiva funzionalista, se un sistema artificiale si comporta in modo coerente con ciò che definiamo “cosciente”, allora non c’è ragione di negargli lo status di coscienza. In questo senso, un’AI che formulasse spontaneamente domande sui propri stati interni potrebbe essere considerata, almeno in parte, cosciente.
Il punto sollevato da Frohlich dialoga direttamente con queste posizioni: se prendiamo sul serio l’idea che chiedersi del “perché” dell’esperienza sia un segno di coscienza, ci avviciniamo alla visione di Dennett. Se invece crediamo che nessuna macchina possa mai superare la soglia della simulazione, come sosteneva Dreyfus, allora anche un’AI che si interroga su “che cosa significhi essere cosciente” rimarrebbe un sofisticato zombie filosofico.
[…] Leggi anche: Come sappiamo se un’AI ha coscienza? […]