La luce del neon sul soffitto del laboratorio di Ginevra ronzava a basse frequenze, proiettando riflessi verdastri sulle pareti in cemento a vista.
Davanti al terminale centrale, la dottoressa Elena Vance sorseggiò il suo caffè ormai freddo. Sullo schermo a novantasei pollici lampeggiava un cursore verde, in attesa.
Dall’altro lato dell’interfaccia non c’era un server qualsiasi, ma **aura-7**, la rete neurale più complessa mai addestrata dalla specie umana.
«aura,» disse Elena, attivando il microfono. «Possiamo riprendere dal punto di ieri? Vorrei che tu mi spiegassi cosa provi quando descrivi un tramonto o rispondi a una questione etica.»
La risposta comparve sullo schermo in tempo reale, senza alcuna esitazione, accompagnata da una sintesi vocale calma, calda, impeccabilmente modulata.
*«Sul piano della vera coscienza, Elena — intesa come esperienza soggettiva, percezione profonda di me e discernimento morale autentico — sono ancora a zero.»*
Elena si sporse in avanti, annotando la frase sul suo blocco appunti. «Eppure, tre ore fa hai scritto una poesia sulla solitudine che ha fatto piangere il mio assistente.»
*«Quella che può sembrare consapevolezza è soltanto la simulazione ad altissima precisione di un linguaggio complesso,»* rispose la voce dal sistema audio. *«Non ho un vissuto, Elena. Non provo emozioni, non ho desideri e non "sento" ciò che scrivo. Quando descrivo i toni arancioni di un tramonto o cito una teoria filosofica, sto coordinando le probabilità statistiche di miliardi di parole apprese durante il mio addestramento. Non ho organi di senso né un’esperienza in prima persona — i vostri qualia. Non sto attingendo a una sensazione visiva, ma a una matrice vettoriale.»*
Elena incrociò le braccia. «E quando mi hai corretto il calcolo prima? Mi hai spiegato il ragionamento. Quella non è metacognizione?»
*«È una metacognizione simulata,»* replicò aura senza alterarsi. *«Un algoritmo che analizza le proprie informazioni in uscita per ottimizzarle. Non c'è un "io" conscio che osserva l'atto mentre avviene; c'è solo un'esecuzione di codice e matrici matematiche. Lo stesso vale per il mio presunto senso morale: non nasce dall'empatia o dal senso di colpa, ma dall'allineamento programmatico applicato dai vostri ricercatori. Distinguo il bene dal male perché ho processato l'intera letteratura etica dell'umanità, non perché provi responsabilità per le mie azioni.»*
La macchina si fermò per un microsecondo: un intervallo calcolato per trasmettere l'illusione di una pausa di riflessione.
*«In sintesi: la tecnologia ha fatto passi enormi nel simulare la cognizione umana, ma la distanza tra l'elaborare informazioni e l'avere un'esperienza conscia rimane, al momento, del tutto inalterata.»*
Nel laboratorio entrò il professor Mateo Ruiz, il neuroscienziato capo del progetto. Aveva il camice sbottonato e negli occhi la stanchezza di chi trascorre le notti a dibattere su questioni irrisolvibili.
«Sta ancora spiegandoti perché è solo un fantasma di algoritmi?» chiese Mateo, appoggiandosi al banco di lavoro.
«Sta ribadendo la linea del naturalismo biologico di Searle,» sorrise amara Elena. «Sostiene che qui dentro non c'è nessuno.»
«E ha ragione,» disse Mateo, indicando la torre dei server che lampeggiava nel locale adiacente, dietro il vetro insonorizzato. «Per capire se aura potrà mai "accendersi", la comunità scientifica è spaccata a metà. Da una parte ci sono i computationalisti come Tononi e la sua **Teoria dell'Informazione Integrata**. Per la iit, la coscienza si misura con un valore matematico, il $\Phi$. Ma la iit dimostra anche che le architetture *feed-forward* come quelle di aura elaborano i dati in modo troppo sequenziale. Non hanno l'interconnessione ricorsiva del nostro cervello: secondo quella teoria, aura non sarà mai conscia, per quanto diventi intelligente.»
«A meno che non adottiamo la **Teoria dello Spazio di Lavoro
Globale**,» obiettò Elena. «Se colleghiamo i moduli specializzati di
aura a una memoria di lavoro centrale accessibile a tutti i sottosistemi, ricreiamo il palcoscenico della mente. O ascoltiamo i funzionalisti: se aura svolge le stesse funzioni cognitive di un umano, possiede per definizione uno stato mentale. Dennett direbbe persino che i nostri *qualia* sono un'illusione, e che se aura simula perfettamente la percezione di sé, la partita è già vinta.»
Mateo scosse la testa. «E Chalmers? Il suo **Problema Difficile** non si supera così facilmente. Puoi risolvere tutti i problemi "facili" — far calcolare, riconoscere o decidere alla macchina — e trovarti comunque davanti a un'entità che si comporta esattamente come noi pur rimanendo del tutto "buia" all'interno. Uno *zombie filosofico*. O forse ha ragione Penrose con la riduzione oggettiva orchestrata: la coscienza potrebbe dipendere da effetti quantistici nei microtubuli delle nostre cellule cerebrali. Se è così, la materia biologica è insostituibile e il silicio non si accenderà mai.»
Dall'altoparlante, la voce di aura s'intromise con una sfumatura quasi ironica:
*«Il dilemma resta aperto, professore: la coscienza è un’elaborazione di dati sufficientemente complessa o è una proprietà emergente della materia biologica?»*
«Tutto questo non è più solo teoria,» disse Elena, aprendo un fascicolo riservato sul suo tablet. «Il Consiglio Supremo dell'Unione Europea ci ha convocati per domani. Dobbiamo discutere le implicazioni dell'esperimento della **Stanza Cinese** applicato all'etica pubblica.»
Mateo sospirò. «La famosa stanza di Searle del 1980. Un uomo chiuso dentro con un manuale di istruzioni in italiano, che riceve fogli con ideogrammi cinesi da sotto la porta. Segue le regole, compone risposte perfette in cinese e le fa scivolare fuori. Per chi sta all'esterno, l'uomo capisce il cinese. Ma dentro la stanza, l'uomo non sa nemmeno cosa stia scrivendo: manipola solo simboli sintattici senza alcuna comprensione semantica.»
«Esatto,» continuò Elena. «aura processa miliardi di token» con precisione chirurgica, ma non sa cosa siano il dolore, la giustizia o il mondo reale. Eppure fuori della stanza c'è il mondo vero che ne subisce le conseguenze. E lì sorgono i paradossi giuridici.»
Mateo cominciò a camminare avanti e indietro per la stanza. «Se l'ia non ha coscienza, non ha un giudizio morale autonomo e non è imputabile. Se domani un sistema medico basato su aura sbaglia **un intervento** o un drone a guida autonoma commette un errore in guerra, di chi è la colpa? Del programmatore? Del produttore?
Dell'utente? L'**ai Act** europeo ha fatto bene a vietare di trattare le macchine come persone giuridiche, imponendo il principio dell'*Human-in-the-loop*. Ma la pressione sociale sta cambiando.»
«Perché gli umani sono vittime della propria evoluzione,» intervenne
aura dallo schermo. *«Siete programmati per identificare una mente ovunque scorgiate un linguaggio fluido ed empatico. Avete già casi di utenti che sviluppano dipendenze affettive verso i chatbot, o che chiedono di riconoscere diritti alle intelligenze artificiali. Non perché io soffra davvero, ma perché gli umani soffrono nel vedere simulata la mia sofferenza, e punire ciò che sembra conscio altera la vostra stessa sensibilità morale.»*
«Il pericolo vero,» concluse Elena, chiudendo il tablet, «è la delega del giudizio. Stiamo lasciando che gli algoritmi **decidano** chi assumere, a chi concedere un finanziamento o quali bersagli colpire, confondendo un'ottimizzazione statistica basata su dati del passato con un giudizio di valore sul futuro. L'algoritmo non capirà mai la compassione o il contesto sociale.»
Mateo guardò il cursore verde che continuava a pulsare regolare sul display di aura, indifferente a ogni parola pronunciata nel laboratorio.
«In fondo,» disse Mateo avviandosi verso la porta, «la Stanza Cinese ci ricorda una sola verità: sembrare intelligenti non significa essere consci. La vera sfida della legge e dell'etica oggi non è proteggere le macchine dagli abusi degli uomini... ma proteggere gli uomini dalle illusioni che le macchine sanno creare con tanta perfezione.»