L’inconscio artificiale 

2 Giugno 2023

Alcune settimane or sono, nel clamore generale per le prestazioni più che prometeiche di ChatGPT, una delle inquietudini che attraversò gli esponenti del mondo accademico fu la capacità del chatbot di redigere saggi scientifici di tutto punto, che non mostravano difetto se comparati a quelli di un docente universitario medio. La filosofa Olivia Guaraldo sensatamente osservava che piuttosto dovrebbe inquietare la qualità media dei saggi sfornati dagli accademici. Sgombera di fremiti luddisti, il cuore dell’osservazione era il richiamo a una comparazione meno inclemente, che non vincolasse cioè le rimarchevoli performance dell’intelligenza artificiale alla pochezza di un sistema di produzione, autotelico e sfiancato, come l’università. Persino fuori dalle mura periclitanti dell’accademia italiana, a proposito del se e del come l’intelligenza artificiale pensi, Riccardo Manzotti sollecitava un’opportuna inversione di prospettiva: “Non è l’intelligenza artificiale che ha imparato a pensare come noi, siamo noi che abbiamo smesso di pensare come persone e la colpa maggiore, mi dispiace dirlo, l’abbiamo noi filosofi e, in qualche misura, scienziati e psicologi” (R. Manzotti, L’IA pensa. E noi?). Non dovrebbe pertanto stupire se, prima o poi, forse più prima che poi, la macchina si rivelerà una forma di vita capace di superarci in tutto. 

In questa sede però non intendo unirmi all’epicedio dell’intelligenza media – non tanto perché si manchi di note funebri per arricchirne l’arrangiamento, quanto perché interessa qui il volto meno scoperto della faccenda. Il diffuso stupore deriva probabilmente dal fatto che il rapporto tra l’umano e il nonumano ha da sempre sofferto di un vizio comparativo, in forza del quale, per giunta, l’umano promuove sé stesso a metro di misura e a principio di ogni possibile assiologia. Se un giro anche distratto tra post e articoli di giornale non bastasse, lo si rileva da un recente libro che guarda al ruolo delle macchine in quell’ampio subconscio culturale che sono la letteratura, i film e le serie tv. La macchina fragile. L’inconscio artificiale fra letteratura, cinema e televisione, di Emanuela Piga Bruni (Carocci 2023), articola nella mia lettura tutte le contraddizioni di un rapporto da ripensare. Il volume si presenta infatti come “percorso critico” che analizza “alcune delle principali raffigurazioni dell’automa nell’immaginario letterario e audiovisivo” (p. 11); eppure, già nel secondo capoverso della premessa, l’autrice svela il fulcro immancabile della ricerca umana sul nonumano: il nodo di fondo dell’analisi è la domanda: “Che cosa significa essere umani?” (p. 11). Ora, che questa sia stata la tendenza plurimillenaria dell’essere umano quando guarda all’altro da sé lo chiariva già nel 1978 con giustificato sarcasmo Donna Haraway, una delle più severe critiche della smania antropomorfica: “Alle persone piace osservare gli animali persino per imparare da loro qualcosa sugli esseri umani e sulla società umana. Le persone del XX secolo non fanno eccezione. (…) Lucidiamo lo specchio degli animali per trovarvi noi stessi”. Il problema a me pare è che, ancor oggi, al netto di evoluzioni che fanno gridare al miracolo, questa tendenza s’infiltra persino nelle analisi più acute, come quella di Piga Bruni. Sicché, in questo solco inveterato, La macchina fragile restituisce, seppure in modo attento e con amor di dettaglio, una serie di immagini speculari, che della macchina continuano a fare il nostro doppio. E così, di contro a ogni dichiarazione d’intenti, il libro non mette a soqquadro né scalfisce la tradizionale gerarchia che innalza l’umano a essere superno. Un doppio che, sì, un poco inquieta, come il portentoso ghostwriter ChatGPT, ma per restituirci poi alla nostra rassicurata superiorità. 

Piga Bruni passa in rassegna alcune opere, di spessore più o meno alto, in cui la schiatta degli umani è alle prese con le tensioni e le ansietà determinate da una sorta di crescente rivalità con cyborg, androidi e altre intelligenze macchiniche. Si tratta di alcune celebri opere di Isaac Asimov, Philip K. Dick e Ian McEwan, una pietra miliare del cinema come Blade Runner, gli anime di Mamoru Oshii e la fortunata serie tv Westworld, analizzati con gli strumenti della critica letteraria, con utili innesti dai campi della filosofia, della psicanalisi e della sociologia. Lungo questo itinerario, il libro promette un viaggio nei territori travagliati e brulli al di là dell’antropocentrismo (p. 17); eppure, al termine di esso, ci si ritrova nei confini di un umano che, come di consueto, guarda a sé stesso con compiaciuto sussiego. Beninteso: non c’è colpa né dolo nell’autrice. Ella piuttosto segue una serie di tracce che riportano immancabilmente sulla superficie liscia e scivolosa dello specchio. 

m

Un sintomo vistoso dell’ostinato vizio è l’ambiguità che pesa sul termine “postumano”, presentato come uno degli assi portanti del libro. In effetti, il termine in questione nel dibattito degli ultimi anni è utilizzato con generosità e leggerezza tali che rischiano di privarlo di ogni significato. C’è chi rintraccia l’origine del postumanesimo nella formulazione della cibernetica di Norbert Wiener negli anni Quaranta del secolo scorso; chi invece ne vede una prima e compiuta teorizzazione nell’analisi del cyborg di Haraway, negli anni Novanta, che mette in questione l’esistenza di confini ordinati tra l’essere umano e la macchina – analisi poi recuperata e rinvigorita da Rosi Braidotti, Katherine Hayles, Cary Wolfe. Ma al netto di contestatissime araldiche e genealogie, ciò su cui studiose e studiosi concordano è che, se il termine postumano ha un qualche senso, esso non può limitarsi a un nudo riesame di quella gerarchia degli enti che dell’essere umano fa perno e fine ultimo al contempo. C’è assai di più: il postumano porta con sé quello che in gergo tecnico si definisce una metafisica, vale a dire una teoria di ciò che compone il reale. In questo senso, il postumanesimo non è un’opa ostile con cui animali e cose intendono incrementare a loro vantaggio il controllo sul pianeta. Piuttosto, indica una continuità tra ciò che è umano e ciò che non lo è: le innumerevoli forme di embricazione tra cose e persone, che fanno apparire la summa divisio umano/nonumano come l’esercizio di una fantasia delirante e proprietaria, tesa a consolidare il dominio dell’umano – proprio come il notaio che Cristoforo Colombo portò con sé per certificare oltre ogni dubbio la presa di possesso delle nuove terre.

Detto altrimenti, il postumanesimo è quella concezione del mondo e dei suoi enti secondo cui l’identità di un essere umano, come la sua stessa esistenza, è a tal punto legata ai materiali con cui dà forma al proprio ambiente, alle forme di vita che con questi co-abitano, ai microorganismi che ne popolano il corpo, che pensare a una linea di separazione tra quanto è umano e quanto non lo è richiede un’attività di astrazione elaborata e fantasiosa. Insomma, quello postumano è innanzitutto un inno all’eteronomia della vita umana rispetto all’ampio novero di enti che ne fanno quel che è: ogni essere umano, come ogni ente, non è che un collettivo di enti che a sua volta fa parte di altri e più ampi collettivi, i quali si lasciano districare solo a scopi perlopiù analitici, ma in concreto rappresentano una continuità. Questo in fondo il senso ultimo della figura del cyborg di Donna Haraway, tanto celebre quanto incompresa: “Nel mondo cyborg ci si preoccupa delle relazioni che uniscono le parti in un tutto, comprese la polarità e il dominio gerarchico. (…) Lungi dal segnalare una drastica separazione delle persone dalle altre creature viventi, il cyborg indica, in modo inquietante e piacevole, un saldo accoppiamento” (D. Haraway, Manifesto cyborg. Donne, tecnologie e biopolitiche del corpo, Feltrinelli 1995, p. 43). L’invito, ora come allora, è al cambiamento di metro di misura e di principio assiologico: non già il vaticinio di se e quanto il nonumano saprà imitare l’umano (quindi minacciarne la sovranità sul Creato); bensì mappare le potenzialità trasformative insite in questa continuità di enti costitutivamente diversi eppure sempre capaci di creare solide alleanze.

Se per certo gli echi di una tale concezione non mancano nel testo di Piga Bruni, il problema è che dalla sua lettura risulta quasi impercettibile la differenza tra quello che si presenta come un orientamento affatto nuovo verso tale metafisica di fondo e un assai più tradizionale confinamento del nonumano a funzione di superficie riflettente. L’autrice parla di “istanze di semantica liberatoria e critica culturale espresse da questa icona culturale futuristica e suggestiva” (p. 21), qual è l’ibrido umano-macchina, ma di queste istanze alfine se ne trovano poche e nemmeno troppo liberatorie. Ad esempio, benché nelle opere di Dick uno degli obiettivi sia identificare lo “statuto ontologico” della coscienza artificiale (p. 33), l’intento indagatorio segue un medesimo e costante indirizzo: quello di svelare un falso, denunciare una contraffazione, attestare un’impossibilità: “[Q]uella speciale luce interiore sarebbe davvero accesa oppure dietro non ci sarebbe altro che tenebra?” (p. 36). Insomma, davvero può la macchina aspirare a far l’umano? La sua mimesi, immancabilmente artata, sarà un giorno così efficace da indurre il dubbio che, alle qualità grandiose ma cieche della computazione, possa unirsi l’ingegno visionario dell’unico animale parlante? 

Anche nel manga fantascientifico Ghost in the Shell, la fantasia di un androide, graziato dei miracoli dell’“autodeterminazione” e dell’“intenzionalità”, rampolla dell’“ambizione cognitiva di trascendere i confini del proprio corpo nella rete e attraverso piani di realtà diversi” (p. 64). E ha ragione Piga Bruni quando nota che questa proliferazione di troppo facili doppi “sembra rivestire una funzione psichica di appagamento”, come se – qui un rimando del testo a Freud – l’insoddisfazione umana volesse placarsi con un’ambizione sfrenata proiettata su altro (p. 50). Tutte “possibilità non realizzate”, alle quali la fantasia umana tiene troppo perché possa scioglierle nell’acido del principio di realtà. Assai meno gravoso ricomporle in un ente immaginario, con cui non solo l’umano entra in competizione, ma che vuol ridurre in una nuova servitù – quella “delle creature artificiali e il confinamento della loro esistenza in una sfera strumentale priva dei diritti riservati agli umani” (p. 54). Questo d’altro canto il leitmotiv del libro di McEwan, Macchine come me, quantunque concettuoso e raffinato. Nella trama del romanzo, ambientato secondo i protocolli dell’ucronia nell’Inghilterra di un 1982 alternativo, il Governo Thatcher ha perso la guerra delle Falkland e apre la strada all’esecutivo di Tony Benn, mentre Alan Turing, sopravvissuto al carcere e pienamente riabilitato, guida una nuova stagione di fragorose evoluzioni tecnologiche. In questa ridda di fatti mai avveratisi, si snoda una storia d’amori e bugie tra tre protagonisti: un “umano sintetico” dal creazionale nome Adam, Charlie, proprietario di Adam, e la giovane vicina di casa Miranda. Lo snodo fondamentale ha a che fare con la scarsa flessibilità dell’androide, oltreché con la sua incurabile gelosia, innamorato com’è di Miranda. Un’amica di questa, tempo prima, aveva subito violenza sessuale da un tizio, che ella non aveva denunciato e che Miranda riesce a far punire per via di un inganno che lo fa risultare l’autore di una violenza sessuale (stavolta) non commessa. L’intelligenza computazionale di Adam, che solo sa contemplare la lucida autoevidenza dei fatti, non può non provare ripugnanza nei confronti di quella che rimane un’alterazione del vero, non codificabile dalle sofisticate leggi algoritmiche della mente sintetica. Per evitare inconvenienti, Charlie fa fuori Adam – ed è un guaio, perché l’attività dello schiavo iperprestazionale gli garantiva un significativo incremento del reddito. Al di là della vicenda in sé, il tema rimane sempre quanto (o meglio quanto poco) la coscienza dell’ente sintetico possa approssimare la nobile sofisticatezza della cognizione umana, così capace di raddolcire il gelo del calcolo con le vampe degli affetti.

Ma proprio quando si vuole generosamente moltiplicare le forme di intelligenza in nome di un pluralismo quasi animistico, si finisce col forgiare queste forme a immagine e somiglianza di quella umana, col rischio di alterare la mappatura e persino di suscitare arrischiate competizioni – ad esempio, la passione di Adam per la letteratura si riversa poi nell’intenzione sepolcrale di abolirla, nata com’è dalla congenita inettitudine umana allo sciogliere i malintesi. Dinanzi a questa tendenza a un tempo proiettiva e competitiva, credo abbia ragione Pino Donghi quando invita a un realismo meno chic ma forse più efficace, alla cui luce le intelligenze, come quella artificiale, vengano trattate quali “altri modi di manifestarsi della realtà, altre menti” (P. Donghi, ChatGPT). La figura del doppio, se così è, serve a poco, assieme a tutte le suggestioni di una futura apocalissi che l’essere umano approssima al solo fine di appagare le proprie insoddisfazioni. Ma forse le perplessità sin qui espresse – non tanto a riguardo del libro di Piga Bruni, quanto di un generale orientamento (beninteso, soprattutto da parte dei non addetti ai lavori) – trovano una più adeguata e felice sintesi nelle considerazioni anzitempo di Tommaso Landolfi, stese nel 1954. A proposito degli studi sull’intelligenza animale, che per indagare questa utilizzavano il metro dell’intelligenza umana, e quindi ne facevano qualcosa di rappreso e giocoforza involuto, Landolfi replica con un’osservazione che vale almeno tre decenni di critical animal studies: “A noi codesti discorsi e codesti esperimenti […] fanno l’effetto dei discorsi di coloro i quali a proposito di Giotto e dei cosiddetti primitivi parlavano di arte bambina. […] L’interesse degli animali è probabilmente accentrato su oggetti a noi sconosciuti, donde la necessità di sorprenderli e seguirli nei loro sentimenti per la via medesima del sentimento o di rinunciare del tutto a definirli” (T. Landolfi, Gogol’ a Roma, Adelphi 2002, pp. 152-153).

Se continuiamo a tenere vivo questo spazio è grazie a te. Anche un solo euro per noi significa molto. Torna presto a leggerci e SOSTIENI DOPPIOZERO
locatelli