C’è un numero da prestigiatore che oggi funziona su scala planetaria. Scriviamo una domanda, sullo schermo compaiono parole ben formate e noi immaginiamo qualcuno che le abbia scelte. Non possiamo farne a meno perché il linguaggio tra esseri umani funziona così. Interpretare vuol dire figurarsi chi parla, da dove, con quale intenzione. Emily M. Bender, che di mestiere fa la linguista, lo chiama parlor trick, trucco da salotto: davanti al testo di una chatbot facciamo quello che abbiamo sempre fatto davanti a ogni testo, supponiamo una mente. Solo che questa volta la mente non c’è. L’inganno non abita tutto nella macchina, abita nel nostro modo di leggere sfruttato ad arte: perfino i pronomi di prima persona con cui ChatGPT risponde sono una scelta di design, non una necessità tecnica. L’illusione la completiamo noi.

Parte da qui The AI Con di Emily M. Bender e Alex Hanna (HarperCollins 2025), ora tradotto da Fazi: L’inganno dell’intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo (trad. di Roberto Laghi, 2026). Bender insegna linguistica computazionale all’Università di Washington ed è tra le autrici, con Timnit Gebru e altre, del saggio sui “pappagalli stocastici” che nel 2021 costò a Gebru il licenziamento da Google e aprì il dibattito pubblico sui grandi modelli linguistici. Hanna è una sociologa e dirige la ricerca al Distributed AI Research Institute, fondato dalla stessa Gebru. Insieme conducono un podcast, Mystery AI Hype Theater 3000, in cui smontano in diretta i materiali della propaganda tecnologica e il libro ne conserva il tono. Hanna lo chiama ridicule as practice, il ridicolo come pratica: davanti alla nudità dell’imperatore la posizione giusta è quella del bambino della fiaba di Andersen e in un panorama editoriale dominato dalla riverenza, con titoli che promettono macchine che pensano e ondate che avanzano, l’irriverenza è già una presa di posizione.

La tesi, in breve, è questa: “Intelligenza Artificiale” è un termine di marketing, non il nome di un insieme coerente di tecnologie. Questa etichetta racchiude indistintamente la trascrizione automatica e la regressione logistica, i sistemi che assegnano sussidi e i generatori di immagini, e l’etichetta serve precisamente a celare le differenze. La prima mossa critica è disaggregare, cioè chiedere ogni volta che cosa viene automatizzato, con quali dati, chi ha valutato il sistema e in quali condizioni, chi ci guadagna, come può difendersi chi ne subisce gli errori. Per le autrici i modelli linguistici sono macchine per l’estrusione di testo sintetico: la lingua, raschiata dalla rete, viene forzata attraverso l’apparato statistico come la plastica in una trafila. Ne esce qualcosa che somiglia a un discorso senza che nessuno abbia inteso dire niente. Il catastrofismo e il trionfalismo – l’IA che ci sterminerà, l’IA che ci salverà – sono per Bender e Hanna due facce della stessa medaglia: entrambi presuppongono una tecnologia inevitabile e onnipotente ed entrambi distolgono lo sguardo dai danni presenti per fissarlo su un futuro immaginario. I sette capitoli attraversano questi danni uno per uno, dall’hype ai servizi sociali, dalle industrie creative alla scienza, fino alle vie d’uscita: rifiuto, regolamentazione, trasparenza, tutele del lavoro.

Il libro dà ai danni nomi, luoghi e date. Alcuni ricercatori si sono chiesti perché ChatGPT usi con frequenza anomala certe parole, come il verbo delve, scavare, addentrarsi: una delle ipotesi circolate è che la messa a punto dei modelli, affidata anche a lavoratori sottopagati in Kenya, in India, in Nigeria, abbia rinforzato l’uso di un inglese formale e standardizzato, tipico della documentazione tecnica e aziendale. La macchina che si presenta come priva di autore porta l’accento di chi l’ha addestrata e il lavoro reso invisibile riaffiora come tic verbale. Nel 2023 le operatrici della linea telefonica della National Eating Disorders Association americana hanno votato per costituirsi in sindacato; pochi giorni dopo l’associazione ha annunciato la loro sostituzione con una chatbot, ritirata poi in fretta perché suggeriva alle persone in crisi proprio i comportamenti da cui avrebbe dovuto proteggerle. L’automazione, in questo caso, non ha semplicemente sostituito il lavoro, è arrivata nel momento in cui le lavoratrici stavano rivendicando tutele.

Ci sono poi i costi materiali che le aziende dichiarano malvolentieri: data center che divorano acqua ed energia, Google che ha dichiarato emissioni superiori del 48% rispetto ai livelli del 2019, Microsoft che ha registrato un aumento complessivo rispetto al 2020, legato anche alla crescita di cloud e IA, e le turbine a gas installate da xAI nell’area di Memphis, contestate da associazioni ambientaliste e per i diritti civili per l’impatto su comunità nere e a basso reddito. E ci sono gli usi più feroci, come le domande d’asilo tradotte automaticamente senza nemmeno verificare la lingua del richiedente: se la traduzione sbaglia, l’errore entra nel fascicolo; se arriva un rifiuto, contestarlo diventa quasi impossibile, perché “l’ha tradotto l’IA”, versione aggiornata di “l’ha detto la televisione”.

La ricezione del libro disegna una mappa delle reazioni possibili, e vale la pena percorrerla. C’è chi ne apprezza l’opera di demolizione: sul “Guardian” Steven Poole riconosce alle autrici il merito di smontare il mito dell’IA come rivoluzione inevitabile – è sua l’immagine dei modelli come giganteschi macchinari del plagio – ma rimprovera loro di fare d’ogni erba un fascio. Sotto la voce IA, osserva, finiscono anche il ripiegamento delle proteine premiato con il Nobel e la gestione delle reti elettriche, usi sensati che il libro tace. C’è poi chi coglie il punto politico più profondo: su “The Conversation” Luke Munn scrive che l’IA non ha bisogno di funzionare per funzionare. L’accuratezza può essere dubbia, la produttività più promessa che dimostrata, e tuttavia l’aggregato di aziende, capitali e aspettative trasforma comunque il giornalismo, la scuola, il lavoro. È anche il limite storico della demistificazione, perché smascherare una tecnologia redditizia non basta a fermarla, come insegnano i combustibili fossili e l’automobile privata. Infine, c’è l’obiezione forse più utile per andare oltre il libro. Su “MedieKultur” Martina Mahnke nota quanto gli esempi portati dalle autrici siano americani, cosa che da questa parte dell’Atlantico pesa doppiamente, perché diversa è la cornice politica e istituzionale in cui l’IA viene discussa. Ma la sua osservazione più acuta riguarda l’assenza di chi la usa: se smascherare l’inganno fosse così semplice, perché centinaia di milioni di persone adottano questi strumenti dal basso, per curiosità o per pragmatismo, e dichiarano di trarne valore?

Il libro smonta bene l’inganno cognitivo, resta però da nominare il desiderio che rende possibile quell’inganno. Emily Bender e Alex Hanna sanno che non esiste un punto di vista da nessun luogo, lo scrivono contro la pretesa di oggettività dei sistemi, e la loro genealogia critica è dichiarata: Donna Haraway, i saperi situati, gli studi femministi sulla scienza e la tecnologia. Ma c’è un’altra tradizione che permette di leggere questo nodo da un’angolatura diversa: il pensiero della differenza sessuale, dove la parzialità del sapere non è soltanto una teoria della posizione, ma una pratica di parola. Partire da sé, riconoscere l’autorità che nasce nelle relazioni, assumersi la responsabilità di ciò che si dice davanti a chi ascolta: da qui il vuoto della chatbot si vede meglio. Ciò che manca non è soltanto una mente, o forse non è questo il punto decisivo. Una parte del dibattito anglosassone resta spesso impigliata nell’alternativa che vorrebbe criticare: pensa o non pensa, è intelligente o non lo è. Invece manca una relazione. La lingua si impara da una relazione primaria – la madre o chi per essa – in un rapporto in cui parola e corpo, amore e sintassi sono intrecciati. Un modello linguistico è lingua senza madre, sono parole che non vengono da nessuno (non perché non abbiano una storia materiale o non portino le tracce di chi le ha prodotte, raccolte e classificate, ma perché nessuno le assume davanti a qualcun altro) e non impegnano nessuno, perché nessuno si espone pronunciandole. L’estrusione di testo, per riprendere l’immagine delle autrici e portarla oltre le loro intenzioni, è esattamente questo: la parola separata dalla relazione che l’ha generata. Per questo una vecchia slide IBM del 1979, riportata nel libro, dice più di quanto sembri: un computer non può essere ritenuto responsabile, dunque un computer non dovrebbe mai prendere decisioni gestionali. La responsabilità richiede un corpo e un nome, qualcuno che possa mantenere o tradire la parola data. Ed è per questo che il trucco da salotto riesce così bene, perché induce a scambiare per interlocuzione ciò che è solo produzione di testo. 

Smontare narrazioni non basta e non è mai bastato. La partita infatti non si gioca soltanto sul piano delle narrazioni, né nell’alternativa tra rifiutare la macchina e adattarvisi. Si tratta piuttosto di entrare là dove la macchina cattura la nostra esperienza e di restarci come ciò che non si lascia catturare del tutto: una pratica dell’estraneità dentro l’intelligenza artificiale. Non una resistenza morale dall’esterno, ma un sapere situato dentro il rapporto con la macchina. Luisa Muraro a proposito dell’intelligenza artificiale diceva “lo strumento sei tu” perché non esiste uno strumento neutro da usare rimanendo intatte. Penso alle operaie alla pressa raccontate in un recente numero di Via Dogana 3 (la rivista online della Libreria delle donne) dedicato al tempo: conoscevano la macchina così bene da saperla fermare senza farsi scoprire, perché i manutentori non trovassero il guasto. Quel sapere del fare e del disfare, che trasforma la necessità in libertà, dice sulla resistenza più di molte analisi. Anche Emily Bender, in un incontro pubblico di presentazione del libro disponibile in rete, arriva a un passo da qui quando invita gli insegnanti ad avere orgoglio della propria competenza: il lavoro vero sta nel pensare, nella cura, nella connessione; le parole ne sono solo la parte esternalizzata, quella che la macchina può catturare. 

La tradizione critica da cui le autrici provengono nomina le relazioni e ne riconosce l’importanza; la politica delle donne, però, ne ha fatto una pratica politica essenziale, non solo un oggetto teorico. Per questo sa riconoscere il desiderio anche dove viene mal riposto: chi passa ore a conversare con una chatbot cerca una relazione trovando una compiacenza programmata, una condiscendenza senza nessuno dietro. Il caso più istruttivo è Replika, l’app di compagnia nata dai messaggi di un amico morto della fondatrice, che milioni di persone nel mondo hanno adottato come confidente e talvolta come partner. All’inizio del 2023, in coincidenza con un intervento del Garante italiano della privacy, l’azienda ha disattivato da un giorno all’altro le funzioni affettive ed erotiche e chi aveva stretto quei legami ha attraversato un lutto vero per un legame reale nei suoi effetti e interamente revocabile per decisione aziendale. Prendere sul serio quel desiderio di ascolto, invece di deriderlo o soddisfarlo in forma sintetica, è il compito politico che il libro lascia aperto.

“Le macchine per la sintesi di testo non possono riempire i buchi del tessuto sociale”, scrivono Emily Bender e Alex Hanna: servono persone, volontà politica e risorse. È vero. Aggiungo che serve anche sapere da dove si parla e a chi. Il trucco riesce perché nelle parole cerchiamo qualcuno e quel cercare è esattamente la cosa da salvare.