L’inconscio tecnologico

8 Febbraio 2024

“Questo sarà un discorso sul futuro” scrive Stanisław Lem nella Summa Technologiae. Scritti sul futuro (a cura di Luigi Martinelli, LUISS Press, 2023, prima edizione 1964). Ma un discorso sul futuro non è, come precisa subito dopo, “un’occupazione quantomeno inopportuna per chi si è smarrito nelle selve a elevata infiammabilità del nostro presente?” (p. 39). È vero, siamo così presi dalla cronaca del presente che non ci accorgiamo non tanto del futuro remoto, quello immaginato dalla fantascienza, quanto del futuro prossimo, di quello che di fatto è già presente. Il futuro che non è più futuribile ma è già ora, semmai già quasi passato. È di questo futuro, cioè del nostro presente, che scriveva Stanisław Lem (l’autore di Solaris) più di mezzo secolo fa, di un futuro appunto già allora evidente, solo che lo si fosse voluto vedere. In questo senso, prosegue Lem, scrivere sul futuro “si fonda sul fatto che il mondo esiste e continuerà a esistere” (p. 39). Perché questa scrittura, come ogni scrittura di fantascienza, non smette mai di essere anche un esercizio di realismo. La fantascienza parla sempre e solo di questo mondo, l’unico che c’è.

Il punto di partenza di questa Summa è che, “qualunque cosa faccia, l’essere umano non sa quasi mai quello che effettivamente fa, o comunque non lo sa fino in fondo” (p. 40). La fantascienza che si occupa di tecnologia ha quindi a che fare con l’inconscio, perché la tecnologia incarna una potenza quasi vivente, perché la tecnologia non è tanto un insieme di tecniche quanto una forma di vita, una inumana forma di vita. L’immaginazione fantascientifica non parla, allora, di mondi di là da venire, parla piuttosto di mondi sempre sul punto di realizzarsi, tanto più affascinanti e temibili quanto più, appunto, incarnano pensieri e affetti inconsci. Fin dall’inizio la tecnologia assume allora un carattere inquietante, come una potenza che sfugge largamente alla presa da parte di coloro che credono di controllarla. Si pensi al caso della pistola, una tecnologia recente, e tuttavia antica quanto Homo sapiens; è uno strumento – che come tale dovrebbe essere al servizio degli esseri umani – ma è difficile resistere, quando la si porta in tasca (se la si porta in tasca si è già deciso di usarla, prima o poi), alla tentazione di usarla, di premere il grilletto. A quel punto sarà stato un indice di una mano umana che lo avrà premuto, certo, è tuttavia il semplice fatto che quel grilletto fosse lì pronto a scattare esercita un’attrattiva a cui è difficile resistere. Se hai una pistola è per usarla, per sparare a qualcuno. Per uccidere qualcuno.

Perché la tecnologia, appunto, è quasi vivente, cioè vive una specie di vita autonoma, indipendente da noialtri umani. Si pensi ancora al caso della pistola. Il modo più semplice per evitare di usarla sarebbe di toglierla dalla circolazione, e invece la soluzione tecnica al problema posto dalla pistola è un espediente tecnico, la sicura, che dovrebbe impedire uno sparo accidentale. Ma poi la pistola spara lo stesso, chissà perché. Perché si pensa (e chissà chi è che pensa davvero questo pensiero), che “l’unico modo per affrontare una tecnologia è un’altra tecnologia” (p. 42). La tecnologia, più che risolvere problemi o soddisfare bisogni umani, in realtà è un dispositivo che produce altra tecnologia, altri bisogni tecnologici. La tecnologia risolve problemi posti dalla stessa tecnologia, creandone così di nuovi, in un ciclo ricorsivo che sfugge completamente al nostro controllo. E così si arriva al problema che è all’origine di queste pagine: “ma non è lo sviluppo di questa o quella tecnologia che è qui in questione, quanto piuttosto le conseguenze sconosciute di tale sviluppo” (p. 44). Torna di nuovo la questione dell’inconscio: “ci interessa altresì un fenomeno più generale e di ordine superiore” rispetto a quello del tutto non interessante posto delle singole tecniche: “chi è la causa di chi? La tecnologia di noi o anche noi di essa? È la tecnologia a condurci dove vuole, magari alla rovina, o noi possiamo anche indurla a piegarsi al nostro intento?” (p. 48). C’è che la tecnologia – ed è interessante questa consapevolezza da parte di uno scrittore che viveva nel blocco comunista, almeno in linea di principio sotto il segno di Karl Marx – incarna un potere in qualche modo impolitico o almeno poco influenzabile dalla politica (non stupisce mai abbastanza che il dispositivo tecnologico è adottato senza discussioni sia nel capitalismo occidentale sia nel comunismo cinese): 

n

“Il meccanismo delle singole tecnologie, sia di quelle esistenti sia di quelle possibili, non m’interessa e non dovrei occuparmene se, a somiglianza di quella divina, l’azione creativa degli esseri umani fosse libera da ogni forma di contaminazione da inconsapevolezza, se cioè ora o qualunque altra volta sapessimo realizzare il nostro scopo allo stato puro, eguagliando la precisione metodologica della Genesi – cioè se dicendo: “Sia la luce!” ottenessimo come prodotto finale solo mera luminosità, senza alcuna aggiunta di altre sfumature indesiderate” (p. 40).

Il punto è proprio questo, che è impossibile ottenere un “prodotto finale senza aggiunta alcuna di altre sfumature indesiderate”. Perché – come nel caso dei famigerati e ipocriti ‘effetti collaterali’ civili delle bombe sganciate su obiettivi militari – sono solo le “sfumature indesiderate” a qualificare l’effettiva portata di una tecnologia, non il suo obiettivo dichiarato, bensì gli effetti imprevisti (anche se, proprio come dimostra questo libro, ampiamente prevedibili). La principale di queste “sfumature indesiderate” (e va rimarcata l’ironia di queste “sfumature”) consiste nel fatto che il dispositivo tecnologico, una volta messo in movimento, non può che produrre altra tecnologia: lo scopo della tecnica coincide con la tecnica stessa, circolarmente e ottusamente. Quando Lem parla di “intellettronica” sta appunto parlando di quello che ora è evidente a tutti, talmente evidente che cominciano a preoccuparsi le stesse aziende che programmano e vendono i dispositivi di intelligenza artificiale: “chi conquisterà il predominio e lo spazio strategico per le manovre della civiltà” si chiede Lem: “un’umanità che possa liberamente scegliere i mezzi tecnologici dall’arsenale a sua disposizione o una tecnologia che attraverso l’automazione coroni il processo di de-umanizzazione del proprio campo d’azione?” (p. 48).

Quando vediamo, nelle tante guerre in corso, droni e robot armati ‘guidati’ dall’intelligenza artificiale massacrare migliaia di esseri umani, siamo ancora sicuri che la presenza del ‘man in the loop’ – cioè del controllo di un paio di occhi umani nel circuito di scoperta degli obiettivi da annientare – significhi davvero qualcosa? Quel paio di occhi umani è ancora umano una volta asservito al dispositivo semi-automatico? Che un essere umano abbia ‘autorizzato’ il lancio di un missile da un drone su una casa in cui si suppone sia presente un terrorista, uccidendo indistintamente tutti i presenti, civili o no, rende forse ‘morale’ l’uso di quella tecnologia? Non è solo che quel ‘man in the loop’ è ipocrita, è che non ci si rende conto – torna qui l’inconscio tecnologico, in senso sia oggettivo che soggettivo – che ormai è il dispositivo che ‘pensa’ e ‘decide’, e non perché sia più intelligente dell’essere umano, quanto perché il dispositivo tecnologico incarna una forma di vita in cui la razionalità tecnica ha preso il posto di quella umana (che, evidentemente, non è migliore perché umana, è soltanto una razionalità ancora in qualche misura decidibile dagli esseri umani, mentre quella tecnica decide per sé, non sa che farsene della politica e tantomeno della morale). Su questo punto Lem aveva già le idee chiare, collocando l’“intellettronica” fra le forme di intelligenza dotate del più alto grado di autonomia:

“Di un ancora più alto grado di libertà sono dotati i sistemi che, per giungere a un determinato scopo, sono in grado di trasformare sé stessi […]. possiede anche la libertà di scelta nel campo del materiale con cui “si autocostruisce”. […]. Questa [intelligenza] presenta tutte le caratteristiche di un sistema retroattivo, programmato “dall’esterno”, cioè potenzialmente autorganizzato, nonché dotato sia della libertà di trasformarsi completamente (come una specie viva in evoluzione), sia della libertà di scelta del materiale costruttivo (giacché la tecnologia ha a propria disposizione tutto ciò che contiene l’universo)” (p. 49).

L’altra forma di intelligenza di cui parla Lem è, con un’altra formula efficace, la “fantomologia”, cioè “l’attribuzione di un’esistenza oggettiva a strutture matematiche a cui non corrisponde niente in natura” (p. 218). Si tratta di quella che oggi conosciamo come realtà virtuale, mentre la formula di Lem mette meglio in evidenza il carattere puramente fantasmatico, onirico appunto, di questo ‘mondo’ di fantasmi. Anche in questo caso è la dimensione inconscia della tecnologia in primo piano: “è possibile – ci domandiamo – creare una realtà artificiale assolutamente simile a quella naturale, ma che non si possa in nessun modo distinguere da essa? Il primo tema è la creazione di mondi; il secondo, di illusioni. Ma di illusioni perfette. Non so del resto se si possano chiamare solo illusioni. Giudicate voi” (p. 231). Una “illusione perfetta”, se davvero è perfetta, è ancora una illusione? “Nella sua essenza” – diceva in una celebre intervista il discusso filosofo Martin Heidegger proprio negli stessi anni in cui veniva pubblicato questo libro – “è qualcosa che di per sé l’uomo non è in grado di dominare” (Ormai solo un dio ci può salvare, Guanda, p. 135). Il punto è che non solo non è in grado di dominare, ma viviamo in un mondo in cui sempre più persone non hanno nessuna intenzione di governare questo dispositivo, e non desiderano altro che affidarsi completamente al mondo della “intellettronica” e della “fantomologia”. Forse per questa ragione, nella Conclusione del libro, Lem dichiara di preferire il linguaggio e l’intelligenza ‘elementare’ dei cromosomi, cioè della vita, rispetto a quelli cerebrali e poi artificiali:

“Questo linguaggio, così perfettamente a-teorico, anticipa non solo le condizioni del fondo degli oceani e delle cime delle montagne, ma anche il carattere quantistico della luce, la termodinamica, l’elettrochimica, l’ecolocazione, l’idrostatica e Dio sa quanto altro di cui ancora non sappiamo nulla! Lo fa solo “praticamente”, perché, pur essendo causa di tutto, non capisce nulla. Eppure il suo essere senza intelligenza è molto più produttivo della nostra saggezza. […] Vale davvero la pena di imparare questa lingua che crea i filosofi, mentre la nostra crea solo le filosofie” (p. 405).

Se continuiamo a tenere vivo questo spazio è grazie a te. Anche un solo euro per noi significa molto. Torna presto a leggerci e SOSTIENI DOPPIOZERO
TAGGED: Stanisław Lem
locatelli