Singolarità tecnologica

Westworld e Humans sono solo due tra le più recenti serie televisive che mettono a tema il nostro rapporto con la singolarità tecnologica, cioè con il momento in cui si produrrà quel salto evolutivo caratterizzato dalla realizzazione di un’intelligenza di tipo superiore, artificiale. Se in Westworld i robot intelligenti sono oggetti di intrattenimento di un parco tematico per ricchi, in Humans sono parte della classe operaia che svolge quelle mansioni che gli umani non vogliono più svolgere, sono assistenti familiari con la funzione di domestici e badanti forniti dal servizio pubblico. Entrambe le serie ci mettono di fronte a questioni etiche e al bisogno di una morale capace di affrontare il rapporto con il post-umano ma soprattutto ipotizzano la singolarità, il momento in cui i robot acquisiscono consapevolezza e libero arbitrio, diventando una specie evolutivamente competitiva nei confronti dell’uomo.

 

In tal senso questi prodotti dell’immaginario non fanno altro che mettere a fuoco le inquietudini del nostro rapporto con le tecnologie intelligenti che, sottotraccia, cogliamo già in un presente prossimo con le auto che si guidano da sole o con gli assistenti intelligenti nei nostri smartphone o gli smart assitant domestici, quelli commercializzati da piattaforme come Amazon e Google. Ma ancora di più nei progetti di robotica, che spesso conosciamo perché raccontati nel mondo dell’informazione, che prevedono tecnologia dalle fattezze umane, capace di espressione facciale, di interazione in linguaggio naturale; fatti di umanoidi capaci di assistere gli anziani anche in relazione alla telemedicina. In un mix tra fascino e preoccupazione ci prepariamo sempre di più al “momento robotico”, come lo definisce la psicologa Sherry Turkle, il momento in cui saremo sempre più disposti a considerare le macchine come reali interlocutori per le nostre questioni personali e intime, il momento in cui saremo empaticamente predisposti a relazionarci con loro.

 

 

È così che le questioni legate alla presenza sociale delle macchine e all’esplosione di una loro intelligenza escono dalle speculazioni accademiche per entrare in un ambito di interesse sociale più vasto, tra approccio futurista e un bisogno immediato di mettere a tema qualcosa di inevitabilmente vicino.

Il libro Vita 3.0. Essere umani nell’era dell’intelligenza artificiale (Raffaello Cortina Editore, 2018), recentemente uscito, è in questo senso uno strumento per costruire oggi un pensiero sull’intelligenza artificiale che ci aspetta domani e sui cambiamenti che introdurrà nell’ambito del lavoro, della cura e della giustizia. Max Tegmark, professore di fisica al MiT e presidente del Future of Life Institute, ha il dono di saper raccontare la complessità del futuro dell’artificiale intelligente ponendo le domande giuste per progettare oggi un allontanamento dei rischi domani, analizzando il pensiero di utopisti digitali – per i quali la vita digitale rappresenterà il prossimo passo dell’evoluzione e, quindi, dobbiamo solo lasciarla sviluppare come una cosa naturale –, tecnoscettici – che ritengono talmente complessa la costruzione di un IA dall’intelligenza umana da non rappresentare un problema reale – e appartenenti al movimento dell’IA benefica, di cui Tegmark fa parte, che prende seriamente una visione polarizzata in cui lo sviluppo tecnologico potrebbe aiutare l’umanità a fiorire o diventare un incubo della cybersorveglianza globale e che quindi lavora cercando di tracciare il contesto culturale e morale in cui far sviluppare il futuro delle macchine in una direzione non orwelliana.

Secondo la prospettiva del volume, la vita può essere pensata come un processo complesso di mantenimento e replicazione che evolve per stadi: la Vita 1.0 è quella di tipo biologico, caratterizzata da hardware e software che sono soggetti alle dinamiche proprie dell’evoluzione; la Vita 2.0 è di tipo culturale, costituita dalla possibilità di progettare il proprio software grazie allo sviluppo consentito dall’apprendimento; la Vita 3.0 ha una natura tecnologica e ha a che fare con la possibilità di progettare anche il proprio hardware, progettando così la propria evoluzione. 

 

L’IA oggi è ristretta, opera cioè in campi specifici e contenuti, su fini limitati, a differenza dell’intelligenza umana che ha una natura ampia. Nel 1997 il computer Deep Blue dell’IBM ha battuto a scacchi il campione mondiale Garry Kasparov, ma si tratta di una macchina particolarmente esperta in quel campo specifico. Ma il miglioramento tecnologico consentirà a tecnologia più potente di cominciare a costruire tecnologia più potente, in una una spirale ascendente in cui vedremo reti neurali sempre più complesse capaci di apprendere ad apprendere. Nel 2015 Google ha reso pubblico il metodo di apprendimento profondo con rinforzo della rete neurale usata per l’IA Deep Mind che consente di imparare da sola diversi giochi online. Oggi abbiamo computer che usano reti neurali di questo tipo per “giocare” con altri computer, evolvendo quindi, per ora, all’interno di simulazioni. C’è da chiedersi cosa accadrà se robot con reti neurali di questo tipo verranno lasciati liberi di evolvere in ambienti reali. 

Il punto, quindi, non è la trasformazione malvagia della macchina, che abbiamo esorcizzato in una miriade di prodotti dell’immaginario fantascientifico, ma la sua competenza nel raggiungere i fini che le sono stati dati attraverso la progettazione algoritmica. Come spiega Tegmark: “Probabilmente non odiate le formiche così tanto da andare in giro a schiacciarle per pura cattiveria, ma se siete responsabili di un progetto idroelettrico per l’energia verde e c’è un formicaio nella regione che verrà inondata, tanto peggio per le formiche. Il movimento per l’IA benefica vuole evitare di mettere l’umanità nella posizione di quelle formiche.” (p.67) 

 

Nel volume vengono analizzati diversi contesti in cui l’IA, in particolare quella più robusta, verrà applicata in modi sempre più complessi: dal mondo delle comunicazioni a quello dei trasporti, dall’esplorazione spaziale alla finanza, dalla sanità al mondo dell’energia, passando ovviamente per la produzione. In questi contesti dovremo affrontare diverse questioni relative alla sicurezza, alla privacy, ai rischi dovuti all’automazione, alla possibilità di errore tecnico e di anomalie nell’hardware o nel software. Ma la trasformazione più profonda ha a che fare con il nostro essere umani, col significato che avrà l’essere umano in un mondo con l’IA: “già nel breve termine, molto prima che un IAG (Intelligenza Artificiale Generale) possa essere alla pari con noi in tutte le attività, l’IA potrà avere conseguenze drastiche su come vediamo noi stessi, su quello che possiamo fare affiancati dall’IA e su quello che possiamo fare per guadagnare denaro facendo concorrenza all’IA” (p. 127).

Una delle ipotesi suggestive presentate dal libro su cosa farà scattare la singolarità è rappresentata dalla teoria del caricamento dell’intelligenza umana in una macchina. È un percorso che si colloca lungo la possibilità di produrre dei cyborg, ibridi tra carne e silicio, che non è solo materia fantascientifica cyberpunk ma propria di una riflessione culturale che dagli anni ’90 è stata esplorata proficuamente, pensiamo solo ai lavori di Donna Haraway, e che rimanda all’evoluzione di innesti e protesi sempre più raffinate. 

 

 

Ripercorrendo le suggestioni del pensiero di Ray Kurzweil, autore di La singolarità è vicina, Tegmark racconta – considerandola una prospettiva però minoritaria pur se possibile – come “l’uso di nanobot, di sistemi a biofeedback intelligenti e di altre tecnologie [finirà] per sostituire prima i nostri sistemi digerente ed endocrino, il nostro sangue e il cuore, agli inizi degli anni Trenta del ventunesimo secolo, per poi passare ad aggiornare scheletro, pelle, cervello e il resto del nostro corpo nei due decenni successivi” (p. 205). I cyborg sono quindi letteralmente intelligenze nella macchina, corpi umani che si modificano fino alla sostituzione completa degli organi che prelude al caricamento dell’intelligenza umana nella macchina, una realtà non incompatibile con i limiti posti dalla fisica, quindi che ha a che fare con il campo delle possibilità – “Quando?” si chiede Tegmark, non “se”. Anche in questo caso la serialità contemporanea ha esplorato nella recente produzione Netflix Altered Carbon, tratta dall’omonimo romanzo cyberpunk, spingendosi oltre il limite, quello di intelligenze umane che vengono scaricate in altri corpi umani.

 

Anche qui siamo di fronte a prefigurazioni che i prodotti dell’immaginario trattano in modo emotivo, spesso mettendoci di fronte alle nostre paure – quelle della prevaricazione da parte delle macchine – ma che nell’avvicinarsi concreto della prospettiva IA evoluta, nella sua quotidianizzazione nelle nostre vite – pensiamo alla diffusione di oggetti intelligenti – stanno aprendosi a questioni etiche più complesse, mostrando l’esigenza di parlare di nuovi diritti – quelli dei robot –, esplorando elementi complessi che rimandano a vissuti interrazziali e a un’antropologia del post-umani: tra Terminator e Humans, per capirci, c’è un abisso. La nostra esigenza oggi è abituarci a un pensiero che contempli la Vita 3.0 come prospettiva concreta.

 

Il lavoro che fa Tegmark in questo volume ci porta a pensare l’IA in modo meno reattivo e più proattivo. Abbiamo quindi bisogno di sviluppare un’etica dell’IA che non si faccia guidare da una casistica spicciola o dagli ultimi hype sulle reti neurali. Dobbiamo pensare al nostro modo di relazionarci con le macchine che parta da una consapevolezza sociologica e culturale e non dalle necessità ingegneristiche legate alle interfacce. E abbiamo bisogno di elaborare il pensiero di un rapporto con un’intelligenza diversa com’è quella delle macchine, per cui possono servire anche prodotti dell’immaginario come serie tv capaci di farci porre molte domande più che fornirci sbrigative risposte catartiche.

Se continuiamo a tenere vivo questo spazio è grazie a te. Anche un solo euro per noi significa molto. Torna presto a leggerci e SOSTIENI DOPPIOZERO