Sono arrivato a Le simmetrie nascoste di Giorgio Parisi incuriosito soprattutto da quello che avevo sentito della parte finale del libro, dedicata alle intelligenze artificiali. Da qualche tempo sto elaborando le argomentazioni per una preoccupazione sull’intelligenza artificiale che non riguarda lo scenario, ormai quasi mitologico, di una macchina che un giorno acquisti una propria volontà e decida di usarla contro di noi. Mi preoccupa la possibilità che macchine prive di una volontà propria diventino strumenti attraverso i quali pochissime volontà umane acquistano un’influenza quasi impercettibile ma potentissima su tutte le altre.

Nel libro ci ho trovato, e non mi ha sorpreso, molti altri motivi di interesse. Le simmetrie nascoste racconta un’affascinante traiettoria della fisica moderna: dalla probabilità e dalla fisica statistica ai sistemi complessi, dai vetri di spin alle reti neurali e infine alle intelligenze artificiali di oggi. Non è la storia di una disciplina che improvvisamente decide di occuparsi di computer e temi collegati. È piuttosto la storia di idee nate per capire problemi di fisica apparentemente lontanissimi e che, molti anni dopo, si sono rivelate capaci di contribuire allo sviluppo delle intelligenze artificiali.

Fra i temi del libro che più risuonano con i miei interessi di ricerca c’è il modo in cui, quando moltissimi costituenti interagiscono, possono manifestarsi proprietà collettive che non sono direttamente riconducibili a proprietà individuali dei costituenti. Anche studiando in grande dettaglio un singolo momento magnetico, non si ricavano informazioni sufficienti per comprendere il comportamento collettivo di un “vetro di spin”, un materiale magnetico disordinato nel quale un numero elevatissimo di momenti magnetici interagisce in modo complesso. Qualcosa di simile accade con i neuroni: lo studio di un singolo neurone, per quanto approfondito, non basta a comprendere le proprietà che emergono in un sistema neurale complesso come il nostro cervello.

La meccanica ci aveva abituati a concentrarci sulla descrizione dell’evoluzione individuale dei singoli costituenti di un sistema fisico. La fisica statistica ci ha insegnato che quando i costituenti diventano miliardi di miliardi, però, quella strada non è soltanto impraticabile: spesso non è neppure quella concettualmente più utile. La probabilità smette di essere solo un modo per gestire la nostra ignoranza sulle proprietà individuali dei costituenti e diventa parte del linguaggio attraverso il quale emergono proprietà e regolarità collettive cruciali per la comprensione dei comportamenti del sistema. Questa prospettiva, alla quale Parisi ha dato contributi decisivi, resta potente anche in uno degli avamposti più estremi della fisica contemporanea, la gravità quantistica. Una delle possibilità oggi investigate è infatti che lo spaziotempo stesso emerga come proprietà collettiva di una struttura quantistica più fondamentale, della quale ancora non conosciamo la natura.

Nei sistemi complessi raccontati da Parisi non conta soltanto che i costituenti siano numerosissimi. Nei vetri di spin, per esempio, ogni momento magnetico risente di interazioni che tendono a orientarlo in modi fra loro incompatibili. Non esiste quindi una configurazione che sia contemporaneamente favorevole per tutte le interazioni. I fisici chiamano frustrazione questa situazione. È una parola tecnica ma, come spesso accade con le parole ben scelte, conserva qualcosa del significato quotidiano: la configurazione che si realizza rappresenta necessariamente un compromesso fra esigenze che non possono essere tutte appagate.

È qui che compare una delle idee più affascinanti della storia raccontata da Parisi, quella che nel titolo segnala il concetto di simmetria nascosta. Per trattare matematicamente questi sistemi si introduce un artificio ingegnoso: si studiano formalmente più copie, o repliche, dello stesso sistema. Quelle repliche non sono oggetti che esistono nel pezzo di materiale: le abbiamo introdotte noi per rendere trattabili alcuni calcoli. Proprio perché sono copie artificialmente equivalenti, la formulazione matematica possiede una simmetria rispetto al loro scambio. La soluzione inizialmente adottata trattava quella simmetria nel modo più semplice, imponendo che anche la struttura della soluzione conservasse la completa equivalenza fra le repliche, ma a basse temperature portava, fra le altre cose, a un valore negativo dell’entropia. Per un sistema formato da un numero finito di possibili stati microscopici, l’entropia non può scendere sotto zero: era quindi un segnale molto concreto che quella soluzione non poteva essere quella giusta. Il passaggio decisivo di Parisi fu trovare uno schema di rottura della simmetria fra repliche: la simmetria rimane nelle regole con cui il problema è formulato, ma non nella struttura della soluzione che descrive il sistema. Questo rivelò una molteplicità enorme di stati di equilibrio, organizzati secondo una struttura sorprendentemente ricca.

La simmetria fra repliche è nascosta, nel senso inteso da Parisi, perché non riflette una caratteristica intrinseca del sistema studiato. Siamo noi a introdurre le repliche come artificio matematico, e la struttura così costruita possiede una simmetria la cui comprensione si è rivelata potentissima per capire il sistema reale. Ovviamente non tutte le simmetrie di interesse per la fisica hanno questo carattere. Alcune esprimono proprietà delle leggi fisiche stesse. Ad esempio, alcune delle proprietà peculiari di una trottola in rotazione sono profondamente legate alla simmetria delle leggi fisiche rispetto alle rotazioni: se ruotiamo nello spazio l’intero esperimento, senza cambiarne le condizioni fisiche, le leggi che lo governano rimangono le stesse. In casi così la simmetria non nasce da un artificio introdotto per fare i calcoli: esprime una reale indifferenza delle leggi della natura rispetto all’orientamento dell’esperimento.

Il libro illustra anche in modo potente quanto sia importante incoraggiare la curiosità scientifica. Gli studi dei vetri di spin erano nati dal tentativo di capire materiali disordinati e problemi che potevano apparire lontanissimi da qualunque applicazione destinata a trasformare la vita quotidiana. In seguito i metodi sviluppati nello studio dei vetri di spin, compresi quelli basati sulle repliche e sulla rottura della loro simmetria, furono applicati in ambiti che inizialmente si sarebbero ritenuti del tutto estranei, tra cui lo studio delle reti neurali e la fisica del ripiegamento delle proteine. Il documento scientifico che accompagnò il premio Nobel conferito a Parisi sottolinea in particolare il legame con le reti neurali di Hopfield: le molte memorie che una rete può immagazzinare possono essere messe in relazione con i molteplici equilibri di un vetro di spin. È una delle tante storie che dovrebbero rendere prudente chi pretende dalla ricerca di base che dichiari in anticipo a che cosa servirà.

Nella parte dedicata all’intelligenza artificiale il libro incontra effettivamente i temi per cui ci ero arrivato. Parisi mette in primo piano il problema del monopolio: la concentrazione della conoscenza, dei modelli, dei dati e della capacità di costruire le AI più potenti nelle mani di pochissimi soggetti.

In alcuni interventi successivi Parisi ha reso ancora più esplicita la risposta che immagina. Regolamentare è necessario, ma non basta: occorre costruire un’alternativa pubblica. Ha proposto, insieme ad altri, un grande centro europeo per l’intelligenza artificiale, una sorta di CERN dell’AI: un’infrastruttura pubblica e condivisa capace di mettere insieme risorse che nessun paese europeo potrebbe sostenere da solo e di produrre conoscenza non subordinata agli interessi di poche aziende private.

A mio avviso l’invito di Parisi è non solo condivisibile, ma merita urgente attenzione. È facile prevedere che il progresso delle AI sarà velocissimo, e altrettanto veloce potrà essere la conquista di posizioni di influenza che, una volta consolidate, sarebbe complicatissimo contrastare. E senz’altro regolamentare non basta. Differenze minuscole nel modo in cui un’AI seleziona le fonti, presenta gli argomenti o formula un dubbio possono produrre un effetto quasi impercettibile sulla singola conversazione che, moltiplicato per milioni o miliardi di conversazioni, può diventare un enorme effetto complessivo sull’orientamento delle opinioni. Ma nessun regolamento, per quanto dettagliato, potrebbe inseguire una per una differenze così minute.

E non occorre neppure che l’orientamento sia intenzionale. Se le AI più performanti e quindi più diffuse fossero sviluppate prevalentemente in una particolare area culturale del mondo, sarebbe sorprendente se nella scelta dei dati, nei criteri usati per valutare le risposte e persino nel modo di stabilire quali cautele siano ragionevoli non sopravvivesse qualcosa della visione del mondo prevalente in quell’area culturale. Un punto di vista particolare potrebbe così acquisire l’apparenza della neutralità senza che nessuno abbia deliberatamente progettato il risultato.

Per chi misura il progresso soprattutto in termini di riduzione delle diseguaglianze, l’avvento delle intelligenze artificiali è un’opportunità straordinaria e al tempo stesso un rischio formidabile. Le intelligenze artificiali che sogno potrebbero ridurre le diseguaglianze di accesso alla conoscenza e offrire a tanti un supporto senza precedenti nella valutazione delle proprie decisioni. Ma nelle condizioni attuali è altrettanto concreto il rischio che le AI diventino amplificatori di diseguaglianza e strumenti potentissimi di manipolazione proprio di coloro che hanno meno strumenti per difendersi.

Dal punto di vista logico-matematico l’obiettivo di “assicurarsi che l’AI fornisca all’utente le informazioni che più sono nel suo interesse” è in realtà molto complesso. La teoria dei giochi sa descrivere situazioni nelle quali numerosi individui interagiscono cercando di massimizzare il proprio “punteggio”. Qui però l’interazione fra gli individui è mediata dall’AI, e una parte essenziale del problema sta proprio nello stabilire quale punteggio l’AI dovrebbe ottimizzare. Persino un obiettivo apparentemente chiaro come ridurre le diseguaglianze diventa molto meno semplice appena si prova a introdurre un punteggio che tenga conto di quali diseguaglianze debbano avere priorità sulle altre e di quali costi in termini di altri valori siano tollerabili. Ma l’importanza della posta in gioco rende inaccettabile arrenderci al cospetto della complessità del problema. Vuol solo dire che questo è un caso in cui occorre mettere in campo una dose particolarmente corposa di quella curiosità scientifica di cui il libro di Parisi è un’appassionata difesa.

Leggi anche:
Emilia Margoni | L’autobiografia erratica di Giorgio Parisi
Emilia Margoni | Giorgio Parisi e la complessità dell’ordine