Governance e algoritmi

Parte 1. Immersi nei dati

Gli algoritmi sono citati sempre più spesso in quanto meccanismi che costruiscono e in-formano la nostra vita quotidiana, immersa nell’informazione. La loro importanza è riconosciuta, le loro performance analizzate in numerosi contesti. Ciononostante, molto di ciò che costituisce gli “algoritmi” è spesso dato per scontato, al di là della definizione, assai comprensiva, di “procedure codificate, basate su calcoli specifici, per trasformare dati di input in un desiderato output”. Al tempo stesso, gli algoritmi sono “definiti come potenti entità che controllano, governano, classificano, regolano e informano una grande varietà di attività, dagli scambi commerciali alla presentazione di notizie”. Di recente, un evento interdisciplinare organizzato alla New York University ha analizzato questo fenomeno da un punto di vista interessante: quello della governance - governance per mezzo degli algoritmi, oltre che degli algoritmi stessi.

 

Questo articolo contribuisce alle discussioni su “che cosa fanno gli algoritmi”, e in che modi sono meccanismi di governance. La questione del rapporto tra algoritmi e regole è certamente destinata a occupare un ruolo sempre più fondamentale nello studio e nella pratica dell’Internet governance, sia in termini della regolazione degli algoritmi da parte delle istituzioni, sia della regolazione, da parte degli algoritmi, della società in cui viviamo.

 

Gli studiosi del campo Scienza, tecnologia e società (Science and Technology Studies o Science, Technology and Society, entrambi abbreviati in STS) si occupano da tempo di questioni come il ruolo dell’invisibilità nei processi di classificazione che ordinano le interazioni umane; le procedure attraverso cui le categorie sono create e rimangono implicite; i modi in cui l’invisibilità viene “resa visibile” da alcuni attori in circostanze specifiche; l’importanza dei sistemi di classificazione per la costruzione delle infrastrutture di informazione. Ma la questione della classificazione e dell’organizzazione dell’informazione che ci circonda non è forse mai stata tanto rilevante quanto lo è oggi, nella nostra era di sovraccarico informativo e di accesso mediato da Internet alla grande maggioranza delle informazioni che ci circondano. I dati digitali sembrano proliferare nel complesso mondo di oggi, costruendo la loro onnipresenza sulla varietà di piattaforme e supporti che permettono la dematerializzazione, la rapida circolazione, la distribuzione. Servono scopi differenti, dal commercio alla sorveglianza, dalla valutazione alla raccomandazione; sono elencati, raggruppati e organizzati tramite molteplici supporti e dispositivi, dai motori di ricerca ai siti di commercio elettronico. Mentre le compagnie mettono a profitto le tracce lasciate sul web dagli internauti/consumatori, in modo da indirizzare, personalizzare (e trarre vantaggio da) i loro prossimi acquisti e ordini, gli utenti si inquietano dell’accuratezza dei “ritratti” che queste tracce permettono di dipingere, e dell’impossibilità di modificarli o cancellarli, lasciati “in balia” delle generazioni future.

 

Mettendo in rilievo come si stia attualmente entrando nell’era dei big data e degli algoritmi pervasivi, diversi autori sottolineano che questo è “un cambio di paradigma notevole nello sviluppo dei servizi digitali (in quanto) dà un’importanza decisiva non solo a chi possiede i dati, ma anche e specialmente a chi possiede la capacità di renderli intellegibili. Gli algoritmi che sottendono le tecnologie dell’informazione e della comunicazione che usiamo quotidianamente, in primo luogo Internet, sono (anche) artefatti di governance, meccanismi di potere e “politica tramite altri mezzi”.

 

Nell’intitolare una conferenza organizzata alla New York University nel maggio scorso “Governing Algorithms”, i suoi organizzatori hanno deliberatamente scelto di restare ambigui - accennando sia alla governance di cui gli algoritmi sono oggetto, cioè la misura in cui il diritto e la politica possono influenzare le istruzioni e le procedure che sottendono la tecnologia, sia al potere “governante” degli algoritmi stessi. L’onnipresenza degli algoritmi nelle società umane sembra ormai una delle questioni fondamentali dei nostri tempi; sono una caratteristica chiave del nostro ecosistema di comunicazione e anche del nostro sistema di norme culturali, in quanto contribuiscono al “prendere forma” dell’informazione a cui abbiamo accesso, e dei modi in cui viene organizzata. In un recente articolo, Tarleton Gillespie presenta sei dimensioni di valenza politica per gli algoritmi che hanno una rilevanza pubblica - cioè quegli algoritmi che vengono usati per selezionare ciò che è più rilevante da un corpus di dati composte da tracce delle nostre attività, preferenze ed espressioni:

 

- Pattern d’inclusione: le scelte che sottendono la costituzione di un indice, ciò che ne è incluso ed escluso, e come i dati vengono “preparati” per l’algoritmo;
- Cicli di anticipazione: le conseguenze dei tentativi, da parte dei creatori dell’algoritmo, di ottenere informazioni sui loro utenti, e di fare predizioni sui loro comportamenti futuri;
- Valutazione della rilevanza: i criteri tramite cui gli algoritmi determinano ciò che è non solo rilevante, ma appropriato e legittimo;
- Promessa di obiettività: il modo in cui la natura tecnica dell’algoritmo è presentata come una garanzia d’imparzialità, particolarmente in caso di controversia;
- Legame con la pratica: il processo tramite cui gli utenti ri-informano le loro pratiche per conformarsi agli algoritmi da cui dipendono, e trasformano gli algoritmi in un terreno di confronto politico;
- Infine, la produzione di pubblici calcolati: il processo di presentazione algoritmica dei pubblici a loro stessi, e come ciò determina il senso che un pubblico ha di se stesso.

 

Queste sei dimensioni portano alla luce due importanti conseguenze del “calcolo” della nostra società dell’informazione. Nel delegare agli algoritmi un certo numero di compiti che sarebbero impossibili da eseguire manualmente, il processo di sottomissione dei dati all’analisi diventa automatizzato; a sua volta, i risultati di queste analisi automatizzano i processi decisionali. Questa doppia automazione è legata, a sua volta, a problemi di agency e di controllo. Sollevare questioni come “Chi sono gli arbitri degli algoritmi?”; “La concezione di un algoritmo è una manifestazione di autorità su qualcosa di più che sull’algoritmo in sé?”; “Qual è, se esiste, il grado di autonomia degli algoritmi?”, significa esaminare la responsabilità di questi artefatti socio-tecnici, quella dei loro creatori e dei loro utenti e, infine, gli equilibri di potere facilitati o permessi dagli algoritmi.
La questione del rapporto tra gli algoritmi e le regole occuperà, con tutta probabilità, un ruolo sempre più centrale nello studio e nella pratica dell'Internet governance e, più in generale, della governance dei sistemi complessi e automatizzati che informano il nostro mondo quotidiano.

 

Questo articolo e la sua seconda parte, di prossima pubblicazione, sono tratti dall’articolo Governance By Algorithms, pubblicato nell’agosto 2013 sull’Internet Policy Review.

Saul Steinberg

Se continuiamo a tenere vivo questo spazio è grazie a te. Anche un solo euro per noi significa molto. Torna presto a leggerci e SOSTIENI DOPPIOZERO