ll 24 giugno 2020 un consistente gruppo di studiosi tra i quali gli autori di questo post hanno pubblicato su Nature un articolo intitolato “Five ways to ensure that models serve society: a manifesto“.
Dalla finanza all’istruzione, dall’economia all’ambiente, ricorriamo in misura crescente a numeri e algoritmi, per aumentare efficienza e profitto, misurare la velocità di conseguimento di obiettivi, per classificare e decidere. Come pesci con l’acqua, non siamo pienamente consapevoli dei numeri che ci circondano e della loro accresciuta importanza. Su questi temi si organizza in movimento critico una piccola ed eterogenea pattuglia di studiosi che si contrappone ad un immaginario sociotecnico per il quale la tecnologia fornisce la soluzione ai problemi creati dalla tecnologia: numeri ed algoritmi che rimedierebbero ai guasti della modernità. Senza una consapevolezza del fenomeno nessuna risposta è possibile.
Modelli nel linguaggio di tutti i giorni
Espressioni come “appiattire la curva” o, in uno slang più internazionale, “Wild-Ass’numbers” (numeri del… piffero), sono entrati nella cronaca della pandemia. Questo dimostra come il gergo della modellistica matematica sia entrato nel linguaggio comune e, allo stesso tempo, sia in atto un’accesa disputa sulla modellistica matematica del virus COVID-19.
Il dibattito in corso raccoglie e rilancia una critica crescente tra gli studiosi della scienza, che da qualche anno seguono l’uso di modelli matematici, algoritmi e metriche, alla base di molte politiche pubbliche e attività economiche, per misurare e decidere secondo criteri di efficienza. La critica si sofferma su molti aspetti, fra i quali il fatto che questi oggetti che producono numeri con supposta oggettività sono in uso crescente, e che hanno altresì un carattere prescrittivo e performativo, vale a dire una crescente capacità di influenzare o addirittura creare ciò che descrivono.
Sebbene gli esempi discussi in letteratura e che riguardano algoritmi, statistiche, indicatori, ratings e modelli, possano apparire oggetti diversi, con problemi diversi, ad un’analisi più attenta è possibile riconoscere comunanze nelle disfunzioni attivate da questi diversi stili di quantificazione, non ultimo il loro appeal mediatico, e la loro capacità darwiniana di adattamento ai bisogni degli agenti economici in cerca di profitto e di quelli politici in cerca di influenza.
A lanciare l’allarme sulla proliferazione di armi di distruzione matematica sono gli stessi specialisti. Secondo la data scientist Cathy O’Neil il sistema di rating delle università innesca un processo sempre più marcato di commercializzazione dell’istruzione superiore, con una esplosione dei costi per studenti e famiglie, una diagnosi confermata dallo storico Jerry Muller.
Per Jaron Lanier, saggista ed esperto in tecnologia, big data ed algoritmi popolano sempre più ed in profondità le nostre vite, pilotate da un capitalismo delle piattaforme foriero di sempre maggiori disuguaglianze. Secondo la sociologa Shoshana Zuboff, si deve parlare invece di capitalismo della sorveglianza. Entrambe le letture mettono in guardia contro futuri non desiderabili.
Il governo dei numeri, osserva il giurista Alain Supiot, ha inciso sulla organizzazione del lavoro, trasformandolo dall’ideale tayloriano, in cui il lavoratore vendeva ore del suo tempo, a un sistema basato su obiettivi misurati, nel quale il lavoratore è chiamato a rispondere in modo globale, adattandosi alle esigenze del lavoro con una logica cibernetica, dove gli indicatori che ne misurano l’operato fungono da termostato. In un tale sistema, prosegue Supiot, i numeri si sostituiscono alle leggi, le basi di coesione sociale si dissolvono in un mondo in cui ciascuno è in competizione con il suo vicino, con una ri-feudalizzazione delle relazioni sociali dove solo la protezione di un (più) potente offre rifugio.
Anche la vita politica e sociale non sono immuni dalla pervasività degli algoritmi. Ne sono un esempio le vicende legate al ruolo dei nuovi mezzi di comunicazione nelle elezioni e nella ‘cyber-guerriglia’, l’aggravamento della tensione tra individui e classi sociali, ed i paventati rischi di una dittatura digitale.
La scuola di sociologia dei numeri e di etica della quantificazione ha dedicato ampio spazio allo studio dello sviluppo dell’intelligenza artificiale e all’inasprimento della asimmetria nella distribuzione di potere tra pubblico e privato, nutrendo movimenti di risposta alle conseguenti implicazioni sociali. È il caso del movimento francese di ‘resistenza statistica’, che combatte una cattiva metrica con una metrica migliore, con lo slogan “Un altro numero è possibile, come nel caso del barometro dell’ineguaglianza e della povertà sviluppato in opposizione alle statistiche ufficiali. Il Data Justice Lab presso l’università di Cardiff, che esamina le relazioni fra la ‘datificazione’ e la giustizia sociale ma anche datactive, un progetto di ricerca presso il Dipartimento di studi sui media dell’Università di Amsterdam, che riconoscendo nella abbondanza di dati una metafora del potere, propone pratiche socio-tecniche per un approccio critico alla raccolta massiva di dati.
Allo stato attuale l’urgenza della sfida richiede una presa di coscienza e una mobilitazione di esperti, cittadini e forze sociali. Queste ultime debbono farsi carico di iniziative legislative per identificare e combattere pratiche algoritmico-numeriche eticamente inaccettabili nel mercato del lavoro, in quello dell’educazione, della ricerca, nella conduzione di elezioni, del nostro rapporto con la giustizia.
#ModelResponsibly
Le discussioni sulla incertezza della modellistica progettata per informare il processo decisionale hanno accompagnato la cronaca legata alla pandemia da Covid-19.
Un team internazionale di 22 studiosi esperti da diverse discipline – statistica, modellistica, epistemologia, storia, sociologia, epidemiologia –, dalle pagine di Nature, ha lanciato un appello a non abusare dell’autorità e della seduzione dei numeri.
Discutendo la presunta neutralità dei numeri in un commento sostenuto da un corposo Supplementary Material, l’appello propone 5 principi per una modellizzazione responsabile, legati a incertezza, umiltà, trasparenza e all’importanza di riconoscere l’ignoranza.
Alcune raccomandazioni sono di natura tecnica, come è il caso della analisi di incertezza e sensibilità globali al fine di esplorare le incertezze delle variabili in un modello complesso. Questo è per esempio il caso dei modelli pandemici. Altre raccomandazioni su rivolgono anche a noi utenti di queste quantificazioni, suggerendo l’istituzione di norme sociali per valutare la qualità dei numeri ricevuti, per interpretare i risultati attraverso processi che coinvolgono le parti interessate, per adottare molteplici punti di vista e promuovere la trasparenza.
La modellizzazione matematica e la quantificazione sono, in ultima analisi, attività sociali. Come tali, non possono essere svolte unicamente dai modellisti o dai tecnici, ma richiedono processi inclusivi in tutte le fasi – dallo sviluppo del modello alla comunicazione dei risultati, fino alla traduzione in policy.
*immagine: Credit: David Parkins
