L’intelligenza artificiale si appresta, e sta già contribuendo in diversi settori, a imporre un salto di qualità all’attuale paradigma tecnologico, accelerando un processo di integrazione tra servizi e apparati economici che rivoluzionerà l’approccio umano al sistema produttivo in diversi Paesi. Dai cluster per le fabbriche intelligenti agli algoritmi di deep Learning capaci di perfezionare software e strumenti di analisi dei big data le potenzialità dell’Ia sono sconfinate, ma resistono tuttora incertezze sulla destinazione dei frutti del nuovo sviluppo negli anni a venire.

La “distopia digitale” frutto dell’innovazione

Secondo diversi studiosi del settore l’Ia minaccerebbe il lavoro e i nostri servizi essenziali, se non comandata da un principio di equità reale che dia alla vasta gamma della popolazione accesso ai frutti dell’innovazione e non porti, piuttosto, alla mera distruzione di opportunità lavorative e professionali. “Fasce intere della nostra forza lavoro si ritroveranno presto a combattere una battaglia persa in partenza contro sistemi che sono capaci di svolgere il loro lavoro meglio, più velocemente e a un costo inferiore”, scrive Jerry Kaplan, uno dei massimi esperti del settore, in L’intelligenza artificiale. Al momento, scrive Kaplan, a beneficiare di questi processi sembrano essere i possessori di capitali e gli investitori nei settori di Ia. Mentre in diversi settori, in tutto il mondo, stanno emergendo diversi “lati oscuri” delle applicazioni dell’innovazione più avanza.

Questo è il caso della cosiddetta “distopia digitale”. L’espressione è stata coniata da Philip Alston, avvocato statunitense, relatore speciale delle Nazioni Unite sulla povertà estrema e i diritti umani, pronto a parlare all’assemblea generale  dei rischi di certe applicazioni deviate dell’Ia ai sistemi previdenziali che nel mondo stanno già mettendo a rischio l’accesso di milioni di persone ai servizi essenziali. Sul tema è intervenuto con una serie di interessanti analisi anche il Guardianche ha parlato di “automatizzazione della povertà”.

Quando l’algoritmo affonda il welfare

I casi di questo tipo si stanno accumulando in diverse aree del pianeta. Applicare la rigidità degli algoritmi ai sistemi sociali toglie quel grado di discrezione umano sempre presente nell’assegnazione di programmi di sostentamento, sussidi o piani di assistenza e aumenta l’asimmetria tra amministrazione e riceventi. In Illinois, ad esempio, un algoritmo di ultima generazione è arrivato a reclamare a diversi beneficiari il rimborso overpayments, cioè erogazioni giudicate eccessive di prestazioni e servizi, in diversi casi risalenti a tre decenni fa.

Clamoroso è anche il caso dell’Australia, dove da tempo si discute sull’efficacia del robodebt, un sistema automatizzato che avrebbe il compito di setacciare i profili debitori e creditori dei cittadini per individuare le falle e i soggetti meno performanti, attivando un processo di sospensione dell’erogazione dei benefici del welfare. Delle problematiche interne nell’algoritmo hanno portato a distorsioni nella sua applicazione. “Attualmente, il governo ha aperto un nuovo fronte digitale”, scrive l’Agi. “Si serve dell’automazione per sospendere milioni di pagamenti sociali. I beneficiari, senza preavviso, si trovano privi del denaro che spetterebbe loro: in 12 mesi, i pagamenti del welfare australiano sono rimasti bloccati un milione di volte grazie alle tecnologie automatizzate”.

In India, invece, molti si interrogano sull’efficacia del sistema biometrico introdotto da un decennio a questa parte e che progressivamente ha collegato 1,2 miliardi di persone al proprio, distintivo codice numerico da 12 cifre (adhaarche nelle intenzioni del governo di Nuova Delhi dovrebbe funzionare come “carta dei servizi” automatizzata, verificando tramite semplici check come il test dell’impronta digitale l’effettiva disponibilità di servizi per un cittadino. Ora, però, l’adhaar si starebbe dimostrando sempre più ingessato, portando all’apice la “distopia digitale” attraverso l’esclusione di soggetti che si trovassero, ad esempio, di fronte a un’errata registrazione dell’impronta digitale. Problema amplificato dall’enorme disuguaglianza interna dell’India, che rende materialmente difficile il sanamento di questi problemi. La morte per inedia di Motka Manjhi, un cittadino del centro di Dumka, deceduto dopo che per un problema di questo tipo aveva visto negato il suo accesso ai servizi di sussidio alimentare è emblematico dei rischi che corrono gli individui più deboli della popolazione indiana.

Sanare queste problematiche è fondamentali per far comprendere ai prossimi Paesi che introdurranno l’Ia nei processi del welfare che è necessario indirizzare l’innovazione verso una maggiore funzionalità dei servizi ai bisogni umani, evitando scenari orwelliani di abdicazione dell’autonomia personale e sociale a meccanismi di gestione autoreferenziali e, in certi casi, autoritari. Governi e autorità hanno il dovere di approcciarsi all’innovazione mettendo al centro lo sviluppo ed evitando che essa materializzi i peggiori timori della popolazione.

GILET GIALLI: UN ANNO DOPO
Leggi il reportage