L’Intelligenza artificiale riesce a riprodurre documenti falsi che possono essere utilizzati per il riconoscimento sulle piattaforme online che si accontentano della “foto del documento” e, addirittura, a generare documenti di identità inesistenti con un sofisticatezza sufficiente a portare a termine un acquisto online o superare un controllo di tipo KYC , Know Your Customer, uno dei meccanismi più utilizzati per l’identificazione online. Questo rappresenta un nuovo e ulteriore rischio per i controlli di sicurezza e il tracciamento di un acquirente, e dovrebbe fungere da campanello d’allarme su molti fronti, nell’era telematica sempre più automatizzata.
L’Intelligenza artificiale ha smesso da tempo di essere una promessa futuristica ed è ormai uno strumento quotidiano, capace di semplificare processi, velocizzare procedure, e, sopratutto, automatizzare controlli e supportare decisioni più o meno complesse in svariati campi, più o meno critici o sensibili. Come spesso accade con le tecnologie dirompenti, la stessa potenza che rende l’Ia una risorsa preziosa può trasformarla in un potenziale fattore di rischio per l’uomo e per la sua sicurezza. Uno dei campi in cui questa ambivalenza sta emergendo con maggiore chiarezza, è proprio quello della falsificazione di documenti d’identità che posso ingannare i sistemi automatizzati che abbiamo imparato a utilizzare nella vita di tutti i giorni: per acquistare un libro o un biglietto aereo, per registrarci su un sito o su un socialnetwork.
Si tratti di passaporti, carte d’identità, patenti, certificati bancari o aziendali: la produzione di documenti falsi non è certo un’attività “nuova”. Ciò che oggi rende questa pratica più frequente, è la semplicità nel replicare il fenomeno attraverso l’ausilio dell’Ia, che attraverso gli algoritmi di generazione di immagini e testi è in grado di replicare layout ufficiali, timbri, firme e persino micro-imperfezioni tipografiche con un realismo che fino a pochi anni fa richiedeva competenze e attrezzature speciali, e oggi potrebbe essere sufficiente a ingannare un occhio telematico o un sistema impreparato a determinati livelli di “controllo” .
Con computer, un software adeguato e una manciata di dati di riferimento, l’intelligenza artificiale può rendere credibile l’identità di una figura umana inventata, o fornire false credenziali a un qualsiasi individuo che volesse passare per qualcun altro di fronte a i livelli più bassi di controllo dell’identità.
Leggi più lente della tecnologia
E il problema non riguarda solo la “criminalità tradizionale“. I documenti falsificati con l’ausilio dell’intelligenza artificiale possono essere utilizzati per aggirare controlli di sicurezza, accedere a servizi riservati, ottenere benefici economici indebiti o costruire identità digitali credibili per elaborare per frodi più complesse. In un contesto in cui sempre più verifiche avvengono da remoto, tramite procedure automatizzate di riconoscimento, il rischio di infiltrazioni aumenta sensibilmente e secondo gli esperti può riguardare criminali digitali come il furto d’identità, creandone un falso o un doppione per truffare individui o aziende, accedere a servizi o commettere reati digitali; per condurre frodi finanziarie, come aprire conti correnti, richiedere prestiti o effettuare transazioni illecite utilizzando documenti falsi; e, specie in questi tempi, portare avanti operazioni, statali o private, di disinformazione e manipolazione sociale, creando profili per influenzare opinioni e diffondere propaganda.
Paradossalmente, la stessa Intelligenza artificiale che contribuisce al problema è anche una parte fondamentale della soluzione. Sistemi di verifica basati su machine learning vengono già impiegati per analizzare documenti e individuarne le anomalie: incongruenze nei font, artefatti invisibili all’occhio umano, discrepanze nei metadati o nei modelli di compressione delle immagini. Tuttavia, si tratta di una corsa continua, in cui ogni miglioramento nei sistemi di rilevamento è seguito da nuove tecniche di elusione.
A complicare il quadro c’è anche una questione normativa e culturale. Le leggi faticano a tenere il passo con l’evoluzione tecnologica, mentre cittadini e aziende non sempre sono consapevoli dei limiti dei sistemi automatici di verifica. Affidarsi ciecamente all’IA, senza adeguati controlli umani e senza una strategia di sicurezza multilivello, rischia di creare una falsa sensazione di protezione.
Il tema dei documenti falsi generati o perfezionati dall’Intelligenza artificiale impone dunque una riflessione più ampia e approfondita. Dal momento che non si tratta solo di contrastare un nuovo strumento criminale, ma di ripensare l’intero ecosistema della fiducia digitale e considerare quali gap possono essersi generati per adottare le contromisure adeguate a mantenere inalterata la fiducia dell’essere umano che deve abituarsi ad abbandonare in molti casi la possibilità di ottenere un servizio in presenza o da remoto.
Il primo passo, come sempre viene detto nell’era dell’innovazione tecnologica che abbiamo raggiunto, è quello di investire in tecnologie di verifica avanzate per ottenere un livello adeguato di sicurezza nel campo cibernetico. Rafforzando la cooperazione tra istituzioni, aziende tecnologiche e autorità di controllo per evitare che una falsa identità generata nell’etere possa causare danni concreti nella nostra realtà.
Noi di InsideOver ci mettiamo cuore, esperienza e curiosità per raccontare un mondo complesso e in continua evoluzione. Per farlo al meglio, però, abbiamo bisogno di te: dei tuoi suggerimenti, delle tue idee e del tuo supporto. Unisciti a noi, abbonati oggi!
Abbonati e diventa uno di noi
Se l'articolo che hai appena letto ti è piaciuto, domandati: se non l'avessi letto qui, avrei potuto leggerlo altrove? Se pensi che valga la pena di incoraggiarci e sostenerci, fallo ora.
