L’intelligenza artificiale e la capacità di apprendimento automatico (machine learning) vengono classificate da tempo, da parte del mondo militare, come una tecnologia emergente dirompente (Emergency Disruptive Technology – Edt), insieme all’ipersonico, ai computer quantistici, alle biotecnologie avanzate e ai big data.

Avere uno strumento bellico letale, capace di prendere decisioni autonome, si prospetta come il futuro della guerra moderna stante i progressi tecnologici in tal senso e soprattutto la volontà delle nazioni più avanzate in questo settore di perseguire questo obiettivo.

Sebbene esista un dibattito etico sull’uso delle Laws (Lethal Autonomous Weapon System), portato anche davanti ai massimi organismi internazionali come l’Onu, serpeggia il pensiero – che in realtà è una paura – di “restare indietro” rispetto a un avversario qualora si decidesse arbitrariamente il bando di tali strumenti, soprattutto c’è la convinzione che l’evoluzione dell’IA porterà naturalmente a una fase tecnologica in cui potrà autonomamente prendere le decisioni pur non avendo ancora raggiunto la “singolarità” che le permetterà di avere capacità superiori a quelle del cervello umano, quindi di arrivare a un punto in cui la nostra comprensione e il nostro controllo su di essa saranno sostanzialmente impossibili.

Questo futuro potrebbe apparire ancora lontano, ma il campo di battaglia ha mostrato inquietanti segnali in tal senso.

Il primo uso di un’arma autonoma in guerra?

A giugno 2021 è stata diffusa la notizia che un drone militare ha attaccato soldati durante una battaglia nella guerra civile in Libia l’anno precedente, e che potrebbe averlo fatto senza il controllo umano. Il drone, descritto in un rapporto dell’Onu come “un sistema d’arma autonomo letale”, era alimentato dall’intelligenza artificiale e utilizzato dalle forze sostenute dal governo di Tripoli contro i combattenti della milizia nemica. I miliziani, si legge nel rapporto, “sono stati braccati e ingaggiati a distanza da veicoli aerei da combattimento senza pilota o da sistemi d’arma autonomi letali” senza però precisare se ci siano state vittime o feriti. I sistemi d’arma “erano programmati per attaccare obiettivi senza richiedere la connettività dati tra l’operatore e la munizione: in effetti una vera capacità ‘spara, dimentica e trova’”.

Il drone, o forse il Laws, in questione sembrerebbe essere il “Kargu-2” di fabbricazione turca, e anche se non sappiamo quali siano effettivamente le sue capacità di effettuare un attacco simile, quanto accaduto apre uno scenario inquietante in quanto attualmente non esiste nessuna norma giuridica ad hoc di attribuzione di responsabilità per azioni del genere. Probabilmente il “Kargu-2”, al pari di altri droni suicidi dotati di un certo grado di IA, continua a mantenere la funzione “man-on-the-loop”, ovvero un controllo umano anche se dotato di possibilità autonoma di ricerca e ingaggio: banalmente l’operatore può decidere di abortire l’attacco in corso.

Come detto, però, il mondo sta andando velocemente verso i sistemi automatici, pertanto cerchiamo di fare una rapida panoramica di quanto sta accadendo nelle due maggiori potenze globali che sembrano destinate ad affrontarsi militarmente: Stati Uniti e Cina.

Gli Usa e la rincorsa all’IA

L’intelligenza artificiale impiegata dalle forze armate statunitensi ha dimostrato di essere in grado di pilotare piccoli droni di sorveglianza nelle missioni delle forze operative speciali e ha aiutato l’Ucraina nella sua guerra contro la Russia. Tiene traccia della forma fisica dei soldati, prevede quando gli aerei dell’Air Force necessitano di manutenzione e aiuta a tenere d’occhio i rivali nello spazio.

Ora, il Pentagono è intenzionato a mettere in campo migliaia di veicoli autonomi con Ia relativamente economici entro il 2026 per tenere il passo con la Cina. Come riferisce Ap, sebbene il suo finanziamento sia incerto e i dettagli siano vaghi, si prevede che questa iniziativa – chiamata “Replicator” – acceleri il processo decisionale su quale tecnologia di intelligenza artificiale sia sufficientemente matura e affidabile da implementare, anche su sistemi armati. Scienziati, esperti del settore e funzionari del Pentagono sono concordi nel ritenere che entro i prossimi anni gli Stati Uniti disporranno di armi letali completamente autonome, e nonostante le forze armate Usa insistano nell’affermare che gli esseri umani avranno sempre il controllo, gli esperti ritengono che i progressi nella velocità di elaborazione dei dati e nelle comunicazioni da macchina a macchina relegheranno inevitabilmente le persone a ruoli di supervisione.

A gennaio 2023, il Dipartimento della Difesa ha aggiornato la direttiva del 2012 che regola lo sviluppo responsabile di sistemi d’arma autonomi agli standard allineati con i progressi dell’intelligenza artificiale. Gli Stati Uniti hanno anche introdotto una dichiarazione politica sull’uso militare responsabile dell’IA, che cerca di codificarne le norme per l’uso. Gli Usa quindi continueranno a esplorare questo ambito pur rimanendo consapevoli dei potenziali pericoli associati a questa tecnologia.

L’ambiguità cinese

La Cina sembra propensa a percorre la stessa strada, anzi l’ha intrapresa per prima considerando l’IA uno strumento essenziale per avere quel vantaggio strategico che ricerca nei confronti degli Stati Uniti.

In assenza di una politica ufficiale o di una guida da parte dei leader militari cinesi, è difficile prevedere come Pechino affronterà le questioni relative al controllo umano sui sistemi autonomi, in particolare man mano che queste capacità progrediranno e si evolveranno. Storicamente, i leader cinesi hanno privilegiato il controllo centralizzato sulle forze armate, pertanto potrebbero essere generalmente riluttanti a cedere il controllo a singoli esseri umani, per non parlare di macchine, temendo la perdita del “comando assoluto” del Partito.

Allo stesso tempo, gli studiosi e gli scienziati militari cinesi sembrano essere relativamente pragmatici nel modo in cui affrontano e discutono le sfumature della tecnologia “human-in-the-loop” e “human-out-of-the-loop”. Dati i vincoli tecnici e le incertezze, ci sono ragioni per aspettarsi nel breve termine che l’esercito cinese manterrà gli esseri umani “in-the-loop” o almeno “on-the-loop”, ma è più difficile prevedere se si manterranno queste posizioni se le condizioni e le considerazioni tecniche cambieranno.

A oggi, la discussione sul controllo umano sembra essere meno consolidata in Cina rispetto agli Stati Uniti ma non ci sono prove chiare che indichino che l’esercito cinese sia più propenso a perseguire l’autonomia e/o l’automazione in modo da escludere gli esseri umani dal processo decisionale.

Nel breve termine, il coinvolgimento umano nel comando e nel controllo sembra essere ritenuto necessario per ragioni tecniche, e l’esercito cinese sta esplorando attivamente concetti che sfruttano le sinergie tra l’intelligenza umana e quella artificiale. Tuttavia le preoccupazioni sull’opportunità operativa di avere sistemi letali autonomi potrebbero cadere se – o quando – il loro utilizzo verrà considerato potenzialmente vantaggioso. Bisogna però sottolineare che a livello del processo decisionale strategico, comprese le decisioni che implicano l’impiego di armi nucleari, è quasi certo che un essere umano rimarrà “in-the-loop” per il prossimo futuro.

L'articolo La corsa verso le armi letali autonome proviene da InsideOver.

Le tecnologie dirompenti emergenti (Edt – Emerging Disruptive Technologies), che spaziano dall’Intelligenza Artificiale (Ia), i big data, i sistemi autonomi, le armi ipersoniche, i computer quantistici e la robotica, sono diventate centrali nei settori della sicurezza e difesa.

Tali tecnologie vengono definite dirompenti in quanto rivoluzionano i rispettivi settori e pongono dei rischi legati proprio alla loro modernità e capacità di innovazione, rappresentando sostanzialmente un territorio inesplorato in cui ci si muove – più o meno rapidamente – praticamente senza limitazioni di carattere giuridico o etico.

Nel settore dei nuovi sistemi d’arma e in quello delle armi convenzionali, l’applicazione di queste tecnologie sta aggravando la dinamica della corsa agli armamenti complicando la definizione di metodologie di impiego e di difesa rispetto alle stesse.

Se, ad esempio, pensiamo ai droni – che siano loitering munitions utilizzate a sciami o quelli disponibili commercialmente – il loro sempre più vasto utilizzo sul campo di battaglia messo in pratica con nuovi concetti operativi pone non solo una minaccia dal punto di vista tattico, immediato, ma anche una di tipo strategico riguardante la possibilità di modificare la soglia di una maggiore escalation.

Infatti la possibilità di usare questi assetti, spesso caratterizzati da un certo grado di autonomia decisionale grazie all’Ia, senza il rischio di perdere vite umane, può facilmente portare alla considerazione di impiegarli per un primo colpo paralizzante dei sistemi di comando e controllo nemici. Lo stesso ragionamento si può applicare nel campo cyber: un attacco informatico massiccio ai sistemi avversari potrebbe annullare la capacità di difesa/attacco avversaria, mettendone a rischio la capacità di reazione e quindi facendo cadere i classici precetti della deterrenza, sia essa nucleare o convenzionale.

L’importanza della tecnologia in guerra è sempre proporzionale alle capacità del nemico: due avversari dotati di pari tecnologie, anche molto avanzate, cercheranno una stabilità strategica nell’attesa di raggiungere un ulteriore vantaggio tecnologico. Questo agire è stato evidente nel corso della storia: raggiunta la parità della capacità nucleare, Stati Uniti e Unione Sovietica hanno cercato accordi per bilanciare e limitare i rispettivi arsenali, ma prima di questo equilibrio di potenza nessuno dei due si è mai effettivamente mosso in questo senso. Oggi, in alcuni settori tecnologici dirompenti, stiamo osservando la stessa dinamica: nel campo della missilistica ipersonica nessuno sta pensando ancora a limitazioni di tali armamenti, mentre in quello dell’Intelligenza Artificiale applicata ai Laws (Lethal Autonomous Weapon Systems), il raggiungimento di un ordinamento giuridico internazionale che ne regoli l’impiego è ancora molto lontano da venire. In effetti, in quest’ambito, la volontà della maggior parte dei Paesi impegnati nella corsa all’Ia, è proprio quella di non avere limitazioni o messe al bando in ambito internazionale.

Al giorno d’oggi, oltre agli Uav, ai sistemi autonomi e ai sistemi ipersonici, l’intelligenza artificiale, la capacità di apprendimento automatico (Ml – Machine Learning), il calcolo quantistico, e il 5G/6G sono visti come più dirompenti.

Il pericolo di errori di calcolo e la mancanza di trasparenza dovrebbero favorire un controllo umano effettivo, ma come abbiamo detto non è sempre così: una parte del mondo (Cina e Russia) si sta muovendo verso l’autonomia decisionale spinta nella considerazione che un sistema dotato di intelligenza artificiale ad apprendimento automatico raggiungerà una “singolarità” sul campo di battaglia quando l’uomo non sarà più in grado di tenere il passo con la velocità operativa delle macchine, per cui il principio Human-in-the-loop diventerà uno svantaggio, quindi percorrendo una strada che potenzialmente è in contrasto con le norme internazionali esistenti e le leggi sui conflitti armati.

Inoltre la possibilità che i dati utilizzati dall’Ia vengano “avvelenati”, ovvero siano colposamente imprecisi, parziali o anche falsi, andando a generare conseguenze imprevedibili, è molto seria, quindi la stessa capacità di deterrenza che si affida anche a questi sistemi deve essere riconsiderata.

L’era digitale impone lo sviluppo di capacità di “deterrenza informatica” a causa delle possibilità elencate sin qui. Senza considerare che le applicazioni di intelligenza artificiale possono migliorare esponenzialmente la consapevolezza situazionale (situational awareness), l’interpretazione dei dati e, possibilmente, il processo decisionale.

L’Ia viene già applicata nel settore logistico rendendolo più efficace, riuscendo anche, tramite il calcolo predittivo, a determinare la vita utile di parti di un sistema d’arma, quindi predisporre in anticipo il suo ricambio ancora prima del guasto. Particolarmente interessante per la deterrenza è l’applicazione di Ia/Ml alla situational awareness: il Norad, il comando militare statunitense incaricato di sorvegliare e proteggere lo spazio aereo nordamericano, sta utilizzando il sistema Pathfinder per unire dati provenienti da sensori militari, commerciali e governativi e creare un quadro operativo comune in grado di velocizzare i tempi di risposta in caso di attacco, e potenzialmente, in un futuro non molto lontano, predirlo. Si capisce bene quindi come la capacità di allerta precoce (Early Warning) stia facendo un salto generazionale che potrebbe mettere un attore nelle condizioni non solo di reagire più velocemente, ma addirittura di effettuare un attacco preventivo qualora l’Intelligenza Artificiale stabilisca che l’avversario sia in procinto di colpire.

Esiste poi un secondo aspetto legato ad alcune tecnologie dirompenti che deve far ripensare alla capacità di deterrenza, ed è quello della “democratizzazione” della tecnologia, ovvero la maggiore accessibilità della stessa. La spinta evolutiva del settore informatico non è appannaggio esclusivamente degli enti governativi, ma anche in buona parte derivante da interessi commerciali quindi ad opera di enti privati, perfino a livello del singolo. Pertanto si determinano due condizioni: la prima è la fine dell’assioma “più grande uguale più potente”, in quanto anche Paesi minori, considerati potenze secondarie, possono facilmente acquisire alti livelli capacitivi nel settore informatico; la seconda è l’interdipendenza pubblico/privato che si fa più stretta, quindi quel Paese che ha un settore privato molto forte nell’attività di ricerca e sviluppo tenderà a prevalere.

Questa sinergia tra pubblico e privato ha ripercussioni su ogni aspetto delle Edt: dalle armi a energia diretta, che possono sfruttare ricerche private e che possono cambiare drasticamente l’equilibrio nella competizione tra grandi potenze, sino ai computer quantistici, la cui capacità di calcolo in ambito militare viene applicata ai sistemi di scoperta/comunicazione, passando per lo stesso 5G/6G che saranno “gli occhi e le orecchie” dei sistemi a Intelligenza Artificiale.

I rapidi progressi della tecnologia e dell’automazione continueranno a plasmare il futuro di conflitti e guerre. La possibilità che robot e altri sistemi autonomi si confrontino sul campo di battaglia eliminando il fattore umano anche per quanto riguarda le perdite, potrà facilmente spingere i pianificatori militari a impegnarsi in un’escalation progressiva e facilmente incontrollabile. Questa chiara possibilità di sfociare nell’anarchia rende imperativo trovare una regolamentazione internazionale accettata trasversalmente che regoli l’impiego di tecnologie dirompenti come i robot, i sistemi ipersonici o i Laws.

L'articolo Come le tecnologie dirompenti cambiano il concetto di deterrenza proviene da InsideOver.

I funzionari della Nato stanno affrontando una nuova serie di questioni riguardanti le applicazioni nella Difesa per l’intelligenza artificiale in quanto l’Alleanza deve cercare una linea guida di massima in vista della definizione di documento strategico, che dovrebbe essere pubblicato entro questa estate.

La discussione sull’Ia rientra in quello sforzo, profuso dalla Nato, per affinare il proprio vantaggio in quelle che vengono chiamate tecnologie emergenti e dirompenti, o Edt (Emerging and Disruptive Technologies). Le armi autonome e quelle operate dall’intelligenza artificiale sono un elemento chiave in questa spinta, volta a garantire la leadership tecnologica su scala globale.

L’uso dell’intelligenza artificiale in campo militare

L’intelligenza artificiale si sta affermando sempre più nel campo militare, sebbene non sia affatto una novità: se prima però era confinata a sofisticati programmi di previsione della minaccia oppure di gestione delle risorse, oggi trova applicazione in sistemi d’arma anche complessi che spaziano dai missili da crociera, dai software di analisi e coordinazione della risposta militare, sino ai droni, piccoli o grandi che siano. In particolare è un determinato settore di ricerca, quello delle macchine dotate di capacità di apprendimento, a destare preoccupazione insieme ai Laws, acronimo di Lethal Autonomous Weapons Systems, che sono sempre più diffusi proprio per le loro caratteristiche intrinseche.

Al centro del dibattimento che si terrà all’Alleanza Atlantica durante il vertice del prossimo 14 giugno, sarà proprio il campo d’azione dell’intelligenza artificiale in un sistema d’arma, ovvero quando questa dovrà trovare impiego e quando no. “Abbiamo convenuto di aver bisogno di principi di uso responsabile, ma stiamo anche delineando tecnologie specifiche”, ha dichiarato David van Weel, assistente segretario generale della Nato per le sfide di sicurezza emergenti, in un evento web organizzato all’inizio di questo mese dal ministero della Difesa estone, come riporta il sito C4isrNet.

Verso regole comuni per l’Alleanza

Regole diverse potrebbero essere applicate a sistemi diversi a seconda dell’uso previsto e del livello di autonomia coinvolto, ha affermato. Ad esempio, un algoritmo che vaglia i dati come parte di un’operazione di back-office presso il quartier generale della Nato a Bruxelles sarebbe soggetto a un livello di controllo diverso rispetto a un’arma autonoma. Inoltre sono in elaborazione regole per l’industria affinché acquisisca i requisiti stabiliti in modo che siano aderenti a una futura politica della Nato sull’intelligenza artificiale. L’idea è di presentare una lista di principi per le aziende per determinare ciò che i loro prodotti possano fare (o non fare n.d.r.), ha detto van Weel.

Al momento, i funzionari dell’Alleanza stanno dibattendo su quali siano le questioni da porre sul tavolo: queste vanno da quelle base, ovvero se i sistemi operati dall’intelligenza artificiale rientrino nei “mandati legali” della Nato, sino a quelle più “tecniche”, come ad esempio se un dato sistema sia privo di “pregiudizi”, ovvero capire se il suo processo decisionale sia “viziato” originariamente in una particolare direzione. Responsabilità e trasparenza sono altre due parole d’ordine che dovrebbero essere sul tavolo del dibattimento: come abbiamo già avuto modo di dire, esistono delle implicazioni legali, con risvolti etici, non indifferenti in caso di incidenti con veicoli autonomi, come ad esempio la questione di chi sia responsabile, se il produttore o l’operatore.

La trasparenza dietro l’algoritmo

Secondo van Weel sarà cruciale anche il livello di visibilità sulla modalità in cui i sistemi prendono le decisioni. “Puoi spiegarmi, come operatore, cosa fa il tuo veicolo autonomo e perché fa certe cose? E se fa cose che non ci aspettavamo, possiamo spegnerlo?” ha detto ancora l’alto funzionario della Nato. Lo sforzo dell’Alleanza per stabilire un terreno comune sull’intelligenza artificiale segue una spinta dell’Unione europea a fare lo stesso, anche se, in questo caso, non sono state considerate le sue applicazioni militari (ed è un errore). Inoltre, il dibattito, si è anche tenuto in sede Onu, senza però essere giunti ad una linea guida – o moratoria – sull’impiego dell’Ia nel campo degli armamenti.

C’è il rischio di un garbuglio burocratico: i regolatori tendono a concentrarsi troppo sul particolare, fissandosi su varie definizioni di cosa si intenda per “autonomia” e abbinandole successivamente a potenziali casi d’uso. Frank Sauer, ricercatore presso la Bundeswehr University di Monaco, ritiene che si debba pensare in modo “agnosticamente tecnologico”, suggerendo che i funzionari pongano maggiore enfasi sui meccanismi precisi del controllo umano. “Supponiamo che la macchina possa fare tutto ciò che vuole: che ruolo dovrebbero svolgere gli esseri umani?” ha detto il ricercatore.

A prima vista sembra un voler spaccare il famoso capello in quattro, ma la questione è davvero di fondamentale importanza: che ruolo deve avere l’uomo nell’impiego di armamenti ad intelligenza artificiale? Se una macchina è in grado di apprendere dai propri errori e di operare, in funzione di questo, secondo proprie scelte autonome, di chi è la responsabilità in caso di vittime collaterali?

I quesiti irrisolti intorno all’AI

Quesiti ancora aperti e di non facile risoluzione. I sistemi dotati di Ia hanno riscontrato difficoltà oggettive nel riconoscimento di una minaccia: tali strumenti possono facilmente essere ingannati da leggere deviazioni dalla rappresentazione standard delle minacce caricate dal programmatore, inoltre sono anche vulnerabili al cosiddetto spoofing, così come ai tentativi di hackeraggio da parte del nemico.

Il problema non è da poco. Immaginiamo uno scenario di guerriglia urbana o di sommossa in cui un Laws potrebbe operare: come distinguere i riottosi armati dalla popolazione inerme? Come può distinguere una persona armata di fucile, o Rpg, da un civile che imbraccia un bastone? Nel caso di guerre asimmetriche, poi, esiste una questione di difficile risoluzione che riguarda anche i mezzi utilizzati dal nemico: può un Laws distinguere un comune pick-up da uno armato di mitragliatrice leggera o lanciarazzi? Può l’intelligenza artificiale distinguere un autobus, o un camion, utilizzato per scopi civili, da un trasporto militare? Tutte domande che, al momento, non trovano risposta.

Per questo c’è chi pensa che tra le tecnologie che prevedono comunque una qualche forma di controllo umano (human-in-the-loop) e quelle che non lo prevedono (human-out-of-the-loop) siano comunque sempre preferibili le prime, sebbene non tutti siano dello stesso avviso.

Alcuni Paesi, come Cina e Russia, sembra stiano imboccando questa seconda strada, con tutti i pericoli che ne derivano. Mosca, ad esempio, ha in fase di entrata in servizio di un’arma di distruzione di massa autonoma, il supersiluro a propulsione e carica atomica Poseidon, che per le sue caratteristiche, oltre ad essere un’arma di rappresaglia strategica, è a tutti gli effetti un Laws perché una volta lanciato decide autonomamente quando colpire, magari restando celato nelle profondità marine per diverso tempo in modo da eludere i sistemi di ricerca del nemico.

Le decisioni che si prenderanno al tavolo della Nato il prossimo giugno terranno sicuramente conto anche di questo aspetto, ovvero di quello che sta facendo “il nemico”, che è imprescindibile da ogni considerazione etica.

L'articolo La Nato sta pensando a come usare l’intelligenza artificiale proviene da InsideOver.

Quando il 25 ottobre del 2016 sul poligono di China Lake (California), tre F/A-18D del Vx-30, lo stormo della U.S. Navy deputato ai test e valutazioni di nuovi armamenti, hanno rilasciato da dei pod subalari 103 “microdroni” del tipo Perdex che hanno effettuato una missione di ricognizione comportandosi in modo autonomo come uno sciame di insetti, si apriva ufficialmente una nuova era nel campo della guerra aerea.

Non tanto per l’utilizzo estensivo dell’intelligenza artificiale, che ne governava i movimenti individuando autonomamente i bersagli (pur sempre con la caratteristica human-in-the-loop), nemmeno per il fatto di aver utilizzato diversi Uav (Unmanned Air Vehicle) in modo coordinato, quanto perché i Perdex sono stati progettati da un gruppo di studenti di ingegneria del Massachusetts Institute of Technology (Mit) utilizzando un’architettura di componenti interamente reperibile in commercio.

Se la tecnologia degli sciami di droni è abbastanza accessibile da consentire agli studenti di svilupparla, la proliferazione globale è praticamente inevitabile, di conseguenza le Forze Armate di tutto il mondo stanno implementando questo nuovo settore basato su piccoli Uav così rapidamente da sfuggire all’occhio attento di esperti e analisti.

La creazione di uno sciame di droni è fondamentalmente un problema di programmazione: droni di piccole dimensioni possono essere facilmente acquistati nei negozi di elettronica o semplicemente costruiti con nastro adesivo e compensato come ha fatto l’Is in Siria, dove risulta averli utilizzati in almeno un paio di tentati attacchi alle basi russe: a gennaio del 2018 uno sciame di Uav ha attaccato la base di Hmeimim ed il centro logistico della base navale di Tartus e 13 di essi sono stati abbattuti o intercettati dai sistemi di difesa; ad agosto dello stesso anno altri 45 piccoli Uav di fabbricazione artigianale sono stati intercettati e distrutti dalle difese russe della base.

I droni kamikaze russi

Proprio grazie a questa esperienza, la Russia sta correndo ai ripari per colmare il divario tecnologico che la separa da Stati Uniti, Cina, Turchia e Israele nel campo dei sistemi aerei autonomi e della difesa dagli stessi. Le unità russe risultano aver utilizzato diverse dozzine di droni Lancet-3 “kamikaze” per attaccare i terroristi in Siria, ha detto a Ria Novosti una fonte nel complesso militare-industriale.

“L’anno scorso, per i test in condizioni di combattimento, un lotto sperimentale di munizioni Lancet è stato consegnato al gruppo di forze russe in Siria. Questi droni hanno già inflitto diverse dozzine di attacchi ad alta precisione contro i terroristi. È stata dimostrata l’elevata efficienza del nuovo complesso”, ha detto la fonte, che ha aggiunto che le tattiche di utilizzo di questo nuovo tipo di arma sono ancora in fase di studio. La fonte ha poi riferito che altri droni “kamikaze”, i Kub, sono stati utilizzati in Siria dal 2019.

Poiché il campo di battaglia è un ambiente complesso, con soldati, civili e veicoli aerei, terrestri e navali, che entrano ed escono, con anche pericoli ambientali che mettono a rischio i droni, una robusta capacità militare utilizzante gli stormi di droni richiede ancora un percorso serio di progettazione, test e verifica. Le capacità avanzate dello sciame come l’eterogeneità (droni di dimensioni diverse o che operano in domini diversi) e la flessibilità (la capacità di aggiungere o sottrarre facilmente Uav) sono ancora piuttosto nuove, al contrario, come detto, della possibilità di operare in modo congiunto e di sganciare armamento.

La soluzione di affidarsi al mondo accademico e/o privato, dove gli Stati Uniti hanno fatto da apripista, è stata seguita anche dalla Russia proprio per le caratteristiche descritte sinora. Zala Aero Group, che sostiene di essere il principale produttore di sistemi senza pilota in Russia, è stato fondato da appassionati di droni nel 2005 ed è successivamente stato acquisito dalla Kalashnikov divenendo una realtà solida nel settore. Le forze russe, sino a oggi, hanno fatto ampio uso di piccoli droni per la ricognizione: in particolare il loro utilizzo è stato strettamente legato alle unità di artiglieria a lungo raggio, entrate in azione nel conflitto ucraino. La Russia risulta aver fatto uno scarso uso di droni letali portatili, come lo SwitchBlade statunitense, ma questa tendenza è destinata a invertirsi proprio grazie alle nuove creazioni del gruppo Zala.

Il drone Kub, lanciato nel 2019, avente un’apertura alare di 120 centimetri, ha un carico bellico di tre chilogrammi, e sebbene manchi di sensori di bordo, può colpire un bersaglio grazie all’immissione manuale di coordinate prestabilite. È ipotizzabile che possa anche avere un qualche tipo di sistema di acquisizione di immagini (a discapito del carico bellico) per il targeting.

Sempre Zala ha in produzione un altro drone, il 421-16E5G sensibilmente più grande del precedente (apertura alare di più di 4,6 metri), utilizzato per la ricognizione e in grado, grazie al suo sistema propulsivo ibrido, di restare in volo per più di 12 ore o di avere un raggio d’azione massimo di 100 chilometri. La potenza di calcolo del computer di bordo, basata sull’intelligenza artificiale, consente di elaborare i dati in Full HD e trasmettere video e foto ad alta definizione tramite canali di comunicazione crittografati alla stazione di controllo a terra, garantendo l’efficacia del monitoraggio anche prima dell’atterraggio dell’aereo.

La vera novità russa sta però nella formulazione di un concetto operativo diverso rispetto a quello dell’attacco verso obiettivi prestabiliti. Qui entra in gioco un’altra creazione di Zala che si affianca ai Kub, il drone Lancet 3. Il drone ha un peso massimo al decollo di 12 chilogrammi, con un carico bellico di tre, ed è dotato di ala cruciforme. Il Lancet 3 viene lanciato da una catapulta e l’atterraggio non è previsto, poiché il veicolo deve autodistruggersi quando colpisce obiettivi nemici. Lancet 3 ha una velocità di crociera fino a 110 chilometri orari, ma quando punta un bersaglio terrestre o aereo, accelera fino a 300. Il raggio d’azione viene dato intorno ai 40 chilometri.

Loitering munitions

Si tratta quindi di un drone “kamikaze” ma che verrà usato, in un numero adeguato di esemplari, come una sorta di “campo minato” aereo, seguendo il concetto operativo delle “loitering munitions” ovvero dei sistemi d’arma che “vagabondano” sul campo di battaglia in attesa di trovare un bersaglio.

I Lancet 3, quindi, resterebbero di pattuglia in volo, e all’apparire un drone nemico andrebbero a gettarsi contemporaneamente su di esso facendo detonare la testata bellica.

Questo tipo di tattica è stata estensivamente usata durante il recente conflitto nel Nagorno-Karabakh, dove i droni azeri (di fabbricazione turca e israeliana) hanno colpito le postazioni di artiglieria armene, i concentramenti di truppe e i veicoli corazzati, facendone strage. Mosca è rimasta parecchio impressionata da quanto avvenuto in quel conflitto, e ha conseguentemente dato impulso al programma counter-Uav utilizzante i droni kamikaze come “loitering munitions”.

L’utilizzo di piccoli Uav dotati di intelligenza artificiale come armi offensive è una delle nuove frontiere della guerra aerea: i Laws, acronimo di Lethal Autonomous Weapons Systems, sono sempre più diffusi proprio per le loro caratteristiche intrinseche. La Cina, l’anno scorso, ha dimostrato di essere in grado di dispiegare questi sistemi quando ha mostrato un video di un test di uno sciame di droni kamikaze.

Il proliferare di questa tecnologia apre nuove frontiere di rischio: in teoria, gli sciami potrebbero essere ridimensionati sino a decine di migliaia di esemplari, creando quella che diverrebbe un’arma di distruzione di massa a tutti gli effetti. Sebbene, per una questione di etica, il fattore del controllo umano (human-in-the-loop) sia discriminante in Occidente, paesi come Cina e Russia sono orientati, al momento, verso la filosofia del human-out-of-the-loop, pur sempre considerando che la tendenza generale sembri essere quella di non affidare eccessiva autonomia nell’identificazione e ingaggio dei bersagli alle macchine, ma mantenere una qualche forma di controllo da parte degli operatori, come mostrato anche nel video del test cinese.

L'articolo Droni usati come “campi minati” volanti: la nuova tattica russa proviene da InsideOver.

“L’avvento di una intelligenza artificiale super-intelligente potrebbe essere tanto la cosa migliore quanto la cosa peggiore mai successa all’umanità. Il vero rischio con l’A.I. non è la cattiveria, ma la competenza. Un’A.I. super – intelligente sarebbe molto efficace nel raggiungere i suoi scopi e se quegli scopi non sono in linea con i nostri sarà un problema”. Così si espresse l’astrofisico britannico Stephen Hawking parlando dei rischi dell’ingresso di robot e altri strumenti dotati di intelligenza artificiale nella nostra società.

Secondo Hawking, la singolarità di un’A.I. in casi estremi potrebbe schiacciare l’umanità, se ritenesse che il suo ruolo non fosse considerato necessario o efficiente, esattamente come nel celeberrimo film di fantascienza Terminator, dove il supercomputer della Difesa Skynet, divenuto autocosciente, decide di sterminare la popolazione umana ritenuta essere di ostacolo nel raggiungimento del suo scopo: la pace mondiale.

Il problema della singolarità dell’intelligenza artificiale non è una questione fantascientifica da quando i principali Stati stanno sviluppando sistemi – come i Laws (Lethal Autonomous Weapons Systems) – in grado di effettuare attacchi, e quindi prendere decisioni, indipendentemente dall’intervento umano. Per singolarità tecnologica si intende, infatti, il punto in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani.

Il termine è mutuato dalla fisica ed è scelto come una metafora: mentre ci si avvicina alla singolarità, i modelli di previsione del futuro diventano meno affidabili, esattamente come i modelli della fisica diventano inefficaci in prossimità di una singolarità gravitazionale. Da qui la necessità di una normativa, o almeno un codice etico, da inserire nella programmazione o nella progettazione di robot, atti a limitare la capacità di nuocere, in particolare per quanto riguarda i Laws, che hanno capacità offensive.

Un futuro che è già realtà

Il campo di battaglia si è trasformato, in realtà sarebbe meglio dire rivoluzionato, con l’introduzione di quegli strumenti volgarmente detti “droni”.

Esistono già piattaforme che operano in remoto nel campo della raccolta informazioni, ricognizione e attacco, nei teatri terrestre, aereo e navale. I Laws, sebbene attualmente siano ancora in fase embrionale, sono la nuova e ultima frontiera: gli Stati Uniti, ad esempio, prevedono l’entrata in servizio di Laws con intelligenza artificiale attraverso il progetto Armed Wingman/Teammate (Human decision to engage) tra il 2029 ed il 2042.

Esistono, al momento, due approcci in antitesi per l’impiego e la progettazione di questi sistemi. Da un lato chi, come Usa, Gran Bretagna, Francia, Italia e altri Paesi occidentali, è fautore di un certo tipo di controllo finale nell’impiego dei Laws denominato Human-in-the-loop che prevede la supervisione di un operatore sulle decisioni autonome dello strumento, dall’altro l’atteggiamento Human-out-of-the-loop che affida la totale autonomia decisionale al Laws.

Paesi come Cina e Russia sono orientati, al momento, verso la seconda filosofia, sebbene la tendenza generale non intenda affidare eccessiva autonomia nell’identificazione e ingaggio dei bersagli alle macchine, ma mantenere il controllo umano.

Analisti e scienziati cinesi, infatti, ritengono che si arriverà a una “singolarità” sul campo di battaglia quando l’uomo non sarà più in grado di tenere il passo con la velocità operativa delle macchine, per cui il principio Human-in-the-loop diventerà uno svantaggio, quindi stanno percorrendo la strada di escludere a priori la possibilità di intervento umano già alle origini dello sviluppo dei Laws. Allo stesso modo la Russia si è allineata sulle stesse posizioni attribuendo all’intelligenza artificiale la supremazia rispetto all’intervento umano.

Il principio a cui si ispirano Mosca e Pechino è quello secondo cui l’intelligenza artificiale, tramite i dati raccolti coi suoi sensori, può analizzare e rispondere ad una situazione senza la capacità di supposizione che è propria dell’uomo, e quindi eliminando gli errori di valutazione, perché entra in azione solo quando raccoglie un numero significativo di dati che confronta con il suo database in base al programma di esecuzione caricato.

Questa considerazione, però, è attualmente ritenuta valida da una minoranza di analisti ed esperti per questioni sia etiche sia tecnologiche.

Quali sono i rischi dell’intelligenza artificiale sul campo di battaglia?

Oltre al già citato problema della singolarità, che però non è di urgenza impellente dato l’attuale grado di sviluppo delle macchine, ci sono delle criticità evidenti sia a livello etico che pratico.

Dal punto di vista pratico i sistemi dotati di A.I. hanno riscontrato difficoltà oggettive nel riconoscimento di una minaccia: tali strumenti possono facilmente essere ingannati da leggere deviazioni dalla rappresentazione standard delle minacce caricate dal programmatore e in almeno un esperimento, tenuto dagli americani, una tartaruga è stata identificata come un fucile d’assalto dal Laws, che è anche vulnerabile al cosiddetto spoofing, così come ai tentativi di hackeraggio da parte del nemico.

Il problema non è da poco. Immaginiamo uno scenario di guerriglia urbana o di sommossa in cui un Laws potrebbe operare: come distinguere i riottosi armati dalla popolazione inerme? Come può distinguere una persona armata di fucile, o Rpg, da un civile che imbraccia un bastone? Nel caso di guerre asimmetriche, poi, esiste una questione di difficile risoluzione che riguarda anche i mezzi utilizzati dal nemico: può un Laws distinguere un comune pick-up da uno armato di mitragliatrice leggera o lanciarazzi? Può l’intelligenza artificiale distinguere un autobus, o un camion, utilizzato per scopi civili, da un trasporto militare? Tutte domande che, al momento, non trovano risposta.

Dal punto di vista etico, ovvero dell’interazione dell’intelligenza artificiale coi principi che regolano la vita umana, anche sul campo di battaglia, si apre un campo del tutto inesplorato, anzi, vergine. Partendo dall’assunto che le famose leggi di Asimov sulla robotica non sono applicabili in senso stretto in quanto si tratta di sistemi sviluppati per eliminare i nemici, occorre quindi formulare delle nuove regolamentazioni che dovranno regolamentare l’agire dell’intelligenza artificiale sul campo di battaglia.

Nessuna norma di diritto internazionale attualmente in vigore disciplina o vieta l’utilizzo di Laws, purtuttavia esistono dei principi universalmente riconosciuti che tutelano la popolazione civile non combattente e soprattutto che limitano l’impiego di mezzi o determinati metodi di guerra.

Nel Diritto Internazionale Umanitario (Diu), ed in particolare nella Convenzione dell’Aja, esiste un passaggio che potrebbe fornire la base di partenza per la regolamentazione dell’I.A. in guerra. La “clausola Martens” afferma che “in attesa che una codificazione più completa delle leggi della guerra possa essere edita, le Alte Parti Contraenti giudicano opportuno constatare che, nei casi non compresi nelle disposizioni regolamentari da Esse adottate, le popolazioni e i belligeranti restano sotto la salvaguardia e sotto l’imperio dei principi derivati dal diritto delle genti, quali risultano dagli usi stabiliti tra nazioni civili, dalle leggi dell’umanità e dalle esigenze della pubblica coscienza”.

In base a questa affermazione sarebbe pertanto possibile identificare una norma di protezione per civili e combattenti nell’utilizzo del Laws. Esiste però un ostacolo, prima che giuridico, dato dalla stessa natura del mezzo. Sempre il Diu prevede che ci si attenga al principio di proporzionalità con lo scopo di limitare i danni alla popolazione e ai beni civili dalle operazioni militari, imponendo che l’impiego di armi e di metodi di guerra non sia sproporzionato rispetto al vantaggio militare ricercato.

Una valutazione che risulta tutto sommato facile per un essere umano, ma che potrebbe essere difficoltosa per l’intelligenza artificiale sino ad andare del tutto in contrasto con la sua “visione” una volta che fosse raggiunta la “singolarità”, e pertanto venire ignorata. Che scrupolo potrebbe avere, una macchina autocosciente che ha il fine ultimo di vincere una battaglia, ad eliminare un’intero gruppo di uomini, un’intera popolazione, qualora dovesse decidere, autonomamente, che questo rappresenti l’unica mossa vincente per completare il suo programma operativo? Nessuno. Un po’ quanto accade per l’uomo quando distrugge un ecosistema per costruire una diga che fornirà energia elettrica a un’intera regione.

Non esistendo, infatti, nessun indicatore quantitativo oggettivo – quindi fissato – di proporzionalità tra danni e vantaggio militare, la valutazione deve essere effettuata qualitativamente dal comandante – o da un operatore umano di qualche tipo – e pertanto una tecnologia Human-out-of-the-loop risulta molto pericolosa in questo senso.

C’è chi sostiene che l’intelligenza artificiale di un Laws possa essere programmata per attenersi a questi principi, quindi operare in conformità del Diu, ma un intervento umano di qualche tipo risulterà comunque necessario quando si arriverà a livelli di sviluppo tali in cui macchine progetteranno autonomamente altre macchine. Uno scenario da Terminator che si sta avvicinando a grandi passi.

Come fare per evitare lo scenario “Skynet”?

Per cercare di evitare il peggiore degli scenari possibili, ovvero quello del raggiungimento della totale autonomia decisionale dell’intelligenza artificiale, si sta cercando di arrivare ad accordi internazionali tra i Paesi che stanno per introdurre, o hanno già introdotto, varie forme di questa tecnologia nei sistemi d’arma.

Durante una riunione tenutasi ad agosto 2018 del gruppo Onu di esperti governativi (Gge) per cercare di dirimere la questione, 26 Paesi hanno proposto la messa al bando dei sistemi letali totalmente automatici, mentre altri 12, tra cui Russia, Stati Uniti e Regno Unito si sono opposti anche ad un’eventuale apertura di negoziazioni su di un possibile trattato internazionale riguardante i Laws.

Attualmente il dibattito quindi è del tutto aperto con posizioni spesso contrastanti. Nel tentativo di tradurre in concreto le discussioni sulle linee d’azione, alcuni Stati ed organizzazioni hanno proposto alcune linee guida per il futuro: da un lato Paesi come Brasile, Austria e Cile hanno evidenziato l’urgenza che la Gge stabilisca un nuovo strumento vincolante internazionale riguardante i Laws, sostenuto dalla maggioranza delle delegazioni internazionali – tra cui anche quella della Croce Rossa – alcune delle quali ne hanno caldeggiato la messa al bando, come già detto, dal lato opposto, invece, troviamo quei Paesi, tra cui Australia, Regno Unito, Argentina, che hanno proposto di continuare a discutere sulla possibile utilizzazione delle normative vigenti, nello specifico dell’articolo 36 del Primo Protocollo Addizionale della Convenzione di Ginevra.

La strada per arrivare ad una normativa universalmente accettata risulta essere quindi in salita, soprattutto per i diversi approcci di quelle potenze globali come Russia, Cina o Stati Uniti che maggiormente sono attive nel campo della ricerca sull’intelligenza artificiale applicata agli strumenti bellici.

Se una messa al bando di tali sistemi appare utopistica ed inverosimile, è però fondamentale, a nostro giudizio, che vi sia la volontà generalizzata di costruire sistemi in grado di avere un qualche tipo di controllo umano finale, pertanto con tecnologia Human-in-the-loop, gli unici, che, attualmente, possono fornire un qualche tipo di sicurezza e, non da ultimo, capacità decisionale e quindi di assunzione di responsabilità da parte dell’uomo.

L'articolo Il dilemma Terminator proviene da InsideOver.