Intelligenza artificiale, quando l’algoritmo diventa arma

L’intelligenza artificiale è ormai parte integrante della vita di tutti noi e degli ambienti lavorativi. Per questo motivo l’Unione Europea si è mobilitata per regolamentarne l’utilizzo con l’AI ACT europeo (regolamento UE 2024/1689). Sulla stessa linea, il Consiglio dei ministri italiano ha approvato in esame preliminare due decreti legislativi attuativi della legge 132 del 2025 sull’intelligenza artificiale. Una legislazione doverosa, per una tecnologia che, se usata nel modo sbagliato, può causare danni. Ma ciò che spaventa molti è il confine sottile tra utilizzo a fine di prevenzione e utilizzo a scopo di controllo di massa. In Italia l’identificazione biometrica da remoto negli spazi pubblici sarà limitata, le autorità di polizia dovranno chiedere un’autorizzazione al giudice, che la concederà per un massimo di 15 giorni; nel caso di urgenza, però, le autorità saranno legittimate ad agire senza permesso, comunicando al giudice l’utilizzo dell’identificazione che avrà 3 giorni per convalidarne ex post l’uso.

Se nei sistemi democratici l’assenza di regole stringenti rischia di erodere le libertà personali, in contesti autoritari l’uso dell’AI è già strutturale. Realtà come la Cina, la Russia, Iran e Israele dimostrano come l’analisi predittiva e l’identificazione biometrica vengano impiegati non per prevenire il crimine, ma per automatizzare il controllo sociale e monitorare il dissenso, trasformando l’algoritmo da strumento di controllo sociale a vera e propria arma bellica.

La repressione cinese

La Cina utilizza il più grande sistema di sorveglianza del mondo, integrando tecnologie di intelligenza artificiale avanzata. Tramite il monitoraggio e il tracciamento su larga scala (dati biometrici: immagine del volto, scansione dell’iride, sorveglianza genomica tramite prelievi del sangue) nel 2017 è iniziata una massiccia campagna repressiva degli Uiguri, un’etnia turcofona e di religione islamica sunnita, stanziata nella regione autonoma dello Xinjiang. Tramite l’utilizzo dell’AI gli Uiguri vengono individuati e internati nei cosiddetti “campi di rieducazione”, in cui sono costretti ai lavori forzati, a sottoporsi a sterilizzazione e alla cancellazione culturale. L’attenzione per questa vicenda è arrivata anche alle Nazioni Unite, che nel 2022 hanno pubblicato un rapporto formale con cui accusano la Cina di possibili crimini contro l’umanità.

L’AI per rintracciare Khamenei

Secondo un’inchiesta del Financial Times, sarebbe stato l’hackeraggio della rete di telecamere del traffico di Teheran, combinato con l’utilizzo di AI, a permettere a Stati Uniti e Israele di rintracciare la Guida Suprema dell’Iran, Ali Khamenei e ordinare il bombardamento mirato che ha ucciso lui e gran parte della sua famiglia. Il ruolo dell’AI entra in gioco nell’elaborazione dell’enorme quantità di dati raccolti, ma gran parte del lavoro sarebbe stato svolto dall’Unità 8200 dell’IDF (reparto dell’esercito israeliano specializzato in intercettazioni e cyber-intelligence). I servizi di intelligence monitoravano da anni le telecamere del traffico di Teheran, studiando le abitudini del regime e intercettando le loro comunicazioni. Il giorno dell’attacco, Israele e USA hanno interrotto il servizio di telefonia in Pasteur Street, dove il leader iraniano è stato ucciso, rendendo impossibile allertare la sicurezza. Secondo il Wall Street Journal e Axios, il comando militare statunitense avrebbe utilizzato Claude, l’AI di Anthropic, per sostenere le operazioni contro Teheran, sfruttandolo per analisi di intelligence, selezione dei bersagli e simulazioni operative.

L’utilizzo in guerra: Israele

Israele fa un largo uso di queste tecnologie integrate con l’intelligenza artificiale, un esempio concreto è il conflitto a Gaza, che è servito come banco di prova per “testare” delle tecnologie che hanno ridisegnato il modo di combattere la guerra. L’utilizzo di sistemi AI avanzati ha dimostrato come la tecnologia possa moltiplicare l’efficacia delle forze armate, ma al contempo creare nuove sfide etiche. Tra i sistemi più avanzati utilizzati dall’IDF ne troviamo due basati sull’AI: Lavender e Gospel (in ebraico Habsora, ossia “il Vangelo”). Il primo è un sistema progettato per identificare potenziali membri di Hamas, o altre organizzazioni similari. Si basa sull’analisi di una vasta gamma di dati: attività sui social media, geolocalizzazione e reti di relazioni personali. Tramite algoritmi avanzati processa queste informazioni per identificare pattern che possono sfuggire al controllo umano. Il secondo, oltre a combinare dati satellitari, immagini termiche e segnali elettromagnetici per mappare e classificare potenziali infrastrutture sospette, genera anche consigli sui bersagli da colpire: nel suo utilizzo nel 2021 contro Hamas arrivava a generare 100 target al giorno, contro i 50 target all’anno individuati dall’IDF prima di adottarlo.

L’integrazione dell’AI in campo militare ha portato a dei cambiamenti drastici nella conduzione della guerra: ha modificato la velocità decisionale, la precisione operativa e la gestione delle informazioni. Questo solleva preoccupazioni in merito al tradizionale ciclo OODA (Osservazione, Orientamento, Decisione e Azione) che risulta notevolmente compresso. Secondo l’analisi condotta dal giornale palestinese +972, durante il conflitto 37mila palestinesi sono stati indicati come potenziali obiettivi, ma l’utilizzo di queste operazioni non sempre include il controllo umano.

I sistemi di errore dell’AI

Se da un lato l’utilizzo dell’AI promette maggiore precisione nelle operazioni militari e la riduzione di danni collaterali, dall’altro lato la realtà è leggermente più complessa. Questi sistemi operano con margini di errore significativi (per Lavender, ad esempio, il margine riportato è del 10%): se si considera il suo utilizzo in guerra le conseguenze possono essere tragiche per la popolazione civile. Un esempio concreto è il conflitto a Gaza, in cui il bilancio delle vittime palestinesi ha superato i 73mila morti confermati.

Palantir e Maven Smart System

Israele e Cina non sono gli unici paesi ad usufruire dell’AI nel campo militare. Gli USA hanno siglato accordi con i giganti della tecnologia per includere l’intelligenza artificiale nel loro apparato militare. È il caso di Maven Smart System, sviluppato da Palantir Technologies (azienda di software e big data specializzata in AI per governi e analisi avanzate) a partire da Project Maven, l’iniziativa avviata dal Dipartimento della Difesa nel 2017 con lo scopo di velocizzare l’analisi dei dati raccolti da varie fonti: droni, satelliti e aerei. Il sistema sfrutta inoltre un modello di Claude.

Viene utilizzata principalmente dalla National Geospatial­ Intelligence Agency (agenzia che raccoglie e analizza i dati satellitari), ma al contempo viene utilizzata da tutti i corpi militari statunitensi. Tramite l’applicazione di algoritmi di computer vision alle immagini satellitari, può rilevare automaticamente i bersagli vicini. Inoltre, può suggerire quali munizioni assegnare agli obiettivi. Nei primi giorni di guerra contro l’Iran, tramite Maven, sono stati scelti e colpiti oltre 2 mila bersagli. Tuttavia, le decisioni basate sull’utilizzo dell’AI non sono corrette al 100%: all’inizio del conflitto USA-Israele-Iran, un missile Tomahawk ha colpito per errore una scuola elementare a Minab, in Iran, causando 168 morti, di cui 110 bambine tra i 7 e 12 anni (era una scuola femminile).

L’AI Act e i due decreti legislativi italiani tentano di stabilire una cornice di utilizzo dell’AI, disegnando un confine che eviti di violare la privacy del cittadino e di sconfinare nella sorveglianza di massa. I casi riportati mostrano quanto sia sottile quel confine quando l’AI non è regolamentata ed entra in quello della guerra o della repressione.