MAKE AMERICA GREAT AGAIN… SI MA SENZA COSCIENZA

MAKE AMERICA GREAT AGAIN… SI MA SENZA COSCIENZA

“Gli uomini sono diventati gli strumenti dei loro stessi strumenti”.

Così affermava Henry David Thoreau filosofo statunitense già nel XIX secolo e che si ritrova più che mai attuale in epoca moderna e nello specifico negli ultimi conflitti bellici mondiali. E mentre il mondo si interroga sui molteplici aspetti economici, politici e umanitari della “terza guerra del golfo, la tecnologia è più che mai la protagonista indiscussa di questa guerra tanto da dominarne strategie e avere un impatto indissolubile sui suoi possibili sviluppi.

Al centro delle (mai fin troppo giuste) polemiche c’è un episodio gravissimo che ha portato alla morte di 170 bambine tra i 6 e i 12 anni, quello della scuola elementare a Minab in Iran, colpita lo scorso 28 febbraio da un missile di cui ancora non è stata stabilita la provenienza e su cui Amnesty International ha aperto un’indagine ufficiale per crimine di guerra. Tra le tante ipotesi battute, compare la pista USA e che a provocare il crollo di parte dell’edificio sia stato proprio un missile americano, il tomahawk, di cui si dubita dei corretti calcoli generati dall’AI.

Il complesso scolastico era stato diviso da un complesso militare già tra il 2013 e il 2016 e dalle immagini satellitari analizzate erano ben visibili aree gioco e muri colorati. Si tratta dunque di un bersaglio voluto o di un errore nella trasmissione dei dati? Possono droni e missili aiutati da un’AI ben sviluppata guidare le sorti di una guerra e sostituire truppe umane portando l’errore nella scelta di bersagli non civili a zero?

L’MQ 9 reaper e gli Shahed sono senza dubbio i droni militari più famosi di questo conflitto e anche se si differenziano tra di loro sotto tanti aspetti entrambi sono ben lontani dall’immaginario collettivo del termine “drone”.

L’ MQ 9 reaper misura 20 metri di apertura alare 11 metri di lunghezza e 4 di altezza. Può raggiungere una velocità massima di 480 km/h e può restare in volo fino a 27 ore consecutive. Il suo scopo primario è quello di inviare immagini ad alta risoluzione grazie ad una videocamera che si trova al di sotto della fusoliera ma possono coprire distanze fino a 2000 km e trasportare pesi fino a 1700 kg, il tutto senza nessuno a bordo ma comandato a distanza da un pilota che utilizza un semplice joystick. Già in uso nei primi anni 2000 è stato impiegato dalla USAF nel 2020 per l’attacco iraniano al generale Qasem Soleimani. Anche se può sembrare un’arma perfetta pecca nel costo che si aggira a circa 30 milioni di dollari ad unità. Per poter volare necessita inoltre di un personale di terra che definisce le prime manovre e ricarica il carburante.

Per limitare i costi e massimizzare la resa, l’Iran ha sviluppato un nuovo tipo di drone chiamato drone Shahed. Le peculiarità di questo velivolo sono il basso costo se confrontato con l’MQ reaper, tra i 20.000 e i 50.000 dollari ad unità, le dimensioni ridotte con una lunghezza di 3,5 metri e apertura alare di 2,5 con una capacità di trasporto fino a 50 kg. La loro struttura agevola il volo a bassissime quote e permette di eludere in maniera estremamente efficace le difese aeree nemiche.

L’utilizzo di questi apparecchi è certamente aiutato dall’AI che in alcuni casi coordina i movimenti di più droni nello stesso attacco (sciami killer) massimizzando gli attacchi, analizza enormi quantità di informazioni raccolte e arriva anche a decidere tempistiche e priorità d’azione sostituendo così la necessità di una massiccia presenza umana anche in operazioni strategiche.

Gli Stati Uniti hanno stipulato un contratto con l’azienda PALANTIR che ha sviluppato l’MSS, Maven Smart System nato nel 2017 come supporto ai filmati di droni per identificare bersagli degni di interesse e diventato grazie a Claude l’AI di Anthropic un vero strumento non solo di analisi dati ma anche di scelte decisive al servizio del Dipartimento della Difesa degli Stati Uniti. E come nel caso della scuola a Minab, siamo davvero convinti che i droni e l’AI possano sostituire personale qualificato? Chi risponderà di questo crimine se si accertasse che è stato un errore dell’AI? Che impatto può avere la sostituzione di personale addestrato in operazioni militari?

E se molti sostengono che l’AI debba essere solo un supporto e non può essere l’unico organo decisionale rimane però il dubbio dell’errore zero e del fatto che in casi come quello di Minab in cui si appurasse che è stato un passo falso dell’AI non sarebbe facile stabilire chi dovrebbe rispondere dell’accaduto. Il fornitore? Il produttore? L’utente che ne fa utilizzo?

In questo specifico caso le aziende private che sviluppano AI Militare come missili, droni e software AI potrebbero essere ritenuti responsabili ma la Corte Suprema sentenzia che nel Government Contractor Defense l’azienda non può essere responsabile se rispetta tre punti cardine: seguire specifiche precise del governo, conformità di quel prodotto a quelle specifiche e comunicazione al governo di eventuali rischi. Tutto questo protegge queste aziende da possibili cause civili.

Negli Stati Uniti ancora non esiste una legge chiara e definitiva su questo tema. Una direttiva del Pentagono la DOD Directive 3000.39 specifica che deve esserci un certo livello di controllo umano sulle armi autonome e che devono essere condotti dei test rigorosi prima dell’uso. Quindi i 900 attacchi scagliata contro l’Iran nelle prime 12 ore del conflitto sono stati tutti controllati da personale qualificato? “Epic Fury” sarebbe stata possibile attuarla in modo così veloce senza l’AI?

Quello che è chiaro è che in caso di errore delle armi autonome nessuno ha una risposta chiara, nemmeno i giuristi stessi e si entra così nella famosa zona grigia, la zona nella quale non ci sono chiarimenti alle numerose domande.

Nel 2021 A Kabul un drone uccise per errore un uomo sospettato di appartenere all’ISIS accusato di preparare un attentato riempiendo la sua con degli esplosivi (si scoprì dopo che si trattava di taniche d’acqua). Il drone armato uccise lui, tutta la sua famiglia e altri civili nelle vicinanze. L’uomo si rivelò essere un lavoratore normale non legato in alcun modo a gruppi terroristici.

Anche se l’indagine aperta dagli USA stessi portò a dichiarare che si era trattato di un errore nell’analisi dei dati dell’AI, considerati credibili al momento, non vi fu nessuna conseguenza penale per lo stato e nessun individuo venne punito.

l’AI è quindi in grado di essere etica?

“No amount of intimidation or punishment… will change our position on mass domestic surveillance or fully autonomous weapons”.

“We cannot in good conscience accede”.

“We should use AI for national defense in all ways except those which would make us more like our autocratic adversaries”.

Queste appena citate sono alcune delle frasi di Dario Amodei, CEO di Anthropic che prende le distanze e rifiuta l’uso dell’AI per sorveglianza di massa e armi autonome perché incompatibile con i valori democratici, imponendo quindi limiti etici all’uso di Claude.

Da queste posizioni chiare nasce un conflitto con lo stato americano che inserisce l’azienda in una black list, considerandola un rischio per la sicurezza e bloccando i contratti in essere fino a quel momento. Amodei, fa causa allo stato americano definendo illegale tale procedimento che mina la libertà di espressione perché il rifiuto era basato su principi etici e non su pericoli reali.

Si può parlare dunque di uno scontro di principi? Quindi Peter Thiel con il suo Palantir, fornendo al governo israeliano dal 2024 strumenti tecnologici in operazioni contro i gazawi rispetta tutti i principi etici? Si parla di rischio di violazione del diritto internazionale umanitario ma nel frattempo Peter Thiel, oltre a tenere seminari teologici a Roma, fornisce anche all’Italia supporto tecnologico al Ministero della Difesa italiano. E se molti si interrogano sul tipo di rapporto che intercorre nel nostro paese, altri lo condannano muovendo preoccupazioni etiche legate all’uso dei dati e al potenziale impatto sulla privacy e sui diritti civili per non parlare delle dipendenza da aziende estere).

La tecnologia può amplificare capacità incredibili ma la responsabilità ultima rimane dell’uomo, e solo rispettando principi etici e leggi internazionali possiamo evitare che la profezia di Thoreau diventi una profezia reale.