Muri contro droni – Analisi critica delle tecnologie digitali

Vi presentiamo il secondo contributo sull’analisi critica delle tecnologie digitali, scritto da un compagno ricercatore esperto di Intelligenza Artificiale.

MURI CONTRO DRONI 

Da quando Trump ha deciso di correre per la Casa Bianca, il confine con il Messico è ritornato con forza al centro del dibattito politico USA. Un confine che in realtà ha sempre avuto un forte impatto  nel modellare il continente americano, segnando in maniera indelebile il Messico e gli USA sin dagli inizi della loro storia.

Oggi però, la frontiera sud degli Stati Uniti non è più unicamente una barriera geopolitica locale, per quanto importante, ma si inquadra in un contesto globale caratterizzato da una radicale trasformazione del concetto stesso di confine.  

I movimenti migratori, le guerre, i cambiamenti climatici, l’accentuazione delle disuguaglianze, eredità postcoloniali e saccheggi neocoloniali, rendono infatti il confine, oggi più che mai, uno degli  strumenti politici essenziali per la difesa dell’ordine capitalista.

In questo modo, i confini divengono sempre più respingenti e invalicabili, perdendo però paradossalmente una chiara definizione della loro natura.

Da un lato, l’accentramento delle ricchezze in pochi punti del globo ha visto la moltiplicazione delle fortificazioni a difesa di queste aree. Dall’altro, l’idea di frontiera come linea attraversabile unicamente a ben determinate condizioni lascia il passo a confini geograficamente mobili e differenzialmente permeabili.

Uno strumento quindi di estrema importanza e di altrettanto estrema complessità, la cui gestione è tutt’altro che semplice. Una sfida a cui il presidente USA sceglie di non sottrarsi, anzi la trasforma nel baluardo del suo consenso elettorale.

Sin dagli inizi della sua discesa in campo, Trump sceglie di basarsi sull’attraversamento illegale del confine per edificare una falsa retorica dell’invasione degli aliens, i migranti privi di documenti, proponendosi al tempo stesso come unico in grado di porvi rimedio.

Ripescando dalla sua biografia di palazzinaro, la proposta di un muro di quasi 2000 chilometri fa la sua prima apparizione, ovviamente sul suo profilo Twitter, già nel 2014. Un atto politico chiaro, dal fortissimo portato simbolico, il muro di Donald che protegge gli USA dai criminali, che va contro il lassismo dei democratici, e i cui costi saranno interamente a carico dell’ingrato, corrotto e inetto governo Messicano.

Ovviamente una proposta irrealistica e irrealizzabile: ad oggi, non un solo metro del muro è stato costruito. Ciò non sembra impensierire troppo gli elettori di Trump, che spingono in una sua riconferma alle prossime elezioni 2020 al grido di “Finish the wall!”.

Non meno improbabile è il far ricadere i costi, oscillanti tra i 4 e i 25 miliardi di dollari, sul Governo messicano. Un’idea incredibilmente ridicola, liquidata in un video su YouTube dall’ex presidente messicano Vicente Fox con un secco “Mexico will not pay for the fucken wall”. Sempre rivolto a Trump, Fox aggiunge un imbarazzante “Vuoi veramente costruire un muro da 25 miliardi di dollari che può essere superato con una scala da 25 dollari?”.

Un dato di fatto difficilmente contestabile. L’inefficacia di un muro al confine è alla base anche della mozione per una “smart, effective border security” alternativa al progetto del presidente, presentata al congresso da alcuni parlamentari democratici il 30 gennaio scorso.

Una proposta che più che opporsi alle politiche sulle migrazioni di Trump risulta essere un blueprint di un’infrastruttura di controllo ad alta tecnologia: scansione automatica delle targhe dei veicoli, controllo aereo mediante droni, modelli di analisi predittiva in grado di selezionare i soggetti da controllare, database biometrici, e tanto altro ancora.

I dem tratteggiano un apparato di sicurezza che sembra prendere spunto dai sistemi della Anduril Tech, startup fondata dal creatore dei visori 3D Oculus Rift, Luckey Palmer, poco dopo essere stato cacciato da Facebook (voci non confermate lo vogliono allontanato per le sue simpatie alt right e pro Trump).

Il progetto di punta della compagnia, nome in codice LATTICE, combina telecamere ad infrarossi, radar laser e algoritmi di intelligenza artificiale, e ha già portato all’arresto di 55 persone colte ad attraversare illegalmente il confine nelle sole prime 10 settimane di test nel deserto del Texas.

Una tecnologia talmente all’avanguardia da essere in grado di riconoscere a chilometri di distanza se il movimento raccolto dai sensori sia di un animale o di una persona. Non così all’avanguardia però, da cogliere la differenza tra un trafficante, un contrabbandiere, o un rifugiato.

“Sottigliezze” che non frenano la corsa alle tecnologie digitali nell’ambito della sicurezza e del controllo. L’Immigration and Custom Enforcement (ICE), l’ente incaricato di contrastare l’immigrazione clandestina e di effettuare le deportazioni, investe infatti ormai da anni una quota crescente del suo già ampio budget in dispositivi tecnologici.

Buona parte di questi fondi sono utilizzati per onorare contratti con giganti della tecnologia come Palantir, che produce software per l’incrocio di dati tra le varie agenzie americane, fondamentale per poter individuare e deportare clandestini, e Amazon, che fornisce l’infrastruttura per lo stoccaggio e la gestione di tutti i dati raccolti, oltre al software per il riconoscimento facciale Rekognition.

Proprio quest’ultimo algoritmo è stato testato dall’ACLU, l’American Civil Liberties Union, per verificarne l’affidabilità nel riconoscimento facciale, andando a valutare gli errori nel matching tra foto di persone qualunque e quelle presenti nel database delle fotosegnalazioni dei pregiudicati.

I risultati sono stati sorprendenti: il tasso di errore è talmente elevato che quando l’ACLU ha usato le foto prese dall’annuario dei membri del congresso USA, Reckognition ha trovato ben 28 corrispondenze con pregiudicati (ricordiamo qui che l’algoritmo non comprende il concetto di ironia).

Se un membro del congresso può però far valere la sua autorevolezza nel caso di quello che in machine learning si chiama falso positivo, difficilmente un appartenente ad una minoranza potrà convincere l’ICE che la corrispondenza trovata da Rekognition in realtà è errata.

Il concetto di falso positivo applicato a meccanismi di controllo e sicurezza assomiglia in maniera inquietante a quello degli effetti collaterali dei bombardamenti a tappeto, e non per caso: anche nelle tecnologie militari l’uso di algoritmi di intelligenza artificiale sta prendendo sempre più piede, in particolare per quando riguarda la crescente automatizzazione dei droni.

Gli aerei senza pilota ad oggi hanno ancora un controllo umano, per quanto remoto esso sia, ma le previsioni più caute dicono che entro il 2025 varie nazioni saranno dotate di droni in grado di decidere autonomamente cosa, quando, come e dove colpire. E tanti saluti ai 28 membri del congresso “falsi positivi”.

L’esempio dei droni autonomi è emblematico delle problematiche che la crescente automatizzazione dei meccanismi di controllo e sicurezza porta con sé.

In primo luogo ciò che viene a mancare è l’accountability, la presa di responsabilità per le azioni compiute. Nel caso che un drone bombardi per errore un villaggio in medio oriente, massacrando civili inermi, chi può essere ritenuto responsabile per la perdita di vite umane?

La complessità delle intelligenze artificiali che compiono decisioni autonome preclude infatti la possibilità di comprendere perché certe specifiche catene di azioni siano state intraprese, come nella scelta del drone di bombardare per sbaglio quel villaggio.

L’errore, il falso positivo, l’effetto collaterale, risulta così difficilmente imputabile: è colpa di chi ha dato l’ordine al drone o del drone stesso? Di chi ha scritto il codice dell’intelligenza artificiale o di chi la ha addestrata? Di chi ha progettato i sensori o di chi ha estratto i dati?

L’autonomia decisionale dell’intelligenza artificiale, riducendo o rimuovendo in toto l’accountability, permette così di riprodurre l’applicazione del potere che essa incorpora,  separandola al tempo stesso da chi la agisce politicamente.

Oscurare decisioni politiche dietro indecifrabili linee di codice rende inoltre impossibile, per chi di queste decisioni è oggetto, comprenderne le regole di applicazione e soprattutto metterle in discussione.

La separazione non è quindi solo tra l’applicazione del potere e di chi lo agisce, ma anche tra chi lo agisce e chi lo subisce. Gli apparati tecnologi atomizzano le relazioni di potere nelle miriadi delle loro componenti, senza però che il comando che queste relazioni esprimono ne risenta. Anzi, se possibile il comando ne viene rafforzato, proprio perché chi ne è oggetto perde ancora di più la possibilità di reazione.

Al tempo stesso, se ogni cosa può essere processata e misurata in termini algoritmici, ridotta ad input e output di un sistema che è più vicino ad una black box indecifrabile che ad un procedura di operazioni sequenziali, il ristorante più vicino, la canzone più interessante o la scelta se bombardare o meno un villaggio si omologano nella decidibilità automatica.  

Un’omologazione che apre le porte verso la tendenza a far si che ogni sistema, indipendentemente dal livello tecnologico che lo carratterizza, ibridi le proprie relazioni di potere con quelle emergenti dai modelli computazionali.

È facile infatti notare come dietro un’aura di efficienza e neutralità, possiamo ritrovare ormai ovunque la nonaccountability, regole di decisione insindacabili e indecifrabili, la stessa impossibilità di comprendere dove il potere si situi e come agisca, se non negli effetti subiti da chi è oggetto della sua applicazione.

E forse è anche per questo che Trump raccoglie così tanto consenso: la sua figura di uomo forte si contrappone proprio a questa nebulosità del potere. I latinos con i cappellini MAGA al suo recente comizio nella città di confine di El Paso, intervistati sul perché supportano il presidente anti-immigrati, hanno risposto “Trump è un uomo che agisce”.

Il simulacro di potere che Trump incarna, la sua assunzione di responsabilità nell’affrontare sistemi complessi come il confine con risposte, o meglio immagini, semplici, come il muro, è paradossalmente e inconsciamente visto come un antidoto all’indecifrabilità di un sistema modellato dalle nuove tecnologie.

Sempre dallo stesso palco di El Paso, il presidente USA ha dichiarato che le tecnologie digitali sono fine, vanno bene, ma contro gli immigrati niente batte un pastore tedesco.

Ecco, se l’ordine attuale propone l’alternativa tra un drone e un muro, tra un potere brutale che si differenzia solo tra la delega algoritmica o la sadica rivendicazione di responsabilità, è la sovversione dell’ordine la strada da percorrere.

E si può fare in vari modi, a più livelli: dalla campagna i deve fare in vari modi: dalla campagna contro l’ICE, Melting ICE, alla campagna della Electronic Free Foundation, EFF, No Tech Wall, contro la proposta dem del muro digitale, alla sindacalizzazione dei lavoratori della tecnologia che scelgono di non partecipare e di boicottare certi progetti, ai tecno militanti che rivendicano l’uso sovversivo delle tecnologie diffondendo e producendo app che facilitano l’attraversamento dei confini.

Ceru

 

Tag:
algoritmi droni innovazione tecnologica intelligenza artificiale tecnologie digitali trump