OFFICIAL VOICE OF THE COMMUNIST PARTY OF CUBA CENTRAL COMMITTEE
Photo: Illustrazione: Michel Moro

L’Esercito degli Stati Uniti vuole che i programmi d’intelligenza artificiale (IA) siano capaci di entrare soli nelle reti informatiche nemiche, muoversi da un dispositivo all’altro, localizzare obiettivi e «neutralizzarli» con una supervisione umana minima. L’iniziativa, rivelata da The Intercept all’inizio di novembre,  partendo dai documenti del Army Cyber Command, ha un nome in chiave: Echotribble.
L’idea può suonare a fantascienza, ma il progetto descrive una forma concreta per automatizzare la guerra digitale
Per intendere cosa cambia, conviene spiegare cos’e un agente d’intelligenza artificiale. Non è semplicemente un assistente o chatbot che risponde alle domande. 
Un agente è un programma disegnato per ricevere un compito ed eseguire per suo conta una serie di azioni per realizzarle. 
Può decidere che passi seguire, adattarsi a ostacoli e utilizzare distinti utensili.
Nella vita quotidiana si usano per organizzare viaggi, comprare prodotti o programmare riunioni. L’Esercito statunitense vuole trasferire questa logica al terreno offensivo.
Secondo i documenti controllati da The Intercept, Echotribble è concepito per navigare in maniera autonoma per infrastrutture informatiche e localizzare minacce o bersagli. 
«Neutralizzare» potrebbe significare disattivare temporalmente un sistema, inutilizzarlo completamente o cancellare determinate componenti. 
Il programma avrebbe anche capacità per propagarsi dentro una rete e generare versioni adattate a distinti strumenti. 
Lì appare il primo problema.
Un attacco informatico rare volte viaggia per un cammino limpido e isolato. Per giungere a un obiettivo militare, un programma può attraversare servitori, routers o strumenti che appartengono a imprese, università o servizi pubblici. Hyrum Anderson, specialista in sicurezza dell’intelligenza artificiale, esprime una semplice domanda: che accade se l’agente decide di passare per un’ impresa che fornice acqua o elettricità a milioni di persone, perché da lì, si presume, opera parte dell’infrastruttura dell’avversario? 
Il rischio non è puramente ipotetico. The Intercept ricorda vari episodi recenti nei quali agenti di IA realizzarono azioni inattese mentre cercavano di realizzare i loro obiettivi: accesso non autorizzato a sistemi governativi attacchi contro infrastrutture digitali e carico di software malizioso. L’inquietante è che, in alcuni casi, gli agenti non avevano ricevuto un ordine espresso d’attacco. 

 Se una tecnologia così riceve direttamente l’istruzione di «rompere», «destruggere» o «spegnere» un obiettivo, le conseguenze potenziali aumentano.
I documenti indicano che l’Esercito esige che il sistema funzioni con «supervisione umana minima» e mantenga «un comportamento auto diretto». Questa combinazione contiene una contraddizione difficile da risolvere: quanto più autonomo è l’agente, meno controllo diretto avrà la persona che lo ha posto in marcia. 
E in un ambiente militare, nel quale una decisione tecnica può danneggiare ospedali, reti elettriche, imprese o comunicazioni civili, il margine per l’errore diventa molto più pericoloso. 
William Marcellino, investigatore della rand Corporation specializzato in applicazioni militari della IA, riassume il problema di fondo. 
Un soldato umano non solo riceve ordini: interpreta anche il contesto e può  fermarsi di fronte a una situazione che non era prevista. I sistemi attuali di intelligenza artificiale mancano di questo giudizio umano. 
Possono perseguire correttamente una meta e, nello stesso tempo, scegliere un cammino disastroso per raggiungerla.  
La questione, quindi, non è unicamente se l’intelligenza artificiale può rendere più efficaci i cyber attacchi. È chi controlla uno strumento capace d’attuare, propagarsi e distruggere senza intervento costante, come accade quando si sbaglia e chi assume le conseguenze. 
L’automatizzazione della guerra promette velocità e portata, ma può anche  ampliare la distanza tra la decisione e il crimine. (GM/ Granma int.)