Quando un errore di sintesi dell’AI rischia di trasformarsi nel potenziale vettore di un confronto militare diretto.

Nella primavera del 2026, in pieno conflitto con l’Iran, un rapporto di intelligence ha attraversato le forze armate americane con un messaggio che non lasciava spazio a dubbi: una nave cinese in Medio Oriente stava trasportando componenti di un programma di armamento nucleare. Il comando si è mosso. Secondo quattro fonti citate dalla CNN, un team armato si preparava ad abbordare il mercantile e velivoli militari erano già in volo.

Poi, a poche ore dall’operazione, la verifica: il rapporto era stato prodotto con l’aiuto di un chatbot, che aveva identificato in modo errato il carico. La CNN non è riuscita a stabilire quale fosse. Una fonte lo ha definito «completamente falso», aggiungendo che «ha quasi scatenato una guerra». Come già raccontato da CyberSecItalia, il caso è un banco di prova su cosa accade quando l’AI entra nel punto più delicato della catena decisionale.

Un errore a due stadi

La dinamica è istruttiva. L’analista del Comando delle operazioni speciali aveva interrogato il chatbot su informazioni relative al manifesto di carico provenienti dal comando del Pacifico, alle Hawaii. Il sistema ha fuso fonti aperte e signals intelligence riservata, arrivando alla conclusione sbagliata. Poi l’analista ha usato di nuovo l’AI per confezionare i risultati in un rapporto standard, il formato di cui i vertici militari si fidano.

Qui sta il punto: due passaggi automatizzati hanno trasformato un’allucinazione in un documento dall’aspetto perfettamente istituzionale. Non è un falso positivo da sensore, che produce rumore riconoscibile. È testo coerente, plausibile e ben strutturato, che conferma per giunta le peggiori aspettative di Washington sul sostegno cinese a Teheran: il terreno ideale per il confirmation bias. Un modello linguistico non distingue il vero dal verosimile, e la forma autorevole del documento fa il resto.

Due potenze nucleari, un errore di sintesi

Un abbordaggio contro una nave cinese basato su dati inesistenti avrebbe potuto essere letto da Pechino come un atto ostile e aprire una crisi diretta tra due potenze nucleari, in un teatro già saturo per la guerra con l’Iran. È la logica della spirale di sicurezza: ciascuna parte interpreta le mosse dell’altra nel modo peggiore, e una manovra viene percepita come offensiva anche se nasce da un errore.

In questo schema l’errore informativo smette di essere tecnico e diventa strategico. La CNN sottolinea che gli analisti temevano da tempo uno scenario simile: uno Stato che apre il fuoco su una nave cinese sulla base di dati scorretti. Il caso lo rende concreto, e ricorda i temi che affrontiamo in questa rubrica: una tecnologia pensata per dare velocità e vantaggio si rivela anche un punto di vulnerabilità sistemica.

Il contesto: adozione rapida, standard frammentati

L’episodio si inserisce nell’accelerazione voluta dal Pentagono. A gennaio il segretario Pete Hegseth ha presentato l’«AI Acceleration Strategy», con l’obiettivo di mettere i modelli «nelle mani di tre milioni di persone, a tutti i livelli di classificazione». La piattaforma GenAI.mil si appoggia a Gemini for Government, a cui si è aggiunto Grok, mentre Anthropic offre una versione di Claude per l’intelligence. A giugno un rappresentante del Pentagono ha dichiarato al Congresso che 1,5 milioni di dipendenti hanno già usato questi strumenti.

Ma lo sforzo è decentralizzato: secondo i funzionari citati dalla CNN, parti diverse del governo usano strumenti diversi con ordini e standard di sicurezza diversi, senza un criterio unico di verifica. Ciò che emerge dalle fonti è anche un problema di cultura professionale: alcuni veterani temono che l’AI spinga a produrre e diffondere intelligence più in fretta, e che gli analisti più giovani, nativi di questi strumenti, si fidino senza spirito critico. «L’AI ti permette di arrivare a una cattiva idea più velocemente», ha detto una fonte.

Un dettaglio rilevante: sul targeting, ha detto un’altra fonte, «non esistono linee guida reali su come la presenza di un umano nel processo prevenga vittime civili o fuoco amico». E, secondo un ex alto funzionario, gli strumenti interni sono in gran parte «copie di quelli commerciali con il rossetto».

Integrare con strategia, misurando il risultato

Il caso non è un argomento contro l’AI: rinunciarvi significherebbe regalare un vantaggio ai competitor, e l’efficienza analitica è reale. Ma mostra che l’integrazione non può essere misurata in velocità di adozione. Un’AI che entra nei processi di intelligence va trattata come qualsiasi fonte non verificata: tracciabile, dichiarata come tale nel documento, e sottoposta a una revisione umana indipendente tanto più rigorosa quanto più irreversibile è l’azione che ne discende.

Qui la lezione è per tutti, non solo per il Pentagono. Chi introduce questi strumenti in contesti sensibili, dalla difesa alle infrastrutture critiche, deve chiedersi non solo «quanto accelera?», ma «cosa succede quando sbaglia, e chi se ne accorge?». Perché un errore che nasce da un prompt può diventare un incidente tra potenze, e le conseguenze geopolitiche non si correggono con un aggiornamento. Il vantaggio competitivo andrà a chi saprà costruire i contrappesi attorno ai modelli, non a chi li adotterà per primo.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo Dall’allucinazione al conflitto: l’AI nell’intelligence militare e il rischio di una guerra per errore sembra essere il primo su CyberSecurity Italia.