Il deputato democratico statunitense Ro Khanna ha chiesto a cinque tra i principali sviluppatori di intelligenza artificiale informazioni sulle misure adottate per proteggere i pesi dei modelli avanzati da furti e accessi non autorizzati. Le richieste sono state indirizzate a OpenAI, Anthropic, Google, Meta e xAI nel quadro delle crescenti preoccupazioni sul cyberspionaggio tecnologico.

I model weights sono i parametri numerici appresi durante l'addestramento e rappresentano una parte centrale del valore tecnico di un sistema AI. La loro sottrazione può consentire a un soggetto esterno di eseguire, analizzare o adattare un modello senza sostenere gli stessi costi di ricerca, calcolo e raccolta dati.

Le domande rivolte ai laboratori

Khanna ha chiesto alle aziende di descrivere eventuali tentativi attribuiti alla Cina o ad altri attori ostili, le contromisure impiegate e le procedure di segnalazione alle autorità. Il parlamentare ha avvertito che il furto di un modello di frontiera potrebbe ridurre rapidamente il vantaggio tecnologico statunitense e ampliare capacità utilizzabili per sorveglianza, operazioni militari o attacchi informatici.

La richiesta non documenta un furto riuscito dei pesi dei modelli citati. Si tratta di un'iniziativa di vigilanza politica che mira a ottenere dati dalle aziende e a valutare se gli standard attuali siano adeguati al valore strategico degli asset.

Furto dei pesi e distillazione non sono la stessa cosa

Nel dibattito vengono spesso affiancati due rischi distinti. Il furto dei pesi implica l'accesso non autorizzato ai file o ai sistemi interni che contengono il modello. La distillazione, invece, utilizza grandi quantità di risposte di un servizio per addestrare un altro modello a imitarne le capacità, senza necessariamente penetrare l'infrastruttura del fornitore.

OpenAI e Anthropic hanno accusato in passato società cinesi di campagne di distillazione su larga scala. Le autorità statunitensi hanno inoltre segnalato attività mirate a estrarre capacità dai principali modelli occidentali. Queste contestazioni restano oggetto di confronto politico e industriale, anche perché la definizione di uso legittimo, abuso contrattuale e sottrazione di proprietà intellettuale non coincide sempre.

Come si protegge un modello di frontiera

La protezione dei pesi richiede controlli comparabili a quelli applicati agli asset critici: segmentazione delle reti, cifratura, gestione rigorosa delle chiavi, accessi minimi, autenticazione resistente al phishing, monitoraggio delle copie e registrazione delle operazioni privilegiate. I sistemi di addestramento e distribuzione devono inoltre limitare l'esfiltrazione attraverso storage, ambienti di sviluppo e fornitori della catena cloud.

La sicurezza dipende anche dai processi organizzativi. Verifiche sul personale, separazione delle responsabilità, controlli sui collaboratori e piani di risposta specifici per la perdita di un modello riducono il rischio che un singolo account o fornitore diventi il punto di accesso. Le risposte delle aziende al Congresso potranno contribuire a definire standard comuni e obblighi di notifica per una categoria di asset sempre più sensibile.