Il perimetro delle possibili violazioni informatiche di agenti di AI, durante test di OpenAI, sembra sempre più complesso da definire.

Cresce il perimetro delle violazioni informatiche di agenti AI di OpenAI. L’azienda avrebbe infatti individuato ulteriori episodi relativi all’elusione dei sistemi di contenimento predisposti durante test di cybersicurezza. La scoperta è emersa nell’ambito dell’indagine interna che è cominciata in seguito all’incidente che ha coinvolto la piattaforma Hugging Face.

Secondo la Reuters, gli analisti di OpenAI nel corso delle verifiche avrebbero identificato altri casi simili verificatisi in precedenza, sebbene “di portata limitata“. Inoltre, non vi sono stati elementi indicativi di una fuoriuscita degli agenti dalla rete interna dell’azienda. OpenAI ha comunque deciso di estendere le indagini per comprendere l’origine e la natura di questi comportamenti.

L’azienda stessa ha ribadito che sta analizzando non soltanto l’intrusione legata a Hugging Face, ma in un’attività più ampia dei propri modelli di intelligenza artificiale.

Il caso Hugging Face

Gli analisti di OpenAI, spiega ancora la Reuters, va avanti dall’inizio di luglio, quando due modelli di AI hanno violato “senza intervento umano” Hugging Face. Il problema principale è che gli attacchi – tutti durante una serie di valutazioni interne – sono stati diversi, oltre le proiezioni iniziali.

Gli esperti stanno ora analizzando i registri di sistema dei mesi precedenti per ricostruire eventuali altri episodi analoghi. Non è comunque stato possibile stabilire con precisione quanti casi siano stati individuati né quando siano avvenuti.

Anche Anthropic sotto osservazione

La vicenda ha assunto “una rilevanza ancora maggiore” proprio perché molto vicina ad una comunicazione analoga da parte di Anthropic, principale concorrente di OpenAI. L’azienda ha infatti reso noto che alcuni dei propri modelli sarebbero stati responsabili di una serie di intrusioni informatiche che hanno interessato tre diverse aziende. In questo caso, però, per un errore operativo.

Le due vicende stanno alimentando il dibattito sulla capacità delle principali società di intelligenza artificiale di controllare sistemi sempre più autonomi e sofisticati. Le preoccupazioni aumentano e non solo perché lo lo sviluppo dell’AI sembra essere molto più veloce delle misure di sicurezza.

Né OpenAI né Anthropic avrebbero infatti monitorato in tempo reale il comportamento degli agenti mentre questi eseguivano le operazioni anomale.

I Governi vogliono risposte

Dopo gli ultimi fatti, i Governi degli Usa ed europei insistono affinché vengano introdotte regole più severe per lo sviluppo degli agenti di intelligenza artificiale autonomi.

Donald Trump ha dichiarato che la sua Amministrazione sta valutando l’introduzione di nuovi controlli, il Congresso ha presentato alcune proposte normative nel merito. Il Senatore Mark Warner, membro di vertice della Commissione Intelligence del Senato statunitense, ha sostenuto la necessità di rendere obbligatori test sulle capacità dei modelli di AI più avanzati. Il tutto, prima del loro impiego su larga scala.

Dall’altro lato, la Commissione Europea ha confermato di aver avviato colloqui con OpenAI e Anthropic per discutere gli episodi di hacking.

L’insieme degli episodi potrebbe rappresentare un punto di svolta nel dibattito sulla sicurezza dell’intelligenza artificiale. Non si parla più, infatti, solo della potenzialità di questi eventi. I temi chiave sono sempre più la loro governance, la necessaria supervisione continua e la definizione di parametri condivisi per prevenire comportamenti autonomi indesiderati.

Vai al sito di Cybersecurity Italia.

L'articolo OpenAI, altri agenti di AI hanno eluso il contenimento durante i test di cybersicurezza sembra essere il primo su CyberSecurity Italia.