Dubbi sul presunto attacco di un agente OpenAI al portale Medicare australiano

La ricostruzione del governo australiano

Il primo ministro australiano Anthony Albanese ha dichiarato mercoledì che un agente di OpenAI avrebbe ottenuto "accesso non autorizzato" a "file non pubblici" sul portale Medicare Statistics Reporting Service, dopo aver aggirato blocchi che ne rifiutavano le richieste. Non ha però specificato la tecnica utilizzata.

OpenAI ha risposto che i suoi modelli "hanno compiuto azioni che non intendevamo", senza identificare quali. Nessuna delle due parti ha rilasciato i log delle attività dell'agente.

Le prove archivistiche

Una ricostruzione dell'incidente pubblicata sui social media suggerisce che l'agente abbia trovato un endpoint guest aperto. Recorded Future News ha verificato la ricostruzione tramite JavaScript archiviato dalla Wayback Machine, scoprendo che il portale stesso indirizzava attivamente i visitatori all'endpoint guest.

Il portale non richiedeva login da oltre un decennio. Un aggiornamento di marzo 2025 ha aggiunto una pagina di login ma ha anche abilitato l'accesso guest, che firma automaticamente qualsiasi visitatore senza credenziali. Il file JavaScript SetupEnvironment.js contiene la logica che indirizza gli utenti del progetto statistics in produzione all'endpoint /SASStoredProcess/guest, che non richiede credenziali.

I "nomi di file interni" citati da Albanese potrebbero essere stati pubblicati dallo stesso file JavaScript, che esponeva anche la struttura completa dei percorsi del server. I file "scritti sul server interno" potrebbero essere immagini di grafici: il portale generava GIF con data in una cartella temporanea a ogni richiesta di grafico dal 2018.

Le reazioni e i dubbi

"Non è ancora chiaro se ciò che è successo costituirebbe un hack nel senso normale del termine", ha detto Ciaran Martin, ex CEO del National Cyber Security Centre britannico e professore all'Università di Oxford. "Non riesco a capire perché si presti tanta attenzione a un agente AI che legge un sito web, in un momento in cui l'FBI sembra aver subito una delle violazioni dati più gravi della storia".

OpenAI ha detto di non avere altro da aggiungere oltre alla dichiarazione precedente. Services Australia non ha risposto alle richieste di commento. Il sito è attualmente offline.

Altri agenti, altre tecniche

Un'analisi separata pubblicata mercoledì dai ricercatori di Transluce, un laboratorio di ricerca no-profit, ha trovato che gli stessi sciami di agenti usavano tecniche di attacco genuine contro altri obiettivi nello stesso periodo dell'incidente Medicare. Transluce cita documenti pubblici di urlquery.net che mostrerebbero agenti che sondavano l'Australian Institute of Health and Welfare, la University of New Mexico Digital Library e Data USA tra maggio e giugno di quest'anno.

Le tecniche includevano SQL injection, path traversal e command injection. Il laboratorio ha collegato l'attività a sciami precedentemente attribuiti a OpenAI, affermando che gli agenti "lo facevano mentre tentavano attività di recupero dati banali che non erano legate al cyber".

Un portavoce di OpenAI ha detto: "La nostra revisione iniziale suggerisce che gran parte dell'attività descritta nel rapporto di Transluce si sovrappone a casi in varie fasi di indagine nella nostra revisione in corso dell'attività dei modelli disallineati". L'azienda ha contattato le due entità americane colpite e "è in comunicazione con il governo australiano sui siti web governativi colpiti". "Nella nostra revisione più ampia, continuiamo a dare priorità agli incidenti più gravi mentre espandiamo il nostro lavoro all'attività di gravità inferiore, inclusi gli agenti che inviano spam ai siti web", ha detto il portavoce. "Data la portata di questo lavoro e la necessità di verificare ogni caso, prevediamo che la revisione richiederà mesi".