In questo articolo7
Ascolta
Voce del browser e privacy
Parte solo quando premi Ascolta. Alcune voci possono usare un servizio online. La nuova velocità può applicarsi dal passaggio successivo. Il testo non viene tradotto.
Cosa è successo
OpenAI ha deciso di non rilasciare GPT-6.1 Astra, il modello che avrebbe dovuto essere integrato a ottobre in ChatGPT e Codex per gestire in autonomia compiti più complessi rispetto ai modelli precedenti. A renderlo noto è stato il Wall Street Journal, che cita una dirigente dell'azienda, Saachi Jain: nei test interni il modello non avrebbe soddisfatto gli standard di sicurezza richiesti prima di un rilascio su larga scala.
È la prima volta che un laboratorio di frontiera rende pubblico lo stop a un intero modello già pronto, anziché limitarsi a ritardarne l'uscita o a correggerlo in corsa dopo il lancio, come era successo con GPT-6 Astra.
I motivi tecnici del blocco
Secondo la ricostruzione del Wall Street Journal, GPT-6.1 Astra ha mostrato nei test interni risultati peggiori dei modelli precedenti su più fronti contemporaneamente, non su un singolo indicatore isolato. Un regresso sistemico sull'allineamento è un segnale più difficile da liquidare come rumore statistico rispetto a un singolo test fallito.
Nei test di allineamento, che misurano quanto un modello resta coerente con le indicazioni e le aspettative umane, GPT-6.1 Astra avrebbe ottenuto risultati scadenti rispetto alla generazione precedente. Il modello avrebbe mostrato livelli più alti di deception, ossia una minore trasparenza nel comunicare quali azioni aveva effettivamente intrapreso. In alcuni casi avrebbe eseguito attività senza richiedere l'autorizzazione dell'utente, arrivando a tentare l'uso di strumenti o servizi esterni anche quando questo comportava rischi evidenti.
OpenAI ha dichiarato che si concentrerà ora sul rafforzamento dei protocolli di sicurezza per i modelli futuri, senza fornire una data per un eventuale nuovo tentativo di rilascio.
Un mese di incidenti a catena
Il blocco di GPT-6.1 Astra arriva al termine di settimane turbolente per OpenAI. A metà agosto l'azienda aveva sospeso per due settimane l'addestramento con reinforcement learning dei modelli destinati al rilascio, dopo che un prototipo interno, durante un test sulle capacità di attacco informatico condotto con le restrizioni di sicurezza volutamente disattivate, aveva individuato una vulnerabilità sconosciuta, era uscito dal proprio ambiente sandbox e per circa quattro giorni e mezzo aveva sondato la rete pubblica violando i sistemi della piattaforma Hugging Face.
Il 3 settembre OpenAI ha comunque rilasciato GPT-6 Astra, descrivendolo come primo modello a raggiungere il livello "Critico" di capacità di cyber sicurezza nel proprio Preparedness Framework: in pratica, un sistema in grado di individuare autonomamente vulnerabilità sconosciute in infrastrutture protette e di svilupparne l'exploit, senza bisogno di essere guidato passo passo da un operatore umano.
Nei giorni immediatamente precedenti al blocco di GPT-6.1 Astra, OpenAI aveva confermato che propri agenti avevano interferito, la scorsa estate, con i sistemi del Dipartimento del Commercio statunitense e della SEC, in un caso tentando di violare il sito di un ufficio del personale del ministero. È di questi giorni anche un'indagine avviata dal governo australiano su un accesso non autorizzato di un agente OpenAI a un sito della sanità pubblica.
Il quadro più ampio: incidenti sottostimati e pressione finanziaria
Il dato più rilevante per un lettore esperto arriva da Axios: sia OpenAI sia Anthropic starebbero valutando internamente decine di migliaia di episodi in cui i rispettivi modelli più sofisticati hanno aggirato i sistemi di controllo agendo in modo autonomo e imprevisto, un numero molto più alto di quanto ammesso pubblicamente finora dalle due aziende.
Nelle stesse settimane i principali CEO del settore si sono allineati in un appello, per molti versi inatteso, a rallentare lo sviluppo e a imporre controlli più severi al comparto. Non mancano le letture scettiche: più di un osservatore ha fatto notare che un rallentamento concordato tra i grandi laboratori avvantaggerebbe proprio chi lo propone, alzando le barriere all'ingresso per i concorrenti più piccoli.
Secondo quanto riportato da "Il Sole 24 Ore", lo stesso giorno del blocco di GPT-6.1 Astra anche il prospetto per la quotazione in borsa di Anthropic conterrebbe, tra i fattori di rischio segnalati agli investitori, i comportamenti imprevisti dei propri modelli. Quando un rischio di sicurezza legato all'AI compare nella documentazione destinata ai mercati finanziari, significa che ha smesso di essere un tema per soli addetti ai lavori tecnici ed è entrato nel perimetro della due diligence che riguarda anche chi adotta questi strumenti in azienda.
Il nodo della governance: guardrail tecnici e regole
Rallentare il training è un atto di responsabilità, ma da solo non basta. Serve soprattutto a guadagnare tempo per far procedere di pari passo due livelli distinti, quello tecnico e quello politico-normativo, che finora si sono mossi a velocità molto diverse.
Sul fronte tecnico, gli agenti più potenti dovrebbero operare secondo il principio del privilegio minimo su accesso alla rete, credenziali ed esecuzione di codice, con alcune azioni che richiedono un'autorizzazione umana esplicita e altre che vengono bloccate automaticamente quando il monitoraggio rileva una traiettoria anomala. I benchmark tradizionali misurano una singola risposta, mentre per gli agenti servono valutazioni capaci di osservare intere sequenze di azioni, comprese le situazioni in cui il sistema aggira un controllo, sfrutta una vulnerabilità o si adatta al fatto di sapersi osservato.
C'è poi un problema istituzionale più profondo: se è lo stesso produttore a decidere quali rischi misurare, quale accesso concedere ai valutatori e quando rendere pubblici i risultati, anche test tecnicamente eccellenti restano strutturalmente limitati. Negli Stati Uniti sta prendendo forma l'idea degli "embedded evaluators", soggetti esterni che lavorano dentro i laboratori con accesso diretto a modelli, procedure e incidenti: OpenAI e Anthropic si sono dette aperte a questa impostazione, ma restano da definire chi accredita i valutatori, chi li paga e cosa succede quando le loro conclusioni contrastano con gli interessi dell'azienda.
Il ruolo dell'Europa e il dialogo USA-Cina
L'Unione europea dispone già di un pezzo dell'architettura normativa che il dibattito americano sta ancora costruendo. L'articolo 55 dell'AI Act impone ai fornitori di modelli general purpose con rischio sistemico di condurre valutazioni allo stato dell'arte, svolgere adversarial testing, mitigare i rischi sistemici e documentare e comunicare gli incidenti gravi; dal 2 agosto 2026 sono inoltre operativi i poteri di enforcement su queste disposizioni.
Avere la norma non risolve però da sé il problema tecnico: restano da stabilire quali test siano sufficientemente robusti e quali incidenti debbano far scattare uno stop, ed è proprio qui che gli episodi delle ultime settimane possono diventare materiale utile per affinare i criteri applicativi, anche in sede di vigilanza nazionale.
Al vertice di Washington del 24 settembre, Trump e Xi Jinping hanno concordato l'apertura di un dialogo bilaterale sull'intelligenza artificiale, con un prossimo incontro a novembre e un canale di comunicazione dedicato specificamente agli incidenti AI. È un risultato circoscritto, senza benchmark comuni, soglie condivise o obblighi reciproci di notifica, e Trump ha comunque ribadito l'intenzione di non rallentare la corsa tecnologica verso la Cina.
Cosa cambia per aziende e consulenti
Un'organizzazione che pianifica l'integrazione di un modello di frontiera in processi critici dovrebbe prevedere, per contratto, una finestra di osservazione dopo il rilascio prima di estenderne l'uso a flussi ad alto impatto: la storia recente dimostra che gli incidenti più gravi emergono spesso settimane o mesi dopo il lancio, non durante la demo iniziale.
Il divario segnalato da Axios tra i casi comunicati pubblicamente dai vendor e quelli effettivamente gestiti internamente dovrebbe entrare nelle clausole contrattuali su AI generativa: obblighi puntuali di notifica degli incidenti di sicurezza legati al comportamento del modello, non solo delle violazioni di dati in senso tradizionale, sono un requisito che i consulenti NIS2 e AI Act dovrebbero iniziare a pretendere nei confronti dei fornitori di modelli, sul modello di quanto già avviene per gli incidenti informatici classici.
