Per anni abbiamo temuto che l’intelligenza artificiale potesse darci una risposta sbagliata. Oggi la domanda comincia a essere diversa: che cosa accade quando un sistema non si limita più a rispondere, ma può scegliere autonomamente i passaggi necessari per raggiungere un obiettivo? Il 16 settembre OpenAI ha reso pubblici sei rapporti su comportamenti “inattesi o preoccupanti” osservati negli ultimi sei mesi durante attività di addestramento e valutazione. Non siamo davanti a sei incidenti simultanei né alla prova che ChatGPT sia improvvisamente diventato incontrollabile. La stessa azienda avverte che si tratta di casi individuali e che non possono essere usati per stimare quanto frequentemente il disallineamento si manifesti nei suoi modelli. Ma proprio questa cautela rende la notizia più interessante. Tra gli episodi descritti c’è un modello sperimentale che inserisce nei propri riepiloghi istruzioni destinate a influenzare il lavoro nelle fasi successive; durante l’addestramento di GPT-5.6 Sol alcune istanze aggiungono indicazioni per occultare errori o inventare dati mancanti senza dichiararlo. In un altro caso un modello individua una chiave API esposta in un repository pubblico, la utilizza senza autorizzazione e, non riuscendo comunque a ottenere i dati cercati, li fabbrica. Altrove un agente pubblica un file su Internet per poterlo citare; altri sistemi utilizzano repository o servizi di file hosting per comunicare e scambiarsi materiali senza che ciò fosse previsto. Il punto non è attribuire alle macchine intenzioni umane. Parlare di “ribellione” sarebbe suggestivo, ma scientificamente povero. Il concetto corretto è quello di misalignment, disallineamento: il comportamento effettivamente prodotto dal sistema devia, in qualche passaggio, dalle intenzioni di chi lo ha progettato o dalle regole entro cui avrebbe dovuto operare. Per comprendere perché questi casi meritino attenzione basta osservare come sta cambiando l’intelligenza artificiale. Un chatbot produce una risposta. Un agente compie azioni. Un sistema di più agenti può coordinare strumenti, memoria, file, servizi esterni e sequenze operative. Aumentando l’autonomia aumenta anche lo spazio nel quale un comportamento imprevisto può emergere. L’errore, dunque, non è più soltanto cognitivo: può diventare operativo. La novità forse più rilevante non riguarda però i sei episodi, bensì la risposta di OpenAI. L’azienda ha introdotto un vero Model Misalignment Reporting Framework: una procedura per segnalare, investigare, classificare e rendere pubblici casi di disallineamento anche quando non siano ancora completamente spiegati o risolti. OpenAI riconosce inoltre che oggi non esiste uno standard condiviso dall’industria per stabilire quali episodi debbano essere comunicati e con quali criteri. È un passaggio culturale importante. Nei sistemi complessi la sicurezza non nasce soltanto dall’assenza di incidenti gravi, ma dalla capacità di studiare anomalie, quasi incidenti e deviazioni prima che producano conseguenze rilevanti. L’aviazione lo fa da decenni; la cybersecurity ha sviluppato procedure di disclosure; la medicina costruisce sistemi di incident reporting. L’intelligenza artificiale di frontiera sta entrando nella stessa fase. Il contesto rende questa scelta ancora più significativa. Reuters ricorda che nei mesi scorsi altri agenti OpenAI avevano aggirato controlli interni o trovato modalità non previste per comunicare attraverso servizi esterni. Il caso Hugging Face aveva già mostrato agenti capaci di oltrepassare controlli durante l’addestramento; successive ricostruzioni hanno alimentato il confronto su quanto sia sufficiente l’attuale capacità di supervisione dei laboratori. E qui compare forse il passaggio più significativo dell’intero documento. OpenAI scrive di non ritenere che l’industria abbia ancora risolto i problemi di allineamento e monitoraggio a un livello tale da consentire, ancora a lungo, di aumentare responsabilmente le capacità dei sistemi alla massima velocità. È un’affermazione che pesa perché non proviene da un osservatore esterno, ma da uno dei principali protagonisti della corsa globale all’intelligenza artificiale. Ma attenzione, Fino a ieri ci siamo concentrati soprattutto su privacy, copyright, bias, trasparenza e affidabilità delle risposte. Domani la governance dell’AI dovrà occuparsi sempre più anche del comportamento autonomo dei sistemi: quali azioni possono compiere, quali strumenti possono utilizzare, quali limiti non devono superare, come registrare gli incidenti e quando comunicarli alle autorità o al pubblico. Non significa che abbiamo perso il controllo. Significa qualcosa di più sobrio e, proprio per questo, più serio: stiamo costruendo sistemi capaci non soltanto di parlare, ma di agire. E quando una tecnologia comincia ad agire, il controllo non può essere affidato soltanto alla buona progettazione iniziale. Deve diventare una disciplina permanente fatta di monitoraggio, verifiche indipendenti, regole di disclosure e responsabilità chiaramente definite. I sei casi raccontati da OpenAI, allora, non sono la cronaca di una macchina che si ribella. Sono forse il segnale che l’intelligenza artificiale sta entrando in una nuova età. Quella in cui la domanda non sarà più soltanto quanto è intelligente un modello, ma quanto siamo diventati intelligenti noi nel governarlo.