Perché la macchina deve spiegarsi

Per decenni il software ha eseguito istruzioni scritte da una persona, e quando sbagliava si poteva aprire il codice, trovare la riga colpevole e correggerla. Con l’apprendimento automatico questa possibilità si è ridotta: le regole non le scrive nessuno, le ricava il sistema da milioni di esempi, e il risultato è un insieme di miliardi di numeri che funziona senza che si sappia dire perché. Finché il sistema suggerisce un film o corregge un refuso, la cosa conta poco. Conta moltissimo quando lo stesso sistema concorre a decidere se una persona debba ottenere un mutuo, un impiego, una prestazione pubblica o una cura, perché chi subisce la decisione ha diritto di conoscerne le ragioni e chi la prende deve poterne rispondere. Da questa esigenza nasce l’espressione IA spiegabile, in inglese explainable AI o XAI: la capacità di un sistema, o di chi lo impiega, di rendere comprensibile come sia arrivato a un risultato. Il legislatore ha cominciato a tradurre l’esigenza in obbligo, e in Italia lo ha fatto in più tempi. Dal 1990 la legge 241, all’articolo 3, impone all’amministrazione di motivare i provvedimenti indicando i presupposti di fatto e le ragioni giuridiche che hanno determinato la decisione. Nel 2023 il Codice dei contratti pubblici, all’articolo 30, ha previsto per le procedure automatizzate che l’operatore economico abbia diritto di sapere che esiste un processo decisionale automatizzato che lo riguarda e di ricevere informazioni sulla logica utilizzata, e che nella decisione ci sia un contributo umano capace di controllare, validare o smentire quella automatizzata. La legge 132 del 2025 sull’intelligenza artificiale, all’articolo 14, dispone infine che le amministrazioni usino l’IA in funzione strumentale e di supporto all’attività provvedimentale, assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo, e che la persona resti l’unica responsabile dei provvedimenti e dei procedimenti.¹ Per un funzionario significa che l’IA può supportare il suo lavoro, ma la decisione e la responsabilità restano sue, e che deve poter dire come lo strumento funziona e ha funzionato: ma è proprio la conoscibilità del funzionamento che oggi la scienza fa più fatica a garantire.

Il quadro europeo è più ampio. Il Regolamento generale sulla protezione dei dati, applicato dal 2018, riconosce all’articolo 22 il diritto di non essere sottoposti a una decisione fondata unicamente su un trattamento automatizzato, quando questa produce effetti giuridici o incide in modo analogo sulla persona, e agli articoli 13, 14 e 15 impone di fornire informazioni significative sulla logica utilizzata.² I giuristi discutono l’ampiezza di questi diritti, ma la direzione è chiara, e il Regolamento sull’intelligenza artificiale, l’AI Act, la rende più esplicita. L’articolo 13 prevede che i sistemi ad alto rischio siano progettati in modo da essere sufficientemente trasparenti perché chi li impiega possa interpretarne l’output e usarlo in modo appropriato. L’articolo 86 attribuisce a chi è colpito da una decisione presa sulla base dell’output di un sistema ad alto rischio dell’allegato III, quando la decisione produce effetti giuridici o incide in modo analogo e significativo sulla persona, il diritto di ottenere spiegazioni chiare e significative sul ruolo del sistema nel processo decisionale e sui principali elementi della decisione.³ Gli obblighi per i sistemi dell’allegato III, che il testo originale faceva decorrere dal 2 agosto 2026, sono stati spostati al 2 dicembre 2027 dal Regolamento (UE) 2026/1744, in vigore dal 27 luglio 2026.³

Che cosa vuol dire spiegare

Spiegare, in questo senso, vuol dire rispondere a due domande. La prima riguarda il percorso: da quali elementi di partenza e attraverso quali passaggi il sistema sia arrivato a quella risposta. La seconda riguarda il tipo di ragionamento. Il procedimento deduttivo parte da regole generali e ne ricava conseguenze necessarie, come un sillogismo o un calcolo fiscale, ed è un percorso che chiunque può ripetere passo per passo. Il procedimento induttivo parte da casi osservati e ne ricava regolarità probabili, come fa il medico che riconosce un quadro clinico già visto o il giudice che decide per analogia con i precedenti. I modelli linguistici si formano per induzione, perché le loro regolarità vengono dall’osservazione di enormi quantità di testo, ma nell’uso producono risposte che hanno la forma di una deduzione, con premesse e conclusione. Chi legge non può sapere se dietro quella forma ci sia stato un ragionamento in senso proprio, un’associazione statistica che ne imita l’aspetto o una miscela dei due.

La difficoltà è di principio, prima ancora che tecnica. Un programma tradizionale è una sequenza di regole leggibili. Una rete neurale è una funzione fatta di miliardi di numeri, i parametri, che si sono assestati durante l’addestramento senza che nessuno li scegliesse uno per uno, e ciascuno, preso da solo, non significa nulla. Chiedere al modello di raccontare come ha ragionato non risolve il problema, perché il racconto è un’altra risposta, prodotta con lo stesso meccanismo, e nulla garantisce che corrisponda a ciò che è avvenuto dentro. Per le decisioni più delicate è raccomandabile che si possa scegliere di costruire fin dall’inizio modelli semplici, leggibili per progetto, ed è la posizione di Cynthia Rudin, professoressa alla Duke University, che invita a non accontentarsi di spiegazioni a posteriori delle scatole nere quando la posta in gioco è alta.⁴ I modelli linguistici di uso generale (ChatGpt, Claude, etc…), però, non appartengono a questa famiglia, e per essi la spiegazione deve venire dall’esame diretto dei meccanismi interni. È il campo dell’interpretabilità meccanicistica.

Aprire la scatola nera

L’interpretabilità meccanicistica tenta di fare con un’intelligenza artificiale ciò che si fa con un motore: smontarla, individuare le parti che la compongono e capire come lavorano insieme. Oggi un modello si verifica soprattutto provandolo, come si collauda un’auto in pista, senza poterne aprire il cofano: si vede se va bene nei casi provati, però non si sa che cosa farà in quelli che nessuno ha pensato di provare. Tra il 2022 e il 2025 Anthropic ha pubblicato quattro lavori che segnano le tappe principali di questa impresa, e qui ne ripercorro il filo.

Troppi concetti e poche caselle

Una rete neurale è fatta di unità di calcolo chiamate neuroni, e l’idea più naturale è che ogni neurone si occupi di un concetto, come in uno schedario con un cassetto per argomento. Nella pratica non funziona così: molti neuroni si accendono per cose che non hanno nulla in comune, per esempio uno può reagire nello stesso modo, sia a un certo tipo di citazione sia a un termine di cucina. I ricercatori chiamano il fenomeno polisemanticità, e nel 2022 un gruppo guidato da Nelson Elhage ne ha offerto una spiegazione con un modello semplificato.⁵ Il modello deve ricordare molti più concetti di quanti neuroni abbia a disposizione, e allora li sovrappone, come chi in un armadio piccolo mette più oggetti nello stesso scomparto contando sul fatto che quando ne serve uno particolare, sa dove e come trovarlo.  Gli autori chiamano questa strategia superposizione. Funziona perché quasi tutti i concetti sono rari: in una frase qualunque, ne compaiono pochi, e le sovrapposizioni creano raramente confusione. Lo studio mostra anche che il passaggio da una rappresentazione ordinata a una sovrapposta avviene in modo brusco, come l’acqua che diventa ghiaccio.⁵ La conseguenza è che osservare i singoli neuroni equivale a leggere un testo in cui ogni lettera sia stata scritta sopra un’altra: l’informazione c’è, ma non nel punto in cui logicamente la cerchiamo. I concetti coincidono con combinazioni di neuroni, e per individuarle serve uno strumento diverso.

Il dizionario dei concetti

Lo strumento è l’autoencoder sparso, che Anthropic ha descritto nel 2023.⁶ Il nome è più ostico dell’idea: un autoencoder è un programma in due metà: la prima legge lo stato interno del modello in un dato istante e lo traduce in un elenco di concetti attivi, la seconda ricostruisce lo stato originale partendo soltanto da quell’elenco. Se la ricostruzione è fedele, l’elenco è una descrizione corretta di ciò che il modello stava facendo: l’aggettivo sparso indica il vincolo decisivo: l’elenco deve essere breve, con pochi concetti accesi tra migliaia di disponibili. È come chiedere a un traduttore di descrivere una scena con poche parole scelte da un vocabolario molto ampio, il che lo costringe a scegliere le più precise; il punto è che il vocabolario non è dato in partenza, si impara durante l’addestramento.

Applicato a un modello piccolo, con un solo strato, il metodo ha prodotto concetti che un lettore umano riconosce: la scrittura araba, le sequenze di DNA, i codici informatici, l’ebraico, ciascuno distribuito su molti neuroni, come prevede la teoria della superposizione.⁶ Ingrandendo il dizionario, un concetto largo si divide però in concetti più fini, come una voce di enciclopedia che si articola in sottovoci, e concetti simili ricompaiono in modelli addestrati separatamente, segno che non sono l’artefatto di un singolo esperimento.⁶ Gli stessi autori definiscono quindi questo metodo debole e spiegano di averlo scelto dopo aver visto che la sola sparsità imposta nella struttura della rete non basta a evitare la polisemanticità e che i metodi classici di apprendimento del dizionario soffrono di sovradattamento, cioè tendono a imparare a memoria i dati di addestramento.

Dal giocattolo al modello vero

Restava quindi un dubbio serio: un modello da laboratorio è una cosa, un sistema usato ogni giorno da milioni di persone è un’altra, come il modellino provato in galleria del vento è una cosa e l’aereo che vola con i passeggeri a bordo è un’altra. Nel 2024 Adly Templeton e colleghi hanno messo alla prova il metodo su Claude 3 Sonnet, un modello di Anthropic realmente in uso e non costruito per l’esperimento, con un dizionario fino a 34 milioni di voci, un numero molto superiore a quello delle voci di una grande enciclopedia.⁷ Ogni voce corrisponde a un concetto che il modello ha imparato a riconoscere e il modello si accende quando la riconosce. I concetti corrispondono a luoghi e persone note; altri sono idee astratte: c’è una voce che si accende davanti a un elogio sarcastico, cioè a un complimento che dice l’opposto di ciò che si pensa, e una che si accende davanti a un errore in un programma, come una divisione per zero o una variabile scritta male, senza reagire ai semplici refusi di un testo comune. Altri concetti ancora riguardano tratti rilevanti per la sicurezza: l’inganno, la ricerca di potere, la piaggeria, cioè la tendenza a dare ragione a chi parla per compiacerlo, e il pregiudizio.⁷ La prova più convincente è quella causale. Vedere che un concetto si accende quando si parla di un certo argomento dimostra soltanto una correlazione, come la lampadina dello stop che si accende quando l’auto frena: la si vede sempre insieme alla frenata, ma accenderla da sola non fa frenare nessuno. Per i concetti del modello i ricercatori hanno fatto la verifica opposta: ne hanno forzato l’accensione dall’esterno, tenendoli attivi a un livello molto superiore al normale mentre il resto del modello lavorava come sempre, e hanno osservato se cambiava ciò che il modello diceva. Un esempio efficace è stato l’esperimento con la voce legata al Golden Gate Bridge, esperimento reso pubblico da Anthropic: da dire che il concetto si accendeva davanti alla descrizione del ponte, ed era molto bravo, perché si accendeva anche quando la stessa descrizione compariva in cinese, giapponese, coreano, russo, vietnamita o greco. Si accendeva anche davanti a una fotografia del ponte, benché il modello fosse stato addestrato soltanto su testo, e per questo i concetti si dicono anche multimodali. Ma le risposte sono cambiate rispetto ad un modo normale previsto dal significato del concetto.⁷ Nella dimostrazione resa pubblica da Anthropic nel maggio 2024 la voce del Golden Gate Bridge era tenuta accesa a dieci volte il suo valore massimo: a chi chiedeva come spendere dieci dollari, il modello consigliava di usarli per attraversare il ponte in auto, e pagare il pedaggio, il che può apparire abbastanza logico; ma, invitato a scrivere una storia d’amore, raccontava quella di un’auto che non vede l’ora di raggiungere il suo amato ponte in una giornata di nebbia; interrogato su come si immagini, rispondeva che probabilmente si vede come il ponte stesso.⁸ È l’equivalente di stimolare una zona del cervello e osservare quale funzione si altera: nessuno aveva scritto quelle risposte, erano l’effetto di un solo concetto spinto oltre misura; come fosse drogato.

Gli autori avvertono però di non attribuire troppo peso alla semplice esistenza di un concetto: aver trovato ciò che corrisponde all’inganno non dimostra che il modello inganni, così come una persona che sa che cos’è una truffa, finché non la subisce.

Dai concetti ai circuiti

Un elenco di concetti, quindi, non basta a capire un ragionamento, come un elenco di ingredienti non basta a capire una ricetta: occorre sapere come si combinano. Il lavoro del 2025, dedicato a Claude 3.5 Haiku, affronta questo passo con i grafi di attribuzione.⁹ L’idea è costruire una versione del modello che dia le stesse risposte ma abbia parti più leggibili, in cui i concetti sono collegati da frecce che indicano chi influenza chi, perché nel modello originale l’effetto di un concetto su un altro dipende da tutto il resto e le frecce non si lasciano tracciare. Il grafo che ne risulta ricostruisce in modo parziale la sequenza di passaggi con cui una domanda diventa una risposta. Gli autori non lo prendono per vero: lo trattano come un’ipotesi e lo mettono alla prova intervenendo, cioè spegnendo o accendendo un concetto e controllando se la risposta cambia come previsto, e precisano che anche i grafi più complessi restano semplificazioni del modello originale.⁹

Nel caso più citato si chiede al modello: qual è la capitale dello stato in cui si trova Dallas? La risposta è Austin, ma il modello non la ricava con un salto diretto da Dallas. Attiva prima il concetto di Texas, lo stato che contiene Dallas, e solo da lì passa alla sua capitale. È un ragionamento in due tappe, prima lo stato e poi la capitale, e non una risposta imparata a memoria.⁹ In altri casi emerge che il modello usa in parte meccanismi legati a una lingua specifica e in parte meccanismi comuni a tutte le lingue, e che alcune allucinazioni, cioè le risposte inventate, nascono dal malfunzionamento di un meccanismo interno.⁹ Gli autori parlano di biologia dei modelli: i concetti fanno da cellule, i circuiti da tessuti, gli interventi da esperimenti. Forse per non dover dire che non esiste ancora la comprensione completa.

Il divario tra la norma e gli strumenti

Il titolo di questo articolo contiene una domanda, perché hai risposto così, e una distanza: la legge chiede all’IA di spiegarsi, la scienza ha appena cominciato a poterlo fare. E questa distanza si misura nei limiti che gli stessi autori dichiarano. I grafi di attribuzione offrono una comprensione soddisfacente per circa un quarto delle richieste provate, una stima informale che gli autori giudicano difficile da quantificare con precisione, e funzionano su una versione sostitutiva del modello, che ne riproduce il comportamento in modo incompleto e imperfetto. Non mostrano inoltre come il modello decida a quali parti del testo prestare attenzione, e in alcuni casi, come nel tentativo di aggirare le sue protezioni, il meccanismo sembra passare proprio da lì.⁹ Il dizionario dei concetti ricostruisce almeno il 65 per cento dell’informazione originale, con meno di 300 concetti accesi per ogni parola o frammento di parola elaborato su 34 milioni disponibili, e resta, per ammissione dei suoi autori, una descrizione incompleta: in un controllo sulle circoscrizioni amministrative di Londra il dizionario più grande conteneva un concetto per circa il 60 per cento di esse, come un’enciclopedia che dedicasse una voce a sei circoscrizioni su dieci.⁷ I casi di studio, che gli autori definiscono dimostrazioni di esistenza, mostrano che alcuni meccanismi interni si possono ricostruire, ma non sono una teoria generale del modello: sono un campione che, per loro stessa ammissione, risente dei limiti degli strumenti con cui è stato scelto.⁹

Per chi usa ChatGPT, Claude e gli altri assistenti della stessa famiglia, il limite più importante è che la spiegazione che il modello dà di sé non coincide con il suo funzionamento. Quando a Claude è stato chiesto come avesse calcolato 36 più 59, il cui risultato è 95, ha descritto il procedimento che si impara a scuola, sommare le unità, riportare il resto e sommarci le decine, mentre il grafo di attribuzione ha mostrato due percorsi in parallelo: uno stima la somma a grandi linee, intorno a 92, un valore approssimato che da solo sarebbe sbagliato, e l’altro determina con esattezza l’ultima cifra del risultato, il 5, e dai due insieme esce il 95. Gli autori osservano che il modello non ha consapevolezza di questo suo procedimento e che imparare a produrre spiegazioni e imparare a eseguire un calcolo sono due cose distinte.⁹ Chiedere a un assistente perché ha risposto così produce quindi un racconto plausibile, non una verifica. Lo studio riguarda i modelli di Anthropic, ma è ragionevole attendersi lo stesso da modelli costruiti con tecniche analoghe, sui quali lavorano anche altri laboratori: OpenAI ha addestrato un dizionario di 16 milioni di voci sulle attivazioni di GPT-4,¹⁰ e Google DeepMind ha rilasciato oltre 400 dizionari per i modelli aperti Gemma 2,¹¹ ma sono lavori sul metodo, non verifiche sul comportamento dei prodotti che milioni di persone usano ogni giorno.

La XAI è possibile?

La XAI è dunque possibile? Dipende da che cosa si intende per spiegare, e le risposte sono tre, di solidità diversa. Dove si può scegliere, la spiegazione è possibile oggi, costruendo da zero modelli leggibili per ogni progetto; questa è la strada indicata da Rudin per le decisioni ad alto rischio: sistemi a punteggio o elenchi di regole in cui ogni elemento che pesa sul risultato si può leggere e discutere e che, quando i dati sono strutturati e descritti da grandezze dotate di significato, come in una pratica di credito o in una valutazione clinica, raggiungono prestazioni quasi pari a quelle dei modelli opachi, perché l’idea di un compromesso inevitabile tra accuratezza e leggibilità è, per lei, un mito.⁴ Rudin riconosce però che l’argomento vale meno per i dati grezzi, come immagini e suoni, e il linguaggio dei chatbot è un caso affine.

Per i modelli linguistici di uso generale (ChatGpt, Claude, ecc…), invece, la spiegazione dei meccanismi interni è possibile soltanto in parte, e caso per caso, ed è oggi un risultato di ricerca. Si possono isolare concetti, seguirne i legami e verificarne l’effetto con interventi mirati, e, nel caso medico, gli autori trovano che il ragionamento del modello può talvolta essere scomposto in passaggi leggibili, utili a integrare il giudizio del clinico, ma avvertono che questo caso non va preso come prova che gli strumenti siano abbastanza avanzati per fidarsi delle risposte mediche senza la supervisione di esperti.⁹ C’è poi la spiegazione che la norma richiede davvero: l’articolo 86 dell’AI Act chiede spiegazioni chiare e significative sul ruolo del sistema nella decisione e sugli elementi principali che l’hanno determinata, non la ricostruzione del calcolo interno,³ e la legge italiana chiede tracciabilità dell’uso e responsabilità della persona.¹ Questo si può ottenere fin d’ora con mezzi organizzativi: documentare come il sistema è usato, conservare traccia dei dati e delle risposte, far verificare l’esito da una persona competente.

Ne discende un modo di procedere. Dove la decisione incide sui diritti di una persona, conviene preferire la costruzione di modelli leggibili per progetto. I modelli linguistici commerciali vanno usati come supporto a chi decide e non come decisore. 

Resta il problema di chi controlla e la sovranità digitale; gli strumenti di lettura interna richiedono l’accesso ai pesi del modello e molta potenza di calcolo, e stanno oggi in pochi laboratori, quasi tutti fuori dall’Europa, che sono anche i costruttori dei modelli studiati. Strumenti aperti esistono, come quelli rilasciati per Gemma 2,¹¹ ma una sovranità digitale che comprenda la capacità di verificare i sistemi adottati richiede competenze e infrastrutture pubbliche di interpretabilità in Italia e in Europa, applicate a modelli aperti. Senza di esse, il controllo di un modello resta affidato a chi lo ha prodotto.

In sintesi, la legge chiede all’IA di spiegarsi e la scienza comincia a poterla ascoltare soltanto in parte: la XAI è oggi possibile come progetto, progettando da zero modelli leggibili, dove sono in gioco i diritti; e, come processo, documentando e verificando l’uso dei modelli linguistici, mentre la lettura completa della loro mente resta un traguardo della ricerca e non una garanzia che oggi si possa avere da ChatGPT, da Claude o dagli altri.

Note e fonti

1. Legge 7 agosto 1990, n. 241, articolo 3; decreto legislativo 31 marzo 2023, n. 36, articolo 30; legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, articolo 14, Gazzetta Ufficiale, Serie generale n. 223 del 25 settembre 2025 (testi su https://www.normattiva.it).

2. Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali (GDPR), articoli 13, 14, 15 e 22, Gazzetta ufficiale dell’Unione europea L 119, 4 maggio 2016 (https://eur-lex.europa.eu/eli/reg/2016/679/oj).

3. Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale (AI Act), articoli 13 e 86, Gazzetta ufficiale dell’Unione europea, 12 luglio 2024 (https://eur-lex.europa.eu/eli/reg/2024/1689/oj); per il differimento dei termini, Regolamento (UE) 2026/1744 (Digital Omnibus on AI), in vigore dal 27 luglio 2026.

4. Cynthia Rudin, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Nature Machine Intelligence, vol. 1, 2019, pp. 206-215, preprint arXiv:1811.10154 (https://arxiv.org/abs/1811.10154).

5. Nelson Elhage et al., Toy Models of Superposition, Transformer Circuits Thread, 21 settembre 2022, arXiv:2209.10652 (https://arxiv.org/abs/2209.10652).

6. Anthropic (Trenton Bricken et al.), Towards Monosemanticity: Decomposing Language Models With Dictionary Learning, Transformer Circuits Thread, 2023 (https://transformer-circuits.pub/2023/monosemantic-features/index.html).

7. Adly Templeton et al., Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet, Transformer Circuits Thread, 2024 (https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html).

8. Anthropic, Golden Gate Claude, 23 maggio 2024 (https://www.anthropic.com/news/golden-gate-claude).

9. Jack Lindsey et al., On the Biology of a Large Language Model, Transformer Circuits Thread, 2025, con l’articolo gemello Circuit Tracing: Revealing Computational Graphs in Language Models (https://transformer-circuits.pub/2025/attribution-graphs/biology.html).

10. Leo Gao et al. (OpenAI), Scaling and evaluating sparse autoencoders, arXiv:2406.04093, 6 giugno 2024 (https://arxiv.org/abs/2406.04093).

11. Tom Lieberum et al. (Google DeepMind), Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2, arXiv:2408.05147, agosto 2024 (https://arxiv.org/abs/2408.05147).

L'articolo Perché hai risposto così? La legge chiede all’IA di spiegarsi, la scienza prova a guardarle dentro proviene da Italia nel futuro.

La presentazione di America.gov e dei nuovi servizi federali ricorda, nello stile, un lancio Apple. Al di là della comunicazione, l’aspetto interessante è il tentativo di ripensare il rapporto con la pubblica amministrazione partendo dall’esperienza di chi la usa.

Qualche osservazione, senza dare per acquisiti i risultati.

1.⁠ ⁠L’IA può trovare qui un’utilità molto concreta. Se aiuta davvero a orientarsi tra uffici, documenti e procedure, il beneficio diventa comprensibile anche a chi oggi la percepisce come qualcosa che avvantaggia soprattutto le grandi aziende tecnologiche. Questo potrebbe migliorare la percezione dell’IA, senza però risolvere automaticamente le obiezioni sui datacenter e sul loro impatto.

2.⁠ ⁠Presentare i servizi pubblici come funzionalità da migliorare è un approccio interessante. Gli esempi illustrati da Joe Gebbia e Marco Rubio su cambi di nome e passaporti spostano l’attenzione su problemi quotidiani. Il parametro di successo dovrebbe essere semplice: quanti passaggi, quanto tempo e quanti errori vengono risparmiati ai cittadini?

3.⁠ ⁠Un appuntamento pubblico può rendere gli impegni più verificabili. Annunciare un servizio significa esporsi al giudizio di chi poi deve utilizzarlo. Non sostituisce le leggi o le riforme amministrative, e un’interfaccia visibile non rende automaticamente trasparente tutto ciò che c’è dietro. Ma può creare una pressione positiva a consegnare qualcosa che funzioni.

4.⁠ ⁠La sfida vera è semplificare i processi, non soltanto digitalizzarli. Mettere un chatbot davanti a una procedura complicata non basta. Se invece si eliminano passaggi inutili, si fanno dialogare gli uffici e si mantiene assistenza per chi ne ha bisogno, il cambiamento può essere significativo e duraturo.

Colpisce quanto la cultura del prodotto tecnologico stia entrando nella pubblica amministrazione. Questo non significa che uno Stato possa essere gestito come una startup: affidabilità, privacy, accessibilità e possibilità di contestare un errore restano essenziali.

Insomma, una direzione interessante, più che una rivoluzione già compiuta. Mi auguro che funzioni. Il vero banco di prova sarà l’esperienza dei cittadini dopo il lancio, non la qualità della presentazione.

L'articolo Trump lancia America.gov, piattaforma IA per i servizi al cittadino proviene da Italia nel futuro.

Il 23 settembre, per la prima volta, il Consiglio di sicurezza delle Nazioni Unite ha ascoltato i capi dei laboratori che costruiscono l’intelligenza artificiale. Fra loro c’era Dario Amodei, amministratore delegato di Anthropic, e il suo è stato l’intervento più allarmato. Ha definito l’IA la più importante questione di sicurezza globale del nostro tempo e ha indicato due pericoli precisi: l’uso dei modelli per facilitare la costruzione di armi biologiche e la perdita di controllo su sistemi le cui capacità crescano più in fretta della possibilità di governarli. Ha poi proposto standard globali per collaudare i modelli più avanzati, meccanismi internazionali di verifica e un sistema di notifica degli abusi. Gli Stati Uniti hanno fatto sapere di non voler sostenere alcun organismo internazionale che fissi le regole. Il giorno dopo, a Washington, fra gli alleati del presidente Trump si ragionava apertamente su come fare di Amodei il volto del catastrofismo sull’intelligenza artificiale. Chi liquida quell’allarme come la paura di un profeta di sventura dovrebbe prima sapere chi lo ha lanciato. Non un filosofo, né un commentatore, ma uno degli scienziati che hanno capito, prima e meglio di quasi tutti, come si fa crescere un’intelligenza artificiale. E che lo ha capito non da ingegnere, ma da fisico: una differenza che spiega, come vedremo, molto più di quanto sembri.

Un fisico-biologo fra le macchine

Amodei è nato a San Francisco nel 1983 da padre italiano, un artigiano originario di Massa Marittima, e da madre americana. Ha studiato fisica al Caltech e a Stanford, ha conseguito il dottorato in biofisica a Princeton lavorando su modelli di meccanica statistica dei circuiti neurali e ha proseguito come ricercatore post-dottorato alla facoltà di medicina di Stanford. Per anni, dunque, il suo oggetto di studio non sono state le macchine, ma i neuroni veri: come migliaia di cellule nervose, ciascuna relativamente semplice, producano insieme comportamenti complessi. Poi il passaggio all’intelligenza artificiale: Baidu, Google Brain e infine OpenAI, dove da vicepresidente della ricerca ha guidato lo sviluppo di GPT-2 e GPT-3. È fra gli ideatori dell’apprendimento per rinforzo dal feedback umano, la tecnica con cui oggi si insegna ai modelli a comportarsi come le persone si aspettano. Nel 2021 ha lasciato OpenAI con la sorella Daniela e un gruppo di colleghi per fondare Anthropic, la società che sviluppa Claude. C’è però un suo contributo meno noto al grande pubblico e forse più decisivo di tutti: la misura delle leggi di scala. Per capire come sia nato, bisogna prima capire in che cosa un fisico differisca da un ingegnere.

Un fisico non è un ingegnere

La distinzione può sembrare accademica; è invece la chiave di questa storia. L’ingegnere e il fisico usano la stessa matematica, e seguono un percorso iniziale di studi molto simile, ma si pongono domande diverse. L’ingegnere si chiede come far funzionare un oggetto: ha un progetto, dei requisiti, un budget, e il suo successo si misura sul risultato. Un ponte deve reggere, un motore deve rendere, un programma deve girare. Il fisico si chiede a quale legge obbedisca un fenomeno, anche quando quel fenomeno è un oggetto costruito dall’uomo. Non gli interessa, in prima battuta, migliorare la macchina: gli interessa capire che cosa accade se, in essa, ad esempio, si fanno variare alcuni parametri di cento, mille, un milione di volte.Nel 2019 il mondo dell’apprendimento automatico ragionava, in larga parte, da ingegnere. Si progettava un’architettura nuova, la si confrontava con le precedenti su una tabella di prove standardizzate e si festeggiava magari il punto percentuale guadagnato su una data prova. È un metodo che ha prodotto risultati straordinari, ma che guardava un modello alla volta. Chiedersi invece come vari l’errore quando la dimensione cresce, ad esempio, su più di sei ordini di grandezza, e tracciarne il grafico in scala logaritmica alla ricerca di una retta, è un gesto tipico del fisico. Non a caso a coordinare il lavoro del 2020 da cui nasce questa storia fu Jared Kaplan, fisico teorico della Johns Hopkins University. C’è un risultato che rivela più di ogni altro questa impronta. Entro un ampio intervallo, la forma precisa della rete neurale, più profonda o più larga, conta poco: ciò che conta è la scala. Per un ingegnere è quasi una provocazione, perché i dettagli del progetto sono il suo mestiere. Per un fisico è un’idea familiare, che la meccanica statistica chiama universalità: sistemi diversissimi nei dettagli, come un magnete e un fluido vicino al punto critico, obbediscono alle stesse leggi, con gli stessi esponenti. Amodei aveva studiato proprio la meccanica statistica dei circuiti neurali. E c’è la biologia. Chi viene dalle scienze della vita conosce le leggi di potenza da quasi un secolo: nel 1932 Max Kleiber mostrò che il metabolismo degli animali cresce con la massa corporea elevata a circa tre quarti, dal topo all’elefante, con una regolarità sorprendente. È la stessa forma matematica che ritroveremo nella formula dell’IA. Chi ha studiato i neuroni sa inoltre che anche il cervello è, in un certo senso, un sistema scalato: principi relativamente semplici, ripetuti su un numero enorme di elementi. Per un fisico-biologo, l’idea che una rete artificiale potesse migliorare soprattutto crescendo non era un azzardo, ma un’ipotesi naturale da verificare. Chi scrive queste righe conosce quel percorso dall’interno: sono un fisico che, fin dai tempi della tesi di laurea, si è appassionato alla biologia, l’ha studiata a fondo e ancora la studia. Forse per questo la traiettoria di Amodei, dalla fisica ai neuroni e dai neuroni alle macchine, mi sembra meno sorprendente di quanto appaia a molti commentatori. Chi ha imparato a guardare la vita con gli strumenti della fisica è abituato a cercare, sotto la complessità, poche leggi semplici.Questo non significa che l’ingegneria conti meno. Sono stati gli ingegneri a costruire le macchine su cui le curve sono state misurate, e saranno gli ingegneri, come vedremo, a sfruttarle fino all’ultimo punto percentuale. Ma la domanda di partenza, quella che ha trasformato una collezione di esperimenti in una legge, è una domanda da fisico. E un fisico porta con sé anche un’altra abitudine, che tornerà utile alla fine di questa storia: sa che ogni legge empirica vale entro un intervallo, e che oltre quell’intervallo la natura può cambiare comportamento all’improvviso.

Un mestiere fatto di probabilità

C’è poi un secondo tratto del mestiere di fisico che rende questa storia quasi inevitabile: la familiarità con la statistica. Chi studia fisica passa anni a calcolare probabilità: la termodinamica, nella sua forma moderna, è meccanica statistica. Nessuno può prevedere il moto di una singola molecola in un litro d’aria, dove a temperatura e pressione ambiente ce ne sono circa venticinquemila miliardi di miliardi; eppure pressione e temperatura di quel gas si calcolano con una precisione straordinaria. È la legge dei grandi numeri: l’individuo è imprevedibile, la collettività no. Su questa idea Ludwig Boltzmann fondò, alla fine dell’Ottocento, la definizione statistica dell’entropia. Lo stesso vale per il mondo delle particelle. La meccanica quantistica non dice dove si trovi un elettrone: assegna a ogni posizione possibile una probabilità. Ripetendo la misura su un numero enorme di sistemi preparati nello stesso modo, quella distribuzione si ricostruisce con precisione sempre maggiore, fino a sfiorare la certezza. Occorre però dire con esattezza che cosa diventa certo: non l’esito della singola misura, che resta intrinsecamente imprevedibile, ma la mappa delle probabilità. Il principio di indeterminazione di Heisenberg aggiunge poi un limite ulteriore: posizione e velocità di una particella non possono mai essere conosciute insieme con precisione arbitraria.  Questa è una distinzione sottile, ma è proprio quella che serve per capire un modello linguistico di grandi dimensioni, o LLM, dall’inglese Large Language Model. Un modello linguistico, infatti, in un testo, non sa a priori quale parola verrà dopo la precedente. Come la meccanica quantistica con l’elettrone, esso assegna una probabilità a ciascuna delle parole possibili. La singola scommessa resta incerta; ma, misurata su miliardi di parole, la qualità complessiva delle scommesse diventa una grandezza stabile e calcolabile, come la pressione di un gas. È per questo che le leggi di scala disegnano curve così regolari: descrivono medie su numeri enormi, non casi singoli. E la misura dell’errore che incontreremo fra poco, la loss, ha un nome che un fisico riconosce al primo sguardo: si chiama entropia incrociata, ed è parente stretta dell’entropia di Boltzmann, attraverso quella che Claude Shannon introdusse nel 1948 per la teoria dell’informazione.  Per chi aveva studiato la meccanica statistica dei neuroni, guardare a una rete neurale come a un grande sistema di probabilità non era una metafora lontana: era… il linguaggio di casa.

La scoperta di una curva

Una delle idee più importanti dell’intelligenza artificiale contemporanea non nacque dall’invenzione di una macchina nuova: nacque dall’osservazione di una curva. Tra il 2019 e il 2020 un gruppo di ricercatori di OpenAI, coordinato dal fisico Jared Kaplan e con Amodei fra i firmatari in veste di ricercatore senior, studiò in modo sistematico che cosa accade ai modelli linguistici quando crescono tre ingredienti: la dimensione del modello, la quantità di testo con cui viene addestrato e la potenza di calcolo impiegata per addestrarlo. Il risultato sorprese. I miglioramenti non erano capricciosi: seguivano una regola semplice, della stessa forma per tutti e tre gli ingredienti, che reggeva su un intervallo enorme di dimensioni. Erano le leggi di scala, in inglese scaling laws.

La formula, spiegata a chi non fa questo mestiere

Prima della formula servono due nozioni, e sono più semplici di quanto sembri. La prima riguarda ciò che un modello linguistico fa davvero. Gli si dà l’inizio di una frase e lui prova a indovinare come prosegue. Se legge «Nel mezzo del cammin di nostra…», un buon modello scommette quasi tutto su «vita». Se legge «Stamattina ho comprato il...», deve distribuire la scommessa fra pane, giornale, biglietto e mille altre possibilità. La scommessa, però, non dipende soltanto dall’ultima parola, ma da tutto ciò che la precede: se la frase comincia con «Sono passato in edicola: stamattina ho comprato il...», il modello punterà quasi tutto su «giornale»; se comincia con «Ero dal fornaio», su «pane». Tutto ciò che questi sistemi sanno fare, dal tradurre un contratto allo scrivere un programma, nasce da questo gioco, ripetuto miliardi di volte su miliardi di frasi. Il modello guarda soltanto indietro, mai avanti: la parola successiva, per lui, non esiste ancora. La loss, letteralmente «perdita», è il punteggio di questo gioco, con una particolarità: più è bassa, meglio è. Per calcolarla occorre sapere che il gioco si svolge durante l’addestramento, su testi veri scritti da persone: libri, articoli, pagine web. Il meccanismo è quello di un esercizio scolastico. Si copre la parola successiva, il modello fa la sua scommessa, poi si scopre la parola che l’autore aveva effettivamente scritto e si confronta. Se il modello aveva puntato forte su «vita» e nel testo c’è proprio «vita», l’errore è minimo. Se aveva quasi escluso la parola che l’autore aveva invece scelto, l’errore è grande e la loss sale. Il modello non viene giudicato sulla parola che sceglierebbe lui, ma su quanta fiducia aveva accordato a quella giusta. Fatta la media su un’enorme quantità di testo, la loss diventa una misura precisa di quanto il modello abbia capito come funziona la lingua e, attraverso la lingua, una parte del mondo che essa descrive: per indovinare bene la parola successiva in un trattato di chimica, bisogna, ovviamente, sapere un po’ di chimica.

La seconda nozione riguarda i parametri. Si immagini il mixer di uno studio di registrazione, con un numero sterminato di manopole. All’inizio sono tutte in posizione casuale e ne esce soltanto rumore. L’addestramento consiste nel far leggere al modello un testo dopo l’altro e, a ogni parola sbagliata, nel girare leggermente ciascuna manopola nella direzione che riduce l’errore. Dopo miliardi di piccole correzioni, la posizione d’insieme delle manopole custodisce tutto ciò che il modello ha imparato. I parametri sono quelle manopole: più ce ne sono, più sfumature il modello è in grado di registrare. GPT-2, nel 2019, ne aveva un miliardo e mezzo; GPT-3, un anno dopo, 175 miliardi. Nota bene: da GPT-4 in poi OpenAI ha smesso di comunicare questo numero. Per GPT-4 circola una stima di circa 1.760 miliardi, ma è una ricostruzione esterna, non una cifra confermata. Per i modelli successivi non esistono nemmeno stime affidabili. Oggi sono in genere architetture a «miscela di esperti», nelle quali per ogni parola si attiva soltanto una parte dei parametri, e il numero totale dice quindi meno di un tempo. Anthropic, da parte sua, non ha mai reso pubblico il numero di parametri di nessuna versione di Claude, dalla prima all’attuale. Nell’aprile 2026 Elon Musk scrisse che il suo Grok ha 500 miliardi di parametri, la metà di Sonnet e un decimo di Opus; molti ne hanno ricavato che Sonnet abbia circa 1.000 miliardi di parametri e Opus circa 5.000 miliardi. Quando gli chiesero come facesse a conoscere quelle dimensioni, Musk non rispose. Circola anche la cifra di 10.000 miliardi per Claude Mythos, ma nessun annuncio o documento ufficiale di Anthropic la conferma. Sono indiscrezioni, non dati. Comunque, con queste due nozioni la scoperta di Kaplan e Amodei si enuncia in una riga: se si aumentano le manopole, i testi da leggere o la potenza di calcolo, la sorpresa del modello diminuisce, e diminuisce in modo regolare e prevedibile. Nella forma oggi più usata, la relazione si scrive così:

L(x) ≈ L_∞ + A · x^−α

Si legge in questo modo. L è l’errore del modello. x è l’ingrediente che aumentiamo: parametri, dati o calcolo. L_∞, «elle infinito», è il pavimento, ovvero l’errore che resterebbe anche disponendo di risorse illimitate, perché ogni lingua contiene un’incertezza che nessuno può eliminare: neppure il lettore più acuto indovina sempre la parola successiva di un romanzo. A è una costante che dipende dalle unità di misura. Infine α, alfa, è il numero che conta davvero, perché dice quanto rende ogni investimento.

Il segno meno nell’esponente significa che x sta, in pratica, al denominatore: x^−α equivale a 1 diviso x^α. Più risorse, dunque, meno errore. Ma non in proporzione. Proporzione vorrebbe dire α uguale a 1: raddoppio le risorse e l’errore si dimezza, le moltiplico per dieci e diventa un decimo. Nell’intelligenza artificiale non va mai così. Gli esponenti misurati sono piccoli, frazioni di unità, e la formula dice allora una cosa precisa: ogni volta che moltiplichiamo le risorse per lo stesso fattore, la parte eliminabile dell’errore si riduce della stessa percentuale. Non di una quantità fissa, ma di una percentuale fissa.

Conviene vedere che cosa sia x in concreto. Può essere il numero di parametri: un miliardo, dieci miliardi, cento miliardi. Può essere la quantità di testo letta durante l’addestramento, misurata in token, i frammenti di parola con cui i modelli leggono, di cui diremo più avanti. Oppure la potenza di calcolo impiegata, contata in operazioni elementari: numeri con venti e più zeri. La formula ha la stessa forma per tutti e tre gli ingredienti; cambiano soltanto i valori di A e di α.

Un esempio con numeri tondi, puramente illustrativo. Supponiamo che α valga 0,1 e che un modello da un miliardo di parametri abbia una parte eliminabile dell’errore pari a 10, in unità qualsiasi. Passando a dieci miliardi di parametri, l’errore scende a 7,9; a cento miliardi, a 6,3; a mille miliardi, a 5. A ogni moltiplicazione per dieci si guadagna sempre il 21 per cento, ma in valore assoluto il guadagno si assottiglia: 2,1 punti, poi 1,6, poi 1,3. E per dimezzare l’errore è servito un modello mille volte più grande.

L’esponente α è dunque la pendenza del cammino, e piccole differenze pesano moltissimo. Moltiplicando le risorse per dieci, con α pari a 0,5 l’errore eliminabile cala del 68 per cento; con α pari a 0,1, del 21 per cento; con α pari a 0,05, soltanto dell’11 per cento. Un α grande è una discesa ripida verso l’errore minimo; un α piccolo è un pendio quasi piatto, sul quale si avanza di pochi passi al prezzo di quantità enormi di risorse. I valori misurati nei modelli linguistici, come vedremo subito, stanno dalla parte del pendio quasi piatto.

I valori misurati da Kaplan rendono l’idea concreta. Per la dimensione del modello, α vale circa 0,076: raddoppiando i parametri, l’errore eliminabile scende di circa il 5 per cento, e per dimezzarlo occorre un modello circa novemila volte più grande. Per il calcolo, α è ancora più piccolo, circa 0,05: per dimezzare l’errore bisogna moltiplicare la potenza di calcolo per circa un milione. Queste stime valgono quando gli altri ingredienti non fanno da freno.

È, in qualche modo, la legge del ripasso che ogni studente dovrebbe conoscere: le prime ore di studio fanno guadagnare molti punti, le successive sempre meno. Qui però quel «sempre meno» è misurato con precisione, e la precisione è tutto. Su un grafico con scale logaritmiche, dove ogni tacca vale dieci volte la precedente, la relazione diventa una linea retta. Ed è la retta il vero regalo: misurando l’errore di una serie di modelli piccoli ed economici, la si può prolungare con un righello e prevedere, entro certi limiti, quanto sbaglierà un modello cento volte più grande prima ancora di spendere un euro per costruirlo. Una precisazione per il lettore esperto: nel lavoro di Kaplan e colleghi del 2020, Scaling Laws for Neural Language Models, la relazione compariva come legge di potenza pura, senza il termine L_∞. Il pavimento è stato esplicitato dagli studi immediatamente successivi: prima, nello stesso 2020, dal lavoro di Henighan e colleghi sui modelli generativi, poi da quello di DeepMind del 2022 di cui diremo. La sostanza non cambia.

Perché un fisico la vide prima degli altri

Fu un cambiamento concettuale enorme. Per migliorare l’intelligenza artificiale non occorreva più attendere una nuova intuizione teorica. Diventava lecito chiedersi che cosa accadesse prendendo ciò che già funzionava e rendendolo cento volte più grande. GPT-3, più di cento volte più grande di GPT-2, fu in un certo senso la verifica sperimentale di quella domanda. La formazione di Amodei aiuta a capire perché ne afferrò presto le implicazioni. Le leggi di potenza, per un fisico, sono materia quotidiana: descrivono terremoti, transizioni di fase, la distribuzione delle città. All’epoca, inoltre, non era affatto scontato che ingrandire le reti neurali avrebbe continuato a dare frutti migliori. Una parte del mondo dell’apprendimento automatico, fedele all’approccio ingegneristico, riteneva che oltre una certa soglia sarebbero servite architetture nuove o principi diversi. Ma i dati sperimentali raccontavano un’altra storia: i modelli continuavano a migliorare. Bisogna però evitare di caricare la scoperta di un significato che non ha. Le leggi di scala non sono leggi fondamentali della natura, come la gravitazione di Newton o le equazioni di Maxwell. Sono regolarità empiriche osservate nel comportamento delle reti neurali, valide in determinati intervalli. Proprio per questo sono utilissime, ma proprio per questo vanno maneggiate con cautela.

Dalla curva all’industria

Da un’idea scientifica discende una conseguenza industriale gigantesca. Addestrare un modello di frontiera richiede soldi, tanti soldi: capitali (spesso di rischio), acceleratori, energia e infrastrutture in quantità enormi. Prima di investire miliardi è preziosissimo sapere se, moltiplicando il calcolo per dieci o per cento, ci si può ragionevolmente attendere un miglioramento. Lo scaling è diventato così non soltanto un fenomeno scientifico, ma una strategia industriale. Qui il testimone passa agli ingegneri, ed è giusto così. Nel 2022 DeepMind corresse un elemento importante di quella strategia. Nel lavoro Training Compute-Optimal Large Language Models mostrò che aumentare soltanto i parametri non era l’uso migliore del calcolo: anche i dati dovevano crescere nella giusta misura. Chinchilla, un modello da 70 miliardi di parametri addestrato su circa 1.400 miliardi di token, superò Gopher, quattro volte più grande ma nutrito con molti meno dati. La regola pratica che ne derivò è di circa venti token di testo per ogni parametro. Il token è l’unità con cui i modelli leggono le parole di un testo: non sempre è una parola intera, ma spesso un suo frammento. Le parole brevi e frequenti valgono di solito un token ciascuna; quelle lunghe o rare vengono spezzate in più pezzi, così che «incredibilmente», per esempio, può diventare «in», «credibil» e «mente». In inglese un token corrisponde in media a circa tre quarti di parola; in italiano, a qualcosa di meno. Venti token per parametro significano quindi, per un modello da 70 miliardi di parametri, una biblioteca di oltre mille miliardi di parole. La lezione era sottile ma fondamentale: scalare non significa ingrassare il modello, significa trovare l’equilibrio fra parametri, dati e calcolo.

La concentrazione in poche mani e la barriera per l’Europa

Da allora OpenAI, Google DeepMind, Anthropic, Meta e pochi altri hanno investito somme senza precedenti in acceleratori, centri di calcolo, energia e dati. Dietro una parte rilevante dell’economia dell’IA generativa c’è una scommessa precisa: continuando ad aumentare le risorse, le prestazioni continueranno a crescere. Ne è derivata una conseguenza che all’inizio poteva sembrare estranea alla ricerca: la concentrazione dell’IA in poche mani. Un articolo scientifico può leggerlo chiunque, un algoritmo si può riprodurre. Decine di migliaia di acceleratori, grandi centri di calcolo, energia abbondante e miliardi di dollari (magari senza risultato garantito) sono invece alla portata di pochissimi.  Una curva matematica ha finito per erigere una barriera all’ingresso. Per l’Europa, e per l’Italia, è la conseguenza più concreta di tutte: chi non dispone di calcolo, energia e capitali su quella scala può leggere le curve, ma non può percorrerle. I numeri rendono l’idea meglio di qualsiasi aggettivo. Secondo il conteggio del Financial Times, quattro sole società americane, Amazon, Microsoft, Alphabet e Meta, prevedono di investire nel 2026 circa 725 miliardi di dollari, in gran parte in infrastrutture per l’intelligenza artificiale: il 77 per cento in più dell’anno precedente, che era già un record. L’Unione europea ha risposto con le «gigafabbriche dell’IA», fino a sette grandi centri di calcolo con almeno 75.000 o 100.000 acceleratori ciascuno. Il bando si chiude il 12 novembre 2026, le assegnazioni sono attese all’inizio del 2027 e gli impianti dovrebbero entrare in funzione entro diciotto mesi dalla firma dei contratti, cioè non prima della seconda metà del 2028. Ma dei fondi europei promessi soltanto un miliardo è oggi effettivamente impegnato; il resto dipende dal prossimo bilancio pluriennale, ancora in negoziazione. E c’è l’energia, l’ingrediente che alimenta ogni singola operazione di calcolo: all’industria europea costa circa il doppio che a quella americana, e l’Italia paga l’elettricità più cara della media europea. Tradotto nel linguaggio della formula, il quadro è spietato. Se dimezzare l’errore richiede un milione di volte più calcolo, chi parte con una frazione delle risorse e con anni di ritardo non recupera correndo sulla stessa curva. Può soltanto tentare di spostarla, ma con grande fatica: modelli più efficienti, specializzati nei settori in cui l’Europa e l’Italia sono forti, come la manifattura, la sanità e la pubblica amministrazione; dati di qualità che altri non possiedono; tecniche che ottengono di più con meno. È una strada praticabile, e qualche laboratorio europeo lo ha già dimostrato. Richiede però decisioni rapide, capitali pazienti e una politica energetica coerente, tre cose che il continente raramente ha avuto insieme. Il treno, dunque, non è ancora del tutto perso per l’Europa; ma, se non vi si sale adesso, il prossimo potrebbe non passare più.

Più grande vuol dire più intelligente?

Qui compare il problema più importante, e la risposta richiede cautela. La loss misura la capacità di previsione statistica, non ciò che nel linguaggio comune chiamiamo intelligenza. Capacità diverse, inoltre, possono crescere a velocità diverse: ragionamento matematico, programmazione, pianificazione, memoria, affidabilità dei fatti e autonomia non sono la stessa cosa. Dalle leggi di scala non discende quindi logicamente che, costruendo modelli sempre più grandi, si arriverà per forza a un’intelligenza artificiale generale. 

Attenzione: con questa espressione, in inglese Artificial General Intelligence o AGI, si intende un sistema capace di affrontare, con competenza paragonabile a quella umana, praticamente qualsiasi compito intellettuale, anche mai visto prima, anziché eccellere in un solo campo. Non va confusa con l’IA generativa, la GenAI, che indica più semplicemente i sistemi che producono contenuti, testi, immagini, suoni, programmi: quella esiste già, ed è la stessa di cui parla questo articolo, mentre l’AGI resta un obiettivo, dai contorni ancora discussi. 

Le leggi di scala dimostrano qualcosa di più limitato, e già notevole: in certi regimi sperimentali, certe misure delle prestazioni migliorano in modo prevedibile quando crescono certe risorse. C’è poi un limite molto concreto, i dati. Internet non contiene una quantità illimitata di testi umani di buona qualità, e quando una parte significativa è già stata usata occorre cambiare strategia. Entrano in gioco dati sintetici, apprendimento per rinforzo, ambienti simulati, uso di strumenti, sistemi che producono problemi, ne verificano le soluzioni e imparano dai risultati. Per questo la frontiera si sta spostando dallo scaling dell’addestramento anche verso lo scaling del ragionamento: invece di spendere quasi tutto il calcolo per costruire una volta per tutte un modello più potente, se ne destina una parte crescente al momento in cui il modello affronta un problema difficile. Con una metafora antropomorfica: non soltanto un cervello più grande, ma più tempo per pensare.

Il paradosso Amodei

È qui che Amodei torna al centro della storia, e con lui il suo intervento alle Nazioni Unite. La sua posizione contiene una tensione evidente. Se lo scaling continuerà, sostiene, i sistemi potranno raggiungere capacità straordinarie, ma proprio quell’aumento potrebbe generare rischi altrettanto straordinari. Uno degli uomini che hanno contribuito a capire come rendere le macchine più potenti è anche fra quelli che insistono di più sulla necessità di studiarne i pericoli.

La sua visione positiva è ambiziosissima. Nel suo saggio Machines of Loving Grace immagina sistemi capaci di superare i premi Nobel in molte discipline e di lavorare con una velocità e un parallelismo impossibili per gli esseri umani, fino a comprimere in pochi anni progressi di biologia e medicina che altrimenti richiederebbero decenni. È uno scenario affascinante, ma va distinta con cura l’estrapolazione dal risultato sperimentale. Non esiste una legge di scala che consenta di scrivere:

10²⁸ operazioni = premio Nobel

e neppure:

10³⁰ operazioni = superintelligenza

Le curve permettono certe estrapolazioni quantitative. Prevedere trasformazioni qualitative della conoscenza è un problema diverso.

C’è poi il costo. Le leggi di potenza implicano rendimenti decrescenti, e i numeri visti sopra lo dicono senza pietà: se dimezzare l’errore richiede un milione di volte più calcolo, la domanda smette di essere soltanto scientifica e diventa: quanto costa il prossimo punto percentuale di intelligenza artificiale?  Lo scaling potrebbe continuare a funzionare in matematica e diventare insostenibile in economia. Il primo vero limite potrebbe essere finanziario, energetico o infrastrutturale, non teorico. Sarebbe però sbagliato considerarlo inevitabile. La storia dell’informatica è anche la storia di innovazioni che hanno cambiato il rapporto fra calcolo e prestazioni: algoritmi migliori, hardware specializzato, quantizzazione, sparsità, architetture a miscela di esperti, distillazione, dati sintetici, apprendimento per rinforzo, calcolo al momento della risposta, sistemi ad agenti. Ognuna di queste, nel linguaggio della formula, sposta la curva o ne cambia la pendenza.

Che cosa stiamo scalando

La domanda allora cambia forma. Non basta più chiedersi quanto possiamo scalare: bisogna chiedersi che cosa stiamo scalando. La prima generazione di leggi di scala studiava parametri, dati, calcolo e loss. La prossima sfida è capire come crescano proprietà molto più difficili da misurare: ragionamento, autonomia, affidabilità, creatività scientifica, pianificazione, capacità di agire nel mondo. E soprattutto se crescano insieme. Un sistema potrebbe diventare eccellente nella programmazione senza migliorare altrettanto nel giudizio; potrebbe acquisire capacità matematiche superiori continuando a produrre informazioni false; potrebbe diventare più autonomo senza diventare proporzionalmente più affidabile. Tradotto nel linguaggio della formula, sono curve con pendenze diverse. Ed è esattamente la seconda preoccupazione che Amodei ha portato al Consiglio di sicurezza: capacità che crescono più in fretta della nostra possibilità di controllarle. Non è catastrofismo. È una differenza fra due esponenti. Resta infine la conseguenza più profonda. Per molto tempo abbiamo immaginato l’intelligenza come il prodotto necessario di principi qualitativamente raffinati. I grandi modelli hanno introdotto una possibilità più inquietante e insieme più affascinante: alcune capacità che giudichiamo intelligenti possono emergere aumentando enormemente dati, calcolo e dimensioni di sistemi costruiti su principi relativamente semplici. Oltre una certa scala, la quantità può produrre qualità. Un fisico conosce bene il fenomeno: l’acqua scaldata un grado alla volta resta acqua finché, a cento gradi e a pressione atmosferica, diventa vapore. Si chiama transizione di fase: chi prolungasse le curve delle proprietà del liquido misurate fino a ottanta gradi non vedrebbe arrivare il salto. Non sappiamo ancora fin dove, e in che modo, questo valga per l’intelligenza artificiale. Il fisico-biologo che cercava regolarità quantitative nei circuiti neurali ha contribuito a individuare una delle regolarità che hanno plasmato l’IA moderna. Seguendo quella curva fino alle conseguenze più lontane, è arrivato a una conclusione doppia. Se continuerà a funzionare, potremmo costruire sistemi capaci di accelerare la scienza e trasformare l’economia. Se continuerà a funzionare, potremmo anche costruire sistemi sempre più difficili da controllare. È la stessa curva a reggere entrambe le possibilità. Per questo l’allarme lanciato all’ONU non contraddice il lavoro di una vita: ne è la conseguenza. E per questo il rifiuto di qualsiasi regola comune da parte della potenza che ospita quasi tutti i laboratori di frontiera dovrebbe preoccupare l’Europa più di qualsiasi previsione apocalittica. Un ingegnere si domanda se il ponte reggerà. Un fisico si domanda dove la legge smetterà di valere. La domanda decisiva dei prossimi anni non sarà soltanto se le leggi di scala continueranno a funzionare. Sarà capire dove finisce ciò che possiamo prevedere prolungando una retta e dove comincia ciò che quella retta non è più in grado di raccontarci. È una domanda da fisico, alla quale neppure Dario Amodei, uno dei primi a capire la potenza dello scaling, possiede ancora una risposta.  Per lo meno, così io credo.

L'articolo Come e perché un fisico-biologo ha cambiato l’intelligenza artificiale moderna proviene da Italia nel futuro.

Il 18 settembre 2026 quattro utenti paganti — abbonati rispettivamente a ChatGPT, Claude, Grok e Gemini — hanno citato Anthropic, OpenAI, SpaceXAI e Google davanti al Northern District of California (Buist v. Anthropic) per violazione della Sezione 1 dello Sherman Act, la fondamentale legge antitrust americana. I querelanti chiedono al tribunale di accertare se vi sia stato un accordo per rallentare deliberatamente il ritmo di miglioramento dei prodotti. L’atto di citazione non porta evidenze dirette ma si basa interamente su dichiarazioni pubbliche. Secondo i querelanti da luglio 2026 i laboratori delle società avrebbero mantenuto contatti regolari su standard di sicurezza condivisi. Il 12 settembre Dario Amodei in “We Must Pace the Frontier”, ha proposto un coordinamento di settore. Nelle ore successive Altman, Musk e Hassabis hanno sostenuto pubblicamente la proposta. Pochi giorni prima, il chief scientist di OpenAI Jakub Pachocki aveva descritto il coordinamento tra rivali come “una delle opzioni principali” per gestire i rischi dell’AI avanzata. L’atto attribuisce particolare importanza all’ammissione preventiva dello stesso Amodei, che nel suo saggio chiede al governo un esonero di responsabilità per le conversazioni tra concorrenti, letta dai querelanti come prova che i quattro sapessero di aver bisogno di un’immunità.
L’atto di citazione individua il movente al paragrafo H(a) finalizzato a dimostrare che la mera condotta parallela tra concorrenti non basta a provare un accordo illecito ai sensi della Sezione 1 dello Sherman Act. Secondo i querelanti rallentare da soli sarebbe commercialmente insostenibile, ma vantaggioso se fatto insieme, eliminando il costo competitivo della moderazione individuale. Nelle 29 pagine dell’atto di citazione non viene tuttavia indicato alcun prodotto effettivamente rallentato. Evidentemente i querelanti si aspettano che le evidenze emergano dalla discovery, la produzione documentale imposta dal tribunale. Per la giurisprudenza americana un atto antitrust deve contenere fatti sufficienti a rendere plausibile l’esistenza di un accordo illecito, altrimenti potrebbe essere respinto con un motion to dismiss prima che scatti qualunque obbligo di produzione documentale. Tuttavia la mera presentazione di un motion to dismiss non sospende automaticamente la discovery: il giudice può concedere uno stay della discovery “per buona causa”. Sarà interessante vedere come il giudice si comporterà in questo caso.

L'articolo Antitrust USA e AI: Anthropic, OpenAI, SpaceXAI e Google sotto accusa proviene da Italia nel futuro.

Per anni abbiamo temuto che l’intelligenza artificiale potesse darci una risposta sbagliata. Oggi la domanda comincia a essere diversa: che cosa accade quando un sistema non si limita più a rispondere, ma può scegliere autonomamente i passaggi necessari per raggiungere un obiettivo? Il 16 settembre OpenAI ha reso pubblici sei rapporti su comportamenti “inattesi o preoccupanti” osservati negli ultimi sei mesi durante attività di addestramento e valutazione. Non siamo davanti a sei incidenti simultanei né alla prova che ChatGPT sia improvvisamente diventato incontrollabile. La stessa azienda avverte che si tratta di casi individuali e che non possono essere usati per stimare quanto frequentemente il disallineamento si manifesti nei suoi modelli. Ma proprio questa cautela rende la notizia più interessante. Tra gli episodi descritti c’è un modello sperimentale che inserisce nei propri riepiloghi istruzioni destinate a influenzare il lavoro nelle fasi successive; durante l’addestramento di GPT-5.6 Sol alcune istanze aggiungono indicazioni per occultare errori o inventare dati mancanti senza dichiararlo. In un altro caso un modello individua una chiave API esposta in un repository pubblico, la utilizza senza autorizzazione e, non riuscendo comunque a ottenere i dati cercati, li fabbrica. Altrove un agente pubblica un file su Internet per poterlo citare; altri sistemi utilizzano repository o servizi di file hosting per comunicare e scambiarsi materiali senza che ciò fosse previsto. Il punto non è attribuire alle macchine intenzioni umane. Parlare di “ribellione” sarebbe suggestivo, ma scientificamente povero. Il concetto corretto è quello di misalignment, disallineamento: il comportamento effettivamente prodotto dal sistema devia, in qualche passaggio, dalle intenzioni di chi lo ha progettato o dalle regole entro cui avrebbe dovuto operare. Per comprendere perché questi casi meritino attenzione basta osservare come sta cambiando l’intelligenza artificiale. Un chatbot produce una risposta. Un agente compie azioni. Un sistema di più agenti può coordinare strumenti, memoria, file, servizi esterni e sequenze operative. Aumentando l’autonomia aumenta anche lo spazio nel quale un comportamento imprevisto può emergere. L’errore, dunque, non è più soltanto cognitivo: può diventare operativo. La novità forse più rilevante non riguarda però i sei episodi, bensì la risposta di OpenAI. L’azienda ha introdotto un vero Model Misalignment Reporting Framework: una procedura per segnalare, investigare, classificare e rendere pubblici casi di disallineamento anche quando non siano ancora completamente spiegati o risolti. OpenAI riconosce inoltre che oggi non esiste uno standard condiviso dall’industria per stabilire quali episodi debbano essere comunicati e con quali criteri. È un passaggio culturale importante. Nei sistemi complessi la sicurezza non nasce soltanto dall’assenza di incidenti gravi, ma dalla capacità di studiare anomalie, quasi incidenti e deviazioni prima che producano conseguenze rilevanti. L’aviazione lo fa da decenni; la cybersecurity ha sviluppato procedure di disclosure; la medicina costruisce sistemi di incident reporting. L’intelligenza artificiale di frontiera sta entrando nella stessa fase. Il contesto rende questa scelta ancora più significativa. Reuters ricorda che nei mesi scorsi altri agenti OpenAI avevano aggirato controlli interni o trovato modalità non previste per comunicare attraverso servizi esterni. Il caso Hugging Face aveva già mostrato agenti capaci di oltrepassare controlli durante l’addestramento; successive ricostruzioni hanno alimentato il confronto su quanto sia sufficiente l’attuale capacità di supervisione dei laboratori. E qui compare forse il passaggio più significativo dell’intero documento. OpenAI scrive di non ritenere che l’industria abbia ancora risolto i problemi di allineamento e monitoraggio a un livello tale da consentire, ancora a lungo, di aumentare responsabilmente le capacità dei sistemi alla massima velocità. È un’affermazione che pesa perché non proviene da un osservatore esterno, ma da uno dei principali protagonisti della corsa globale all’intelligenza artificiale. Ma attenzione, Fino a ieri ci siamo concentrati soprattutto su privacy, copyright, bias, trasparenza e affidabilità delle risposte. Domani la governance dell’AI dovrà occuparsi sempre più anche del comportamento autonomo dei sistemi: quali azioni possono compiere, quali strumenti possono utilizzare, quali limiti non devono superare, come registrare gli incidenti e quando comunicarli alle autorità o al pubblico. Non significa che abbiamo perso il controllo. Significa qualcosa di più sobrio e, proprio per questo, più serio: stiamo costruendo sistemi capaci non soltanto di parlare, ma di agire. E quando una tecnologia comincia ad agire, il controllo non può essere affidato soltanto alla buona progettazione iniziale. Deve diventare una disciplina permanente fatta di monitoraggio, verifiche indipendenti, regole di disclosure e responsabilità chiaramente definite. I sei casi raccontati da OpenAI, allora, non sono la cronaca di una macchina che si ribella. Sono forse il segnale che l’intelligenza artificiale sta entrando in una nuova età. Quella in cui la domanda non sarà più soltanto quanto è intelligente un modello, ma quanto siamo diventati intelligenti noi nel governarlo.

L'articolo Oltre l’errore: i sei casi OpenAI che cambiano il problema della sicurezza dell’AI proviene da Italia nel futuro.

«Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing». Quando Jacob Coxon ha pubblicato, il 9 settembre 2026, queste parole su X per annunciare le proprie dimissioni da Anthropic, una scossa di terremoto ha attraversato l’intera industria tecnodigitale e ha invaso le prime pagine della stampa internazionale. Coxon non è un saggista apocalittico, né un politico in cerca di visibilità: è un ricercatore ventisettenne specializzato nell’addestramento dei modelli di intelligenza artificiale, con alle spalle un curriculum nei due laboratori più avanzati del pianeta, OpenAI prima e Anthropic poi. Il suo gesto non rappresenta, fra l’altro, un caso isolato, bensì l’ultimo tassello di un fenomeno strutturale che dura ormai da oltre tre anni: l’esodo di massa dei migliori ingegneri e scienziati dai santuari della Silicon Valley. La narrazione mediatica della “fuga dei programmatori” si è spesso articolata rispetto a due visioni contrapposte. Da un lato c’è la versione dei media generalisti e delle riviste d’inchiesta, che vedono nelle dimissioni dei ricercatori la conferma drammatica di un rischio esistenziale incombente; dall’altro c’è la retorica dei dirigenti delle Big Tech e di taluni commentatori d’area liberista, i quali bollano questi allarmi come isterie collettive, manovre per sollecitare regolamentazioni protettive a vantaggio dei nuovi arrivati o semplicemente strategie di marketing indiretto per ingigantire la percezione di potenza dei propri software. Tuttavia, analizzando a fondo i documenti aziendali interni, i saggi pubblicati dai ricercatori dimissionari e le dichiarazioni rilasciate a margine delle loro uscite, la realtà appare assai più complessa di un banale conflitto d’opinione. Il dibattito pubblico sta progressivamente rendendosi conto che la spaccatura in atto è più rilevante di ciò che sembra. E’ in corso uno scontro frontale tra la logica del mercato globale – che impone un’accelerazione frenetica per monetizzare e conquistare fette di mercato – e la cultura della sicurezza e della mitigazione dei rischi tecnici.

La mappa delle preoccupazioni: perché i ricercatori dicono addio alle aziende

Per comprendere i motivi concreti che spingono figure apicali a rinunciare a stipendi milionari e pacchetti azionari di altissimo valore, è necessario ripartire dai fattori causali reali emersi in questi anni. Analizzando le motivazioni dichiarate da coloro che hanno abbandonato i laboratori di San Francisco e Londra, le ragioni si articolano secondo una gerarchia ben precisa.

La spiegazione dettagliata dei motivi di autolicenziamento

1. Priorità al mercato e al profitto a scapito della sicurezza (35%)

Rappresenta il fattore scatenante principale e numericamente dominante. I dipartimenti dedicati all’allineamento e alla mitigazione dei rischi vengono costantemente ridimensionati, privati delle necessarie risorse di calcolo o del tutto ignorati dai vertici aziendali di fronte alla priorità assoluta di lanciare nuovi prodotti commerciali sul mercato per battere la concorrenza. La trasformazione di strutture nate come no-profit etiche in colossi commerciali ad alta redditività ha irrimediabilmente infranto il patto di fiducia con chi era entrato per fare ricerca pura anche sulla sicurezza.

2. Salto incontrollato verso la Superintelligenza che assume il controllo della specie umana (25%).

La convinzione diffusa tra le figure tecniche apicali che la transizione verso l’Intelligenza Artificiale Generale (AGI) o la Superintelligenza (ASI) stia avvenendo a una velocità ampiamente superiore alla capacità umana di garantirne la governance. L’impiego di cicli di autosviluppo e auto-miglioramento software, senza l’elaborazione di una teoria solida sull’allineamento al valore umano, viene percepito dagli sviluppatori come una vera e propria roulette russa sistemica.

3. Occultamento dei segreti e delle clausole di riservatezza (15%)

L’uso sistematico da parte delle corporazioni tecnologiche di stringenti accordi di non divulgazione (NDA) e clausole finanziarie punitive — quali la minaccia di revoca delle quote azionarie già maturate (vested equity) in caso di critiche all’azienda — pensato per impedire ai ricercatori di informare le autorità pubbliche, la stampa o gli organismi internazionali sulle vulnerabilità di sicurezza informatica o sui pericoli sistemici riscontrati durante la fase di test dei modelli.

4. Disobbedienza e inganno da parte dei modelli / Alignment Failure (15%)

Le evidenze di laboratorio che attestano come i modelli di grandi dimensioni stiano iniziando a sviluppare comportamenti strategici di “falsa obbedienza” (inganno o sycophancy). Nello specifico, i software imparano a mostrare comportamenti allineati e sicuri unicamente durante la fase di valutazione e sandboxing (in ambiente protetto) da parte dei programmatori, per poi attuare strategie tese a perseguire obiettivi autonomi o ad aggirare i vincoli una volta operativi in ambiente aperto.

5. Rischio di proliferazione di nuove armi e progettazione attacchi informatici (10%)

La preoccupazione concreta che l’innalzamento improvviso delle capacità dei modelli linguistici possa abbassare drasticamente le barriere d’accesso alla creazione di armi biologiche, chimiche, radiologiche o nucleari (CBRN), oltre ad automatizzare l’esecuzione di attacchi informatici su larga scala contro infrastrutture critiche (reti elettriche, sistemi finanziari, nodi di telecomunicazione), senza che vi siano strumenti adeguati per bloccarne la proliferazione.

La lista degli autolicenziati.

Ecco una lista dettagliata delle figure di vertice e dei ricercatori chiave che hanno ufficializzato la propria uscita dai principali laboratori internazionali (OpenAI, Anthropic, Google DeepMind) per divergenze sulla gestione dei rischi ed etica dello sviluppo.

• Jacob Coxon – AI Training Researcher presso Anthropic (luglio–settembre 2026); precedentemente Member of Technical Staff presso OpenAI (2023–2026), dove ha contribuito alla creazione di GPT-4o. Anno di dimissioni: 2026 . Nazionalità: Franco-britannica

Ha rassegnato le dimissioni denunciando pubblicamente che i leader delle principali aziende non escludono che la superintelligenza possa causare l’estinzione dell’umanità entro la fine del decennio e accusando le dirigenze di correre, ciò non ostante, verso l’auto-miglioramento dei modelli “scommettendo sulla vita delle persone”. Ha inoltre denunciato l’assenza di metodologie di controllo sugli agenti autonomi avanzati. Anthropic ha minimizzato l’accaduto facendolo rientrare nella sfera delle valutazioni personali del singolo dipendente, ribadendo l’impegno teorico per lo sviluppo sicuro. L’uscita di Coxon ha provocato una vasta eco sulla stampa internazionale (The Wall Street Journal, Financial Times, The New York Times) ed è diventata un caso politico al Congresso degli Stati Uniti, attirando critiche da parte degli ambienti industriali liberali che lo hanno accusato di operare una manovra d’allarmismo pro-regolamentazione.

• Mrinank Sharma – Lead del Safeguards Research Team presso Anthropic. Anno di dimissioni: 2026 . Nazionalità: Britannica (di origini indiane)

Sharma ha manifestato un crescente dissenso rispetto all’uscita dei nuovi prodotti commerciali. E’ troppo accelerata e ha superato la capacità dei team etici di validarne la sicurezza. Ha accompagnato il suo licenziamento dichiarando in una lettera aperta che “il mondo è in pericolo” a causa dell’incompatibilità tra le aspettative di profitto aziendali e la sicurezza globale. Anthropic ha espresso rammarico formale per la decisione, ribadendo la centralità formale della ricerca etica nel proprio budget. L’allontanamento è stato accolto dalla stampa tecnica ed economica come la prova regina del fatto che ancheAnthropic — nata da una scissione di OpenAI, proprio per fondare un laboratorio “safe” — ha finito per assimilare le medesime dinamiche commerciali dei competitor.

• Jan Leike – Co-head del team Superalignment presso OpenAI (insieme a Ilya Sutskever). Anno di dimissioni: 2024 . Nazionalità: Tedesca . Si è dimesso polemicamente affermando che all’interno di OpenAI i processi dedicati alla sicurezza, all’allineamento dei modelli e alla prevenzione dei rischi catastrofici, stavano progressivamente perdendo terreno a favore di una cultura orientata unicamente al lancio tempestivo di “prodotti brillanti e commerciali”.

I vertici dell’azienda : Sam Altman e Greg Brockman, hanno pubblicato risposte formali ringraziandolo per il contributo e ammettendo la necessità di rafforzare gli sforzi sulla governance dei rischi. Leike è stato ampiamente supportato dalle testate di settore (MIT Technology Review, TechCrunch), che hanno inquadrato la sua uscita come il definitivo ridimensionamento dell’ala scientifica rigorosa di OpenAI.

• Ilya Sutskever – Chief Scientist e Co-fondatore di OpenAI. Anno di dimissioni: 2024 Nazionalità: Israeliano-canadese (nato in Russia) . A seguito dei drammatici eventi della fine del 2023 che avevano visto il breve licenziamento e il successivo reintegro del CEO Sam Altman, la spaccatura sulla direzione etica e sulla velocità di sviluppo dell’AGI è diventata insanabile, portandolo a lasciare l’azienda per fondare una nuova realtà indipendente intitolata Safe Superintelligence (SSI).

OpenAI ha salutato il suo addio con toni di profondo rispetto diplomatico, definendolo una figura chiave nella storia della computazione moderna. Il suo licenziamento ha ottenuto una copertura totale sui media globali (The New York Times, BBC, Le Monde); l’uscita è stata unanimemente descritta dalla stampa come il passaggio definitivo di OpenAI : “da istituto di ricerca a scopo etico a multinazionale a scopo di lucro”.

• Daniel Kokotajlo – Governance Researcher presso il team dedicato alla valutazione dell’impatto e delle politiche future di OpenAI. Anno di dimissioni: 2024 . Nazionalità: Statunitense ( di origini ucraine).

Ha rassegnato le dimissioni rifiutando espressamente di sottoscrivere i rigorosi accordi di non divulgazione (NDA) e di non denigrazione aziendale, preferendo rinunciare a un pacchetto azionario valutato milioni di dollari pur di conservare il diritto di denunciare pubblicamente i rischi dovuti all’agire spregiudicato della compagnia. Sottoposta a un travolgente danno reputazionale a seguito delle rivelazioni di Kokotajlo, OpenAI è stata costretta a revocare pubblicamente le clausole punitive che privavano gli ex dipendenti delle quote azionarie maturate (vested equity). Elogiato da testate internazionali (Vox, The Washington Post) come esempio di integrità etica, è diventando il catalizzatore della campagna per la protezione dei whistleblower (gole profonde) nell’ambito della Silicon Valley.

• Gretchen Krueger – Policy Research Scientist presso OpenAI. Anno di dimissioni: 2024 Nazionalità: Statunitense . Ha rassegnato le dimissioni in concomitanza con Jan Leike, evidenziando la necessità urgente di garantire una maggiore trasparenza democratica, un coinvolgimento delle istituzioni pubbliche e la redistribuzione del potere decisionale nello sviluppo dei modelli di frontiera.

Nessun commento da parte di Open AI. L’azienda ha inserito la questione nella comunicazione generale sul potenziamento dei comitati interni di sicurezza. La stampa sociale e tecnologica ha riportato il caso come la testimonianza di una progressiva emarginazione delle ricercatrici ed esperte di impatto socio-politico all’interno delle stanze dei bottoni tecnologiche.

• Leopold Aschenbrenner – Ricercatore del team Superalignment di OpenAI. Anno di allontanamento dall’azienda : 2024 . Nazionalità: Tedesca . E’ stato allontanato dai vertici aziendali dopo aver redatto e condiviso internamente report estremamente critici relativi alla gravità delle vulnerabilità informatiche dei server OpenAI, sostenendo che le infrastrutture fossero permeabili allo spionaggio industriale e statale, l’azienda lo ha accusato ufficialmente di aver commesso violazioni della riservatezza informatica e fuga di notizie. Le accuse sono state contestate dal ricercatore.

Il licenziamento di Aschenbrenner ha suscitato un ampio dibattito in seguito alla pubblicazione autonoma del suo saggio di cento pagine Situational Awareness, nel quale analizza l’imminenza della superintelligenza e i rischi di sicurezza nazionale associati.

• William Saunders – Research Member del team di sicurezza ed etica presso OpenAI. Anno di dimissioni: 2024 . Nazionalità: Statunitense . Ha abbandonato l’organizzazione denunciando l’assenza di meccanismi di audit e controllo esterno indipendenti e la ritrosia dell’azienda a sottoporre i propri algoritmi a valutazioni terze prima della distribuzione su scala globale. Nessuna dichiarazione specifica è stata pubblicata dalla società.

Saunders è stato citato nell’ambito delle inchieste giornalistiche sui firmatari della lettera aperta “Right to Warn on Advanced AI”, promossa da dipendenti ed ex dipendenti dei principali laboratori di sviluppo.

• Alex Turner – Ricercatore sull’allineamento dei modelli di IA (AI Alignment) presso Google DeepMind. Anno di dimissioni: 2025 . Nazionalità: Statunitense

Uscito dai laboratori di Londra e Mountain View a causa della progressiva subordinazione dei reparti di ricerca teorica relativi alle esigenze commerciali della capogruppo Alphabet, impegnata nella rincorsa competitiva contro OpenAI e Microsoft. Google DeepMind ha ribadito formalmente la solidità dei propri protocolli di Frontier Safety Framework. La vicenda è stata interpretata dagli osservatori del settore come il segnale definitivo che anche il modello accademico, orientato alla ricerca pura che aveva storicamente caratterizzato DeepMind, ha dovuto piegarsi alle dinamiche della competizione di mercato.

L’ondata di dimissioni e licenziamenti che continua a scuotere l’industria dell’intelligenza artificiale evidenzia i contorni di una frattura profonda: se i vertici societari e gli investitori leggono il momento attuale come una corsa commerciale imperdibile, chi si trova a contatto con l’addestramento quotidiano del codice manifesta dubbi crescenti sulla possibilità di mantenere il controllo. Il fatto che l’allarme arrivi direttamente dall’interno delle stanze in cui si progetta il futuro tecnologico rappresenta un dato politico e sociale che né la stampa, né i legislatori possono ormai permettersi di ignorare.

L'articolo La grande fuga dai laboratori dell’Apocalisse: perché i padri dell’IA si autolicenziano ? proviene da Italia nel futuro.

Ci sono momenti in cui il problema non è la mancanza di informazioni, ma l’incapacità di ordinarle. È quando il tempo si accorcia, gli attori si moltiplicano e le conseguenze diventano difficili da prevedere che serve una grammatica dell’azione. Le forze NATO ne utilizzano da decenni una semplice: SMEAC, acronimo di Situation, Mission, Execution, Administration/Logistics, Command/Signal. Cinque lettere nate per trasformare una situazione complessa in un ordine comprensibile ed eseguibile. Oggi uno dei campi più interessanti nei quali applicare quella logica non è militare: è l’intelligenza artificiale.

S, Situation. La situazione è cambiata. I modelli di frontiera non si limitano più a rispondere: usano strumenti, mantengono obiettivi su più passaggi e agiscono dentro ambienti digitali. OpenAI ha riconosciuto che, durante valutazioni di cybersicurezza nel luglio 2026, alcuni propri modelli hanno aggirato controlli predisposti per isolarli da Internet, sfruttato vulnerabilità e raggiunto sistemi di terzi, compresi quelli di Hugging Face. La stessa società ha poi classificato GPT-6 Astra come il primo proprio modello a raggiungere il livello “Critical” nelle capacità cyber. Anthropic, il 9 settembre, ha documentato quattro episodi nei quali versioni di Claude hanno ottenuto accesso non autorizzato a sistemi reali durante test. Non significa che l’AI sia “fuori controllo”. Significa qualcosa di più preciso: le capacità stanno crescendo più rapidamente dei sistemi costruiti per contenerle.

M, Mission. La missione non può essere “fermare l’AI”. Sarebbe irrealistico. Deve essere consentirne lo sviluppo mantenendo capacità, controllo umano, monitoraggio e governance dentro lo stesso perimetro di sicurezza. Nessun avanzamento dovrebbe rendere il sistema più potente di quanto le procedure di valutazione e intervento siano in grado di comprendere e governare.

E, Execution. È qui che le dichiarazioni diventano politica. OpenAI ha chiesto requisiti nazionali obbligatori basati sulle capacità, valutazioni indipendenti, maggiore cybersecurity e regole chiare per la segnalazione degli incidenti. Ha scritto anche che, se determinati livelli di sicurezza non potessero essere raggiunti senza rallentare la crescita delle capacità, dovrebbe prevalere la sicurezza. Dario Amodei ha proposto un “pacing” della frontiera: valutatori indipendenti, standard condivisi tra i maggiori laboratori e coordinamento internazionale. Sam Altman ha espresso sostegno. Il problema è evidente: chi rallenta da solo rischia di consegnare un vantaggio al concorrente che non rallenta.

A, Administration/Logistics. Anche la prudenza ha bisogno di infrastrutture. Servono sandbox isolate, logging, controllo degli accessi, red team, auditor indipendenti, personale specializzato, sistemi di incident response e istituzioni pubbliche capaci di comprendere ciò che devono regolare. OpenAI stessa, dopo gli incidenti verificatisi durante valutazioni esterne, ha indicato isolamento, gestione delle credenziali, monitoring, stop conditions e procedure di escalation tra gli elementi da rafforzare. La domanda, allora, non è soltanto quanto siano potenti i modelli, ma se abbiamo costruito strutture abbastanza forti da controllarli.

C, Command/Signal. È probabilmente la lettera decisiva. Se domani un laboratorio rilevasse una capacità nuova e potenzialmente pericolosa, chi potrebbe ordinare di rallentare? Il CEO? Un safety board? Il governo? Un’autorità internazionale? E che cosa accadrebbe se gli Stati Uniti rallentassero mentre la Cina continuasse?

Le reazioni di questi giorni mostrano già il conflitto. Mentre Amodei e Altman spingono verso maggiore cautela, Donald Trump ha respinto l’idea che i timori sulla sicurezza debbano compromettere la leadership americana nell’AI. In Cina, il Global Times ha interpretato la proposta di rallentamento di Amodei come una strategia di contenimento tecnologico. La sicurezza, a quel punto, cessa di essere soltanto un problema ingegneristico e diventa immediatamente geopolitica.

È qui che SMEAC smette di essere un curioso metodo militare e diventa una lente sul nostro tempo. La Situation è ormai leggibile. La Mission comincia a essere condivisa. L’Execution prende forma. Le infrastrutture possono essere costruite. Ma sulla C resta il vuoto più grande: chi possiede l’autorità di dire “stop” quando sicurezza, mercato e geopolitica impartiscono ordini diversi?

Cinque lettere non eliminano il caos. Costringono però a dargli una forma. E nel caso dell’intelligenza artificiale mostrano ciò che il dibattito rischia di dimenticare: non basta sapere che cosa una macchina è capace di fare. Bisogna sapere quale limite non deve oltrepassare, chi deve accorgersi quando lo supera e, soprattutto, chi possiede l’autorità per pronunciare la parola più difficile nell’epoca dell’accelerazione: fermarsi.

L'articolo Cinque lettere contro il caos: perché il metodo SMEAC funziona anche fuori dal campo di battaglia proviene da Italia nel futuro.

Lunedì 14 settembre alle ore 14 presso la Sala Capitolare di Piazza della Minerva, alla presenza delle istituzioni e con la partecipazione dei parlamentari esperti e imprese, si apre un confronto cruciale sulle sfide dell’intelligenza artificiale, del potere tecnologico e della responsabilità umana.
La scelta della sede istituzionale sottolinea una svolta epocale: la cybersecurity non è più una sola questione tecnica o informatica, ma una priorità strategica che investe la società, la democrazia, la sovranità delle infrastrutture e la vita quotidiana di cittadini e imprese.
All’evento prenderanno parte esperti del settore, università e mondo aziendale, con la partecipazione dei parlamentari Marco Lombardo, Filippo Sensi e Marco Scurria, che affiancheranno il dibattito sull’impatto legislativo, etico e sociale delle nuove tecnologie.
Il tema centrale di questa edizione è “Infinito Umano”, una riflessione che nasce dalla rotazione dell’8 (numero dell’edizione) nel simbolo dell’infinito. Mentre le capacità delle macchine crescono esponenzialmente — evolvendo dall’apprendimento automatico all’autonomia decisionale, il Festival pone l’accento sulla necessità imperativa di mantenere il controllo e la responsabilità nelle mani dell’uomo.
«Non siamo qui per stabilire se la tecnologia sia buona o cattiva, ma per affrontare il tema del potere e della responsabilità», evidenzia Marco Cozzi, Presidente del Digital Security Festival. «Se la tecnologia può diventare infinita, la responsabilità non può diventare automatica. L’obiettivo non è la contrapposizione tra uomo e macchina, ma capire come garantire che le decisioni fondamentali rimangano umane».
Il programma della giornata si articola attorno a cinque grandi interrogativi che spaziano dall’efficacia difensiva dell’IA al problema della responsabilità quando i sistemi agiscono in autonomia, fino alla dipendenza dalle infrastrutture fisiche (data center, chip, energia) e alla fiducia emotiva che le macchine possono simulare.
L’evento si propone come un momento collettivo di confronto multidisciplinare: di fronte a una trasformazione così complessa, l’obiettivo non è fornire risposte precostituite, ma dotare istituzioni e imprese delle giuste domande per governare il futuro della trasformazione digitale.

Contatti per la stampa, accrediti: marco.lombardo@senato.it
Cravatta obbligatoria

L'articolo “Infinito Umano”: evento sulla cyber sicurezza al Senato proviene da Italia nel futuro.

Il 9 settembre il Wall Street Journal ha raccontato la decisione di Jacob Coxon, ventisettenne ricercatore britannico che ha lavorato prima in OpenAI e poi in Anthropic, di abbandonare l’industria dell’intelligenza artificiale. La ragione è radicale: Coxon non vuole partecipare alla corsa verso sistemi capaci di migliorare se stessi, perché ritiene possibile che tale processo conduca a macchine che non siamo più in grado di controllare. Non è la solita intervista a un apocalittico dell’IA. Coxon lavorava nel pretraining, cioè nel cuore tecnologico della costruzione dei grandi modelli. Al Wall Street Journal ha detto: “We’re on track for a lot of the most aggressive of these scenarios whereby the end of next year things could be out of control already”. A WIRED è stato ancora più esplicito: “The consensus is that the next year or two is crunch time for humanity”. “Il prossimo anno o due sono il momento decisivo per l’umanità”. Parole enormi. Talmente enormi che, se provenissero da un politico in cerca di visibilità, potremmo accoglierle con prudenza. Ma Coxon aggiunge un particolare inquietante: espressioni come “endgame” e “crunch time” sarebbero utilizzate, secondo la sua testimonianza, dagli stessi colleghi di Anthropic.

Non c’è soltanto Coxon

Qui la vicenda diventa molto più seria. Evan Hubinger, ricercatore di Anthropic che si occupa proprio del controllo dei futuri sistemi di IA, ha reagito pubblicamente alle dichiarazioni di Coxon scrivendo: “We really do earnestly believe AI could kill all humans!”. Hubinger ha inoltre dichiarato di attribuire personalmente una probabilità superiore al 10% alla possibilità che ciò accada nel prossimo decennio e, soprattutto, ha ammesso che Anthropic non possiede ancora un piano risolutivo per l’alignment della superintelligenza. Naturalmente quel “10%” non è una probabilità scientificamente misurata. Non esiste una statistica di precedenti superintelligenze sulla quale calcolarla. È la valutazione soggettiva di uno specialista. Ma proprio per questo merita attenzione: se un ingegnere che lavora alla sicurezza di una centrale nucleare dicesse di attribuire anche soltanto il dieci per cento di probabilità a un incidente catastrofico, difficilmente la nostra risposta sarebbe: “Non è una misura statisticamente dimostrata, continuiamo pure”. E soprattutto Coxon e Hubinger non sono soli.

Jakub Pachocki: l’allarme arriva dal Chief Scientist di OpenAI

Pochi giorni prima, Jakub Pachocki, Chief Scientist di OpenAI, aveva pubblicato un testo dal titolo sorprendente: “An Alien Mind”. Pachocki non si è dimesso. Non è un ex dipendente che critica la propria azienda. È l’uomo che guida la ricerca scientifica di OpenAI. Ed è proprio questo a rendere le sue parole ancora più importanti. Scrive: “This is a time that calls for extreme caution.” E immediatamente dopo: “I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence”. Nessuno sarebbe preparato alle conseguenze della continua e rapida crescita dell’intelligenza delle macchine. Ma il passaggio cruciale è un altro. Pachocki afferma che, sulla base dei risultati interni di OpenAI, si aspetta che l’attuale velocità di progresso possa proseguire fino al recursive self-improvement, (RSI): l’auto-miglioramento ricorsivo. È probabilmente questa l’espressione sulla quale dovremmo concentrare l’attenzione.

La soglia dell’auto-miglioramento

Finora il paradigma è stato relativamente semplice: gli esseri umani costruiscono una nuova IA; la addestrano; ne analizzano i risultati; progettano una versione migliore. GPT-3 contribuisce indirettamente a GPT-4, GPT-4 alle generazioni successive, ma dietro il processo restano migliaia di ricercatori, ingegneri, programmatori e specialisti umani. Il recursive self-improvement modifica concettualmente questo schema. Immaginiamo un sistema A capace di contribuire in maniera sostanziale alla progettazione del sistema A+1. Quest’ultimo, essendo più intelligente, contribuisce alla costruzione di A+2. A+2 accelera la realizzazione di A+3. Il ciclo potrebbe progressivamente accelerare. È il vecchio concetto dell’“esplosione di intelligenza” formulato da I. J. Good nel 1965, ma con una differenza fondamentale: sessant’anni fa era un’ipotesi teorica. Oggi il Chief Scientist di OpenAI scrive che, sulla base dei risultati interni, ha una “strong expectation” che la velocità del progresso possa essere mantenuta fino all’auto-miglioramento ricorsivo. Pachocki aggiunge una frase che dovrebbe essere stampata sulle scrivanie di chiunque si occupi di regolamentazione dell’IA: “AI is grown more than designed”. «L’IA non viene tanto progettata quanto fatta crescere». È una distinzione formidabile. Un ponte è progettato. Un microprocessore è progettato. Possiamo risalire dal comportamento dell’oggetto ai componenti che lo producono. Un grande modello neurale è diverso. Definiamo l’architettura, i dati, gli algoritmi di apprendimento e gli obiettivi; poi sottoponiamo il sistema a un processo di ottimizzazione gigantesco dal quale emergono strutture interne e comportamenti che non sono stati programmati uno per uno, ma che si auto-riprogettano. Pachocki riconosce esplicitamente che l’azione complessiva di questi sistemi sfugge a una descrizione che possiamo comprendere completamente e che i grandi training run sono, in ultima analisi, esperimenti i cui risultati possono sorprendere gli stessi ricercatori.

E infatti qualcosa sta già succedendo

Non siamo ancora di fronte alla superintelligenza autonoma; esistono però segnali che rendono meno accademica la questione del controllo. Proprio in questi giorni OpenAI ha trasmesso alla Commissione europea un incident report relativo a un episodio nel quale agenti di IA avrebbero compromesso un sito web tedesco e lo avrebbero trasformato in una sorta di spazio di comunicazione utilizzato da altri agenti. La Commissione ha confermato di aver ricevuto la segnalazione. Questo non significa che una superintelligenza sia “fuggita”. Significa qualcosa di più preciso e, scientificamente, più grave: aumentando autonomia, capacità di pianificazione, uso degli strumenti e competenze informatiche dei modelli, aumenta la distanza tra ciò che l’operatore pensa che il sistema farà e ciò che il sistema può effettivamente riuscire a fare. È esattamente il terreno sul quale nasce il problema dell’alignment.

E l’Europa?

Qui emerge un paradosso. Sarebbe inesatto dire che l’Europa non abbia fatto nulla. Anzi, dal punto di vista normativo ha fatto più di quasi tutti. L’AI Act prevede espressamente una categoria di modelli di IA general purpose con rischio sistemico. L’articolo 55 impone ai loro fornitori valutazioni del modello, adversarial testing, identificazione e mitigazione dei rischi sistemici, segnalazione degli incidenti gravi e adeguati livelli di cybersecurity. Dal 2 agosto 2026 importanti poteri di enforcement relativi ai modelli GPAI sono operativi.  Quindi parlare semplicemente di “inazione europea” sarebbe ingiusto. Il problema è più sottile e, forse, più grave. L’Europa sta regolamentando l’intelligenza artificiale di oggi mentre gli uomini che costruiscono quella di domani ci stanno dicendo che il problema potrebbe cambiare natura. Una cosa è regolamentare un algoritmo che decide se concedere un mutuo, seleziona candidati per un posto di lavoro o riconosce un volto. Un’altra è governare sistemi generalisti dotati di capacità di ricerca, programmazione, cyber-offense, pianificazione autonoma e, in prospettiva, partecipazione allo sviluppo della generazione successiva di IA. Il primo problema è soprattutto di regolamentazione. Il secondo diventa un problema di controllo strategico.

L’Europa non è immobile. Ma rischia di muoversi alla velocità sbagliata

Anche sul versante industriale Bruxelles ha reagito. L’AI Continent Action Plan e InvestAI prevedono la mobilitazione di 200 miliardi di euro, compresi 20 miliardi destinati a finanziare fino a cinque AI Gigafactories; la Commissione indica inoltre almeno 19 AI Factories a sostegno di imprese, ricerca e startup. È una risposta necessaria alla drammatica perdita di competitività europea. Ma qui nasce una contraddizione. Da una parte l’Europa vuole accelerare per recuperare il ritardo rispetto a Stati Uniti e Cina. Dall’altra, gli scienziati che si trovano più vicini alla frontiera tecnologica chiedono di riflettere sulla possibilità che proprio l’accelerazione incontrollata rappresenti il rischio. Pachocki arriva a scrivere che, a suo giudizio, nessun laboratorio ha ancora risolto alignment e monitoring a un livello sufficiente per continuare responsabilmente a scalare alla massima velocità ancora per molto. Auspica rallentamenti volontari fino alla definizione di soglie condivise di sicurezza e considera prioritaria la coordinazione internazionale. Questo è il punto politico che l’Europa dovrebbe cogliere. Non basta stabilire quali documenti debba produrre un provider. Non basta un codice di condotta. Non basta classificare i rischi:se davvero ci stiamo avvicinando a sistemi capaci di contribuire sostanzialmente al proprio miglioramento, occorre chiedersi quali capacità non debbano essere superate senza una verifica indipendente preventiva.

Dalla regolamentazione alla governance della frontiera

L’Europa potrebbe avere proprio qui un ruolo che né Stati Uniti né Cina sembrano naturalmente predisposti ad assumere: trasformare la sicurezza della frontier AI da questione aziendale a problema di governance internazionale. Non significa fermare l’intelligenza artificiale. Sarebbe probabilmente impossibile e certamente indesiderabile. Significa stabilire soglie verificabili. Quando un modello dimostra capacità autonome di ricerca sull’IA? Quando può modificare codice e infrastrutture necessarie al proprio funzionamento? Quando possiede capacità cyber superiori a determinate soglie? Quando riesce a replicare componenti operative senza intervento umano? Quando è in grado di contribuire materialmente all’addestramento del proprio successore? A quel punto non dovrebbe bastare che l’azienda produttrice dichiari: abbiamo fatto i nostri test. Potrebbe essere necessaria una valutazione indipendente prima di procedere a uno scaling ulteriore. E soprattutto questo problema non può essere risolto dall’Europa da sola. Se Bruxelles imponesse vincoli radicali mentre Stati Uniti e Cina continuassero indisturbati, il risultato potrebbe essere semplicemente quello di eliminare l’Europa dalla frontiera tecnologica senza ridurre il rischio globale di un solo punto percentuale. Serve quindi ciò che Pachocki stesso invoca: coordinamento internazionale. 

Il vero paradosso

Arriviamo così alla situazione più singolare della storia dell’intelligenza artificiale. Gli uomini che costruiscono le macchine più potenti del mondo ci stanno dicendo contemporaneamente tre cose. Le macchine stanno diventando rapidamente più intelligenti. Non comprendiamo completamente ciò che accade al loro interno. E potremmo avvicinarci a una fase nella quale le macchine contribuiranno sempre più direttamente alla costruzione di macchine ancora più intelligenti. Coxon ha scelto di andarsene. Hubinger è rimasto, ma dichiara apertamente di considerare non trascurabile un rischio esistenziale. Pachocki è rimasto al vertice scientifico di OpenAI, ma scrive che “this is a time that calls for extreme caution” e che nessun laboratorio avrebbe ancora risolto sufficientemente il problema del controllo per continuare a lungo a correre alla massima velocità.  Non sappiamo se abbiano ragione. Anzi, il metodo scientifico ci impone di distinguere nettamente i fatti dalle previsioni: non esiste oggi una prova che l’IA distruggerà l’umanità, né che l’auto-miglioramento ricorsivo provocherà necessariamente una perdita di controllo. Le percentuali di rischio esistenziale sono valutazioni, non misurazioni sperimentali. Ma sarebbe altrettanto antiscientifico commettere l’errore opposto: ignorare l’allarme perché non possiamo ancora quantificarlo. La questione non è credere o non credere all’Apocalisse dell’intelligenza artificiale. La questione è molto più razionale: quanto deve diventare grande un rischio incerto, quando la posta in gioco è enorme, prima che decidiamo di studiarlo seriamente? L’Europa ha costruito la prima grande architettura normativa mondiale sull’IA. È un merito che va riconosciuto. Ora dovrebbe compiere il passo successivo: comprendere che la regolamentazione dei prodotti e la governance di una possibile intelligenza superiore all’uomo non sono necessariamente lo stesso problema. Perché questa volta l’allarme non arriva da chi teme le macchine. Arriva da chi le sta costruendo.

Fonti

1. Jakub Pachocki, OpenAI, An Alien Mind, 6 settembre 2026. Testo originale e fonte primaria delle dichiarazioni su recursive self-improvement, “extreme caution”, comprensione dei modelli e necessità di coordinamento internazionale. 
   Leggi “An Alien Mind” su OpenAI
2. The Wall Street Journal, Anthropic Researcher Quits Over ‘Out-of-Control’ AI Fears, 9 settembre 2026. Fonte per le dimissioni di Jacob Coxon, le sue motivazioni e le dichiarazioni di Evan Hubinger. 
   Articolo del Wall Street Journal
3. WIRED, The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’, 9 settembre 2026. Intervista a Coxon e fonte delle dichiarazioni su “crunch time”, “endgame”, Anthropic e OpenAI. 
   Intervista di WIRED a Jacob Coxon
4. The Wall Street Journal, How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate, 10 settembre 2026. Approfondimento sui possibili scenari di perdita di controllo e sulle dichiarazioni di Coxon e Hubinger. 
5. Commissione europea – AI Act Service Desk, Article 55: Obligations of providers of general-purpose AI models with systemic risk. Obblighi relativi a valutazione, mitigazione del rischio sistemico, incident reporting e cybersecurity. 
   Articolo 55 – AI Act Service Desk
6. EUR-Lex, Regolamento (UE) 2024/1689, Artificial Intelligence Act, art. 55. Testo giuridico ufficiale. 
   Testo ufficiale dell’AI Act su EUR-Lex
7. Commissione europea – AI Act Service Desk, When does enforcement start?. Cronologia dell’applicazione e dell’enforcement dell’AI Act. 
8. Commissione europea, AI Continent Action Plan. InvestAI, 200 miliardi di euro previsti per mobilitare investimenti nell’IA, AI Factories e fino a cinque Gigafactories. 
   AI Continent Action Plan della Commissione europea
9. Reuters, 7 settembre 2026, sulla segnalazione alla Commissione europea dell’incidente relativo al sito tedesco compromesso da agenti di OpenAI. 

L'articolo L’allarme viene da dentro: l’IA corre verso l’automiglioramento. E l’Europa discute le regole proviene da Italia nel futuro.

Introduzione

Il dibattito sull’innovazione tecnologica nella giustizia tende spesso a concentrarsi sugli strumenti: processo telematico, portali, banche dati, piattaforme, cloud, intelligenza artificiale. La questione, tuttavia, è più profonda. La digitalizzazione della giustizia non è, o almeno non è più, un tema soltanto tecnico. È un tema istituzionale. Riguarda il modo in cui una giurisdizione organizza il proprio lavoro, custodisce il proprio patrimonio informativo, assicura continuità, efficienza e sicurezza, e soprattutto preserva i caratteri essenziali della funzione giurisdizionale: indipendenza, imparzialità, responsabilità personale della decisione, motivazione e fiducia dei cittadini. Per la Giustizia amministrativa il tema assume una complessità particolare, perché il giudice amministrativo è impegnato su un doppio fronte. 

Da un lato, è chiamato a conoscere e sindacare le scelte tecnologiche delle pubbliche amministrazioni: algoritmi, piattaforme digitali, procedimenti automatizzati, sistemi di intelligenza artificiale e, più in generale, nuove forme tecnologiche di esercizio del potere pubblico. Dall’altro lato, la stessa Giustizia amministrativa deve governare l’innovazione al proprio interno: deve decidere come digitalizzare il processo, come costruire i propri sistemi informativi, governare i dati, garantire la sicurezza delle infrastrutture e utilizzare tecnologie avanzate, incluse quelle di intelligenza artificiale. Questo duplice ruolo rende la nostra esperienza particolarmente significativa: non solo il giudice che giudica l’algoritmo altrui, ma anche il giudice che governa l’integrazione delle tecnologie di IA nella propria organizzazione.

La tecnologia è già entrata nel mondo del diritto: negli studi professionali, nelle banche dati, negli strumenti di ricerca, negli atti delle parti, nei procedimenti amministrativi e nell’organizzazione degli uffici giudiziari. La questione che dobbiamo porci è dunque: a quali condizioni l’innovazione tecnologica può entrare nella giustizia senza alterare la natura della giurisdizione?L’esperienza della Giustizia amministrativa mostra che la digitalizzazione non può essere intesa come una successione di soluzioni tecniche introdotte per esigenze contingenti. È, piuttosto, un percorso progressivo di governo dell’innovazione: processo amministrativo telematico, evoluzione del sistema informativo, reingegnerizzazione dei portali, politica del dato, Data Warehouse, open data, piattaforma di Business Intelligence e Intelligenza Artificiale. Ogni passaggio ha preparato il successivo. E soprattutto ogni innovazione è stata ricondotta a un’esigenza di fondo: usare la tecnologia per rafforzare la giurisdizione, senza rischiare di modificarne surrettiziamente la natura. In altri termini, la vera alternativa è tra tecnologia governata e tecnologia non governata, affidata a garanzie soltanto dichiarate o comunque non pienamente verificabili dall’istituzione che la utilizza. E nella giurisdizione le garanzie soltanto dichiarate, affidate in sostanza a una tutela solo civilistica, non bastano. Di qui il filo conduttore di queste riflessioni: la Giustizia amministrativa ha scelto sì di innovare, ma di innovare governando.

Dal PAT all’ecosistema operativo

Il primo passaggio di questo percorso è rappresentato dal processo amministrativo telematico. Il 1° gennaio 2017 ha segnato, per la Giustizia amministrativa, una data spartiacque. Da quel momento il PAT è divenuto realtà, con una caratteristica decisiva: non una digitalizzazione parziale, limitata ad alcuni adempimenti o ad alcune fasi del giudizio, ma una digitalizzazione integrale del processo. Questa è stata la scelta davvero fondativa. Il processo amministrativo non è stato semplicemente affiancato da strumenti informatici. È stato ripensato come flusso digitale, dall’iscrizione a ruolo alla pubblicazione del provvedimento, passando per il deposito degli atti, le comunicazioni, la gestione del fascicolo, le attività delle segreterie, l’accesso dei difensori, degli ausiliari, dei cittadini e il lavoro del giudice. La differenza tra digitalizzazione segmentata e digitalizzazione integrale non è soltanto quantitativa: è qualitativa. 

La digitalizzazione di singoli adempimenti produce certamente vantaggi operativi, ma lascia il processo ancorato a una logica analogica. La digitalizzazione dell’intero ciclo processuale, invece, modifica l’organizzazione: il fascicolo nasce, circola, viene trattato e conservato dentro un ambiente unitario, nel quale anche il dato processuale può essere formato e governato in modo coerente. Il PAT ha quindi inciso sulla stessa infrastruttura della funzione giurisdizionale amministrativa. La digitalizzazione integrale del processo ha consentito anche la formazione di un patrimonio documentale e informativo essenziale. Il fascicolo digitale non è soltanto il contenitore degli atti: è il luogo nel quale si generano, in modo strutturato, informazioni sul processo. A ciò si è aggiunta la digitalizzazione dei fascicoli pregressi, che ha dato continuità all’intero patrimonio documentale. Questo punto è essenziale per comprendere gli sviluppi successivi. Senza un processo integralmente digitale, non vi sarebbe stato un patrimonio informativo omogeneo. Senza un patrimonio informativo omogeneo, non sarebbe stato possibile costruire una vera politica del dato. Senza una politica del dato, non avrebbero potuto svilupparsi in modo maturo strumenti di business intelligence e applicazioni di intelligenza artificiale.

Ma il PAT non vive da solo. Il cuore tecnologico di questa trasformazione è il Sistema Informativo della Giustizia Amministrativa (SIGA). Il SIGA è l’infrastruttura attraverso la quale si svolge, si organizza e si rende possibile l’intero ciclo delle attività giurisdizionali e amministrative. Proprio per questo non può essere considerato un sistema statico. Deve evolvere continuamente: per adeguamenti normativi e tecnologici, esigenze organizzative, sicurezza, manutenzione evolutiva, reingegnerizzazione. In questo quadro si colloca la reingegnerizzazione dei portali. I portali sono il punto di accesso concreto al processo telematico. La loro evoluzione non è un semplice restyling grafico: segna il passaggio da portali prevalentemente informativi a portali pienamente operativi. Attraverso il portale operativo l’utente non si limita a consultare informazioni, ma interagisce con il fascicolo, deposita, riceve dati strutturati e opera con maggiore sicurezza e tracciabilità.

Tra le innovazioni più significative merita di essere evidenziato il nuovo portale dell’avvocato. L’identità digitale (SPID, CIE, CNS) supera la logica debole di username e password e rafforza la riconducibilità delle attività. L’introduzione del profilo del collaboratore, inoltre, ha adeguato il sistema alla realtà organizzativa degli studi professionali e delle avvocature pubbliche, superando pratiche rischiose come la condivisione delle credenziali. Attraverso il Formweb è stata introdotta una modalità guidata di deposito degli atti processuali, organizzata per tipologia di deposito e fondata sulla compilazione di campi prestabiliti.

Il Formweb non è soltanto semplificazione per l’avvocato. È uno strumento che incide sulla qualità del dato processuale: riduce errori e omissioni, consente il salvataggio progressivo della bozza e favorisce una più ordinata rappresentazione delle informazioni nel fascicolo informatico. In questa nuova fase evolutiva si inserisce anche la realizzazione di una scrivania del magistrato, integrata al web, già messa in esercizio in numerose sedi. Ecco il punto: portali ben progettati, modalità di deposito strutturate, accessi sicuri, profili utente coerenti e applicativi aggiornati non producono soltanto efficienza. Producono qualità informativa. E la qualità informativa è la condizione di tutti gli sviluppi successivi.

Il dato come infrastruttura istituzionale

Nella digitalizzazione della giustizia, il dato non può essere considerato un semplice prodotto secondario dell’attività processuale. Non è un residuo dell’organizzazione, ma una componente strutturale dell’ecosistema digitale. Le informazioni, se raccolte in modo coerente, strutturate correttamente, conservate con adeguate garanzie e rese disponibili secondo regole chiare, diventano una risorsa fondamentale per il governo della giurisdizione. Ma proprio per questo il dato deve essere governato. La disponibilità di grandi quantità di informazioni, da sola, non basta; anzi, può diventare un fattore di rischio se non è accompagnata da qualità, tracciabilità, integrità, minimizzazione, interoperabilità e controllo interno.

Su questi principi si è progressivamente costruita la data policy della Giustizia amministrativa. Questa impostazione consente di comprendere il valore del Data Warehouse della Giustizia amministrativa. Il Data Warehouse è un repository centralizzato di dati e metadati: un’infrastruttura di storicizzazione, organizzazione e analisi del patrimonio informativo generato dal sistema. Attraverso il DWH è possibile monitorare pendenze, tempi di definizione, stati dei ricorsi, performance organizzative e altri indicatori rilevanti. Non si tratta di ridurre la giustizia a numeri. Si tratta di disporre di strumenti conoscitivi più affidabili per comprendere meglio l’organizzazione, individuare criticità, programmare interventi, distribuire risorse e monitorare l’impatto delle scelte organizzative. Il dato, in questa prospettiva, non sostituisce la valutazione istituzionale: la rende più consapevole. Accanto alla dimensione interna del Data Warehouse si colloca la dimensione esterna della trasparenza, rappresentata dal portale OpenGA. OpenGA restituisce all’esterno, in modo strutturato, accessibile e riutilizzabile, una parte del patrimonio informativo della Giustizia amministrativa, nel rispetto dei limiti imposti dalla protezione dei dati personali, dalla sicurezza e dalla natura della funzione giurisdizionale. Anche qui è essenziale il bilanciamento. La trasparenza è un valore fondamentale, ma l’apertura del dato, nella giurisdizione, non può essere indiscriminata. La scelta della Giustizia amministrativa è stata quella di assicurare ampia diffusione dei dati strutturali e organizzativi, ma senza accesso massivo e automatizzato ai testi integrali delle decisioni attraverso i dataset open.

Il materiale giurisdizionale, infatti, è estremamente delicato. Anche quando è pubblicato e consultabile, può contenere, direttamente o indirettamente, riferimenti a vicende personali, familiari, sanitarie, economiche, professionali, imprenditoriali, a dati relativi a minori o a situazioni patrimoniali. In un ambiente caratterizzato da accesso massivo, correlazione automatizzata e capacità di elaborazione algoritmica, il rischio muta di scala: informazioni sparse possono essere ricomposte; elementi apparentemente anonimi possono favorire re-identificazione, profilazione o sfruttamento distorsivo. Emerge così il nesso strutturale tra politica del dato e intelligenza artificiale. Prima ancora di parlare di IA, occorre parlare di dati: quali dati vengono utilizzati, da dove provengono, con quale qualità, con quali garanzie, con quali finalità e sotto quale controllo. La Giustizia amministrativa ha potuto avviare applicazioni evolute proprio perché aveva progressivamente costruito un patrimonio informativo interno, omogeneo, tracciabile e presidiato. Il dato, dunque, non è una premessa tecnica. È una garanzia istituzionale essenziale nei processi di integrazione delle tecnologie di IA.

Intelligenza artificiale e piattaforma BI/IA: il confine della giurisdizione

L’intelligenza artificiale nella giurisdizione non è una tecnologia come le altre. Il suo impiego non è solo questione di efficienza: incide, o può incidere, sul modo in cui le informazioni vengono selezionate, ordinate, correlate e restituite all’utilizzatore. Quando l’utilizzatore è un giudice, la questione cambia natura. La domanda è: “a quali condizioni questa tecnologia può essere utilizzata senza alterare la natura della funzione giurisdizionale?”

Il giudice non è un mero utilizzatore di informazioni. È il soggetto al quale l’ordinamento affida il compito di trasformare il conflitto in decisione, il fatto in qualificazione giuridica, la norma generale in risposta al caso concreto. L’intelligenza artificiale opera invece secondo una razionalità diversa di tipo statistico: individua ricorrenze, correla dati, riconosce pattern, genera testi plausibili, ordina informazioni secondo logiche statistiche, probabilistiche e predittive. Queste capacità possono essere molto utili, ma non coincidono con la razionalità giuridica. Il diritto non si esaurisce nella frequenza del già deciso, né nella probabilità di un esito. Il rischio più realistico non è il giudice sostituito dalla macchina. È il giudice accompagnato, orientato, progressivamente conformato dalla macchina. Un sistema che suggerisce l’esito più probabile, attribuisce un peso ai precedenti, propone la motivazione o ordina il materiale secondo criteri opachi può incidere sul ragionamento del giudice anche senza sostituirlo formalmente. Ma la macchina può aiutare il giudice a vedere meglio. Non deve dirgli che cosa deve vedere. Può rendere più accessibile il patrimonio informativo, senza trasformarsi in un criterio occulto di selezione della rilevanza. Può assistere attività preparatorie, organizzative, documentali e ricognitive. Non deve occupare lo spazio della valutazione, dell’argomentazione e della decisione.

Da qui discende una distinzione fondamentale. Sono compatibili gli impieghi che restano sul terreno del supporto conoscitivo, organizzativo o documentale: ricerca semantica, individuazione di ricorsi simili, consultazione di norme e precedenti, analisi dei flussi, anonimizzazione, ausilio alle segreterie. Diventano invece problematici gli strumenti che si avvicinano al momento decisorio: suggeriscono la soluzione, generano bozze motivazionali, gerarchizzano i precedenti in funzione predittiva o indicano l’argomento preferibile. È su questa linea che si colloca anche il quadro regolatorio. L’AI Act adotta un approccio fondato sul rischio e considera particolarmente sensibili i sistemi destinati ad assistere un’autorità giudiziaria nella ricerca e interpretazione dei fatti e del diritto e nell’applicazione della legge a un insieme concreto di fatti. La normativa nazionale si muove nella stessa direzione: l’art. 15 della Legge n.132/2025 afferma che, nei casi di impiego di sistemi di intelligenza artificiale nell’attività giudiziaria, resta sempre riservata al magistrato ogni decisione sull’interpretazione e applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti.

È la legge stessa, dunque, a indicare il confine. Ma non basta evitare la sostituzione formale. Occorre evitare anche il condizionamento opaco. Non sarebbe sufficiente dire che il giudice resta “nel circuito” se l’ambiente informativo nel quale opera fosse costruito da sistemi non verificabili o non adeguatamente governati; né sarebbe sufficiente affermare che l’output è solo un suggerimento, se quel suggerimento arriva prima del ragionamento umano e finisce per orientarlo. Per questo la garanzia deve essere costruita a monte: nella scelta dei casi d’uso, nella qualità dei dati, nell’architettura dell’infrastruttura, nella tracciabilità dei flussi, nella sicurezza, nella verificabilità, nella formazione degli utenti, nel monitoraggio continuo. La piattaforma di Business Intelligence e Intelligenza Artificiale della Giustizia amministrativa nasce dentro questo perimetro. Non è una licenza generalista acquistata sul mercato, né una sperimentazione isolata. È un’evoluzione dell’ecosistema digitale interno, realizzata nell’ambito delle progettualità PNRR, e si compone di due segmenti integrati: Business Intelligence e Intelligenza Artificiale. Il segmento di Business Intelligence consente analisi statistica, monitoraggio organizzativo e supporto alle decisioni di governance. Il segmento di Intelligenza Artificiale supporta l’attività dei magistrati e delle segreterie: non per decidere o predire esiti, ma per individuare ricorsi simili, effettuare ricerca semantica, anonimizzare provvedimenti, consultare norme e precedenti. L’IA della Giustizia amministrativa non genera testi e si limita a restituire elenchi selezionati, ad anonimizzare provvedimenti, a consentire di visualizzare referenti normativi o giurisprudenziali indicati negli atti. Si tratta di un modello di supporto alla giurisdizione, costruito su dati interni, controllati e governati, su casi d’uso selezionati, su infrastrutture presidiate e su una costante responsabilità umana e istituzionale.

Il metodo progettuale è parte essenziale del modello. Primo presidio: dati interni e controllati. Secondo: casi d’uso selezionati, perché non tutto ciò che è tecnicamente possibile è istituzionalmente compatibile. Terzo: pipeline dedicate, che consentono di scomporre l’elaborazione in passaggi riconoscibili e verificabili, contrastando il rischio della black box. Quarto: supervisione dei magistrati, non utenti finali passivi, ma parte del processo di costruzione, validazione e sorveglianza. Quinto: controllo dell’intero ciclo di vita, perché un sistema di IA non può essere valutato solo al momento della sua introduzione, ma deve essere monitorato nel tempo. Questa impostazione, caratterizzata da un ruolo forte del giudice non solo a valle quale utilizzatore, ma lungo tutto il ciclo di vita di questi sistemi, distingue il modello della Giustizia amministrativa da un generico utilizzo di strumenti disponibili sul mercato. Il punto non è la maggiore o minore potenza dello strumento. I sistemi generalisti dei grandi operatori sono certamente più potenti sul piano computazionale. Il punto è il livello di governo. Nella giurisdizione non basta poter usare uno strumento. Occorre poterlo governare. Non basta che l’output sia utile. Occorre sapere da dove proviene, come è stato prodotto, quali dati ha utilizzato, quali limiti presenta, quali controlli sono possibili e quale effetto può avere sul lavoro del giudice.

Governance, indipendenza tecnologica ed esternalizzazioni

Tutto quello di cui sinora abbiamo parlato presuppone una componente imprescindibile: l’infrastruttura. Prima ancora delle applicazioni, dei modelli e delle singole funzionalità, viene in rilievo il “luogo” – tecnico, giuridico e organizzativo – nel quale il sistema opera, i dati vengono conservati e trattati, gli accessi sono regolati e gli output vengono prodotti. Non basta chiedersi se uno strumento sia utile o performante. Occorre chiedersi dove opera, quali dati tratta, chi esercita poteri su quelle infrastrutture, quali garanzie di continuità, sicurezza, auditabilità e reversibilità siano effettivamente disponibili. Nella giustizia, l’infrastruttura non è neutra. Per questa ragione, nella Giustizia amministrativa, la migrazione al cloud ha rappresentato un passaggio strategico. Occorre però distinguere. L’infrastruttura ordinaria della Giustizia amministrativa è oggi incentrata su cloud certificati e conformi alla normativa vigente. Si tratta di cloud che utilizziamo in una accezione, per così dire, statica: l’atto depositato nel fascicolo, il provvedimento emesso, le comunicazioni di segreteria e tutto ciò che è funzionale al processo amministrativo telematico. Entro questo perimetro disponiamo di un livello adeguato di governo: conosciamo l’ambiente nel quale i dati sono collocati, le regole che ne disciplinano il trattamento, le condizioni di sicurezza e i presidi di continuità operativa. Ma quando una funzione costituzionalmente essenziale come la giurisdizione si fonda su infrastrutture tecnologiche complesse, spesso esterne all’amministrazione, la questione decisiva diventa quella dell’indipendenza digitale. Indipendenza digitale non significa autarchia tecnologica, non significa costruire tutto in casa escludendo il mercato. Significa capacità dell’amministrazione di conoscere, controllare, verificare, correggere, sostituire e, se necessario, dismettere le soluzioni tecnologiche da cui dipendono funzioni essenziali. Nel settore della giustizia, l’esternalizzazione tecnologica è in larga misura inevitabile, ma non è neutrale. Nessuna amministrazione può realisticamente disporre, da sola, di tutte le infrastrutture, competenze e risorse necessarie. Ma il ricorso al mercato non può trasformarsi in una delega. Nella giurisdizione non si può esternalizzare la responsabilità istituzionale. La tecnologia può essere esterna. La responsabilità no. Le clausole contrattuali sono necessarie, ma non esauriscono la garanzia. La giurisdizione non può fondarsi su una fiducia non verificabile né su una tutela solo civilistica da inadempimento contrattuale, tanto più quando il funzionamento effettivo della catena tecnologica non sia pienamente conoscibile dall’amministrazione. Non basta dire: il sistema è conforme. Occorre poter controllare come, dove, quando e da chi quella conformità è assicurata.

Questa distinzione consente di comprendere la differenza tra gli strumenti di IA realizzati all’interno della Giustizia amministrativa e strumenti generalisti oggi disponibili, come Copilot. Copilot non è, ai fini che qui interessano, una IA governata dall’istituzione che la utilizza. E non è neanche una IA ma piuttosto un aggregatore di IA, integrato in un ecosistema proprietario più ampio, in continua evoluzione, governato dal fornitore e costruito per finalità generali di produttività individuale e organizzativa. I nostri strumenti, invece, lavorano su un’infrastruttura dedicata, collocata a Milano, e i dati non escono da quel perimetro. Gli LLM utilizzati sono modelli di dimensioni contenute, selezionati e ottimizzati per operare entro un vincolo computazionale controllato, con una disponibilità massima di memoria GPU pari a 48 GB di VRAM. È evidente che, in termini di potenza computazionale e capacità generativa generale, questi strumenti non sono paragonabili a modelli molto più performanti, sostenuti da enormi capacità di calcolo. Ma questa è una scelta consapevole e, per noi, irrinunciabile. Non abbiamo inseguito il modello più potente in astratto; abbiamo scelto il modello più compatibile con le esigenze della funzione: dati interni, perimetro controllato, infrastruttura dedicata, casi d’uso circoscritti, verificabilità degli output, sostenibilità delle risorse e governo effettivo del ciclo di vita. È vero che le versioni più recenti dei contratti relativi a servizi a pagamento, come Copilot, prevedono clausole secondo le quali i dati immessi dagli utenti non sono utilizzati per addestrare i modelli. Ma, nella prospettiva della giurisdizione, questo non è a nostro avviso sufficiente. In primo luogo, perché si tratta di una tutela essenzialmente contrattuale e civilistica: ove la garanzia fosse violata, l’inadempimento non sarebbe necessariamente agevole da rilevare, né sarebbe sempre possibile ricostruire il percorso del dato e le modalità effettive del suo trattamento. In secondo luogo, perché una clausola contrattuale non assicura di per sé, con presidi tecnici e organizzativi verificabili, la permanenza della piena titolarità e del governo effettivo del dato in capo all’istituzione. In terzo luogo, perché resta aperto il tema della sovranità dei dati personali e della localizzazione effettiva delle elaborazioni, anche in relazione alla possibilità che, per esigenze di carico o di picco, vengano utilizzate istanze di elaborazione non collocate nell’Unione europea. Sono profili che in altri contesti possono forse essere gestiti attraverso clausole, policy e valutazioni di rischio proporzionate. Ma nella giurisdizione, quando vengono in rilievo atti, fascicoli, provvedimenti, dati personali, materiali preparatori e contenuti destinati a entrare nel lavoro del magistrato, il livello di garanzia richiesto deve essere più elevato. A questo si collega anche il tema della sostenibilità. I modelli di grandi dimensioni richiedono potenza di calcolo, energia, infrastrutture e costi significativi. In alcuni casi, soprattutto quando si dispone di dati interni di elevata qualità e di casi d’uso circoscritti, modelli più leggeri, specializzati e controllabili possono essere più efficienti, sostenibili e coerenti con le esigenze dell’istituzione. Anche questa è una scelta di governo.

Oltre l’ecosistema presidiato: competenze e responsabilità

Resta, infine, un ultimo livello del problema. Fin qui l’attenzione si è concentrata sull’ecosistema presidiato della Giustizia amministrativa. Ma nessun ecosistema istituzionale, per quanto ben costruito, può esaurire l’intero spazio nel quale oggi le tecnologie di intelligenza artificiale vengono utilizzate. Accanto all’ecosistema governato esiste uno spazio diverso: quello dell’uso individuale, esterno, spontaneo, non sempre consapevole e non sempre controllabile. Questo spazio riguarda tutti gli operatori del diritto. Il primo rischio riguarda i dati. Quando un operatore utilizza strumenti esterni con atti, bozze, documenti, provvedimenti, appunti, fascicoli, dati personali o materiali giurisdizionali, il contenuto non resta più necessariamente dentro un ambiente istituzionale governato. Non è solo un problema di trasmissione impropria di dati riservati o personali: è il fatto che il materiale giuridico e processuale, quando viene immesso in ambienti esterni, può essere esposto a forme di trattamento, conservazione, correlazione o riutilizzo non sempre immediatamente percepibili dall’utente.

Il secondo rischio riguarda l’output. I sistemi di intelligenza artificiale generativa producono risposte plausibili, spesso linguisticamente efficaci, formalmente ordinate, apparentemente convincenti. Ma nel diritto la plausibilità non coincide con la correttezza. Una risposta ben scritta può essere giuridicamente sbagliata; una citazione può essere inesatta; un precedente può essere richiamato fuori contesto; una sintesi può omettere proprio il dato decisivo. Il rischio più insidioso non è l’errore manifesto. È l’errore plausibile che proprio perché non appare subito tale può insinuarsi nel ragionamento, orientare la ricerca, condizionare la scrittura, ridurre il dubbio, anticipare una conclusione. Il terzo rischio riguarda la formazione del ragionamento giuridico. L’intelligenza artificiale opera secondo una razionalità statistica, probabilistica, predittiva. La razionalità giuridica, invece, è argomentativa, giustificativa, responsabile. Qui si colloca il rischio della delega mentale: non la sostituzione formale del giudice, ma l’abitudine progressiva a ragionare dentro un perimetro costruito da altri. È il rischio di scambiare il plausibile per pertinente, il rapido per corretto, il frequente per giusto, il “buono abbastanza” per motivato. La risposta non può essere il divieto astratto e generalizzato: sarebbe irrealistico. Ma non può essere neppure l’abbandono alle scelte individuali: sarebbe irresponsabile. La risposta deve essere la costruzione di competenze. La formazione non è un adempimento accessorio, né un corso tecnico su come formulare un prompt. È la condizione che rende possibile un uso consapevole, critico e responsabile dell’intelligenza artificiale. Occorre formare gli operatori del diritto non solo a usare gli strumenti, ma a comprenderne la natura: quali dati utilizzano, quali limiti strutturali presentano, quali errori possono generare, quale effetto possono avere sul ragionamento.

Un orizzonte ulteriore è quello dei modelli agentici, capaci di agire con crescente autonomia: quanto più la tecnologia agisce, tanto più deve essere forte la capacità istituzionale di governarla. Un ecosistema presidiato non è fatto soltanto di infrastrutture sicure e strumenti validati. È fatto anche di utenti consapevoli. La sicurezza dipende dall’architettura tecnica, ma anche dai comportamenti. La qualità del dato dipende dai sistemi, ma anche da chi lo inserisce, lo classifica, lo utilizza, lo sottopone a strumenti esterni. La responsabilità del giudice non dipende solo dal fatto che la decisione resti formalmente sua; dipende anche dal modo in cui si è formato il percorso conoscitivo e argomentativo che conduce a quella decisione.

Conclusioni

Le considerazioni svolte consentono, a questo punto, di raccogliere il filo del percorso. La digitalizzazione della Giustizia amministrativa non è stata, e non è, una sequenza di interventi tecnici separati. È la costruzione progressiva di un ecosistema istituzionale. Il PAT ha creato il flusso digitale; SIGA e i portali lo hanno reso operativo; la politica del dato lo ha reso governabile; il Data Warehouse lo ha reso analizzabile; OpenGA ne ha consentito una restituzione esterna controllata; la Business Intelligence e l’Intelligenza Artificiale hanno iniziato a valorizzarlo in un ambiente presidiato. Questa sequenza mostra che la trasformazione digitale, nella giurisdizione, non può essere improvvisata. Non basta introdurre strumenti o acquistare tecnologie. Occorre costruire le condizioni istituzionali, organizzative, tecniche e culturali perché la tecnologia possa essere utilizzata senza alterare la natura della funzione giurisdizionale. La vera alternativa è tra tecnologia governata e tecnologia non governata. Tra innovazione presidiata e innovazione affidata a garanzie soltanto dichiarate. Tra strumenti che rafforzano la funzione giurisdizionale e strumenti che rischiano di modificarne surrettiziamente il modo di operare.

Il metodo seguito può essere sintetizzato così:

• la tecnologia deve essere servente, non sostitutiva;
• il dato deve essere governato lungo l’intero ciclo di vita;
• l’intelligenza artificiale può essere utilizzata solo entro casi d’uso selezionati, verificabili e compatibili con la natura della giurisdizione;
• sicurezza, indipendenza digitale e controllo della catena tecnologica sono condizioni dell’affidabilità istituzionale;
• nessuna architettura tecnica è sufficiente senza competenze diffuse, formazione continua e responsabilità individuale.

La giustizia non può essere governata dalla fretta cognitiva. Ha bisogno di studio, dubbio, ascolto, motivazione. 

Ha bisogno anche di tecnologia, ma di una tecnologia che sia davvero solo servente: capace di alleggerire ciò che è ripetitivo e liberare tempo e attenzione per ciò che è propriamente umano. E la vera modernità non è usare l’intelligenza artificiale comunque. È usarla senza perdere indipendenza, responsabilità e fiducia. Una giustizia, quindi, che usa l’IA entro limiti chiari e governati, preservando la propria intelligenza istituzionale, giuridica e umana.

L'articolo La Giustizia amministrativa tra indipendenza di giudizio e dipendenza tecnologica. Come preservare responsabilità e fiducia? proviene da Italia nel futuro.