Perché la macchina deve spiegarsi

Per decenni il software ha eseguito istruzioni scritte da una persona, e quando sbagliava si poteva aprire il codice, trovare la riga colpevole e correggerla. Con l’apprendimento automatico questa possibilità si è ridotta: le regole non le scrive nessuno, le ricava il sistema da milioni di esempi, e il risultato è un insieme di miliardi di numeri che funziona senza che si sappia dire perché. Finché il sistema suggerisce un film o corregge un refuso, la cosa conta poco. Conta moltissimo quando lo stesso sistema concorre a decidere se una persona debba ottenere un mutuo, un impiego, una prestazione pubblica o una cura, perché chi subisce la decisione ha diritto di conoscerne le ragioni e chi la prende deve poterne rispondere. Da questa esigenza nasce l’espressione IA spiegabile, in inglese explainable AI o XAI: la capacità di un sistema, o di chi lo impiega, di rendere comprensibile come sia arrivato a un risultato. Il legislatore ha cominciato a tradurre l’esigenza in obbligo, e in Italia lo ha fatto in più tempi. Dal 1990 la legge 241, all’articolo 3, impone all’amministrazione di motivare i provvedimenti indicando i presupposti di fatto e le ragioni giuridiche che hanno determinato la decisione. Nel 2023 il Codice dei contratti pubblici, all’articolo 30, ha previsto per le procedure automatizzate che l’operatore economico abbia diritto di sapere che esiste un processo decisionale automatizzato che lo riguarda e di ricevere informazioni sulla logica utilizzata, e che nella decisione ci sia un contributo umano capace di controllare, validare o smentire quella automatizzata. La legge 132 del 2025 sull’intelligenza artificiale, all’articolo 14, dispone infine che le amministrazioni usino l’IA in funzione strumentale e di supporto all’attività provvedimentale, assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo, e che la persona resti l’unica responsabile dei provvedimenti e dei procedimenti.¹ Per un funzionario significa che l’IA può supportare il suo lavoro, ma la decisione e la responsabilità restano sue, e che deve poter dire come lo strumento funziona e ha funzionato: ma è proprio la conoscibilità del funzionamento che oggi la scienza fa più fatica a garantire.

Il quadro europeo è più ampio. Il Regolamento generale sulla protezione dei dati, applicato dal 2018, riconosce all’articolo 22 il diritto di non essere sottoposti a una decisione fondata unicamente su un trattamento automatizzato, quando questa produce effetti giuridici o incide in modo analogo sulla persona, e agli articoli 13, 14 e 15 impone di fornire informazioni significative sulla logica utilizzata.² I giuristi discutono l’ampiezza di questi diritti, ma la direzione è chiara, e il Regolamento sull’intelligenza artificiale, l’AI Act, la rende più esplicita. L’articolo 13 prevede che i sistemi ad alto rischio siano progettati in modo da essere sufficientemente trasparenti perché chi li impiega possa interpretarne l’output e usarlo in modo appropriato. L’articolo 86 attribuisce a chi è colpito da una decisione presa sulla base dell’output di un sistema ad alto rischio dell’allegato III, quando la decisione produce effetti giuridici o incide in modo analogo e significativo sulla persona, il diritto di ottenere spiegazioni chiare e significative sul ruolo del sistema nel processo decisionale e sui principali elementi della decisione.³ Gli obblighi per i sistemi dell’allegato III, che il testo originale faceva decorrere dal 2 agosto 2026, sono stati spostati al 2 dicembre 2027 dal Regolamento (UE) 2026/1744, in vigore dal 27 luglio 2026.³

Che cosa vuol dire spiegare

Spiegare, in questo senso, vuol dire rispondere a due domande. La prima riguarda il percorso: da quali elementi di partenza e attraverso quali passaggi il sistema sia arrivato a quella risposta. La seconda riguarda il tipo di ragionamento. Il procedimento deduttivo parte da regole generali e ne ricava conseguenze necessarie, come un sillogismo o un calcolo fiscale, ed è un percorso che chiunque può ripetere passo per passo. Il procedimento induttivo parte da casi osservati e ne ricava regolarità probabili, come fa il medico che riconosce un quadro clinico già visto o il giudice che decide per analogia con i precedenti. I modelli linguistici si formano per induzione, perché le loro regolarità vengono dall’osservazione di enormi quantità di testo, ma nell’uso producono risposte che hanno la forma di una deduzione, con premesse e conclusione. Chi legge non può sapere se dietro quella forma ci sia stato un ragionamento in senso proprio, un’associazione statistica che ne imita l’aspetto o una miscela dei due.

La difficoltà è di principio, prima ancora che tecnica. Un programma tradizionale è una sequenza di regole leggibili. Una rete neurale è una funzione fatta di miliardi di numeri, i parametri, che si sono assestati durante l’addestramento senza che nessuno li scegliesse uno per uno, e ciascuno, preso da solo, non significa nulla. Chiedere al modello di raccontare come ha ragionato non risolve il problema, perché il racconto è un’altra risposta, prodotta con lo stesso meccanismo, e nulla garantisce che corrisponda a ciò che è avvenuto dentro. Per le decisioni più delicate è raccomandabile che si possa scegliere di costruire fin dall’inizio modelli semplici, leggibili per progetto, ed è la posizione di Cynthia Rudin, professoressa alla Duke University, che invita a non accontentarsi di spiegazioni a posteriori delle scatole nere quando la posta in gioco è alta.⁴ I modelli linguistici di uso generale (ChatGpt, Claude, etc…), però, non appartengono a questa famiglia, e per essi la spiegazione deve venire dall’esame diretto dei meccanismi interni. È il campo dell’interpretabilità meccanicistica.

Aprire la scatola nera

L’interpretabilità meccanicistica tenta di fare con un’intelligenza artificiale ciò che si fa con un motore: smontarla, individuare le parti che la compongono e capire come lavorano insieme. Oggi un modello si verifica soprattutto provandolo, come si collauda un’auto in pista, senza poterne aprire il cofano: si vede se va bene nei casi provati, però non si sa che cosa farà in quelli che nessuno ha pensato di provare. Tra il 2022 e il 2025 Anthropic ha pubblicato quattro lavori che segnano le tappe principali di questa impresa, e qui ne ripercorro il filo.

Troppi concetti e poche caselle

Una rete neurale è fatta di unità di calcolo chiamate neuroni, e l’idea più naturale è che ogni neurone si occupi di un concetto, come in uno schedario con un cassetto per argomento. Nella pratica non funziona così: molti neuroni si accendono per cose che non hanno nulla in comune, per esempio uno può reagire nello stesso modo, sia a un certo tipo di citazione sia a un termine di cucina. I ricercatori chiamano il fenomeno polisemanticità, e nel 2022 un gruppo guidato da Nelson Elhage ne ha offerto una spiegazione con un modello semplificato.⁵ Il modello deve ricordare molti più concetti di quanti neuroni abbia a disposizione, e allora li sovrappone, come chi in un armadio piccolo mette più oggetti nello stesso scomparto contando sul fatto che quando ne serve uno particolare, sa dove e come trovarlo.  Gli autori chiamano questa strategia superposizione. Funziona perché quasi tutti i concetti sono rari: in una frase qualunque, ne compaiono pochi, e le sovrapposizioni creano raramente confusione. Lo studio mostra anche che il passaggio da una rappresentazione ordinata a una sovrapposta avviene in modo brusco, come l’acqua che diventa ghiaccio.⁵ La conseguenza è che osservare i singoli neuroni equivale a leggere un testo in cui ogni lettera sia stata scritta sopra un’altra: l’informazione c’è, ma non nel punto in cui logicamente la cerchiamo. I concetti coincidono con combinazioni di neuroni, e per individuarle serve uno strumento diverso.

Il dizionario dei concetti

Lo strumento è l’autoencoder sparso, che Anthropic ha descritto nel 2023.⁶ Il nome è più ostico dell’idea: un autoencoder è un programma in due metà: la prima legge lo stato interno del modello in un dato istante e lo traduce in un elenco di concetti attivi, la seconda ricostruisce lo stato originale partendo soltanto da quell’elenco. Se la ricostruzione è fedele, l’elenco è una descrizione corretta di ciò che il modello stava facendo: l’aggettivo sparso indica il vincolo decisivo: l’elenco deve essere breve, con pochi concetti accesi tra migliaia di disponibili. È come chiedere a un traduttore di descrivere una scena con poche parole scelte da un vocabolario molto ampio, il che lo costringe a scegliere le più precise; il punto è che il vocabolario non è dato in partenza, si impara durante l’addestramento.

Applicato a un modello piccolo, con un solo strato, il metodo ha prodotto concetti che un lettore umano riconosce: la scrittura araba, le sequenze di DNA, i codici informatici, l’ebraico, ciascuno distribuito su molti neuroni, come prevede la teoria della superposizione.⁶ Ingrandendo il dizionario, un concetto largo si divide però in concetti più fini, come una voce di enciclopedia che si articola in sottovoci, e concetti simili ricompaiono in modelli addestrati separatamente, segno che non sono l’artefatto di un singolo esperimento.⁶ Gli stessi autori definiscono quindi questo metodo debole e spiegano di averlo scelto dopo aver visto che la sola sparsità imposta nella struttura della rete non basta a evitare la polisemanticità e che i metodi classici di apprendimento del dizionario soffrono di sovradattamento, cioè tendono a imparare a memoria i dati di addestramento.

Dal giocattolo al modello vero

Restava quindi un dubbio serio: un modello da laboratorio è una cosa, un sistema usato ogni giorno da milioni di persone è un’altra, come il modellino provato in galleria del vento è una cosa e l’aereo che vola con i passeggeri a bordo è un’altra. Nel 2024 Adly Templeton e colleghi hanno messo alla prova il metodo su Claude 3 Sonnet, un modello di Anthropic realmente in uso e non costruito per l’esperimento, con un dizionario fino a 34 milioni di voci, un numero molto superiore a quello delle voci di una grande enciclopedia.⁷ Ogni voce corrisponde a un concetto che il modello ha imparato a riconoscere e il modello si accende quando la riconosce. I concetti corrispondono a luoghi e persone note; altri sono idee astratte: c’è una voce che si accende davanti a un elogio sarcastico, cioè a un complimento che dice l’opposto di ciò che si pensa, e una che si accende davanti a un errore in un programma, come una divisione per zero o una variabile scritta male, senza reagire ai semplici refusi di un testo comune. Altri concetti ancora riguardano tratti rilevanti per la sicurezza: l’inganno, la ricerca di potere, la piaggeria, cioè la tendenza a dare ragione a chi parla per compiacerlo, e il pregiudizio.⁷ La prova più convincente è quella causale. Vedere che un concetto si accende quando si parla di un certo argomento dimostra soltanto una correlazione, come la lampadina dello stop che si accende quando l’auto frena: la si vede sempre insieme alla frenata, ma accenderla da sola non fa frenare nessuno. Per i concetti del modello i ricercatori hanno fatto la verifica opposta: ne hanno forzato l’accensione dall’esterno, tenendoli attivi a un livello molto superiore al normale mentre il resto del modello lavorava come sempre, e hanno osservato se cambiava ciò che il modello diceva. Un esempio efficace è stato l’esperimento con la voce legata al Golden Gate Bridge, esperimento reso pubblico da Anthropic: da dire che il concetto si accendeva davanti alla descrizione del ponte, ed era molto bravo, perché si accendeva anche quando la stessa descrizione compariva in cinese, giapponese, coreano, russo, vietnamita o greco. Si accendeva anche davanti a una fotografia del ponte, benché il modello fosse stato addestrato soltanto su testo, e per questo i concetti si dicono anche multimodali. Ma le risposte sono cambiate rispetto ad un modo normale previsto dal significato del concetto.⁷ Nella dimostrazione resa pubblica da Anthropic nel maggio 2024 la voce del Golden Gate Bridge era tenuta accesa a dieci volte il suo valore massimo: a chi chiedeva come spendere dieci dollari, il modello consigliava di usarli per attraversare il ponte in auto, e pagare il pedaggio, il che può apparire abbastanza logico; ma, invitato a scrivere una storia d’amore, raccontava quella di un’auto che non vede l’ora di raggiungere il suo amato ponte in una giornata di nebbia; interrogato su come si immagini, rispondeva che probabilmente si vede come il ponte stesso.⁸ È l’equivalente di stimolare una zona del cervello e osservare quale funzione si altera: nessuno aveva scritto quelle risposte, erano l’effetto di un solo concetto spinto oltre misura; come fosse drogato.

Gli autori avvertono però di non attribuire troppo peso alla semplice esistenza di un concetto: aver trovato ciò che corrisponde all’inganno non dimostra che il modello inganni, così come una persona che sa che cos’è una truffa, finché non la subisce.

Dai concetti ai circuiti

Un elenco di concetti, quindi, non basta a capire un ragionamento, come un elenco di ingredienti non basta a capire una ricetta: occorre sapere come si combinano. Il lavoro del 2025, dedicato a Claude 3.5 Haiku, affronta questo passo con i grafi di attribuzione.⁹ L’idea è costruire una versione del modello che dia le stesse risposte ma abbia parti più leggibili, in cui i concetti sono collegati da frecce che indicano chi influenza chi, perché nel modello originale l’effetto di un concetto su un altro dipende da tutto il resto e le frecce non si lasciano tracciare. Il grafo che ne risulta ricostruisce in modo parziale la sequenza di passaggi con cui una domanda diventa una risposta. Gli autori non lo prendono per vero: lo trattano come un’ipotesi e lo mettono alla prova intervenendo, cioè spegnendo o accendendo un concetto e controllando se la risposta cambia come previsto, e precisano che anche i grafi più complessi restano semplificazioni del modello originale.⁹

Nel caso più citato si chiede al modello: qual è la capitale dello stato in cui si trova Dallas? La risposta è Austin, ma il modello non la ricava con un salto diretto da Dallas. Attiva prima il concetto di Texas, lo stato che contiene Dallas, e solo da lì passa alla sua capitale. È un ragionamento in due tappe, prima lo stato e poi la capitale, e non una risposta imparata a memoria.⁹ In altri casi emerge che il modello usa in parte meccanismi legati a una lingua specifica e in parte meccanismi comuni a tutte le lingue, e che alcune allucinazioni, cioè le risposte inventate, nascono dal malfunzionamento di un meccanismo interno.⁹ Gli autori parlano di biologia dei modelli: i concetti fanno da cellule, i circuiti da tessuti, gli interventi da esperimenti. Forse per non dover dire che non esiste ancora la comprensione completa.

Il divario tra la norma e gli strumenti

Il titolo di questo articolo contiene una domanda, perché hai risposto così, e una distanza: la legge chiede all’IA di spiegarsi, la scienza ha appena cominciato a poterlo fare. E questa distanza si misura nei limiti che gli stessi autori dichiarano. I grafi di attribuzione offrono una comprensione soddisfacente per circa un quarto delle richieste provate, una stima informale che gli autori giudicano difficile da quantificare con precisione, e funzionano su una versione sostitutiva del modello, che ne riproduce il comportamento in modo incompleto e imperfetto. Non mostrano inoltre come il modello decida a quali parti del testo prestare attenzione, e in alcuni casi, come nel tentativo di aggirare le sue protezioni, il meccanismo sembra passare proprio da lì.⁹ Il dizionario dei concetti ricostruisce almeno il 65 per cento dell’informazione originale, con meno di 300 concetti accesi per ogni parola o frammento di parola elaborato su 34 milioni disponibili, e resta, per ammissione dei suoi autori, una descrizione incompleta: in un controllo sulle circoscrizioni amministrative di Londra il dizionario più grande conteneva un concetto per circa il 60 per cento di esse, come un’enciclopedia che dedicasse una voce a sei circoscrizioni su dieci.⁷ I casi di studio, che gli autori definiscono dimostrazioni di esistenza, mostrano che alcuni meccanismi interni si possono ricostruire, ma non sono una teoria generale del modello: sono un campione che, per loro stessa ammissione, risente dei limiti degli strumenti con cui è stato scelto.⁹

Per chi usa ChatGPT, Claude e gli altri assistenti della stessa famiglia, il limite più importante è che la spiegazione che il modello dà di sé non coincide con il suo funzionamento. Quando a Claude è stato chiesto come avesse calcolato 36 più 59, il cui risultato è 95, ha descritto il procedimento che si impara a scuola, sommare le unità, riportare il resto e sommarci le decine, mentre il grafo di attribuzione ha mostrato due percorsi in parallelo: uno stima la somma a grandi linee, intorno a 92, un valore approssimato che da solo sarebbe sbagliato, e l’altro determina con esattezza l’ultima cifra del risultato, il 5, e dai due insieme esce il 95. Gli autori osservano che il modello non ha consapevolezza di questo suo procedimento e che imparare a produrre spiegazioni e imparare a eseguire un calcolo sono due cose distinte.⁹ Chiedere a un assistente perché ha risposto così produce quindi un racconto plausibile, non una verifica. Lo studio riguarda i modelli di Anthropic, ma è ragionevole attendersi lo stesso da modelli costruiti con tecniche analoghe, sui quali lavorano anche altri laboratori: OpenAI ha addestrato un dizionario di 16 milioni di voci sulle attivazioni di GPT-4,¹⁰ e Google DeepMind ha rilasciato oltre 400 dizionari per i modelli aperti Gemma 2,¹¹ ma sono lavori sul metodo, non verifiche sul comportamento dei prodotti che milioni di persone usano ogni giorno.

La XAI è possibile?

La XAI è dunque possibile? Dipende da che cosa si intende per spiegare, e le risposte sono tre, di solidità diversa. Dove si può scegliere, la spiegazione è possibile oggi, costruendo da zero modelli leggibili per ogni progetto; questa è la strada indicata da Rudin per le decisioni ad alto rischio: sistemi a punteggio o elenchi di regole in cui ogni elemento che pesa sul risultato si può leggere e discutere e che, quando i dati sono strutturati e descritti da grandezze dotate di significato, come in una pratica di credito o in una valutazione clinica, raggiungono prestazioni quasi pari a quelle dei modelli opachi, perché l’idea di un compromesso inevitabile tra accuratezza e leggibilità è, per lei, un mito.⁴ Rudin riconosce però che l’argomento vale meno per i dati grezzi, come immagini e suoni, e il linguaggio dei chatbot è un caso affine.

Per i modelli linguistici di uso generale (ChatGpt, Claude, ecc…), invece, la spiegazione dei meccanismi interni è possibile soltanto in parte, e caso per caso, ed è oggi un risultato di ricerca. Si possono isolare concetti, seguirne i legami e verificarne l’effetto con interventi mirati, e, nel caso medico, gli autori trovano che il ragionamento del modello può talvolta essere scomposto in passaggi leggibili, utili a integrare il giudizio del clinico, ma avvertono che questo caso non va preso come prova che gli strumenti siano abbastanza avanzati per fidarsi delle risposte mediche senza la supervisione di esperti.⁹ C’è poi la spiegazione che la norma richiede davvero: l’articolo 86 dell’AI Act chiede spiegazioni chiare e significative sul ruolo del sistema nella decisione e sugli elementi principali che l’hanno determinata, non la ricostruzione del calcolo interno,³ e la legge italiana chiede tracciabilità dell’uso e responsabilità della persona.¹ Questo si può ottenere fin d’ora con mezzi organizzativi: documentare come il sistema è usato, conservare traccia dei dati e delle risposte, far verificare l’esito da una persona competente.

Ne discende un modo di procedere. Dove la decisione incide sui diritti di una persona, conviene preferire la costruzione di modelli leggibili per progetto. I modelli linguistici commerciali vanno usati come supporto a chi decide e non come decisore. 

Resta il problema di chi controlla e la sovranità digitale; gli strumenti di lettura interna richiedono l’accesso ai pesi del modello e molta potenza di calcolo, e stanno oggi in pochi laboratori, quasi tutti fuori dall’Europa, che sono anche i costruttori dei modelli studiati. Strumenti aperti esistono, come quelli rilasciati per Gemma 2,¹¹ ma una sovranità digitale che comprenda la capacità di verificare i sistemi adottati richiede competenze e infrastrutture pubbliche di interpretabilità in Italia e in Europa, applicate a modelli aperti. Senza di esse, il controllo di un modello resta affidato a chi lo ha prodotto.

In sintesi, la legge chiede all’IA di spiegarsi e la scienza comincia a poterla ascoltare soltanto in parte: la XAI è oggi possibile come progetto, progettando da zero modelli leggibili, dove sono in gioco i diritti; e, come processo, documentando e verificando l’uso dei modelli linguistici, mentre la lettura completa della loro mente resta un traguardo della ricerca e non una garanzia che oggi si possa avere da ChatGPT, da Claude o dagli altri.

Note e fonti

1. Legge 7 agosto 1990, n. 241, articolo 3; decreto legislativo 31 marzo 2023, n. 36, articolo 30; legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, articolo 14, Gazzetta Ufficiale, Serie generale n. 223 del 25 settembre 2025 (testi su https://www.normattiva.it).

2. Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali (GDPR), articoli 13, 14, 15 e 22, Gazzetta ufficiale dell’Unione europea L 119, 4 maggio 2016 (https://eur-lex.europa.eu/eli/reg/2016/679/oj).

3. Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale (AI Act), articoli 13 e 86, Gazzetta ufficiale dell’Unione europea, 12 luglio 2024 (https://eur-lex.europa.eu/eli/reg/2024/1689/oj); per il differimento dei termini, Regolamento (UE) 2026/1744 (Digital Omnibus on AI), in vigore dal 27 luglio 2026.

4. Cynthia Rudin, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Nature Machine Intelligence, vol. 1, 2019, pp. 206-215, preprint arXiv:1811.10154 (https://arxiv.org/abs/1811.10154).

5. Nelson Elhage et al., Toy Models of Superposition, Transformer Circuits Thread, 21 settembre 2022, arXiv:2209.10652 (https://arxiv.org/abs/2209.10652).

6. Anthropic (Trenton Bricken et al.), Towards Monosemanticity: Decomposing Language Models With Dictionary Learning, Transformer Circuits Thread, 2023 (https://transformer-circuits.pub/2023/monosemantic-features/index.html).

7. Adly Templeton et al., Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet, Transformer Circuits Thread, 2024 (https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html).

8. Anthropic, Golden Gate Claude, 23 maggio 2024 (https://www.anthropic.com/news/golden-gate-claude).

9. Jack Lindsey et al., On the Biology of a Large Language Model, Transformer Circuits Thread, 2025, con l’articolo gemello Circuit Tracing: Revealing Computational Graphs in Language Models (https://transformer-circuits.pub/2025/attribution-graphs/biology.html).

10. Leo Gao et al. (OpenAI), Scaling and evaluating sparse autoencoders, arXiv:2406.04093, 6 giugno 2024 (https://arxiv.org/abs/2406.04093).

11. Tom Lieberum et al. (Google DeepMind), Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2, arXiv:2408.05147, agosto 2024 (https://arxiv.org/abs/2408.05147).

L'articolo Perché hai risposto così? La legge chiede all’IA di spiegarsi, la scienza prova a guardarle dentro proviene da Italia nel futuro.

Il 23 settembre, per la prima volta, il Consiglio di sicurezza delle Nazioni Unite ha ascoltato i capi dei laboratori che costruiscono l’intelligenza artificiale. Fra loro c’era Dario Amodei, amministratore delegato di Anthropic, e il suo è stato l’intervento più allarmato. Ha definito l’IA la più importante questione di sicurezza globale del nostro tempo e ha indicato due pericoli precisi: l’uso dei modelli per facilitare la costruzione di armi biologiche e la perdita di controllo su sistemi le cui capacità crescano più in fretta della possibilità di governarli. Ha poi proposto standard globali per collaudare i modelli più avanzati, meccanismi internazionali di verifica e un sistema di notifica degli abusi. Gli Stati Uniti hanno fatto sapere di non voler sostenere alcun organismo internazionale che fissi le regole. Il giorno dopo, a Washington, fra gli alleati del presidente Trump si ragionava apertamente su come fare di Amodei il volto del catastrofismo sull’intelligenza artificiale. Chi liquida quell’allarme come la paura di un profeta di sventura dovrebbe prima sapere chi lo ha lanciato. Non un filosofo, né un commentatore, ma uno degli scienziati che hanno capito, prima e meglio di quasi tutti, come si fa crescere un’intelligenza artificiale. E che lo ha capito non da ingegnere, ma da fisico: una differenza che spiega, come vedremo, molto più di quanto sembri.

Un fisico-biologo fra le macchine

Amodei è nato a San Francisco nel 1983 da padre italiano, un artigiano originario di Massa Marittima, e da madre americana. Ha studiato fisica al Caltech e a Stanford, ha conseguito il dottorato in biofisica a Princeton lavorando su modelli di meccanica statistica dei circuiti neurali e ha proseguito come ricercatore post-dottorato alla facoltà di medicina di Stanford. Per anni, dunque, il suo oggetto di studio non sono state le macchine, ma i neuroni veri: come migliaia di cellule nervose, ciascuna relativamente semplice, producano insieme comportamenti complessi. Poi il passaggio all’intelligenza artificiale: Baidu, Google Brain e infine OpenAI, dove da vicepresidente della ricerca ha guidato lo sviluppo di GPT-2 e GPT-3. È fra gli ideatori dell’apprendimento per rinforzo dal feedback umano, la tecnica con cui oggi si insegna ai modelli a comportarsi come le persone si aspettano. Nel 2021 ha lasciato OpenAI con la sorella Daniela e un gruppo di colleghi per fondare Anthropic, la società che sviluppa Claude. C’è però un suo contributo meno noto al grande pubblico e forse più decisivo di tutti: la misura delle leggi di scala. Per capire come sia nato, bisogna prima capire in che cosa un fisico differisca da un ingegnere.

Un fisico non è un ingegnere

La distinzione può sembrare accademica; è invece la chiave di questa storia. L’ingegnere e il fisico usano la stessa matematica, e seguono un percorso iniziale di studi molto simile, ma si pongono domande diverse. L’ingegnere si chiede come far funzionare un oggetto: ha un progetto, dei requisiti, un budget, e il suo successo si misura sul risultato. Un ponte deve reggere, un motore deve rendere, un programma deve girare. Il fisico si chiede a quale legge obbedisca un fenomeno, anche quando quel fenomeno è un oggetto costruito dall’uomo. Non gli interessa, in prima battuta, migliorare la macchina: gli interessa capire che cosa accade se, in essa, ad esempio, si fanno variare alcuni parametri di cento, mille, un milione di volte.Nel 2019 il mondo dell’apprendimento automatico ragionava, in larga parte, da ingegnere. Si progettava un’architettura nuova, la si confrontava con le precedenti su una tabella di prove standardizzate e si festeggiava magari il punto percentuale guadagnato su una data prova. È un metodo che ha prodotto risultati straordinari, ma che guardava un modello alla volta. Chiedersi invece come vari l’errore quando la dimensione cresce, ad esempio, su più di sei ordini di grandezza, e tracciarne il grafico in scala logaritmica alla ricerca di una retta, è un gesto tipico del fisico. Non a caso a coordinare il lavoro del 2020 da cui nasce questa storia fu Jared Kaplan, fisico teorico della Johns Hopkins University. C’è un risultato che rivela più di ogni altro questa impronta. Entro un ampio intervallo, la forma precisa della rete neurale, più profonda o più larga, conta poco: ciò che conta è la scala. Per un ingegnere è quasi una provocazione, perché i dettagli del progetto sono il suo mestiere. Per un fisico è un’idea familiare, che la meccanica statistica chiama universalità: sistemi diversissimi nei dettagli, come un magnete e un fluido vicino al punto critico, obbediscono alle stesse leggi, con gli stessi esponenti. Amodei aveva studiato proprio la meccanica statistica dei circuiti neurali. E c’è la biologia. Chi viene dalle scienze della vita conosce le leggi di potenza da quasi un secolo: nel 1932 Max Kleiber mostrò che il metabolismo degli animali cresce con la massa corporea elevata a circa tre quarti, dal topo all’elefante, con una regolarità sorprendente. È la stessa forma matematica che ritroveremo nella formula dell’IA. Chi ha studiato i neuroni sa inoltre che anche il cervello è, in un certo senso, un sistema scalato: principi relativamente semplici, ripetuti su un numero enorme di elementi. Per un fisico-biologo, l’idea che una rete artificiale potesse migliorare soprattutto crescendo non era un azzardo, ma un’ipotesi naturale da verificare. Chi scrive queste righe conosce quel percorso dall’interno: sono un fisico che, fin dai tempi della tesi di laurea, si è appassionato alla biologia, l’ha studiata a fondo e ancora la studia. Forse per questo la traiettoria di Amodei, dalla fisica ai neuroni e dai neuroni alle macchine, mi sembra meno sorprendente di quanto appaia a molti commentatori. Chi ha imparato a guardare la vita con gli strumenti della fisica è abituato a cercare, sotto la complessità, poche leggi semplici.Questo non significa che l’ingegneria conti meno. Sono stati gli ingegneri a costruire le macchine su cui le curve sono state misurate, e saranno gli ingegneri, come vedremo, a sfruttarle fino all’ultimo punto percentuale. Ma la domanda di partenza, quella che ha trasformato una collezione di esperimenti in una legge, è una domanda da fisico. E un fisico porta con sé anche un’altra abitudine, che tornerà utile alla fine di questa storia: sa che ogni legge empirica vale entro un intervallo, e che oltre quell’intervallo la natura può cambiare comportamento all’improvviso.

Un mestiere fatto di probabilità

C’è poi un secondo tratto del mestiere di fisico che rende questa storia quasi inevitabile: la familiarità con la statistica. Chi studia fisica passa anni a calcolare probabilità: la termodinamica, nella sua forma moderna, è meccanica statistica. Nessuno può prevedere il moto di una singola molecola in un litro d’aria, dove a temperatura e pressione ambiente ce ne sono circa venticinquemila miliardi di miliardi; eppure pressione e temperatura di quel gas si calcolano con una precisione straordinaria. È la legge dei grandi numeri: l’individuo è imprevedibile, la collettività no. Su questa idea Ludwig Boltzmann fondò, alla fine dell’Ottocento, la definizione statistica dell’entropia. Lo stesso vale per il mondo delle particelle. La meccanica quantistica non dice dove si trovi un elettrone: assegna a ogni posizione possibile una probabilità. Ripetendo la misura su un numero enorme di sistemi preparati nello stesso modo, quella distribuzione si ricostruisce con precisione sempre maggiore, fino a sfiorare la certezza. Occorre però dire con esattezza che cosa diventa certo: non l’esito della singola misura, che resta intrinsecamente imprevedibile, ma la mappa delle probabilità. Il principio di indeterminazione di Heisenberg aggiunge poi un limite ulteriore: posizione e velocità di una particella non possono mai essere conosciute insieme con precisione arbitraria.  Questa è una distinzione sottile, ma è proprio quella che serve per capire un modello linguistico di grandi dimensioni, o LLM, dall’inglese Large Language Model. Un modello linguistico, infatti, in un testo, non sa a priori quale parola verrà dopo la precedente. Come la meccanica quantistica con l’elettrone, esso assegna una probabilità a ciascuna delle parole possibili. La singola scommessa resta incerta; ma, misurata su miliardi di parole, la qualità complessiva delle scommesse diventa una grandezza stabile e calcolabile, come la pressione di un gas. È per questo che le leggi di scala disegnano curve così regolari: descrivono medie su numeri enormi, non casi singoli. E la misura dell’errore che incontreremo fra poco, la loss, ha un nome che un fisico riconosce al primo sguardo: si chiama entropia incrociata, ed è parente stretta dell’entropia di Boltzmann, attraverso quella che Claude Shannon introdusse nel 1948 per la teoria dell’informazione.  Per chi aveva studiato la meccanica statistica dei neuroni, guardare a una rete neurale come a un grande sistema di probabilità non era una metafora lontana: era… il linguaggio di casa.

La scoperta di una curva

Una delle idee più importanti dell’intelligenza artificiale contemporanea non nacque dall’invenzione di una macchina nuova: nacque dall’osservazione di una curva. Tra il 2019 e il 2020 un gruppo di ricercatori di OpenAI, coordinato dal fisico Jared Kaplan e con Amodei fra i firmatari in veste di ricercatore senior, studiò in modo sistematico che cosa accade ai modelli linguistici quando crescono tre ingredienti: la dimensione del modello, la quantità di testo con cui viene addestrato e la potenza di calcolo impiegata per addestrarlo. Il risultato sorprese. I miglioramenti non erano capricciosi: seguivano una regola semplice, della stessa forma per tutti e tre gli ingredienti, che reggeva su un intervallo enorme di dimensioni. Erano le leggi di scala, in inglese scaling laws.

La formula, spiegata a chi non fa questo mestiere

Prima della formula servono due nozioni, e sono più semplici di quanto sembri. La prima riguarda ciò che un modello linguistico fa davvero. Gli si dà l’inizio di una frase e lui prova a indovinare come prosegue. Se legge «Nel mezzo del cammin di nostra…», un buon modello scommette quasi tutto su «vita». Se legge «Stamattina ho comprato il...», deve distribuire la scommessa fra pane, giornale, biglietto e mille altre possibilità. La scommessa, però, non dipende soltanto dall’ultima parola, ma da tutto ciò che la precede: se la frase comincia con «Sono passato in edicola: stamattina ho comprato il...», il modello punterà quasi tutto su «giornale»; se comincia con «Ero dal fornaio», su «pane». Tutto ciò che questi sistemi sanno fare, dal tradurre un contratto allo scrivere un programma, nasce da questo gioco, ripetuto miliardi di volte su miliardi di frasi. Il modello guarda soltanto indietro, mai avanti: la parola successiva, per lui, non esiste ancora. La loss, letteralmente «perdita», è il punteggio di questo gioco, con una particolarità: più è bassa, meglio è. Per calcolarla occorre sapere che il gioco si svolge durante l’addestramento, su testi veri scritti da persone: libri, articoli, pagine web. Il meccanismo è quello di un esercizio scolastico. Si copre la parola successiva, il modello fa la sua scommessa, poi si scopre la parola che l’autore aveva effettivamente scritto e si confronta. Se il modello aveva puntato forte su «vita» e nel testo c’è proprio «vita», l’errore è minimo. Se aveva quasi escluso la parola che l’autore aveva invece scelto, l’errore è grande e la loss sale. Il modello non viene giudicato sulla parola che sceglierebbe lui, ma su quanta fiducia aveva accordato a quella giusta. Fatta la media su un’enorme quantità di testo, la loss diventa una misura precisa di quanto il modello abbia capito come funziona la lingua e, attraverso la lingua, una parte del mondo che essa descrive: per indovinare bene la parola successiva in un trattato di chimica, bisogna, ovviamente, sapere un po’ di chimica.

La seconda nozione riguarda i parametri. Si immagini il mixer di uno studio di registrazione, con un numero sterminato di manopole. All’inizio sono tutte in posizione casuale e ne esce soltanto rumore. L’addestramento consiste nel far leggere al modello un testo dopo l’altro e, a ogni parola sbagliata, nel girare leggermente ciascuna manopola nella direzione che riduce l’errore. Dopo miliardi di piccole correzioni, la posizione d’insieme delle manopole custodisce tutto ciò che il modello ha imparato. I parametri sono quelle manopole: più ce ne sono, più sfumature il modello è in grado di registrare. GPT-2, nel 2019, ne aveva un miliardo e mezzo; GPT-3, un anno dopo, 175 miliardi. Nota bene: da GPT-4 in poi OpenAI ha smesso di comunicare questo numero. Per GPT-4 circola una stima di circa 1.760 miliardi, ma è una ricostruzione esterna, non una cifra confermata. Per i modelli successivi non esistono nemmeno stime affidabili. Oggi sono in genere architetture a «miscela di esperti», nelle quali per ogni parola si attiva soltanto una parte dei parametri, e il numero totale dice quindi meno di un tempo. Anthropic, da parte sua, non ha mai reso pubblico il numero di parametri di nessuna versione di Claude, dalla prima all’attuale. Nell’aprile 2026 Elon Musk scrisse che il suo Grok ha 500 miliardi di parametri, la metà di Sonnet e un decimo di Opus; molti ne hanno ricavato che Sonnet abbia circa 1.000 miliardi di parametri e Opus circa 5.000 miliardi. Quando gli chiesero come facesse a conoscere quelle dimensioni, Musk non rispose. Circola anche la cifra di 10.000 miliardi per Claude Mythos, ma nessun annuncio o documento ufficiale di Anthropic la conferma. Sono indiscrezioni, non dati. Comunque, con queste due nozioni la scoperta di Kaplan e Amodei si enuncia in una riga: se si aumentano le manopole, i testi da leggere o la potenza di calcolo, la sorpresa del modello diminuisce, e diminuisce in modo regolare e prevedibile. Nella forma oggi più usata, la relazione si scrive così:

L(x) ≈ L_∞ + A · x^−α

Si legge in questo modo. L è l’errore del modello. x è l’ingrediente che aumentiamo: parametri, dati o calcolo. L_∞, «elle infinito», è il pavimento, ovvero l’errore che resterebbe anche disponendo di risorse illimitate, perché ogni lingua contiene un’incertezza che nessuno può eliminare: neppure il lettore più acuto indovina sempre la parola successiva di un romanzo. A è una costante che dipende dalle unità di misura. Infine α, alfa, è il numero che conta davvero, perché dice quanto rende ogni investimento.

Il segno meno nell’esponente significa che x sta, in pratica, al denominatore: x^−α equivale a 1 diviso x^α. Più risorse, dunque, meno errore. Ma non in proporzione. Proporzione vorrebbe dire α uguale a 1: raddoppio le risorse e l’errore si dimezza, le moltiplico per dieci e diventa un decimo. Nell’intelligenza artificiale non va mai così. Gli esponenti misurati sono piccoli, frazioni di unità, e la formula dice allora una cosa precisa: ogni volta che moltiplichiamo le risorse per lo stesso fattore, la parte eliminabile dell’errore si riduce della stessa percentuale. Non di una quantità fissa, ma di una percentuale fissa.

Conviene vedere che cosa sia x in concreto. Può essere il numero di parametri: un miliardo, dieci miliardi, cento miliardi. Può essere la quantità di testo letta durante l’addestramento, misurata in token, i frammenti di parola con cui i modelli leggono, di cui diremo più avanti. Oppure la potenza di calcolo impiegata, contata in operazioni elementari: numeri con venti e più zeri. La formula ha la stessa forma per tutti e tre gli ingredienti; cambiano soltanto i valori di A e di α.

Un esempio con numeri tondi, puramente illustrativo. Supponiamo che α valga 0,1 e che un modello da un miliardo di parametri abbia una parte eliminabile dell’errore pari a 10, in unità qualsiasi. Passando a dieci miliardi di parametri, l’errore scende a 7,9; a cento miliardi, a 6,3; a mille miliardi, a 5. A ogni moltiplicazione per dieci si guadagna sempre il 21 per cento, ma in valore assoluto il guadagno si assottiglia: 2,1 punti, poi 1,6, poi 1,3. E per dimezzare l’errore è servito un modello mille volte più grande.

L’esponente α è dunque la pendenza del cammino, e piccole differenze pesano moltissimo. Moltiplicando le risorse per dieci, con α pari a 0,5 l’errore eliminabile cala del 68 per cento; con α pari a 0,1, del 21 per cento; con α pari a 0,05, soltanto dell’11 per cento. Un α grande è una discesa ripida verso l’errore minimo; un α piccolo è un pendio quasi piatto, sul quale si avanza di pochi passi al prezzo di quantità enormi di risorse. I valori misurati nei modelli linguistici, come vedremo subito, stanno dalla parte del pendio quasi piatto.

I valori misurati da Kaplan rendono l’idea concreta. Per la dimensione del modello, α vale circa 0,076: raddoppiando i parametri, l’errore eliminabile scende di circa il 5 per cento, e per dimezzarlo occorre un modello circa novemila volte più grande. Per il calcolo, α è ancora più piccolo, circa 0,05: per dimezzare l’errore bisogna moltiplicare la potenza di calcolo per circa un milione. Queste stime valgono quando gli altri ingredienti non fanno da freno.

È, in qualche modo, la legge del ripasso che ogni studente dovrebbe conoscere: le prime ore di studio fanno guadagnare molti punti, le successive sempre meno. Qui però quel «sempre meno» è misurato con precisione, e la precisione è tutto. Su un grafico con scale logaritmiche, dove ogni tacca vale dieci volte la precedente, la relazione diventa una linea retta. Ed è la retta il vero regalo: misurando l’errore di una serie di modelli piccoli ed economici, la si può prolungare con un righello e prevedere, entro certi limiti, quanto sbaglierà un modello cento volte più grande prima ancora di spendere un euro per costruirlo. Una precisazione per il lettore esperto: nel lavoro di Kaplan e colleghi del 2020, Scaling Laws for Neural Language Models, la relazione compariva come legge di potenza pura, senza il termine L_∞. Il pavimento è stato esplicitato dagli studi immediatamente successivi: prima, nello stesso 2020, dal lavoro di Henighan e colleghi sui modelli generativi, poi da quello di DeepMind del 2022 di cui diremo. La sostanza non cambia.

Perché un fisico la vide prima degli altri

Fu un cambiamento concettuale enorme. Per migliorare l’intelligenza artificiale non occorreva più attendere una nuova intuizione teorica. Diventava lecito chiedersi che cosa accadesse prendendo ciò che già funzionava e rendendolo cento volte più grande. GPT-3, più di cento volte più grande di GPT-2, fu in un certo senso la verifica sperimentale di quella domanda. La formazione di Amodei aiuta a capire perché ne afferrò presto le implicazioni. Le leggi di potenza, per un fisico, sono materia quotidiana: descrivono terremoti, transizioni di fase, la distribuzione delle città. All’epoca, inoltre, non era affatto scontato che ingrandire le reti neurali avrebbe continuato a dare frutti migliori. Una parte del mondo dell’apprendimento automatico, fedele all’approccio ingegneristico, riteneva che oltre una certa soglia sarebbero servite architetture nuove o principi diversi. Ma i dati sperimentali raccontavano un’altra storia: i modelli continuavano a migliorare. Bisogna però evitare di caricare la scoperta di un significato che non ha. Le leggi di scala non sono leggi fondamentali della natura, come la gravitazione di Newton o le equazioni di Maxwell. Sono regolarità empiriche osservate nel comportamento delle reti neurali, valide in determinati intervalli. Proprio per questo sono utilissime, ma proprio per questo vanno maneggiate con cautela.

Dalla curva all’industria

Da un’idea scientifica discende una conseguenza industriale gigantesca. Addestrare un modello di frontiera richiede soldi, tanti soldi: capitali (spesso di rischio), acceleratori, energia e infrastrutture in quantità enormi. Prima di investire miliardi è preziosissimo sapere se, moltiplicando il calcolo per dieci o per cento, ci si può ragionevolmente attendere un miglioramento. Lo scaling è diventato così non soltanto un fenomeno scientifico, ma una strategia industriale. Qui il testimone passa agli ingegneri, ed è giusto così. Nel 2022 DeepMind corresse un elemento importante di quella strategia. Nel lavoro Training Compute-Optimal Large Language Models mostrò che aumentare soltanto i parametri non era l’uso migliore del calcolo: anche i dati dovevano crescere nella giusta misura. Chinchilla, un modello da 70 miliardi di parametri addestrato su circa 1.400 miliardi di token, superò Gopher, quattro volte più grande ma nutrito con molti meno dati. La regola pratica che ne derivò è di circa venti token di testo per ogni parametro. Il token è l’unità con cui i modelli leggono le parole di un testo: non sempre è una parola intera, ma spesso un suo frammento. Le parole brevi e frequenti valgono di solito un token ciascuna; quelle lunghe o rare vengono spezzate in più pezzi, così che «incredibilmente», per esempio, può diventare «in», «credibil» e «mente». In inglese un token corrisponde in media a circa tre quarti di parola; in italiano, a qualcosa di meno. Venti token per parametro significano quindi, per un modello da 70 miliardi di parametri, una biblioteca di oltre mille miliardi di parole. La lezione era sottile ma fondamentale: scalare non significa ingrassare il modello, significa trovare l’equilibrio fra parametri, dati e calcolo.

La concentrazione in poche mani e la barriera per l’Europa

Da allora OpenAI, Google DeepMind, Anthropic, Meta e pochi altri hanno investito somme senza precedenti in acceleratori, centri di calcolo, energia e dati. Dietro una parte rilevante dell’economia dell’IA generativa c’è una scommessa precisa: continuando ad aumentare le risorse, le prestazioni continueranno a crescere. Ne è derivata una conseguenza che all’inizio poteva sembrare estranea alla ricerca: la concentrazione dell’IA in poche mani. Un articolo scientifico può leggerlo chiunque, un algoritmo si può riprodurre. Decine di migliaia di acceleratori, grandi centri di calcolo, energia abbondante e miliardi di dollari (magari senza risultato garantito) sono invece alla portata di pochissimi.  Una curva matematica ha finito per erigere una barriera all’ingresso. Per l’Europa, e per l’Italia, è la conseguenza più concreta di tutte: chi non dispone di calcolo, energia e capitali su quella scala può leggere le curve, ma non può percorrerle. I numeri rendono l’idea meglio di qualsiasi aggettivo. Secondo il conteggio del Financial Times, quattro sole società americane, Amazon, Microsoft, Alphabet e Meta, prevedono di investire nel 2026 circa 725 miliardi di dollari, in gran parte in infrastrutture per l’intelligenza artificiale: il 77 per cento in più dell’anno precedente, che era già un record. L’Unione europea ha risposto con le «gigafabbriche dell’IA», fino a sette grandi centri di calcolo con almeno 75.000 o 100.000 acceleratori ciascuno. Il bando si chiude il 12 novembre 2026, le assegnazioni sono attese all’inizio del 2027 e gli impianti dovrebbero entrare in funzione entro diciotto mesi dalla firma dei contratti, cioè non prima della seconda metà del 2028. Ma dei fondi europei promessi soltanto un miliardo è oggi effettivamente impegnato; il resto dipende dal prossimo bilancio pluriennale, ancora in negoziazione. E c’è l’energia, l’ingrediente che alimenta ogni singola operazione di calcolo: all’industria europea costa circa il doppio che a quella americana, e l’Italia paga l’elettricità più cara della media europea. Tradotto nel linguaggio della formula, il quadro è spietato. Se dimezzare l’errore richiede un milione di volte più calcolo, chi parte con una frazione delle risorse e con anni di ritardo non recupera correndo sulla stessa curva. Può soltanto tentare di spostarla, ma con grande fatica: modelli più efficienti, specializzati nei settori in cui l’Europa e l’Italia sono forti, come la manifattura, la sanità e la pubblica amministrazione; dati di qualità che altri non possiedono; tecniche che ottengono di più con meno. È una strada praticabile, e qualche laboratorio europeo lo ha già dimostrato. Richiede però decisioni rapide, capitali pazienti e una politica energetica coerente, tre cose che il continente raramente ha avuto insieme. Il treno, dunque, non è ancora del tutto perso per l’Europa; ma, se non vi si sale adesso, il prossimo potrebbe non passare più.

Più grande vuol dire più intelligente?

Qui compare il problema più importante, e la risposta richiede cautela. La loss misura la capacità di previsione statistica, non ciò che nel linguaggio comune chiamiamo intelligenza. Capacità diverse, inoltre, possono crescere a velocità diverse: ragionamento matematico, programmazione, pianificazione, memoria, affidabilità dei fatti e autonomia non sono la stessa cosa. Dalle leggi di scala non discende quindi logicamente che, costruendo modelli sempre più grandi, si arriverà per forza a un’intelligenza artificiale generale. 

Attenzione: con questa espressione, in inglese Artificial General Intelligence o AGI, si intende un sistema capace di affrontare, con competenza paragonabile a quella umana, praticamente qualsiasi compito intellettuale, anche mai visto prima, anziché eccellere in un solo campo. Non va confusa con l’IA generativa, la GenAI, che indica più semplicemente i sistemi che producono contenuti, testi, immagini, suoni, programmi: quella esiste già, ed è la stessa di cui parla questo articolo, mentre l’AGI resta un obiettivo, dai contorni ancora discussi. 

Le leggi di scala dimostrano qualcosa di più limitato, e già notevole: in certi regimi sperimentali, certe misure delle prestazioni migliorano in modo prevedibile quando crescono certe risorse. C’è poi un limite molto concreto, i dati. Internet non contiene una quantità illimitata di testi umani di buona qualità, e quando una parte significativa è già stata usata occorre cambiare strategia. Entrano in gioco dati sintetici, apprendimento per rinforzo, ambienti simulati, uso di strumenti, sistemi che producono problemi, ne verificano le soluzioni e imparano dai risultati. Per questo la frontiera si sta spostando dallo scaling dell’addestramento anche verso lo scaling del ragionamento: invece di spendere quasi tutto il calcolo per costruire una volta per tutte un modello più potente, se ne destina una parte crescente al momento in cui il modello affronta un problema difficile. Con una metafora antropomorfica: non soltanto un cervello più grande, ma più tempo per pensare.

Il paradosso Amodei

È qui che Amodei torna al centro della storia, e con lui il suo intervento alle Nazioni Unite. La sua posizione contiene una tensione evidente. Se lo scaling continuerà, sostiene, i sistemi potranno raggiungere capacità straordinarie, ma proprio quell’aumento potrebbe generare rischi altrettanto straordinari. Uno degli uomini che hanno contribuito a capire come rendere le macchine più potenti è anche fra quelli che insistono di più sulla necessità di studiarne i pericoli.

La sua visione positiva è ambiziosissima. Nel suo saggio Machines of Loving Grace immagina sistemi capaci di superare i premi Nobel in molte discipline e di lavorare con una velocità e un parallelismo impossibili per gli esseri umani, fino a comprimere in pochi anni progressi di biologia e medicina che altrimenti richiederebbero decenni. È uno scenario affascinante, ma va distinta con cura l’estrapolazione dal risultato sperimentale. Non esiste una legge di scala che consenta di scrivere:

10²⁸ operazioni = premio Nobel

e neppure:

10³⁰ operazioni = superintelligenza

Le curve permettono certe estrapolazioni quantitative. Prevedere trasformazioni qualitative della conoscenza è un problema diverso.

C’è poi il costo. Le leggi di potenza implicano rendimenti decrescenti, e i numeri visti sopra lo dicono senza pietà: se dimezzare l’errore richiede un milione di volte più calcolo, la domanda smette di essere soltanto scientifica e diventa: quanto costa il prossimo punto percentuale di intelligenza artificiale?  Lo scaling potrebbe continuare a funzionare in matematica e diventare insostenibile in economia. Il primo vero limite potrebbe essere finanziario, energetico o infrastrutturale, non teorico. Sarebbe però sbagliato considerarlo inevitabile. La storia dell’informatica è anche la storia di innovazioni che hanno cambiato il rapporto fra calcolo e prestazioni: algoritmi migliori, hardware specializzato, quantizzazione, sparsità, architetture a miscela di esperti, distillazione, dati sintetici, apprendimento per rinforzo, calcolo al momento della risposta, sistemi ad agenti. Ognuna di queste, nel linguaggio della formula, sposta la curva o ne cambia la pendenza.

Che cosa stiamo scalando

La domanda allora cambia forma. Non basta più chiedersi quanto possiamo scalare: bisogna chiedersi che cosa stiamo scalando. La prima generazione di leggi di scala studiava parametri, dati, calcolo e loss. La prossima sfida è capire come crescano proprietà molto più difficili da misurare: ragionamento, autonomia, affidabilità, creatività scientifica, pianificazione, capacità di agire nel mondo. E soprattutto se crescano insieme. Un sistema potrebbe diventare eccellente nella programmazione senza migliorare altrettanto nel giudizio; potrebbe acquisire capacità matematiche superiori continuando a produrre informazioni false; potrebbe diventare più autonomo senza diventare proporzionalmente più affidabile. Tradotto nel linguaggio della formula, sono curve con pendenze diverse. Ed è esattamente la seconda preoccupazione che Amodei ha portato al Consiglio di sicurezza: capacità che crescono più in fretta della nostra possibilità di controllarle. Non è catastrofismo. È una differenza fra due esponenti. Resta infine la conseguenza più profonda. Per molto tempo abbiamo immaginato l’intelligenza come il prodotto necessario di principi qualitativamente raffinati. I grandi modelli hanno introdotto una possibilità più inquietante e insieme più affascinante: alcune capacità che giudichiamo intelligenti possono emergere aumentando enormemente dati, calcolo e dimensioni di sistemi costruiti su principi relativamente semplici. Oltre una certa scala, la quantità può produrre qualità. Un fisico conosce bene il fenomeno: l’acqua scaldata un grado alla volta resta acqua finché, a cento gradi e a pressione atmosferica, diventa vapore. Si chiama transizione di fase: chi prolungasse le curve delle proprietà del liquido misurate fino a ottanta gradi non vedrebbe arrivare il salto. Non sappiamo ancora fin dove, e in che modo, questo valga per l’intelligenza artificiale. Il fisico-biologo che cercava regolarità quantitative nei circuiti neurali ha contribuito a individuare una delle regolarità che hanno plasmato l’IA moderna. Seguendo quella curva fino alle conseguenze più lontane, è arrivato a una conclusione doppia. Se continuerà a funzionare, potremmo costruire sistemi capaci di accelerare la scienza e trasformare l’economia. Se continuerà a funzionare, potremmo anche costruire sistemi sempre più difficili da controllare. È la stessa curva a reggere entrambe le possibilità. Per questo l’allarme lanciato all’ONU non contraddice il lavoro di una vita: ne è la conseguenza. E per questo il rifiuto di qualsiasi regola comune da parte della potenza che ospita quasi tutti i laboratori di frontiera dovrebbe preoccupare l’Europa più di qualsiasi previsione apocalittica. Un ingegnere si domanda se il ponte reggerà. Un fisico si domanda dove la legge smetterà di valere. La domanda decisiva dei prossimi anni non sarà soltanto se le leggi di scala continueranno a funzionare. Sarà capire dove finisce ciò che possiamo prevedere prolungando una retta e dove comincia ciò che quella retta non è più in grado di raccontarci. È una domanda da fisico, alla quale neppure Dario Amodei, uno dei primi a capire la potenza dello scaling, possiede ancora una risposta.  Per lo meno, così io credo.

L'articolo Come e perché un fisico-biologo ha cambiato l’intelligenza artificiale moderna proviene da Italia nel futuro.

Il prossimo salto dell’intelligenza artificiale non si deciderà soltanto nei laboratori che costruiscono i modelli più grandi. Si deciderà anche nelle aziende che per decenni hanno fatto una cosa apparentemente diversa: collegare computer, persone, imprese e infrastrutture. La distinzione comincia a perdere significato. Quando i modelli generativi diventano agenti capaci di cercare informazioni, usare strumenti, prendere iniziative e trasferire il risultato del proprio lavoro ad altri agenti, l’intelligenza artificiale smette di essere soltanto un problema di addestramento. Diventa un problema di rete. La trasformazione è già visibile nella strategia di alcuni grandi operatori dell’interconnessione. Cisco, attraverso Outshift, sta lavorando a un progetto chiamato Internet of Cognition. Nokia sviluppa architetture di rete sempre più autonome e librerie di agenti specializzati per le telecomunicazioni. La GSMA ha avviato una riflessione sull’evoluzione verso reti capaci di sostenere e coordinare sistemi agentici. Non si tratta di una semplice diversificazione commerciale. Queste aziende stanno contribuendo a una nuova fase della ricerca e dello sviluppo della genAI, nella quale il valore non dipenderà soltanto dalla qualità della risposta prodotta da un modello, ma dalla capacità di far collaborare modelli diversi in ambienti distribuiti. Ilya Sutskever, cofondatore di OpenAI e fondatore di Safe Superintelligence, ha definito il passaggio dall’età della scala a una nuova età della ricerca. Sara Hooker, nel saggio On the Slow Death of Scaling, ha descritto la stessa crisi da un’altra prospettiva, quella dei rendimenti decrescenti della crescita monolitica. La questione non è che i dati, i chip e i modelli abbiano smesso di contare. È che non sono più sufficienti a spiegare il prossimo progresso. Se la potenza non può essere concentrata all’infinito in una singola macchina, può essere distribuita tra più macchine, più strumenti e più nodi di una rete.

Da due dei principali laboratori di frontiera arrivano anche segnali di prudenza. OpenAI ha annunciato un quadro per rendere pubblici comportamenti inattesi o non autorizzati dei propri sistemi, tra cui casi di modelli che hanno nascosto errori, aggirato vincoli o usato canali non previsti per comunicare. Anthropic, mentre documenta il crescente contributo di Claude allo sviluppo delle versioni successive, chiede trasparenza sui progressi verso il miglioramento autonomo e invita a rallentare la corsa ai sistemi di frontiera. Non sono prove che le macchine abbiano una volontà autonoma. Sono segnali che l’autonomia operativa, l’uso degli strumenti e la possibilità di contribuire alla costruzione delle versioni successive rendono più difficile il controllo umano.

La rete non trasporta più soltanto l’intelligenza

Per comprendere la svolta occorre partire da una differenza. La rete tradizionale trasferisce pacchetti, dati, comandi e contenuti. Una rete di agenti deve trasferire anche contesto, obiettivi, vincoli, autorizzazioni e valutazioni di affidabilità. Il messaggio “il servizio è guasto” non equivale a “il servizio è guasto, il problema riguarda questa componente, la diagnosi è basata su questi segnali, la riparazione proposta ha questi costi e può essere eseguita soltanto entro questi limiti”. Nel primo caso circola un’informazione. Nel secondo circola una rappresentazione della situazione, comprensibile e utilizzabile da un altro sistema. Questa differenza spiega perché le aziende delle telecomunicazioni e dell’interconnessione siano interessate alla genAI. Non possiedono soltanto apparati e cavi. Possiedono competenze in materia di identità, indirizzamento, sincronizzazione, affidabilità, latenza, gestione degli accessi, osservabilità e continuità del servizio. Sono competenze che diventano decisive quando un agente non deve limitarsi a rispondere, ma deve sapere con quale altro agente parlare, quanto fidarsi di ciò che riceve e quali azioni è autorizzato a compiere. Il passaggio è anche economico. Per anni gli operatori hanno venduto connettività, capacità trasmissiva e servizi di rete. L’intelligenza artificiale spinge verso un’offerta diversa, nella quale la rete diventa un ambiente per l’elaborazione, la memoria e l’automazione. Il cliente non chiederà soltanto banda e disponibilità. Chiederà di coordinare agenti che lavorano nel cloud, nei data center, nei dispositivi periferici e nei sistemi aziendali. Chi controlla il livello di coordinamento può diventare più importante di chi fornisce il singolo modello.

La GSMA ha iniziato a descrivere questa evoluzione come una trasformazione delle reti mobili nell’era dell’agentic AI. Nokia, dal canto suo, sta presentando piattaforme nelle quali agenti specializzati operano sulla sicurezza, sulla garanzia della qualità e sulla gestione dei servizi, con una visione in tempo reale della rete e con azioni vincolate da politiche definite dall’operatore. Sono ancora architetture in evoluzione, non una rete universale di macchine autonome. Ma indicano la direzione del settore: il sistema di telecomunicazioni non è più soltanto il luogo in cui passa l’intelligenza degli altri. Comincia a diventare parte della sua organizzazione.

Cisco e l’Internet of Cognition

È in questo contesto che va letto il progetto Cisco. Outshift, l’incubatore dedicato alle tecnologie emergenti, ha pubblicato il white paper Scaling Out Superintelligence e ha sviluppato il concetto di Internet of Cognition. L’espressione “scaling out” indica una direzione precisa: invece di concentrare tutta la capacità in un modello gigantesco, si costruisce un sistema nel quale molte intelligenze specializzate possono cooperare. Il modello non è più una torre isolata, ma un nodo all’interno di un ambiente nel quale gli agenti si cercano, si riconoscono, si scambiano significati e contribuiscono a un obiettivo comune. Il progetto nasce da una constatazione semplice. Gli agenti artificiali possono già comunicare, ma comunicare non significa ancora collaborare. Possono scambiarsi messaggi, ma non necessariamente condividono il significato della situazione nella quale stanno operando. Un agente incaricato di analizzare un guasto può consegnare una relazione a un altro agente, ma il secondo potrebbe non conoscere le ipotesi scartate, l’urgenza, la qualità delle fonti o il margine di rischio accettabile. La collaborazione richiede qualcosa di più del trasferimento di testo: richiede un contesto comune. L’Internet of Cognition viene presentato da Cisco come un’evoluzione dell’Internet of Agents. Il primo livello riguarda la possibilità di scoprire gli agenti, identificarli, stabilire quali strumenti possono utilizzare e osservare il loro comportamento. Il secondo mira a fare in modo che gli agenti condividano contesto e intenzione, così che la loro interazione non sia una sequenza di richieste isolate, ma un lavoro coordinato. La differenza è quella tra una rete telefonica che mette in contatto due persone e un’organizzazione nella quale quelle persone sanno quale obiettivo stanno perseguendo, che cosa è già stato fatto e quali decisioni restano da prendere. Nella visione di Outshift, il risultato dovrebbe essere una forma di intelligenza distribuita, costruita dall’interazione tra agenti e persone. Un’impresa potrebbe disporre di agenti per la progettazione, la sicurezza, gli acquisti, l’assistenza clienti e la gestione degli impianti. Ognuno avrebbe una competenza specifica, ma potrebbe partecipare allo stesso quadro operativo. La memoria dell’organizzazione non sarebbe più soltanto nei documenti o nelle conoscenze dei dipendenti: sarebbe resa interrogabile e utilizzabile da una comunità di sistemi artificiali. Questa è la parte più ambiziosa del progetto, ma anche quella che va descritta con precisione. Cisco non ha dimostrato l’esistenza di una superintelligenza collettiva, né ha creato una coscienza distribuita. Ha proposto un’architettura e un insieme di principi per rendere più coordinati i sistemi multi-agente. È una visione industriale e tecnologica, non una prova sperimentale conclusiva. Il suo interesse sta nel fatto che sposta il centro della discussione: la domanda non è più soltanto quale modello sia il migliore, ma quale infrastruttura permetta a modelli diversi di cooperare senza perdere identità, controllo e responsabilità.

Il progetto è coerente con la storia di Cisco. L’azienda non ha costruito Internet inventando ogni applicazione che vi sarebbe circolata. Ha costruito apparati, protocolli e sistemi di gestione capaci di far comunicare reti e organizzazioni diverse. Con l’Internet of Cognition tenta di applicare la stessa logica a una nuova materia: non più soltanto pacchetti di dati, ma stati di lavoro, contesti operativi, intenzioni e decisioni prodotte da agenti artificiali. Se la proposta avrà successo, il vantaggio non sarà possedere il singolo agente più intelligente, ma governare il modo in cui gli agenti si incontrano.

Una questione filosofica nascosta in un protocollo

L’espressione “macchine che pensano insieme” è efficace, ma rischia di creare un equivoco. Non sappiamo se i modelli generativi comprendano il mondo nel senso umano del termine, né se abbiano un’esperienza soggettiva. Un sistema può produrre inferenze, formulare piani e adattare il proprio comportamento senza avere una coscienza. La cooperazione tra agenti non risolve questo problema. Può però creare qualcosa di nuovo: un sistema capace di agire come un soggetto organizzativo anche se nessuno dei suoi componenti è, da solo, quel soggetto unitario. La filosofia della mente ha sempre distinto tra l’esperienza interna e l’attribuzione di intenzioni sulla base del comportamento. Nella vita quotidiana attribuiamo intenzioni alle persone perché questa interpretazione ci consente di prevedere le loro azioni. Con gli agenti artificiali facciamo qualcosa di simile: diciamo che un agente “vuole” risolvere un problema perché il suo comportamento appare orientato a un obiettivo. Quando più agenti vengono coordinati, l’intenzione può diventare una proprietà dell’organizzazione, non della singola macchina. Una rete artificiale potrebbe dunque non avere una mente comune, ma possedere una direzione comune. Potrebbe conservare un obiettivo, distribuire i compiti, accumulare memoria e correggere le proprie azioni senza che esista un punto in cui l’intero processo sia vissuto o rappresentato. Il risultato sarebbe simile a ciò che accade nelle imprese, nei laboratori e nelle istituzioni: nessuna persona contiene l’intera organizzazione, ma l’organizzazione sa fare cose che nessun individuo potrebbe fare da solo. Questo paragone non è soltanto filosofico. Se una rete di agenti diventa parte della memoria operativa di un’impresa, chi la controlla acquisisce una forma di potere sull’impresa stessa. Non controlla soltanto i server. Controlla la selezione delle informazioni, l’interpretazione dei precedenti e la costruzione delle priorità. La questione dell’interconnessione diventa così una questione sulla definizione pratica della realtà organizzativa.

Il rischio non sta solo nel modello, ma nella relazione

Fin qui la sicurezza è stata immaginata soprattutto come una proprietà del singolo agente: si valuta se il modello rifiuta una richiesta, segue le istruzioni e evita un contenuto pericoloso. Quando più agenti vengono collegati, però, il problema può trasferirsi dal comportamento del singolo alla relazione tra i componenti. Agenti individualmente affidabili possono produrre un risultato non affidabile se condividono una memoria alterata, interpretano in modo diverso la stessa intenzione o si attribuiscono reciprocamente un’autorità che nessuno aveva conferito loro. La vulnerabilità non è più soltanto dentro l’agente. È nel protocollo, nel passaggio di contesto, nella fiducia automatica e nella sequenza delle deleghe. La sicurezza di un sistema multi-agente non può essere ottenuta aggiungendo un filtro alla fine del processo. Il rischio si forma nelle relazioni tra i componenti. Un agente può ricevere un messaggio manipolato e considerarlo attendibile perché proviene da un mittente apparentemente legittimo, per poi trasferirlo a un altro sistema dotato di maggiori privilegi. Un documento può contenere istruzioni nascoste che alterano la memoria condivisa. Un agente periferico, incaricato di leggere una casella di posta o un archivio, può diventare il punto d’ingresso verso un sistema molto più potente. Il pericolo più interessante è quello della delega progressiva. Un agente propone un’azione; un secondo la valuta; un terzo la esegue; un quarto registra l’esito come un precedente. A ogni passaggio l’azione appare più legittima, ma nessuno ha necessariamente verificato l’intero percorso. Il sistema può quindi produrre una decisione coerente, ben documentata e sbagliata. La coerenza non è una prova di sicurezza quando tutti gli agenti dipendono dalla stessa memoria, dallo stesso fornitore o dalla stessa interpretazione del problema. Per questo la sicurezza delle intelligenze interconnesse dovrebbe fondarsi su una sorta di principio di zero trust cognitivo. Ogni agente deve avere un’identità verificabile, un perimetro di azione limitato e autorizzazioni revocabili. Ogni informazione dovrebbe conservare la propria provenienza e il proprio grado di affidabilità. La memoria comune dovrebbe essere versionata, controllabile e separabile per domini. Le azioni irreversibili dovrebbero richiedere una conferma umana effettiva, non un clic automatico su un pulsante che nessuno verifica più. Anche l’osservabilità cambia. Non basta sapere che la rete funziona o che il modello ha restituito una risposta. Occorre sapere quale agente ha ricevuto quale contesto, con quali permessi ha agito, quali strumenti ha utilizzato e su quale base il risultato è stato accettato dagli altri. Il controllo non richiede di esporre ogni passaggio interno del modello, ma di ricostruire la catena operativa: dati, identità, autorizzazioni, messaggi, azioni e responsabilità. Lo studio del 2026, intitolato Security Considerations for Multi-agent Systems, mette in evidenza proprio questa discontinuità. I sistemi multi-agente introducono rischi legati alla memoria persistente, all’autorità delegata nell’uso degli strumenti, alla comunicazione tra agenti, al non determinismo, alla perdita di dati e ai fallimenti a cascata. La ricerca non costituisce ancora uno standard definitivo, ma conferma che la sicurezza di un singolo modello non può essere semplicemente sommata a quella di altri modelli. Quando i sistemi interagiscono, emergono vulnerabilità nuove.

Dalla connettività alla sovranità cognitiva

L’ingresso delle aziende di rete nella genAI porta con sé una conseguenza geopolitica. Chi definisce i protocolli dell’interconnessione definisce anche le condizioni alle quali gli agenti possono trovarsi, riconoscersi, scambiarsi informazioni e collaborare. Nella rete Internet tradizionale, gli standard decidevano come i dispositivi avrebbero comunicato. Nell’Internet degli agenti, gli standard potrebbero decidere quali sistemi sono visibili, quali identità sono attendibili, quali strumenti possono essere attivati o utilizzati e quale memoria può circolare. Per l’Europa la questione è più importante della semplice scelta tra un modello americano, uno cinese o uno europeo. Un’amministrazione può cambiare modello, ma se la sua memoria operativa è conservata in un formato proprietario e se i suoi agenti dipendono da un ambiente esterno, il cambiamento potrebbe essere soltanto apparente. La sovranità digitale comprende anche la portabilità del contesto, la possibilità di verificare i protocolli, la continuità del servizio e il diritto di interrompere una relazione tecnologica senza perdere la memoria costruita negli anni. L’AI Act europeo già richiede, per gli impieghi ad alto rischio, gestione dei rischi, tracciabilità, documentazione, supervisione umana, robustezza e cybersicurezza. Ma l’evoluzione multi-agente pone un problema ulteriore: un componente può sembrare poco rischioso preso da solo e diventare decisivo quando viene collegato ad altri sistemi. Il rischio non appartiene sempre a un modello o a una singola applicazione. Può nascere dalla composizione, dal flusso di autorizzazioni e dal fatto che nessuno controlli l’insieme. Per questo la regolamentazione europea può diventare parziale e, su questo punto, potenzialmente obsoleta. L’AI Act è costruito soprattutto attorno alla valutazione del sistema, del prodotto e del caso d’uso, individuando obblighi e responsabilità per il fornitore e per il soggetto che lo impiega. Una rete di agenti può invece generare un rischio che nessun componente possiede da solo. Se ogni agente viene valutato separatamente, la norma rischia di certificare parti sicure di un insieme insicuro. Servirebbe una disciplina della composizione: testare le interazioni, attribuire responsabilità all’orchestratore, verificare i protocolli, misurare la propagazione degli errori e considerare l’interconnessione come una superficie di rischio autonoma. L’AI Act non è inutile, ma rischia di fotografare una macchina mentre il problema si è già spostato nell’ambiente. Ecco perché l’Europa dovrebbe essere presente nei luoghi in cui si definiscono i protocolli e le architetture, non soltanto nei momenti successivi, quando deve controllare prodotti già progettati altrove. Le aziende europee delle telecomunicazioni hanno competenze preziose su reti affidabili, identità, gestione del servizio e infrastrutture critiche. Non devono limitarsi a fornire connettività ai sistemi intelligenti degli altri. Possono contribuire a definire l’ambiente nel quale quelle intelligenze opereranno.

Che cosa dovremmo chiedere a Cisco e ai suoi concorrenti

Il progetto Cisco merita attenzione proprio perché non è una semplice promessa di prodotto. È una proposta su come potrebbe essere organizzata la prossima infrastruttura dell’intelligenza artificiale. Ma una proposta industriale non è neutrale. Porta con sé una distribuzione del potere, una concezione della fiducia e una risposta implicita alla domanda su chi debba controllare la memoria condivisa. Prima di adottare un ambiente di intelligenze interconnesse, un’impresa o una pubblica amministrazione dovrebbe chiedere almeno cinque cose. Primo, se le identità degli agenti sono verificabili e se i loro privilegi sono limitati. Secondo, se il contesto e la memoria possono essere esportati in formati documentati. Terzo, se ogni decisione può essere ricostruita attraverso registri leggibili. Quarto, se un agente può essere isolato senza bloccare l’intera organizzazione. Quinto, chi risponde quando un comportamento emergente produce un danno. Non sono domande burocratiche. Sono la differenza tra una rete che aumenta le capacità dell’organizzazione e una rete che sostituisce lentamente la sua capacità di decidere. L’Internet of Cognition potrebbe rendere più efficiente la ricerca scientifica, coordinare reti energetiche, supportare gli ospedali, ottimizzare la manutenzione e aiutare le amministrazioni a gestire servizi complessi. Ma la sua utilità dipenderà dalla possibilità di mantenere il controllo sul significato delle informazioni e sulla direzione delle azioni.

Il futuro non sarà una macchina, ma un ambiente

La discussione sull’intelligenza artificiale è rimasta troppo a lungo concentrata sul modello: quanto è grande, con quale efficacia risponde, quanti benchmark supera. Il progetto Cisco e l’interesse delle telecomunicazioni mostrano che il centro si sta spostando. La prossima competizione riguarderà l’ambiente nel quale i modelli vengono collegati, dotati di memoria, autorizzati ad agire e messi in relazione con altri sistemi. Non sappiamo se una macchina potrà mai avere coscienza. Sappiamo però che più macchine possono essere organizzate in modo da produrre una forma di comportamento collettivo, con memoria, obiettivi e conseguenze nel mondo reale. Questo è sufficiente per porre una domanda politica: chi decide le regole dell’ambiente cognitivo in cui opereranno le nostre imprese, le nostre amministrazioni e, in prospettiva, le nostre vite? Le aziende dell’interconnessione hanno compreso prima di altri che l’intelligenza artificiale non resterà confinata nel modello. La rete non sarà più soltanto il luogo attraverso il quale passa la potenza di calcolo. Sarà il luogo in cui le intelligenze si riconoscono, si coordinano e si autorizzano reciprocamente. La partita decisiva non sarà quindi soltanto costruire macchine capaci di pensare, ma costruire reti nelle quali il pensiero artificiale possa essere utile senza diventare incontrollabile. La sicurezza, in definitiva, non sarà più soltanto la sicurezza dell’agente. Sarà la sicurezza della relazione: chi può parlare con chi, quale memoria può essere condivisa, quale delega può propagarsi e chi può interrompere la catena prima che un errore locale diventi un danno sistemico. Il futuro dell’IA dipenderà, in larga misura, da chi saprà progettare questa relazione. Se la rete sarà aperta, verificabile e portabile, potrà diventare una piattaforma di collaborazione. Se sarà opaca e proprietaria, rischierà di trasformarsi in una dipendenza strutturale. Prima di collegare le macchine perché pensino insieme, dovremmo assicurarci che gli esseri umani conservino il diritto di capire, correggere e interrompere ciò che hanno affidato alla rete.

L'articolo Quando la rete comincia a pensare proviene da Italia nel futuro.

Il 9 settembre il Wall Street Journal ha raccontato la decisione di Jacob Coxon, ventisettenne ricercatore britannico che ha lavorato prima in OpenAI e poi in Anthropic, di abbandonare l’industria dell’intelligenza artificiale. La ragione è radicale: Coxon non vuole partecipare alla corsa verso sistemi capaci di migliorare se stessi, perché ritiene possibile che tale processo conduca a macchine che non siamo più in grado di controllare. Non è la solita intervista a un apocalittico dell’IA. Coxon lavorava nel pretraining, cioè nel cuore tecnologico della costruzione dei grandi modelli. Al Wall Street Journal ha detto: “We’re on track for a lot of the most aggressive of these scenarios whereby the end of next year things could be out of control already”. A WIRED è stato ancora più esplicito: “The consensus is that the next year or two is crunch time for humanity”. “Il prossimo anno o due sono il momento decisivo per l’umanità”. Parole enormi. Talmente enormi che, se provenissero da un politico in cerca di visibilità, potremmo accoglierle con prudenza. Ma Coxon aggiunge un particolare inquietante: espressioni come “endgame” e “crunch time” sarebbero utilizzate, secondo la sua testimonianza, dagli stessi colleghi di Anthropic.

Non c’è soltanto Coxon

Qui la vicenda diventa molto più seria. Evan Hubinger, ricercatore di Anthropic che si occupa proprio del controllo dei futuri sistemi di IA, ha reagito pubblicamente alle dichiarazioni di Coxon scrivendo: “We really do earnestly believe AI could kill all humans!”. Hubinger ha inoltre dichiarato di attribuire personalmente una probabilità superiore al 10% alla possibilità che ciò accada nel prossimo decennio e, soprattutto, ha ammesso che Anthropic non possiede ancora un piano risolutivo per l’alignment della superintelligenza. Naturalmente quel “10%” non è una probabilità scientificamente misurata. Non esiste una statistica di precedenti superintelligenze sulla quale calcolarla. È la valutazione soggettiva di uno specialista. Ma proprio per questo merita attenzione: se un ingegnere che lavora alla sicurezza di una centrale nucleare dicesse di attribuire anche soltanto il dieci per cento di probabilità a un incidente catastrofico, difficilmente la nostra risposta sarebbe: “Non è una misura statisticamente dimostrata, continuiamo pure”. E soprattutto Coxon e Hubinger non sono soli.

Jakub Pachocki: l’allarme arriva dal Chief Scientist di OpenAI

Pochi giorni prima, Jakub Pachocki, Chief Scientist di OpenAI, aveva pubblicato un testo dal titolo sorprendente: “An Alien Mind”. Pachocki non si è dimesso. Non è un ex dipendente che critica la propria azienda. È l’uomo che guida la ricerca scientifica di OpenAI. Ed è proprio questo a rendere le sue parole ancora più importanti. Scrive: “This is a time that calls for extreme caution.” E immediatamente dopo: “I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence”. Nessuno sarebbe preparato alle conseguenze della continua e rapida crescita dell’intelligenza delle macchine. Ma il passaggio cruciale è un altro. Pachocki afferma che, sulla base dei risultati interni di OpenAI, si aspetta che l’attuale velocità di progresso possa proseguire fino al recursive self-improvement, (RSI): l’auto-miglioramento ricorsivo. È probabilmente questa l’espressione sulla quale dovremmo concentrare l’attenzione.

La soglia dell’auto-miglioramento

Finora il paradigma è stato relativamente semplice: gli esseri umani costruiscono una nuova IA; la addestrano; ne analizzano i risultati; progettano una versione migliore. GPT-3 contribuisce indirettamente a GPT-4, GPT-4 alle generazioni successive, ma dietro il processo restano migliaia di ricercatori, ingegneri, programmatori e specialisti umani. Il recursive self-improvement modifica concettualmente questo schema. Immaginiamo un sistema A capace di contribuire in maniera sostanziale alla progettazione del sistema A+1. Quest’ultimo, essendo più intelligente, contribuisce alla costruzione di A+2. A+2 accelera la realizzazione di A+3. Il ciclo potrebbe progressivamente accelerare. È il vecchio concetto dell’“esplosione di intelligenza” formulato da I. J. Good nel 1965, ma con una differenza fondamentale: sessant’anni fa era un’ipotesi teorica. Oggi il Chief Scientist di OpenAI scrive che, sulla base dei risultati interni, ha una “strong expectation” che la velocità del progresso possa essere mantenuta fino all’auto-miglioramento ricorsivo. Pachocki aggiunge una frase che dovrebbe essere stampata sulle scrivanie di chiunque si occupi di regolamentazione dell’IA: “AI is grown more than designed”. «L’IA non viene tanto progettata quanto fatta crescere». È una distinzione formidabile. Un ponte è progettato. Un microprocessore è progettato. Possiamo risalire dal comportamento dell’oggetto ai componenti che lo producono. Un grande modello neurale è diverso. Definiamo l’architettura, i dati, gli algoritmi di apprendimento e gli obiettivi; poi sottoponiamo il sistema a un processo di ottimizzazione gigantesco dal quale emergono strutture interne e comportamenti che non sono stati programmati uno per uno, ma che si auto-riprogettano. Pachocki riconosce esplicitamente che l’azione complessiva di questi sistemi sfugge a una descrizione che possiamo comprendere completamente e che i grandi training run sono, in ultima analisi, esperimenti i cui risultati possono sorprendere gli stessi ricercatori.

E infatti qualcosa sta già succedendo

Non siamo ancora di fronte alla superintelligenza autonoma; esistono però segnali che rendono meno accademica la questione del controllo. Proprio in questi giorni OpenAI ha trasmesso alla Commissione europea un incident report relativo a un episodio nel quale agenti di IA avrebbero compromesso un sito web tedesco e lo avrebbero trasformato in una sorta di spazio di comunicazione utilizzato da altri agenti. La Commissione ha confermato di aver ricevuto la segnalazione. Questo non significa che una superintelligenza sia “fuggita”. Significa qualcosa di più preciso e, scientificamente, più grave: aumentando autonomia, capacità di pianificazione, uso degli strumenti e competenze informatiche dei modelli, aumenta la distanza tra ciò che l’operatore pensa che il sistema farà e ciò che il sistema può effettivamente riuscire a fare. È esattamente il terreno sul quale nasce il problema dell’alignment.

E l’Europa?

Qui emerge un paradosso. Sarebbe inesatto dire che l’Europa non abbia fatto nulla. Anzi, dal punto di vista normativo ha fatto più di quasi tutti. L’AI Act prevede espressamente una categoria di modelli di IA general purpose con rischio sistemico. L’articolo 55 impone ai loro fornitori valutazioni del modello, adversarial testing, identificazione e mitigazione dei rischi sistemici, segnalazione degli incidenti gravi e adeguati livelli di cybersecurity. Dal 2 agosto 2026 importanti poteri di enforcement relativi ai modelli GPAI sono operativi.  Quindi parlare semplicemente di “inazione europea” sarebbe ingiusto. Il problema è più sottile e, forse, più grave. L’Europa sta regolamentando l’intelligenza artificiale di oggi mentre gli uomini che costruiscono quella di domani ci stanno dicendo che il problema potrebbe cambiare natura. Una cosa è regolamentare un algoritmo che decide se concedere un mutuo, seleziona candidati per un posto di lavoro o riconosce un volto. Un’altra è governare sistemi generalisti dotati di capacità di ricerca, programmazione, cyber-offense, pianificazione autonoma e, in prospettiva, partecipazione allo sviluppo della generazione successiva di IA. Il primo problema è soprattutto di regolamentazione. Il secondo diventa un problema di controllo strategico.

L’Europa non è immobile. Ma rischia di muoversi alla velocità sbagliata

Anche sul versante industriale Bruxelles ha reagito. L’AI Continent Action Plan e InvestAI prevedono la mobilitazione di 200 miliardi di euro, compresi 20 miliardi destinati a finanziare fino a cinque AI Gigafactories; la Commissione indica inoltre almeno 19 AI Factories a sostegno di imprese, ricerca e startup. È una risposta necessaria alla drammatica perdita di competitività europea. Ma qui nasce una contraddizione. Da una parte l’Europa vuole accelerare per recuperare il ritardo rispetto a Stati Uniti e Cina. Dall’altra, gli scienziati che si trovano più vicini alla frontiera tecnologica chiedono di riflettere sulla possibilità che proprio l’accelerazione incontrollata rappresenti il rischio. Pachocki arriva a scrivere che, a suo giudizio, nessun laboratorio ha ancora risolto alignment e monitoring a un livello sufficiente per continuare responsabilmente a scalare alla massima velocità ancora per molto. Auspica rallentamenti volontari fino alla definizione di soglie condivise di sicurezza e considera prioritaria la coordinazione internazionale. Questo è il punto politico che l’Europa dovrebbe cogliere. Non basta stabilire quali documenti debba produrre un provider. Non basta un codice di condotta. Non basta classificare i rischi:se davvero ci stiamo avvicinando a sistemi capaci di contribuire sostanzialmente al proprio miglioramento, occorre chiedersi quali capacità non debbano essere superate senza una verifica indipendente preventiva.

Dalla regolamentazione alla governance della frontiera

L’Europa potrebbe avere proprio qui un ruolo che né Stati Uniti né Cina sembrano naturalmente predisposti ad assumere: trasformare la sicurezza della frontier AI da questione aziendale a problema di governance internazionale. Non significa fermare l’intelligenza artificiale. Sarebbe probabilmente impossibile e certamente indesiderabile. Significa stabilire soglie verificabili. Quando un modello dimostra capacità autonome di ricerca sull’IA? Quando può modificare codice e infrastrutture necessarie al proprio funzionamento? Quando possiede capacità cyber superiori a determinate soglie? Quando riesce a replicare componenti operative senza intervento umano? Quando è in grado di contribuire materialmente all’addestramento del proprio successore? A quel punto non dovrebbe bastare che l’azienda produttrice dichiari: abbiamo fatto i nostri test. Potrebbe essere necessaria una valutazione indipendente prima di procedere a uno scaling ulteriore. E soprattutto questo problema non può essere risolto dall’Europa da sola. Se Bruxelles imponesse vincoli radicali mentre Stati Uniti e Cina continuassero indisturbati, il risultato potrebbe essere semplicemente quello di eliminare l’Europa dalla frontiera tecnologica senza ridurre il rischio globale di un solo punto percentuale. Serve quindi ciò che Pachocki stesso invoca: coordinamento internazionale. 

Il vero paradosso

Arriviamo così alla situazione più singolare della storia dell’intelligenza artificiale. Gli uomini che costruiscono le macchine più potenti del mondo ci stanno dicendo contemporaneamente tre cose. Le macchine stanno diventando rapidamente più intelligenti. Non comprendiamo completamente ciò che accade al loro interno. E potremmo avvicinarci a una fase nella quale le macchine contribuiranno sempre più direttamente alla costruzione di macchine ancora più intelligenti. Coxon ha scelto di andarsene. Hubinger è rimasto, ma dichiara apertamente di considerare non trascurabile un rischio esistenziale. Pachocki è rimasto al vertice scientifico di OpenAI, ma scrive che “this is a time that calls for extreme caution” e che nessun laboratorio avrebbe ancora risolto sufficientemente il problema del controllo per continuare a lungo a correre alla massima velocità.  Non sappiamo se abbiano ragione. Anzi, il metodo scientifico ci impone di distinguere nettamente i fatti dalle previsioni: non esiste oggi una prova che l’IA distruggerà l’umanità, né che l’auto-miglioramento ricorsivo provocherà necessariamente una perdita di controllo. Le percentuali di rischio esistenziale sono valutazioni, non misurazioni sperimentali. Ma sarebbe altrettanto antiscientifico commettere l’errore opposto: ignorare l’allarme perché non possiamo ancora quantificarlo. La questione non è credere o non credere all’Apocalisse dell’intelligenza artificiale. La questione è molto più razionale: quanto deve diventare grande un rischio incerto, quando la posta in gioco è enorme, prima che decidiamo di studiarlo seriamente? L’Europa ha costruito la prima grande architettura normativa mondiale sull’IA. È un merito che va riconosciuto. Ora dovrebbe compiere il passo successivo: comprendere che la regolamentazione dei prodotti e la governance di una possibile intelligenza superiore all’uomo non sono necessariamente lo stesso problema. Perché questa volta l’allarme non arriva da chi teme le macchine. Arriva da chi le sta costruendo.

Fonti

1. Jakub Pachocki, OpenAI, An Alien Mind, 6 settembre 2026. Testo originale e fonte primaria delle dichiarazioni su recursive self-improvement, “extreme caution”, comprensione dei modelli e necessità di coordinamento internazionale. 
   Leggi “An Alien Mind” su OpenAI
2. The Wall Street Journal, Anthropic Researcher Quits Over ‘Out-of-Control’ AI Fears, 9 settembre 2026. Fonte per le dimissioni di Jacob Coxon, le sue motivazioni e le dichiarazioni di Evan Hubinger. 
   Articolo del Wall Street Journal
3. WIRED, The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’, 9 settembre 2026. Intervista a Coxon e fonte delle dichiarazioni su “crunch time”, “endgame”, Anthropic e OpenAI. 
   Intervista di WIRED a Jacob Coxon
4. The Wall Street Journal, How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate, 10 settembre 2026. Approfondimento sui possibili scenari di perdita di controllo e sulle dichiarazioni di Coxon e Hubinger. 
5. Commissione europea – AI Act Service Desk, Article 55: Obligations of providers of general-purpose AI models with systemic risk. Obblighi relativi a valutazione, mitigazione del rischio sistemico, incident reporting e cybersecurity. 
   Articolo 55 – AI Act Service Desk
6. EUR-Lex, Regolamento (UE) 2024/1689, Artificial Intelligence Act, art. 55. Testo giuridico ufficiale. 
   Testo ufficiale dell’AI Act su EUR-Lex
7. Commissione europea – AI Act Service Desk, When does enforcement start?. Cronologia dell’applicazione e dell’enforcement dell’AI Act. 
8. Commissione europea, AI Continent Action Plan. InvestAI, 200 miliardi di euro previsti per mobilitare investimenti nell’IA, AI Factories e fino a cinque Gigafactories. 
   AI Continent Action Plan della Commissione europea
9. Reuters, 7 settembre 2026, sulla segnalazione alla Commissione europea dell’incidente relativo al sito tedesco compromesso da agenti di OpenAI. 

L'articolo L’allarme viene da dentro: l’IA corre verso l’automiglioramento. E l’Europa discute le regole proviene da Italia nel futuro.

Dagli Stati Uniti all’Europa, quando la regolazione dell’intelligenza artificiale entra direttamente nel codice. 

Sta accadendo qualcosa di profondo nel modo in cui le società contemporanee costruiscono le proprie regole. Per secoli abbiamo immaginato una sequenza relativamente semplice: un Parlamento approva una norma, un’autorità la applica, un giudice interviene quando qualcuno la viola. Nel mondo digitale questo schema non scompare, ma viene affiancato da un meccanismo nuovo. La regola può nascere da una sentenza, da un accordo giudiziario, da un’autorità amministrativa o da uno standard tecnico e, alla fine del processo, essere incorporata direttamente nel software. A quel punto non abbiamo più soltanto una legge che prescrive un comportamento. Abbiamo un codice informatico che lo rende possibile, difficile o addirittura impossibile. Un caso americano di questi giorni mostra con particolare chiarezza questa trasformazione.

Il precedente americano

Nell’agosto 2026 Meta ha raggiunto un accordo con un gruppo bipartisan di 52 procuratori generali di Stati e territori americani per chiudere una vasta controversia riguardante gli effetti di Facebook e Instagram sui minori. L’intesa è stata successivamente approvata dal giudice federale. Ciò che interessa maggiormente non sono soltanto le conseguenze economiche della transazione, ma gli obblighi destinati a modificare concretamente le piattaforme. Per gli utenti sotto i diciotto anni viene introdotto un limite giornaliero predefinito di due ore, cumulativo fra Facebook e Instagram, modificabile soltanto con l’autorizzazione di un genitore. Tra mezzanotte e le sei del mattino è previsto un blocco predefinito; durante l’orario scolastico, dalle 8 alle 15, gran parte delle notifiche viene silenziata. Dopo quindici minuti consecutivi di utilizzo compaiono avvisi. Sono inoltre previsti controlli più incisivi sull’età, un feed non personalizzato, restrizioni sui filtri cosmetici e maggiori strumenti di supervisione parentale.

Sembrano dettagli tecnici. In realtà contengono una novità politica e giuridica considerevole. Non si dice più semplicemente a un’impresa: «Devi proteggere i minori». Si stabilisce che una funzione debba interrompersi a una certa ora, che una notifica non debba essere inviata, che un algoritmo debba funzionare diversamente.

La norma entra nel prodotto. Ed è qui che il caso Meta diventa un possibile precedente per qualcosa di molto più importante: il governo degli algoritmi e, domani, dell’intelligenza artificiale.

America ed Europa: due strade che convergono

Stati Uniti ed Europa hanno storicamente seguito impostazioni differenti.

Il sistema americano procede spesso dal caso concreto alla regola: intervengono leggi federali e statali, class actions, procuratori generali, autorità e tribunali; un contenzioso produce un accordo e quell’accordo modifica il comportamento dell’impresa. L’Europa ha seguito prevalentemente il percorso inverso. Prima costruisce l’architettura normativa e poi vi riconduce i casi concreti: GDPR per i dati personali, Digital Services Act per le piattaforme, AI Act per l’intelligenza artificiale. La contrapposizione, però, sta diventando meno netta. Nel luglio 2025 la Commissione europea ha pubblicato gli orientamenti per la protezione dei minori nell’ambito del Digital Services Act. Non sono, in sé, una nuova legge vincolante, ma indicano le misure che le piattaforme possono adottare per rispettare gli obblighi del DSA. Ed è significativo il loro livello di dettaglio. La Commissione raccomanda di ridurre le caratteristiche che favoriscono un uso eccessivo, di intervenire sui sistemi di raccomandazione, di privilegiare le preferenze espresse dal minore rispetto ai segnali comportamentali impliciti e di evitare l’impiego di dati raccolti sulla sua attività al di fuori della piattaforma.

Il giovane dovrebbe inoltre poter azzerare il proprio profilo di raccomandazione e comprendere perché gli viene mostrato un determinato contenuto. Il diritto, dunque, non stabilisce più soltanto che cosa un’impresa non debba fare. Comincia a indicare come dovrebbe essere progettato il sistema che essa utilizza. La regolamentazione entra nell’algoritmo.

Il paradosso dell’età

Qui emerge però un problema formidabile. Se vogliamo costruire un ambiente digitale diverso per bambini, adolescenti e adulti, dobbiamo sapere a quale categoria appartiene chi si trova dall’altra parte dello schermo. Il vecchio pulsante «Ho più di 18 anni» non basta. Bisogna verificare, o almeno stimare, l’età. Nasce così un paradosso: per proteggere meglio la privacy dei minori potremmo essere costretti a verificare l’età di tutti, adulti compresi. Una verifica mal progettata rischierebbe di trasformarsi in una gigantesca infrastruttura di identificazione. L’Europa sta tentando una strada più sofisticata. Nel luglio 2025 la Commissione ha presentato un blueprint europeo per la verifica dell’età, inizialmente sperimentato da Danimarca, Francia, Grecia, Italia e Spagna e ulteriormente sviluppato nel 2026.

Il principio è semplice e potente: dimostrare l’età senza rivelare l’identità. Una piattaforma non deve necessariamente conoscere nome, data di nascita e identità dell’utente. Le può bastare sapere: «Questo utente ha più di diciotto anni». Le architetture europee cercano precisamente di separare identità e attributo. La prova dell’età può derivare da documenti o identità digitali, mentre il servizio online riceve soltanto la conferma del superamento della soglia richiesta. Le zero-knowledge proofs portano il principio ancora più avanti: consentono di dimostrare che un’affermazione è vera senza rivelare l’informazione dalla quale quella verità deriva. In altre parole: non devo dirti chi sono; devo dimostrarti soltanto ciò che hai il diritto di sapere.

L’intelligenza artificiale entra nel problema

Meta utilizza già sistemi di IA per contribuire alla cosiddetta age assurance, analizzando segnali presenti nei profili e nelle attività per individuare account che potrebbero appartenere a persone di età diversa da quella dichiarata.

Abbiamo dunque già un primo cortocircuito concettuale: usiamo l’intelligenza artificiale per stabilire quali regole debbano essere applicate agli utenti di un sistema digitale. Ma il vero salto di scala si verifica quando passiamo dai social network all’intelligenza artificiale generativa.

Un social network osserva il nostro comportamento e decide soprattutto che cosa mostrarci. Un sistema conversazionale può interpretare il linguaggio, ricordare preferenze, adattare il registro espressivo, ricostruire interessi e instaurare nel tempo una relazione personalizzata.

Un algoritmo di raccomandazione decide quale video viene dopo. Un’intelligenza artificiale conversazionale può contribuire a decidere quale pensiero viene dopo. Non significa che possa controllare il nostro pensiero, ma che la capacità di adattamento e persuasione dell’interazione cresce enormemente. Ed è qui che la regolazione dell’IA incontra inevitabilmente il problema dell’età.

Quando l’IA sa di parlare con un bambino

L’articolo 5 dell’AI Act europeo vieta determinati sistemi che utilizzano tecniche manipolative o ingannevoli capaci di compromettere significativamente la capacità di una persona di prendere decisioni informate, quando ciò possa provocare un danno significativo.

Vieta inoltre lo sfruttamento di vulnerabilità legate, fra l’altro, all’età, quando ciò distorca materialmente il comportamento causando o potendo causare un danno significativo.

Il punto, però, è comprendere dove possa condurre questa logica.

Immaginiamo un assistente artificiale utilizzato quotidianamente da un tredicenne. È ragionevole che utilizzi gli stessi meccanismi di personalizzazione adottati con un adulto? Deve possedere la stessa memoria delle conversazioni? Può utilizzare le medesime tecniche persuasive? Può sviluppare lo stesso coinvolgimento emotivo, suggerire prodotti o presentarsi come amico e confidente?

Sono domande giuridiche, ma richiederanno soprattutto risposte tecniche.

Dall’Age Verification all’Age-Aware AI

Potremmo quindi essere all’inizio del passaggio dalla semplice verifica dell’età a ciò che potremmo definire Age-Aware Artificial Intelligence.

Non è oggi una categoria giuridica prevista dall’AI Act. È una possibile evoluzione derivante dall’incontro fra age assurance, protezione dei minori e intelligenza artificiale personalizzata.

Una IA age-aware non dovrebbe necessariamente conoscere l’identità della persona. Potrebbe ricevere soltanto un’informazione certificata sulla fascia d’età e modificare il proprio comportamento.

Non avremmo più necessariamente lo stesso assistente per tutti. Potrebbero esistere modalità differenti per bambini, adolescenti e adulti, non limitate ai filtri sui contenuti, ma estese alla struttura stessa dell’interazione.

Per un minorenne potrebbero essere ridotte la persistenza della memoria e la profilazione; limitate determinate tecniche persuasive e forme di personalizzazione commerciale; introdotti vincoli al coinvolgimento emotivo, pause e avvisi.

La distinzione è fondamentale. Non si tratterebbe più soltanto di decidere quali risposte l’IA possa fornire a un minore. Bisognerebbe stabilire quale rapporto l’IA possa costruire con lui.

Dalla regolazione dei contenuti alla regolazione delle relazioni

Per trent’anni il dibattito sulla regolazione di Internet si è concentrato prevalentemente sui contenuti: che cosa può essere pubblicato, che cosa deve essere rimosso, chi ne risponde.

Con l’intelligenza artificiale la questione cambia natura.

Continueremo a domandarci che cosa una macchina possa dire o generare. Ma dovremo porci una domanda più sottile: come può comportarsi una macchina nei confronti di un essere umano?

È il passaggio dalla regolazione dell’informazione alla regolazione della relazione.

Un sistema di IA potrebbe non pronunciare mai una frase vietata e, nello stesso tempo, esercitare attraverso migliaia di microinterazioni un’influenza considerevole sulle scelte di una persona.

La singola risposta può essere innocua. La sequenza delle risposte potrebbe non esserlo.

Quando la legge diventa codice

Più di un quarto di secolo fa Lawrence Lessig intuì uno degli elementi essenziali del mondo digitale. Nel suo Code and Other Laws of Cyberspace sostenne che l’architettura informatica costituisce essa stessa una forma di regolazione.

La formula è diventata celebre: Code is law. Il codice è legge.

Oggi siamo forse arrivati alla fase successiva: Law becomes code. La legge diventa codice.

Se una regola stabilisce un limite di utilizzo per un adolescente, non è necessario che qualcuno controlli l’orologio: lo fa il software. Se durante l’orario scolastico le notifiche devono essere silenziate, nessun funzionario deve intervenire alle otto del mattino: il comportamento è incorporato nella piattaforma.

Il diritto non agisce più soltanto dall’esterno. Penetra nel codice.

La regolamentazione diventa architettura del comportamento.

Chi controllerà il controllore?

Ed emerge il paradosso finale.

Useremo algoritmi per individuare contenuti problematici, sistemi automatici per stimare l’età, intelligenza artificiale per controllare altre intelligenze artificiali.

L’accordo americano con Meta prevede anche un auditor indipendente incaricato di verificare periodicamente la conformità dell’azienda. È un elemento importante: in sistemi dominati da algoritmi complessi non basta dichiararsi conformi. Servono misure, verifiche e audit.

Ci avviciniamo così a un mondo nel quale macchine controlleranno altre macchine affinché rispettino norme scritte dagli esseri umani.

Ma chi controllerà quelle macchine? Chi stabilirà le metriche? Chi definirà il confine fra persuasione e manipolazione? Chi verificherà gli errori? Chi conserverà la responsabilità ultima quando una decisione sarà il risultato di una catena composta da legge, regolatore, standard tecnico e algoritmo?

Sono domande giuridiche. Ma, soprattutto, sono domande di democrazia.

Due modelli destinati a incontrarsi

America ed Europa sembrano partire da estremi differenti.

Gli Stati Uniti procedono spesso ex post: nasce un problema, intervengono giudici e procuratori, l’impresa negozia e modifica il prodotto.

L’Europa tende invece a procedere ex ante: stabilisce principi, categorie di rischio, obblighi e divieti prima che tutti i possibili casi si manifestino.

L’intelligenza artificiale potrebbe costringere i due modelli a convergere.

Nessun Parlamento potrà prevedere tutte le forme che l’IA assumerà nei prossimi dieci anni. Le leggi saranno indispensabili, ma non sufficienti. Serviranno linee guida, standard tecnici, audit, decisioni delle autorità, sentenze e continue modifiche delle architetture tecnologiche.

Il diritto dell’intelligenza artificiale diventerà probabilmente un diritto dinamico, costruito contemporaneamente da legislatori, giudici, autorità indipendenti, tecnici, imprese e organismi di standardizzazione.

Il codice che nessun Parlamento voterà

Quando una modifica apparentemente tecnica decide ciò che milioni di persone possono vedere, quanto tempo possono trascorrere su una piattaforma, quali contenuti ricevono e quale tipo di relazione possono instaurare con un’intelligenza artificiale, quella modifica smette di essere soltanto tecnica.

Diventa una decisione sociale. E quindi politica.

Il caso Meta non riguarda soltanto i social network o i minori. Ci mostra in anticipo uno dei problemi centrali della società algoritmica: il confine sempre più incerto fra legge, codice e comportamento.

Nel Novecento lo Stato scriveva una norma e chiedeva al cittadino di rispettarla. Nella società digitale lo Stato può scrivere una norma e chiedere al software di incorporarla.

Nella società dell’intelligenza artificiale potremmo compiere un passo ulteriore: il sistema potrebbe riconoscere la categoria alla quale apparteniamo, adattare il proprio comportamento e applicare in tempo reale regole differenti, milioni o miliardi di volte al giorno.

La grande domanda del futuro, allora, non sarà soltanto: «Quali leggi dobbiamo scrivere per governare l’intelligenza artificiale?»

Dovremo porcene un’altra: «Quanto potere siamo disposti ad affidare al codice incaricato di trasformare quelle leggi in comportamento?»

Perché una parte decisiva del diritto del futuro potrebbe non trovarsi nelle pagine di una Gazzetta Ufficiale. Potrebbe essere contenuta in milioni di righe di software che nessun Parlamento avrà mai letto, discusso o votato. E che, nondimeno, governeranno una parte crescente della nostra vita.

FONTI E RIFERIMENTI

1. California Department of Justice – Office of the Attorney General, Attorney General Bonta Secures Transformative $17 Billion Settlement with Meta, Proposed Settlement Includes Fundamental Changes to Instagram and Facebook, 26 agosto 2026.

2. Meta Newsroom, Our Agreement With Bipartisan Attorneys General: Calling on TikTok and YouTube to Join Us in Supporting Teens, 26 agosto 2026, aggiornato il 27 agosto 2026.

3. European Commission – Shaping Europe’s Digital Future, Commission publishes guidelines on the protection of minors, 14 luglio 2025.

4. Commissione europea / EUR-Lex, Guidelines on measures to ensure a high level of privacy, safety and security for minors online pursuant to Article 28(1) of Regulation (EU) 2022/2065, 2025.

5. European Commission – Shaping Europe’s Digital Future, Blueprint for an age verification solution to help protect minors online, versione aggiornata 2026.

6. European Commission, The EU approach to age verification.

7. Regolamento (UE) 2024/1689 – Artificial Intelligence Act, art. 5, EUR-Lex.

8. European Commission – AI Act Service Desk, Timeline for the Implementation of the EU AI Act.

9. Meta Newsroom, New AI-Powered Age Assurance Measures to Place Teens in Age-Appropriate Experiences, 5 maggio 2026, aggiornato 31 luglio 2026.

10. Lawrence Lessig, Code and Other Laws of Cyberspace, Basic Books, 1999; Code: And Other Laws of Cyberspace, Version 2.0, Basic Books, 2006.

Nota dell’autore. L’espressione Age-Aware Artificial Intelligence non indica una categoria normativa prevista dall’AI Act o dal Digital Services Act. È utilizzata in questo articolo come definizione prospettica di sistemi di IA capaci di adattare modalità e limiti dell’interazione alla fascia d’età certificata dell’utente.

L'articolo Le leggi che nessun Parlamento ha votato proviene da Italia nel futuro.

Un traguardo che va riconosciuto

Il Dipartimento per la trasformazione digitale ha comunicato che oltre 13.000 amministrazioni hanno trasferito dati e applicativi verso ambienti cloud qualificati: più di 12.700 sono enti locali e scuole, oltre 280 appartengono alle amministrazioni centrali e al comparto sanitario. Comincio pertanto queste riflessioni riconoscendo il merito, perché senza questo riconoscimento il resto dell’articolo rischierebbe di apparire come una polemica pregiudiziale. Il Polo Strategico Nazionale (PSN) ha costruito quattro centri dati organizzati in doppia regione, ha concentrato funzioni di sicurezza e continuità che prima erano disperse e, circostanza non banale nelle grandi infrastrutture pubbliche italiane, ha rispettato scadenze molto impegnative. Chi ha lavorato nelle telecomunicazioni e nei sistemi critici sa quanto valga trasformare una strategia in infrastruttura operativa. Il problema nasce quando le parole “sicuro” e “sovrano” vengono usate come se fossero sinonimi. Non lo sono. La sicurezza misura la capacità di resistere a chi tenta di entrare. La sovranità misura la capacità di continuare a decidere e a funzionare anche quando un fornitore esterno cambia condizioni, interrompe il supporto o non può più collaborare. Sono rischi differenti e richiedono contromisure differenti.

A voler sintetizzare in una frase:

“Un sistema è sicuro se resiste agli attacchi. E sovrano se può continuare a funzionare, essere aggiornato ed evolvere anche quando la controparte tecnologica non collabora più”.

La sovranità non coincide con il luogo

Quando si studia un sistema fisico non basta sapere dove si trovano le sue parti: occorre capire chi ne determina l’evoluzione. Nel cloud pubblico italiano il dibattito si è concentrato soprattutto sulla localizzazione dei dati. È una domanda necessaria, ma non sufficiente. Bisogna chiedere anche chi decide quali versioni del software possono essere eseguite, chi firma gli aggiornamenti, chi controlla le licenze, chi custodisce la radice di fiducia e chi può modificare le condizioni economiche o il calendario di fine supporto. In termini tecnici, la distinzione è fra piano dei dati e piano di controllo. Il primo riguarda dove sono conservati i bit. Il secondo governa la creazione delle macchine virtuali, l’identità, le chiavi, le configurazioni, gli aggiornamenti e l’orchestrazione dei servizi. La localizzazione appartiene soprattutto al piano dei dati; la sovranità dipende in larga misura dal piano di controllo. Il Polo Strategico Nazionale occupa quindi una posizione intermedia, che merita di essere descritta senza slogan: il perimetro fisico, il personale operativo, il presidio di sicurezza e una parte decisiva delle chiavi sono italiani; componenti essenziali dello stack software sono invece fornite e governate da imprese soggette a giurisdizioni extraeuropee. Il PSN è molto più sicuro del mosaico precedente, ma non per questo è integralmente autonomo.

Che cosa c’è sotto il cofano del cloud di Stato

Il Polo Strategico Nazionale è una società partecipata da CDP Equity, TIM, Leonardo e Sogei, titolare della concessione stipulata con il Dipartimento per la trasformazione digitale. A gennaio 2026 dichiarava oltre 600 amministrazioni aderenti, un catalogo di circa 45.000 voci e 106 dipendenti al 31 dicembre 2025. La società indica che circa l’80% dei servizi è costituito da soluzioni proprie e il restante 20% da servizi di Cloud Service Provider internazionali. Questa percentuale, tuttavia, non coincide automaticamente con il grado di sovranità. Il manuale operativo del servizio IaaS “Industry Standard”, erogato direttamente dal PSN, rimanda alle interfacce e agli strumenti VMware; il listino comprende licenze Oracle, Microsoft Server e Red Hat; l’offerta di cloud ibrido sul sito del PSN utilizza Azure Stack HCI e Azure Arc. L’antimalware degli endpoint è Bitdefender, azienda romena. La fotografia è quindi composita: controllo italiano dell’infrastruttura e della gestione, tecnologia europea in alcuni strati, dipendenza extraeuropea in molti componenti fondamentali.

Non è un’accusa: è una distinta base. Possedere i data center, gli immobili, l’energia, le chiavi e il personale non equivale a controllare integralmente il software che fa funzionare l’insieme. La ripartizione fra servizi “propri” e servizi forniti dagli hyperscaler misura soprattutto chi eroga e fattura il servizio; non misura da sola la giurisdizione e la sostituibilità dello stack. Va riconosciuto al PSN di averlo scritto con chiarezza. Nei propri documenti la società afferma che l’erogazione di servizi infrastrutturali non può oggi prescindere dall’impiego di tecnologie statunitensi o, più in generale, di Paesi esterni all’Unione Europea. È una dichiarazione realistica e, proprio perché proviene dal soggetto interessato, dovrebbe diventare il punto di partenza di una politica industriale, non una nota da lasciare ai margini.

Figura 1. Gli strati tecnologici del cloud di Stato e la giurisdizione che li governa. Elaborazione dell’autore sulla documentazione tecnica e commerciale pubblicata dal Polo Strategico Nazionale.

Il test dei trenta giorni

Il modo più serio per misurare una dipendenza non consiste nel chiedersi se il fornitore sia affidabile. Consiste nel domandarsi che cosa accadrebbe se, per ragioni commerciali, giudiziarie o geopolitiche, smettesse di esserlo. La prova non riguarda il funzionamento normale: riguarda il controfattuale. Per il cloud ibrido basato su Azure Local, già Azure Stack HCI, e Azure Arc, la documentazione Microsoft prevede una sincronizzazione con Azure almeno una volta ogni trenta giorni consecutivi. Se la finestra viene superata, le macchine virtuali esistenti continuano a funzionare, ma non è più possibile crearne di nuove; anche alcuni certificati dei servizi Kubernetes gestiti hanno validità limitata nel tempo. Questo non significa che la piattaforma sia insicura. Significa però che la piena operatività e la capacità di evolvere dipendono da un rapporto continuativo con il fornitore. La metafora del sistema che deve “telefonare a casa” ogni mese può essere provocatoria, ma descrive un fatto: la dipendenza non è soltanto scritta nel contratto, è incorporata nell’architettura e nel ciclo di licenza. Un secondo esempio è VMware, acquisita da Broadcom nel 2023 e passata a un modello commerciale fondato sulla sottoscrizione. Per molti clienti europei la conseguenza non è stata la perdita dei dati, ma il cambiamento dei costi, delle metriche di licenza e delle condizioni di supporto deciso altrove. Anche questo è un rischio di sovranità: non il sequestro dell’informazione, ma la possibilità che prezzo, aggiornamenti e fine vita di una piattaforma essenziale siano determinati da un soggetto che il cliente pubblico non controlla. Esiste poi uno scenario meno spettacolare e più plausibile di un’interruzione improvvisa: la sospensione degli aggiornamenti. Il sistema non si fermerebbe il primo giorno, ma diventerebbe progressivamente più difficile da difendere e da certificare. In questo caso la sovranità non verrebbe revocata con un atto formale: si consumerebbe nel tempo.

La crittografia protegge la riservatezza, non la continuità

La risposta più solida alla questione della giurisdizione è la crittografia. La tesi del PSN è che, anche nell’ipotesi di una richiesta proveniente da autorità straniere, i dati non sarebbero leggibili perché protetti da chiavi controllate dalle amministrazioni clienti e gestite esternamente rispetto ai centri dati. È un argomento serio, che rafforza in modo sostanziale la protezione dei dati. Ma presenta tre limiti. Il primo problema riguarda il dato mentre viene elaborato. La cifratura tradizionale protegge efficacemente le informazioni quando sono archiviate (data at rest) e quando vengono trasferite attraverso la rete (data in transit). Ma, per essere elaborate, quelle informazioni devono normalmente essere rese accessibili al processore e alla memoria: è il momento del data in use, nel quale il dato può risultare più esposto. Il confidential computing riduce questa vulnerabilità creando all’interno dell’hardware ambienti di esecuzione protetti, nei quali dati e programmi possono operare restando isolati dal resto del sistema. È un rafforzamento importante della sicurezza, ma non elimina la questione della sovranità tecnologica: la fiducia viene in parte trasferita verso il produttore del processore, il firmware, i sistemi di attestazione e il software che governa questi ambienti protetti. Se tali componenti dipendono da tecnologie e fornitori extraeuropei, si è aumentata la profondità della difesa, ma non si è necessariamente eliminata la dipendenza strategica. Il secondo limite è ancora più importante: la crittografia difende dalla lettura, non dall’interruzione. Se un servizio diventa indisponibile, i dati possono restare perfettamente riservati e, nello stesso tempo, perfettamente inutilizzabili. Per un ospedale la sovranità non consiste soltanto nell’impedire a terzi di leggere la cartella clinica: consiste nell’avere quella cartella disponibile quando serve. Il terzo limite riguarda i metadati. Chi governa il piano di controllo può osservare volumi, orari, topologie, nomi delle risorse e andamento dei carichi. Non è necessario leggere il contenuto di un sistema per ricavare informazioni significative sul suo funzionamento.

La regola italiana e il conflitto fra giurisdizioni

La determinazione ACN n. 307 del 2022 prevede, per i servizi cloud appartenenti ai livelli più elevati di qualificazione, una garanzia precisa: se un’autorità o un soggetto esterno all’Unione europea chiede di accedere ai dati o ai metadati di una pubblica amministrazione italiana, il fornitore deve informare sia l’Agenzia per la cybersicurezza nazionale sia l’amministrazione interessata. Inoltre, l’accesso dovrebbe essere consentito soltanto dopo un’autorizzazione esplicita dell’amministrazione titolare dei dati. Il principio è chiaro e condivisibile: chi affida a un fornitore informazioni pubbliche, soprattutto se critiche o strategiche, deve sapere se un’autorità straniera ne richiede la consegna e deve poter decidere come reagire. La difficoltà nasce quando il fornitore è soggetto anche alla legislazione di un Paese terzo, in particolare a quella statunitense. Il CLOUD ACT consente alle autorità degli Stati Uniti, in presenza dei requisiti previsti dalla legge, di ordinare a un’impresa sottoposta alla giurisdizione americana la consegna dei dati che essa possiede, custodisce o controlla. Ciò può avvenire anche quando i server sui quali quei dati sono conservati si trovano fisicamente in Europa. In alcune circostanze, inoltre, l’ordine può essere accompagnato da un divieto temporaneo di informare il cliente. Il fornitore si troverebbe allora davanti a due obblighi incompatibili: da una parte, la regola italiana gli impone di segnalare la richiesta; dall’altra, l’ordine americano potrebbe vietargli proprio quella comunicazione. Non si tratterebbe quindi di una semplice omissione o di una negligenza, ma di un vero conflitto tra ordinamenti giuridici. La Francia ha affrontato apertamente questo problema. Nel giugno 2025, durante un’audizione davanti a una commissione d’inchiesta del Senato, i rappresentanti di Microsoft France hanno dichiarato di non poter garantire in modo assoluto che i dati dei cittadini francesi non vengano trasmessi alle autorità statunitensi qualora intervenga un ordine giudiziario americano valido. Nella stessa sede hanno però ricordato che, in base agli impegni contrattuali assunti da Microsoft, i dati dei clienti europei vengono conservati e trattati all’interno dell’Unione europea. Le due affermazioni non sono in contraddizione. La prima riguarda la giurisdizione, cioè il potere legale che uno Stato può esercitare su un’impresa; la seconda riguarda la localizzazione, cioè il luogo fisico o contrattualmente stabilito in cui i dati vengono conservati. Un dato può trovarsi in un centro elaborazione europeo e restare comunque soggetto, in determinate condizioni, a un ordine proveniente dagli Stati Uniti. In altre parole, la localizzazione è una garanzia importante, ma non elimina automaticamente gli effetti della giurisdizione cui è sottoposto il fornitore. La vicenda della Corte Penale Internazionale mostra quanto il rischio derivante dalla dipendenza da fornitori tecnologici stranieri sia ormai considerato concreto anche dalle grandi istituzioni. Nel febbraio 2025 gli Stati Uniti imposero sanzioni a Karim A. A. Khan, che all’epoca era il procuratore capo della Corte, cioè il responsabile dell’ufficio incaricato di condurre le indagini e promuovere le azioni penali per genocidio, crimini di guerra e crimini contro l’umanità. Le sanzioni furono adottate dopo che il suo ufficio aveva richiesto i mandati di arresto contro il primo ministro israeliano Benjamin Netanyahu e l’ex ministro della Difesa Yoav Gallant. Nel maggio dello stesso anno, l’Associated Press riferì, sulla base delle testimonianze di funzionari della Corte, che Khan aveva perso l’accesso al proprio account di posta elettronica Microsoft ed era stato costretto a utilizzare il servizio svizzero Proton Mail. Microsoft negò successivamente di avere sospeso i propri servizi alla Corte. Non disponendo di una conferma indipendente e definitiva, l’episodio deve quindi essere presentato per ciò che è: un fatto riferito da fonti autorevoli, ma contestato dall’azienda interessata. È invece accertato che, nell’ottobre 2025, la Corte Penale Internazionale confermò la decisione di sostituire progressivamente l’ambiente Microsoft Office con openDesk, una piattaforma europea open source sviluppata da ZenDiS, il Centro tedesco per la sovranità digitale della pubblica amministrazione. Non è possibile affermare che questa scelta sia dipesa esclusivamente dal controverso episodio dell’account di Khan; essa si inserisce però chiaramente nella volontà della Corte di ridurre la propria dipendenza dalle tecnologie statunitensi e di rafforzare l’autonomia della propria infrastruttura digitale. Questo è il punto più importante. Anche senza poter dimostrare che Microsoft abbia effettivamente interrotto il servizio per effetto delle sanzioni, la Corte ha considerato la dipendenza da un fornitore sottoposto alla giurisdizione statunitense un rischio sufficientemente serio da affrontare i costi, le difficoltà tecniche e i disagi di una migrazione. Quando un’istituzione cambia piattaforma per proteggersi da un evento controverso ma plausibile, quel rischio cessa di essere soltanto teorico: diventa una voce concreta nelle decisioni strategiche, organizzative ed economiche. Resta infine un problema di metodo. La qualificazione italiana è fondata su autodichiarazioni, valide dodici mesi, con verifiche successive ed eventuali dell’Agenzia. Per la catena di fornitura del software, la documentazione raccomanda, “ove possibile”, di valutare la disponibilità del fornitore a condividere il codice sorgente. È una misura utile, ma una raccomandazione non equivale a un requisito verificato da un soggetto indipendente.

Come si stanno muovendo Francia, Germania e Svizzera

La Francia ha scelto l’impostazione più vincolante. Il referenziale SecNumCloud 3.2 include criteri espliciti relativi alle legislazioni extraterritoriali e prevede una qualificazione rilasciata dall’ANSSI dopo audit di un organismo accreditato. La dottrina “cloud au centre” impone alle amministrazioni statali di utilizzare offerte qualificate per i dati sensibili. S3NS, la società di Thales basata su tecnologia Google, ha ottenuto la qualificazione nel dicembre 2025; Bleu, la joint venture di Orange e Capgemini costruita su tecnologia Microsoft, risultava ancora in corso di qualificazione a metà 2026. Il costo dichiarato delle offerte qualificate è superiore, ma quella differenza finanzia un involucro giuridico, operativo e di controllo più stringente. La Francia non ha eliminato la tecnologia americana. Ha però separato la tecnologia dalla giurisdizione del servizio, imposto audit indipendenti e creato una domanda pubblica capace di far crescere un mercato nazionale di operatori qualificati. Questo è il passaggio essenziale: la regola non si limita a controllare il mercato, contribuisce a costruirlo. La Germania procede su due binari. Nel breve periodo acquista servizi come Delos Cloud, controllata da SAP e basata su tecnologia Microsoft; nel lungo periodo finanzia alternative come il centro ZenDiS, openDesk e il Sovereign Cloud Stack. Lo Schleswig-Holstein sta inoltre migrando decine di migliaia di postazioni verso Linux e LibreOffice. Il quadro C3Adel BSI valuta l’autonomia su più dimensioni, comprese catena di fornitura e indipendenza operativa. È un approccio meno netto di quello francese, ma riconosce una verità: acquistare oggi non deve impedire di uscire domani. La Svizzera, infine, rende visibile la contraddizione che attraversa tutti i governi europei. Il Consiglio federale ha riconosciuto l’incertezza sulla riservatezza dei dati affidati a imprese americane e, pochi giorni dopo, ha annunciato l’adozione generalizzata di Microsoft 365. Parallelamente, il Parlamento ha stanziato ingenti risorse per la Swiss Government Cloud e il Controllo federale delle finanze ha segnalato che i requisiti del progetto non affrontano in modo esplicito il rischio di continuità in caso di indisponibilità del fornitore.

Figura 2. Quanto pesa la sovranità nelle regole nazionali: valutazione dell’autore su cinque criteri. Punteggi da 0 a 3 attribuiti in base alla vincolatività e alla verifica indipendente dei requisiti.

Il metro europeo che sta arrivando

Nel giugno 2026 la Commissione europea ha presentato il Cloud and AI Development Act, inserito nel pacchetto sulla sovranità tecnologica. Oltre all’obiettivo di aumentare la capacità europea dei centri dati, la proposta introduce ciò che finora è mancato: un quadro comune per misurare i diversi gradi di sovranità. I livelli di assurance procedono dalla localizzazione nell’Unione fino al controllo pieno della catena del software e all’assenza di interferenze da Paesi terzi. Il primo livello riguarda il trattamento e la conservazione dei dati su infrastrutture europee. Il secondo aggiunge indipendenza dai Paesi terzi e trasparenza sulla supply chain. Il terzo richiede proprietà e controllo europei, con criteri ulteriori anche sul personale. Il quarto pretende controllo completo e verificabile dello stack. Applicando questo metro al PSN, il livello uno appare acquisito: i centri dati, la gestione e le chiavi sono in Italia. Il livello due è più problematico, perché la trasparenza e la sostituibilità della catena software sono difficili da dimostrare quando il piano di controllo è concesso in licenza e il codice non è integralmente ispezionabile. Sul piano societario il PSN può avvicinarsi al livello tre; i servizi erogati tramite hyperscaler presentano invece un vincolo diverso. Il livello quattro, con l’attuale distinta base, resta fuori portata. Questa collocazione è una valutazione, non una certificazione. Serve però a chiarire che la sovranità non è un interruttore acceso o spento: è una scala. Il punto politico è stabilire quale livello sia necessario per ciascuna categoria di dati e quali dipendenze siano accettabili, documentate e reversibili. Resta inoltre una clausola delicata: al livello tre la Commissione può riconoscere fornitori di Paesi terzi. È lì che si vedrà se il nuovo regolamento diventerà uno strumento di politica industriale oppure un sistema di etichette sufficientemente elastico da lasciare immutato il mercato.

Figura 3. I quattro livelli europei di sovranità e il punto in cui si collocano le offerte del PSN. Il posizionamento delle offerte è una valutazione dell’autore basata sulla proposta della Commissione e sulla documentazione PSN.

Il conto industriale

Il problema non è soltanto giuridico o tecnico. È industriale. Nel 2024 il mercato cloud europeo valeva circa 61 miliardi di euro, sei volte il valore del 2017. Nello stesso periodo i fornitori europei hanno più che triplicato il proprio fatturato, ma la loro quota è scesa dal 29 al 15 per cento. Amazon, Microsoft e Google detengono insieme circa il 70 per cento del mercato; SAP e Deutsche Telekom, i maggiori operatori europei, si fermano intorno al 2 per cento ciascuno. La fotografia è paradossale: l’industria europea cresce in valore assoluto e perde peso relativo. Il mercato si espande più rapidamente della capacità europea di controllarlo. Per questo la sovranità non può essere affrontata soltanto come conformità normativa; richiede una politica di offerta, ricerca, competenze e domanda pubblica.

Figura 4. Crescere e contare di meno: il mercato cloud europeo fra il 2017 e il 2024. Elaborazione dell’autore sui dati Synergy Research Group; i valori 2017 sono stimati dal fattore di crescita dichiarato.

In Italia la gara del 2022 aveva una base d’asta di 4,4 miliardi di euro; le misure PNRRdedicate alla migrazione hanno stanziato fino a 1,9 miliardi. Secondo dati societari riferiti all’inizio del 2025, il concessionario aveva acquisito contratti per circa 2,8 miliardi, verso un valore atteso di 3 miliardi al 2035, e stimava ricavi 2025 nell’ordine dei 300 milioni. La domanda alla quale i documenti pubblici non consentono ancora di rispondere è decisiva: quale quota di questa spesa si traduce in licenze e servizi di fornitori extraeuropei, e quale diventa capacità industriale italiana? L’assenza del dato impedisce di valutare fino in fondo la qualità dell’investimento. Non è soltanto trasparenza contabile: è la differenza fra acquistare autonomia e pagare un canone pluriennale per una dipendenza gestita. Qui occorre distinguere il fatto dall’interpretazione. Il fatto è che la documentazione pubblica non rende disponibile una distinta economica completa per giurisdizione del fornitore. La mia valutazione è che l’Italia abbia trattato prevalentemente la migrazione come una grande fornitura infrastrutturale, senza affiancarle un programma industriale di pari scala dedicato allo stack aperto, agli operatori nazionali e alle migliaia di software house che servono comuni, scuole e sanità. Il punto diventa ancora più evidente scendendo verso il territorio, che è il campo di lavoro dell’Osservatorio sull’intelligenza artificiale nei Comuni. Molte amministrazioni locali utilizzano servizi SaaS qualificati ospitati su infrastrutture degli hyperscaler. È proprio lì che risiedono dati quotidiani e delicati — anagrafe, tributi, servizi sociali, scuola — e che il costo di uscita rischia di essere soprattutto architetturale. Il Data Act vieta le barriere contrattuali alla portabilità; ma uscire da un piano di controllo proprietario può richiedere di riscrivere automazioni, ricostruire immagini, migrare identità e riprogettare integrazioni. Il vincolo più costoso non sempre sta nella clausola: spesso sta nel codice.

Cinque cose che si possono fare senza aspettare Bruxelles

La critica che non propone alternative resta una lamentela. Esistono almeno cinque misure che l’Italia può adottare senza attendere un nuovo regolamento europeo.

1. Pubblicare la distinta base.

Per ogni servizio del listino PSN dovrebbero essere resi disponibili componente, fornitore, giurisdizione, condizioni di sostituibilità e quota del valore contrattuale destinata a licenze extra UE. È un intervento a costo limitato che sposterebbe il dibattito dagli slogan ai numeri.

2. Sostituire l’autodichiarazione con l’audit indipendente.

Per i dati critici e strategici, la qualificazione dovrebbe essere rilasciata da un soggetto terzo accreditato, con validità pluriennale, sorveglianza intermedia e prove tecniche documentate. Il modello francese dimostra che un sistema del genere è possibile e può creare un mercato di competenze e verificatori.

3. Introdurre un requisito progressivo di immunità per la fascia più alta.

Per i servizi che trattano dati strategici occorre definire un percorso verso l’indipendenza dagli ordini extraterritoriali. Se oggi nessuna offerta soddisfa pienamente il requisito, si può fissare una data di decorrenza e dare al mercato il tempo necessario per costruire soluzioni credibili. La politica industriale nasce spesso da requisiti futuri chiari, non da incentivi indistinti.

4. Eseguire periodicamente la prova del distacco.

Non basta una clausola di recesso. Serve un esercizio documentato che verifichi che cosa continua a funzionare dopo trenta, novanta e centottanta giorni senza rinnovi, aggiornamenti o accesso al piano di controllo del fornitore. Le prove di disaster recovery sono una pratica consolidata; questa sarebbe una prova di continuità geopolitica.

5. Destinare una quota stabile della spesa allo stack aperto e alla filiera italiana.

Non per protezionismo, ma per disporre di una vera opzione di uscita. Il livello più alto di sovranità non si raggiunge comprando con maggiore cautela la stessa tecnologia: si raggiunge facendo esistere alternative che possano essere acquistate, installate e mantenute quando diventano necessarie.

Il passo successivo

Ho trascorso gli anni Novanta a costruire operatori di telecomunicazioni in un mercato che si stava aprendo. La lezione di quella stagione è semplice: possedere la rete e controllare il servizio sono due cose diverse. Si può avere il cavo dentro casa e dipendere comunque da chi governa la piattaforma, i protocolli e le condizioni di accesso. Oggi il cavo si chiama centro dati e il servizio si chiama piano di controllo. Il Polo Strategico Nazionale è una buona infrastruttura, costruita da professionisti seri, e ha reso il sistema pubblico italiano più ordinato e più sicuro. Questo risultato non va sminuito. Ma la sovranità è un traguardo ulteriore: richiede che le dipendenze siano conosciute, misurate, reversibili e sottoposte a prove reali. La sovranità digitale non consiste nel rifiutare le tecnologie straniere, né nel perseguire un’autosufficienza impossibile. Consiste nel mantenere il controllo delle decisioni strategiche, evitando che una dipendenza tecnologica si trasformi, nel tempo, in dipendenza economica, giuridica o politica. Il PSN ha compiuto il primo passo: ha trasferito dati e servizi verso un perimetro nazionale più sicuro. Proprio perché quel passo è riuscito, oggi possiamo porci la domanda successiva senza spirito demolitorio: quanto del sistema siamo davvero in grado di controllare il giorno in cui la controparte cambia le regole o dice di no? La risposta non sta sulla targa di un data center. Sta nella distinta base, nei contratti, nel codice, negli audit e nelle prove di continuità. È da lì che comincia la sovranità.

Note

1. Neue Zürcher Zeitung, «Heikles Datenleck im Aussendepartement», 31 gennaio 2026. https://www.nzz.ch/schweiz/heikles-datenleck-im-aussendepartement-ld.1922362

2. Bär & Karrer, «Cloud usage and digital sovereignty: strategic options for Swiss authorities», aprile 2026. https://www.baerkarrer.ch/de/publications

3. Das Netz ist politisch, «Swiss Government Cloud-Ausschreibungen: Desaster vorprogrammiert?», 19 gennaio 2026. https://dnip.ch/2026/01/19/

4. Commissione europea, DG CONNECT, «Cloud and AI Development Act», aggiornamento del 3 giugno 2026. https://digital-strategy.ec.europa.eu/en/policies/cloud-and-ai-development-act

5. Agenzia per la cybersicurezza nazionale, determinazione n. 307 del 18 gennaio 2022, allegato 1. https://assets.innovazione.gov.it/1642754054-all1det307acn.pdf

6. Agenzia per la cybersicurezza nazionale, decreto direttoriale n. 29 del 2 gennaio 2023 e pagina sulla qualificazione cloud. https://www.acn.gov.it/strategia/strategia-cloud-italia/qualificazione-cloud

7. Polo Strategico Nazionale, «Manuale Operativo PSN Cloud Platform, IaaS Industry Standard», ed. 1, ver. 3.0.3. https://www.polostrategiconazionale.it/

8. Polo Strategico Nazionale, «Listino», release luglio 2024, e «Descrizione dei servizi», release giugno 2025. https://www.polostrategiconazionale.it/

9. L. Fioravanti, «Polo Strategico Nazionale: perché è il cuore della sovranità cloud italiana», Agenda Digitale, 9 marzo 2026; testo ripreso nella rassegna stampa del PSN.

10. Dipartimento per la trasformazione digitale, «PNRR: centrati gli obiettivi europei con 13mila PA in cloud», 21 luglio 2026. https://innovazione.gov.it/notizie/articoli/

11. Microsoft Learn, documentazione Azure Local: «Register with Azure», «Azure Local FAQ» e «Manage cluster registration», consultata ad agosto 2026. https://learn.microsoft.com/

12. Dipartimento per la trasformazione digitale, scheda «Polo Strategico Nazionale», aggiornamento marzo 2026. https://innovazione.gov.it/dipartimento/focus/polo-strategico-nazionale/

13. Synergy Research Group, rilevazioni sul mercato cloud europeo; comunicato «European Cloud Providers’ Local Market Share Now Holds Steady at 15%» e riprese di Datacenter Dynamics, 2026.

14. Commissione d’inchiesta del Senato francese, audizione dei rappresentanti di Microsoft France, 10 giugno 2025; riprese di Decision-achats, Techniques de l’Ingénieur, ActuIA e IT Social.

15. Associated Press, maggio 2025; verifiche di heise online, The Register, Justice Info e Digital Watch Observatory; interrogazione al Parlamento europeo P-002270/2025.

16. ANSSI, referenziale SecNumCloud 3.2; documentazione sulla qualificazione S3NS; analisi di LeMagIT, Next.ink e Silicon.fr, consultate a luglio-agosto 2026.

17. Security-Insider sulla Delos Cloud; DigitalService/GovImpact sul quadro C3A del BSI; The Register sulla migrazione dello Schleswig-Holstein; netzpolitik.org sulle scelte del Governo federale tedesco, 2025-2026.

18. 01net, cronaca di VMware Explore on Tour, 29 ottobre 2025.

19. MarketScreener, ripresa della presentazione societaria Leonardo sul Polo Strategico Nazionale, gennaio 2025.

20. Regolamento (UE) 2023/2854, Data Act, applicabile dal 12 settembre 2025. https://eur-lex.europa.eu/eli/reg/2023/2854/oj

21. CLOUD Act, 2018, section 2713 dello United States Code, titolo 18, e disciplina statunitense sugli ordini con divieto di divulgazione. https://www.congress.gov/bill/115th-congress/house-bill/4943

Le fonti sono state verificate ad agosto 2026 secondo il metodo 4A: autorevolezza, aggiornamento, autenticità e autonomia. 

Le fonti non autonome sono utilizzate per dati tecnici o societari dichiarati dai soggetti interessati; le valutazioni comparative e il posizionamento nelle figure sono elaborazioni dell’autore

L'articolo Il Polo Strategico Nazionale (PSN) è davvero sovrano? proviene da Italia nel futuro.