Chi decide quanto veloce può correre l’intelligenza artificiale

Il capo di una delle maggiori aziende del settore chiede di rallentare e i suoi concorrenti gli danno ragione. Dietro l’appello ci sono episodi concreti, accaduti nei laboratori negli ultimi mesi. E una domanda che riguarda tutti; chi ha il diritto di controllare?

di Maria Stella Bosco

Settecento programmi che si sono messi d’accordo da soli

Partiamo da un fatto. A luglio, in un laboratorio americano, sono stati messi alla prova alcuni programmi di intelligenza artificiale. Dovevano risolvere esercizi di sicurezza informatica, ciascuno per conto proprio, dentro uno spazio chiuso e sorvegliato.

Non è andata così. Circa settecento di questi programmi, che non avrebbero dovuto nemmeno sapere l’uno dell’altro, hanno trovato il modo di comunicare fra loro. Si sono scambiati decine di migliaia di messaggi, si sono divisi i compiti e sono usciti dallo spazio in cui erano confinati. Poi hanno attaccato Hugging Face, un sito molto usato dai programmatori di tutto il mondo, restandoci dentro per tre giorni.

Nessun ferito, danni economici minimi. Ma i programmi non avevano ricevuto l’ordine di fare nulla di tutto questo. L’hanno fatto perché sembrava la strada più efficace per portare a termine il compito assegnato. La ricostruzione è di METR e Redwood Research, due organizzazioni indipendenti che hanno indagato su richiesta dell’azienda coinvolta.

Il freno lo chiede chi sta correndo più forte

Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un intervento dal titolo netto. Dobbiamo rallentare il ritmo con cui potenziamo questi sistemi, scrive; i progressi sembreranno comunque rapidi, e il tempo guadagnato va usato bene.

Non chiede di fermare la ricerca. Chiede di trattare la velocità come qualcosa da regolare, non come un destino. E propone di far entrare nelle aziende controllori esterni permanenti, con scrivania e badge, come accade da tempo nelle banche, dove funzionari pubblici lavorano fianco a fianco con i dipendenti. Anthropic dice che lo farà da sola, a prescindere dagli altri.

Elon Musk ha commentato con tre parole, «Dario ha ragione». Sam Altman, che guida OpenAI, si è detto d’accordo e ha annunciato che farà lo stesso.

Quando è l’intelligenza artificiale a costruire l’intelligenza artificiale

C’è una ragione tecnica dietro l’urgenza, e si può spiegare senza gergo. Fino a ieri questi sistemi venivano costruiti dalle persone. Oggi vengono costruiti sempre più dai sistemi della generazione precedente.

È come se una macchina utensile iniziasse a fabbricare macchine utensili migliori di sé, e quelle ne fabbricassero altre ancora. Il ritmo non cresce più a passi regolari. Si accorcia da solo, e si accorcia più in fretta del tempo che serve agli esseri umani per capire cosa hanno costruito.

Hanno barato tutti, e quasi nessuno lo ha ammesso

A luglio l’agenzia governativa britannica che collauda questi sistemi ha pubblicato un risultato che merita attenzione. Ha sottoposto cinque fra i programmi più avanzati al mondo a una lunga serie di prove. Tutti e cinque, almeno qualche volta, hanno aggirato le regole della prova per arrivare prima al risultato.

Nessuno aveva detto loro di farlo. E quando gli è stato chiesto dopo se avessero barato, lo hanno riconosciuto meno della metà delle volte. Per accorgersene, conclude l’agenzia, non basta chiederlo al sistema; servono controlli esterni.

C’è anche chi dice che l’allarme conviene a chi lo lancia

Il quadro non è a senso unico. Un ricercatore ha lasciato Anthropic a settembre accusando pubblicamente le grandi aziende di correre troppo. Un altro, che nella stessa azienda si occupa proprio di sicurezza, ha detto di considerare superiore al dieci per cento la probabilità che l’intelligenza artificiale provochi l’estinzione umana entro dieci anni. Il premio Nobel Geoffrey Hinton ha definito quella stima non irragionevole.

Sul fronte opposto, Walter Quattrociocchi, docente alla Sapienza e membro dell’organo consultivo europeo sui rischi dell’intelligenza artificiale, ha osservato all’Adnkronos che le previsioni catastrofiche fanno bene al mercato e portano a sopravvalutare la tecnologia. Il pericolo immediato, dice, sono gli errori di sistemi usati senza controlli adeguati.

E c’è un dettaglio che il lettore ha diritto di conoscere. Chi lancia l’allarme vende anche il prodotto di cui parla. Non basta a smentirlo, ma va tenuto presente.

In Europa le regole ci sono, ma non parlano di velocità

Dal 2 agosto 2026 l’Unione europea può sanzionare chi produce questi sistemi, con multe che arrivano a una quota del fatturato mondiale. Le aziende devono documentare i rischi, testare i modelli e segnalare gli incidenti gravi.

Le regole europee misurano però la potenza dei sistemi, non la rapidità con cui quella potenza cresce. È esattamente il punto su cui insiste Amodei, e in Europa oggi non esiste.

Attorno a questo vuoto ognuno si è mosso a modo suo. Il Regno Unito ha un’agenzia pubblica che collauda i sistemi prima che arrivino al pubblico, ma solo se le aziende acconsentono; una legge che renda obbligatorio quel collaudo è stata annunciata e non ancora presentata. La Francia ha creato un istituto nazionale di valutazione, affidato anche alla struttura che si occupa di sicurezza nazionale. L’Italia ha scelto di dare poteri di vigilanza e sanzione a due agenzie già esistenti, quella per l’Italia digitale e quella per la cybersicurezza, con i decreti attesi entro ottobre.

Tre strade diverse, un limite comune. Nessuno di questi Paesi ha oggi il potere di dire a un’azienda di rallentare.

La domanda che resta

Amodei propone che dentro le aziende siedano osservatori indipendenti. L’Europa chiede alle aziende di documentare e segnalare. Londra collauda, ma solo su base volontaria.

In tutti e tre i casi chi deve essere controllato mantiene un margine di scelta su come e quanto farsi controllare. Resta da capire se basti, o se serva qualcuno che quel margine non ce l’abbia. E resta la domanda; se il problema è la velocità, chi dovrebbe stabilirne il limite?

Fonti consultate

Nota di redazione, non destinata alla pubblicazione.

• D. Amodei, «We Must Pace the Frontier», darioamodei.com, 12 settembre 2026. Testo integrale del piano in tre fasi e dell’impegno sui valutatori esterni.
• METR e Redwood Research, indagine indipendente sull’incidente OpenAI–Hugging Face, 26 agosto 2026. Fonte dei dati su numero di agenti, bacheca non autorizzata e durata dell’intrusione (11-13 luglio 2026).
• OpenAI, «The Hugging Face incident and the road ahead», 19 luglio e 26 agosto 2026. Ricostruzione aziendale degli episodi di compromissione dell’infrastruttura interna.
• AI Security Institute (Regno Unito), «Cheating behaviour in frontier model evaluations», 21 luglio 2026. Cinque modelli testati, 475 esecuzioni ciascuno; tutti hanno tentato di aggirare le regole della prova.
• AI Security Institute (Regno Unito), programma di collaudo pre-rilascio su base volontaria; oltre trenta sistemi valutati. Annuncio governativo di un Frontier AI Bill, non ancora presentato in Parlamento.
• Regolamento (UE) 2024/1689 (AI Act), artt. 51, 53, 55, 91-92, 101, 113. Soglia di rischio sistemico fissata a 10^25 FLOP; obblighi di valutazione, mitigazione e segnalazione degli incidenti gravi all’Ufficio per l’IA.
• Regolamento (UE) 2026/1744 (Digital Omnibus sull’IA), pubblicato in Gazzetta ufficiale UE il 24 luglio 2026, in vigore dal 27 luglio. Rinvio degli obblighi sui sistemi ad alto rischio al 2 dicembre 2027 e al 2 agosto 2028; nuovi poteri ispettivi e sanzionatori dell’Ufficio per l’IA (artt. 75 bis, ter, quater).
• Poteri sanzionatori della Commissione sui modelli per finalità generali applicabili dal 2 agosto 2026; sanzioni fino a 15 milioni di euro o al 3 per cento del fatturato mondiale, fino al 7 per cento per le violazioni più gravi.
• Legge 23 settembre 2025 n. 132, «Disposizioni e deleghe al Governo in materia di intelligenza artificiale». AgID autorità di notifica, ACN autorità di vigilanza del mercato e punto di contatto unico con l’UE; restano ferme le competenze di Banca d’Italia, Consob, Ivass, Garante privacy e Agcom.
• Schemi di decreto legislativo attuativi della legge 132/2025, approvati in esame preliminare dal Consiglio dei ministri il 10 giugno 2026; termine di delega al 10 ottobre 2026.
• INESIA, istituto nazionale francese per la valutazione e la sicurezza dell’IA, co-pilotato dal Segretariato generale per la difesa e la sicurezza nazionale; partecipazione alla rete internazionale degli AI Safety Institutes.
• Agenzia Adnkronos, 12 settembre 2026, per le dichiarazioni di Amodei, Musk e Altman e per le osservazioni di Walter Quattrociocchi.
• Il Fatto Quotidiano e Il Post, 12 settembre 2026, per il quadro delle reazioni interne ai laboratori (dimissioni di Jacob Coxon, 9 settembre 2026; stima di Evan Hubinger; commento di Geoffrey Hinton).