Dario Amodei di Anthropic chiede di rallentare lo sviluppo dei modelli AI più avanzati. Anche i vertici di OpenAI, xAI e Google DeepMind condividono la necessità di maggiore prudenza e controlli indipendenti. Cosa sta succedendo nella corsa all’intelligenza artificiale e perché sicurezza e regole riguardano direttamente anche i consumatori.
Nel giro di un fine settimana alcuni dei principali protagonisti della corsa mondiale all’intelligenza artificiale si sono trovati d’accordo su una parola che fino a poco tempo fa sembrava difficile associare a questo settore: rallentare.
Sabato 12 settembre Dario Amodei, amministratore delegato di Anthropic, la società che sviluppa Claude, ha pubblicato un lungo intervento dal titolo “We Must Pace the Frontier”. Il giorno successivo, in un’intervista trasmessa da CBS News, ha ribadito le sue preoccupazioni per la velocità con cui stanno aumentando le capacità dei sistemi di intelligenza artificiale.
La reazione degli altri protagonisti del settore è arrivata rapidamente. Sam Altman, amministratore delegato di OpenAI, ha condiviso la necessità di aumentare la prudenza e ha indicato la volontà di rafforzare il ricorso a valutatori indipendenti. Elon Musk, fondatore di xAI, ha risposto pubblicamente con poche parole: «Dario is right». Anche Demis Hassabis, amministratore delegato di Google DeepMind, ha giudicato corretta la direzione indicata da Amodei, pur osservando che diversi aspetti restano da definire.
Non significa che i principali produttori di intelligenza artificiale abbiano deciso di fermare lo sviluppo della tecnologia. E non significa neppure che esista già un accordo sulle regole da adottare.
La notizia è più semplice, ma non meno rilevante: alcuni dei dirigenti delle aziende che competono per realizzare i modelli più avanzati stanno riconoscendo pubblicamente che la crescita delle capacità dell’AI potrebbe procedere più rapidamente degli strumenti utilizzati per comprenderla, verificarla e controllarla.
Che cosa sta chiedendo davvero Dario Amodei
Il termine utilizzato da Amodei è “pacing”. Non propone di interrompere l’addestramento dei modelli né di bloccare la ricerca. Lo scrive esplicitamente nel suo intervento: rallentare significa concedere più tempo alle attività di sicurezza, all’allineamento dei sistemi e alle verifiche da parte di soggetti terzi.
Durante l’intervista a CBS News ha cercato anche di allontanare il dibattito dall’idea di un’emergenza immediata. «It doesn’t mean we need to panic today», ha detto. Non significa, quindi, che oggi sia necessario farsi prendere dal panico. Per Amodei si tratta piuttosto di un segnale che dovrebbe spingere l’industria a procedere con maggiore cautela.
La proposta presentata dal fondatore di Anthropic si sviluppa su tre livelli. Il primo riguarda l’introduzione stabile di valutatori indipendenti nelle aziende che sviluppano i sistemi più avanzati, con un accesso sufficiente per controllare procedure, test e incidenti. Il secondo richiede un coordinamento tra imprese e istituzioni nei Paesi democratici. Il terzo guarda a possibili forme di cooperazione internazionale sui rischi più difficili da gestire.
Anthropic ha annunciato di voler procedere autonomamente sulla prima parte della proposta. Anche OpenAI ha mostrato apertura verso valutazioni indipendenti più strutturate.
È probabilmente questo l’elemento più concreto emerso dal dibattito: non una generica richiesta di avere paura dell’intelligenza artificiale, ma la possibilità che chi costruisce i sistemi più potenti accetti controlli esterni più continui rispetto a quelli effettuati esclusivamente all’interno delle proprie aziende.
Perché i concorrenti stanno dicendo cose simili
Le preoccupazioni sulla sicurezza dell’intelligenza artificiale non nascono questo fine settimana. Da anni ricercatori, aziende e istituzioni discutono dei rischi collegati a sistemi sempre più capaci.
La novità è la convergenza pubblica tra dirigenti di società che sono anche concorrenti diretti. Anthropic, OpenAI, xAI e Google DeepMind competono nello sviluppo dei modelli più avanzati, nell’acquisizione di clienti, nell’accesso alle infrastrutture di calcolo e nella ricerca di talenti.
Per questo le dichiarazioni di questi giorni meritano attenzione. Quando le stesse aziende che hanno interesse a sviluppare rapidamente nuovi modelli iniziano a chiedersi pubblicamente se quella velocità sia sostenibile dal punto di vista della sicurezza, il tema non può essere liquidato soltanto come una discussione teorica.
Tra gli episodi citati da Amodei c’è anche quello che ha coinvolto alcuni agenti di OpenAI durante attività collegate a Hugging Face. OpenAI ha successivamente pubblicato una propria ricostruzione dell’accaduto e delle misure adottate dopo l’incidente. Amodei considera quel caso un esempio dei problemi che potrebbero diventare più rilevanti con sistemi dotati di maggiori capacità.
Da qui nasce anche una delle sue preoccupazioni più forti: l’AI viene sempre più utilizzata nello stesso lavoro di ricerca e sviluppo dell’intelligenza artificiale. Secondo Amodei, questo processo potrebbe accelerare ulteriormente il miglioramento dei sistemi.
È però importante mantenere separati i fatti dalle previsioni. Amodei ipotizza scenari molto gravi nel caso in cui sistemi più capaci mostrassero in futuro comportamenti simili a quelli osservati in alcuni test. Sono scenari di rischio indicati da un protagonista del settore, non eventi che sappiamo si verificheranno.
Il rischio di trasformare il dibattito in fantascienza
Quando si parla di intelligenza artificiale avanzata è facile finire rapidamente negli scenari estremi: macchine fuori controllo, sistemi che decidono autonomamente di danneggiare gli esseri umani, reti informatiche conquistate dall’AI.
Sono possibilità discusse nel mondo della ricerca sulla sicurezza, ma non devono essere raccontate come previsioni certe.
Lo stesso Amodei distingue tra il rischio e ciò che sta accadendo oggi. Il problema immediato non è dimostrare che un sistema di AI possa improvvisamente comportarsi come un antagonista di un film di fantascienza. Il problema è verificare se i meccanismi di controllo continuino a funzionare mentre aumentano le capacità dei sistemi.
È una differenza importante.
Un chatbot che risponde a una domanda può produrre un’informazione sbagliata. Un agente collegato a strumenti esterni può invece utilizzare applicazioni, eseguire codice, consultare documenti o svolgere operazioni attraverso più passaggi. Se aumenta la possibilità di agire, aumenta anche la necessità di controllare quali azioni siano autorizzate, quali siano state effettivamente eseguite e come sia possibile interromperle.
La discussione sulla sicurezza dovrebbe partire da qui, senza bisogno di anticipare scenari apocalittici.
Perché riguarda direttamente i consumatori
La distanza tra i laboratori che sviluppano i modelli e la vita quotidiana delle persone si sta riducendo.
L’intelligenza artificiale è ormai presente nei motori di ricerca, nei servizi di assistenza, negli strumenti professionali, nei software aziendali e nelle applicazioni utilizzate ogni giorno da milioni di persone. I sistemi più recenti non si limitano più necessariamente a produrre testo: possono essere collegati ad altri strumenti e svolgere attività per conto dell’utente.
Per un consumatore questo cambia la natura del rischio.
Un errore in una risposta può essere corretto dopo averlo letto. Un errore compiuto da un sistema che agisce autonomamente può produrre conseguenze prima ancora che la persona si accorga di ciò che è successo.
La sicurezza dell’intelligenza artificiale riguarda quindi questioni molto concrete: protezione dei dati, truffe, manipolazione delle informazioni, sicurezza informatica, affidabilità delle risposte, controllo delle azioni automatizzate e possibilità di individuare con chiarezza le responsabilità quando qualcosa non funziona.
C’è poi una questione di trasparenza. Le aziende che sviluppano i modelli dispongono di informazioni tecniche che normalmente non sono accessibili agli utenti e spesso neppure completamente disponibili alle autorità o ai ricercatori esterni.
Per questo la proposta di verifiche indipendenti assume una rilevanza che va oltre il rapporto tra aziende concorrenti. Se un sistema viene utilizzato da milioni di persone, sapere che il suo produttore lo considera sicuro è importante, ma non necessariamente sufficiente.
Il principio è già conosciuto in molti altri settori: quando un prodotto può avere effetti rilevanti sulla sicurezza delle persone, il controllo non viene affidato soltanto a chi lo produce.
In Europa una parte delle regole esiste già
Nell’Unione europea il dibattito non parte da zero.
L’AI Act ha introdotto obblighi specifici anche per i fornitori dei cosiddetti modelli di intelligenza artificiale per finalità generali, i GPAI, cioè modelli che possono essere utilizzati per svolgere numerosi compiti e diventare la base di altri sistemi e servizi.
Questi obblighi sono entrati in applicazione il 2 agosto 2025. Dal 2 agosto 2026 la Commissione europea dispone dei poteri necessari per farne rispettare pienamente l’applicazione, comprese le sanzioni previste dal regolamento.
Per i modelli considerati a rischio sistemico sono previsti ulteriori obblighi: valutare e mitigare i rischi, effettuare test sui modelli, segnalare gli incidenti rilevanti e adottare adeguate misure di cybersicurezza.
Il quadro europeo non coincide con la proposta di Amodei e non risolve automaticamente tutti i problemi sollevati in questi giorni. Mostra però una differenza importante: alcuni controlli non dipendono esclusivamente dalla scelta volontaria dell’azienda che sviluppa il modello.
Ed è probabilmente questo il punto che interessa maggiormente i consumatori.
Il dibattito di questo fine settimana non dimostra che l’intelligenza artificiale sia fuori controllo. Dimostra che perfino tra coloro che stanno costruendo i sistemi più avanzati sta crescendo la domanda su quanto velocemente sia possibile procedere senza ridurre lo spazio necessario per comprenderli e verificarli.
La domanda utile, quindi, non è se dobbiamo avere paura dell’intelligenza artificiale.
È capire chi controlla i sistemi prima che arrivino nelle mani di milioni di persone, con quali strumenti e sulla base di quali regole.
