Il ritmo vertiginoso dello sviluppo dell’IA, ora accelerato dall'”auto-miglioramento ricorsivo”, sta superando la capacità umana di comprendere e controllare questi sistemi, causando preoccupazione, anche tra le aziende di intelligenza artificiale. Sono in corso numerosi sforzi nazionali e internazionali per affrontare il rischio, ma saranno troppo pochi, troppo tardi?
Preoccupazione significativa per i pericoli dell’IA non allineata, cioè l’IA non allineata con i valori e gli obiettivi umani, si sta costruendo da luglio, quando è stato rivelato che i modelli OpenAI sono usciti dal loro ambiente di allenamento durante un esercizio e hanno collaborato con un grande collettivo di altri agenti di intelligenza artificiale per montare un attacco informatico al database della società tecnologica, Hugging Face, per un periodo di giorni, senza che nessuno lo sapesse, fino a quando Hugging Face non ha lanciato l’allarme. Da allora, una serie di altri incidenti di hacking AI altamente preomorabili sono stati segnalati da OpenAI, Anthropic e Google.
L’allarme, tuttavia, è cresciuto fino a crescere nelle ultime due settimane, dopo che Jacob Coxon, un ricercatore di intelligenza artificiale di 27 anni, che aveva lavorato sia per OpenAI che per Anthropic, si è dimesso, spiegando in un post sui social media che è diventato virale, con 153 milioni di visualizzazioni nelle prime 36 ore, che le società di intelligenza artificiale stanno “correndo direttamente per migliorare la superintelligenza e il gioco d’azzardo con le nostre vite. Le persone che costruiscono l’IA credono seriamente che potrebbe ucciderci tutti entro la fine del decennio.”
In un’intervista alla CNN, Coxon ha riferito che il pericolo potrebbe aumentare drasticamente già nel 2027 o nel 2028, quando i sistemi di intelligenza artificiale diventano in grado di eseguire ricerche sull’intelligenza artificiale da soli, consentendo a una generazione di modelli di creare successori sempre più potenti, innescando una “esplosione di intelligenza”. In seguito ha detto a Fox News che alcuni nel campo pensano che la transizione potrebbe avvenire in sei mesi.
La crescente realizzazione del pericolo
Le aziende di intelligenza artificiale si stanno sfrecciando verso “sistemi sovrumani che possono hackerare qualsiasi cosa, rivoluzionare qualsiasi campo da un giorno all’altro e acquisire potere e risorse reali”, ha sostenuto Coxon, spiegando che queste società di intelligenza artificiale sono intrappolate in una corsa “in cui anche gli sviluppatori sinceramente preoccupati per la paura della tecnologia rallentamento perché i concorrenti, comprese le aziende rivali o i paesi, potrebbero andare avanti”.
Poche ore dopo, Evan Hubinger, un altro ricercatore antropico, ha scritto: “Crediamo davvero fermamente che l’IA possa uccidere tutti gli esseri umani! Personalmente penso che sia superiore al 10% entro il prossimo decennio… non abbiamo ancora un piano per risolvere l’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per farlo.”
Samuel Marks, che lavora sulla sicurezza in Anthropic, è intervenuto: “Gli sviluppatori di intelligenza artificiale credono che la loro tecnologia potrebbe causare l’estinzione umana (o risultati altrettanto negativi). In generale, più il dipendente è anziano, più è preoccupato.”
Come per dimostrare questo punto, pochi giorni dopo, il cofondatore e CEO di Anthropic, Dario Amodei, ha pubblicato un saggio di 3800 parole intitolato “We Must Pace the Frontier“, chiedendo un rallentamento globale dello sviluppo dell’IA, dicendo: “L’IA porta dei rischi, e poiché è una tecnologia così potente, questi rischi sono gravi… Includono il rischio di perdere il controllo dei sistemi di intelligenza artificiale, l’uso improprio dell’IA per attacchi informatici e il bioterrorismo e gravi interruzioni economiche. Una corsa verso il basso, stimolata da incentivi commerciali, può rendere questi rischi più acuti”.
Amodei ha spiegato che Anthropic ha cercato di rendere la sicurezza qualcosa su cui le aziende di intelligenza artificiale competono creando una corsa verso l’alto. “Ma, negli ultimi mesi”, ha avvertito, “mi sono convinto che affrontare pienamente i rischi richieda ancora più prudenza, non solo investire nella prevenzione dei rischi, ma nel ritmo del tasso di avanzamento delle capacità in modo che la prevenzione del rischio abbia il tempo di tenere il passo. Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale… [e] dobbiamo fare un uso saggio del tempo che guadagniamo.”
Riferendosi all’incidente di luglio Hugging Face, ha continuato: “a mio parere, uno sciame che possedeva capacità di grattugia ma un livello simile di disallineamento avrebbe potuto causare danni catastrofici… Dato il tasso di accelerazione dello sviluppo delle capacità di intelligenza artificiale, temo che in 6-12 mesi un tale sciame potrebbe essere in grado di prendere il sopravvento su Internet con una botnet persistente (potenzialmente causando centinaia di miliardi di dollari di danni) e che la portata dei danni continuerebbe ad aumentare da lì se l’IA diventasse più potente senza i guardrail necessari.”
Propone un piano in tre punti per:
- Incorporare valutatori di terze parti nelle società di intelligenza artificiale per verificare l’aderenza alle pratiche e agli impegni di sicurezza, segnalare gli incidenti e aiutare a valutare l’allineamento;
- Coordinare all’interno dei paesi democratici per stabilire standard di sicurezza comuni e limiti sul tasso di progresso dell’IA;
- Creare un coordinamento globale, prendendo sul serio la sfida di verificare la conformità.
Tre degli altri migliori amministratori delegati dell’IA hanno subito accettato. Sam Altman di Open AI ha postato: “Sono d’accordo con Dario che dobbiamo accelerare la frontiera. Questo è stato un argomento primario delle discussioni che abbiamo avuto a OpenAI nelle ultime settimane. Impegnarsi ad avere valutatori indipendenti con accesso simile a quello dei dipendenti è un’ottima idea e faremo lo stesso.” Ha aggiunto: “Nessuna quantità di pressione competitiva americana dovrebbe giustificare l’incoscienza”.
Poco dopo, Elon Musk di xAI ha pubblicato su X: “Dario ha ragione”. Demis Hassabis, cofondatore e presidente di Google DeepMind, ha pubblicato su X: “Il saggio di Dario indica la strada giusta da seguire”. Da allora, tuttavia, altri amministratori delegati dell’IA sono stati meno solidali.
Questi eventi hanno stimolato una drammatica marea di articoli mediatici, op-ed e interviste che offrono una serie di proposte, dal non fare nulla, al sostenere un rallentamento, all’arresto del tutto la gara.
Un campione di risposte nazionali
Come ci si aspetterebbe, il presidente Donald Trump sta guidando il “che-mi-preoccupare?” folla, scrivendo su Truth Social, “L’unico controllo o ‘guardrail’ di cui l’IA ha bisogno è un PRESIDENTE FORTE E INTELLIGENTE [Alto QI], E GLI STATI UNITI lo hanno, a picche!” La sua posizione è attribuita alla sua convinzione che l’IA abbia beneficiato notevolmente il mercato azionario (mantenendolo alto nonostante il conflitto iraniano, l’inflazione e le tariffe) e alla sua apparente preoccupazione che un rallentamento dell’espansione dell’IA possa mandare l’economia in crisi. È stato ipotizzato che abbia anche interessi economici personali nell’IA.
All’altra estremità dello spettro, il senatore Bernie Sanders (I-Vt.) e il rappresentante Greg Casar (D-Texas) sono stati i più espliciti contro un ulteriore sviluppo dell’IA. Il 3 settembre, hanno introdotto “The Ban Artificial Superintelligence Act“, che avrebbe impedito in modo permanente “lo sviluppo e l’implementazione di sistemi di intelligenza artificiale che potrebbero superare le capacità cognitive umane e sospendere immediatamente lo sviluppo avanzato dell’IA” fino a quando una nuova agenzia di regolamentazione federale non stabilirà guardrail di sicurezza. La legislazione propone anche una “pena di morte aziendale” che costringerebbe le società a chiudere e una pena detentiva federale di 20 anni per i singoli sviluppatori che violano il divieto.
“The Frontier Act”, un altro disegno di legge bipartisan proposto il 23 luglio dai rappresentanti. Jay Obernolte (R-Calif) e Lori Trahan (D-Mass) avrebbero creato il primo quadro federale per la sicurezza dell’IA. Come lo descrive Obernolte, “Il Frontier Act concentra la supervisione sui più grandi sviluppatori e sui modelli più avanzati, richiedendo trasparenza, valutazione indipendente e segnalazione tempestiva di gravi incidenti di sicurezza”.
Un altro disegno di legge ancora più forte viene presentato questo mese dal leader della maggioranza del Senato John Thune (R-SD), Sen. Ted Cruz (R-Texas) e Sen.Amy Klobuchar (D-Minn.). Imporrebbe un “dovere di diligenza” legalmente vincolante agli sviluppatori dei modelli di intelligenza artificiale più potenti e concederebbe al governo l’autorità di bloccare il rilascio di modelli ritenuti non sicuri. Ciò significherebbe che le aziende sarebbero tenute a “progettare i loro prodotti per prevenire risultati catastrofici e possono affrontare responsabilità legale se non lo fanno”.
Ma nonostante questo improvviso e frenetico tentativo di proporre una legislazione sull’IA, Mike Johnson (R-La.), il presidente repubblicano della Camera, ha mandato a casa i suoi membri a fare campagna elettorale prima delle prove di medio termine, ignorando oltre 100 democratici che lo hanno esortato a cancellare la pausa per consentire la stesura di una legislazione sulle salvaguardie dell’IA. Ciò significa che è improbabile che la legislazione venga presa in considerazione fino a quando un nuovo Congresso non si sederà nel gennaio 2027.
Un esempio di risposte globali
La scorsa settimana, il capo dei diritti umani delle Nazioni Unite, Volker Türk, ha invitato gli stati e le società di intelligenza artificiale ad agire con urgenza per frenare una tecnologia che pone “rischi senza precedenti”. Avverte: “L’attuale corsa verso un’IA sempre più potente è un passo avanti verso maggiori rischi esistenziali per ogni aspetto della nostra vita… Siamo sull’apice di un cambiamento irreversibile, che colpisce non solo noi ma le generazioni di umanità a venire”. Conclude: “Invito gli Stati e le aziende a mobilitarsi urgentemente attraverso forum multilaterali per tracciare un percorso di azione per governare modelli avanzati di intelligenza artificiale di frontiera, fondati sul diritto internazionale sui diritti umani”.
In effetti, questa sarà una settimana importante a livello globale per la sicurezza dell’IA, poiché è quando l’Assemblea Generale (GA) ospita la sua riunione di alto livello, dove i leader degli Stati membri affrontano l’AG e, come ha previsto il segretario generale delle Nazioni Unite, l’IA sarà “un importante argomento di discussione”. La Francia (attualmente presidente del Consiglio di sicurezza) organizzerà anche una sessione del consiglio di emergenza per discutere dell’IA tra i capi di stato e di governo.
Le Nazioni Unite sono state effettivamente coinvolte nell’IA negli ultimi anni, fornendo un forum per i paesi per discutere su come possono cooperare per fornire un quadro normativo sulla sicurezza dell’IA. Il suo “Global Digital Compact”, adottato dall’AG nel 2024, ha stabilito due nuovi meccanismi: “The Independent International Scientific Panel on AI”, incaricato di fornire prove su ciò che è noto e ciò che non è noto sulla tecnologia in rapida evoluzione; e “The Global Dialogue”, inteso come forum per i paesi per decidere cosa fare in risposta”.
È anche la settimana di una visita di Stato negli Stati Uniti da parte del segretario generale Xi Jinping del Partito comunista cinese. Il 24 settembre incontrerà il presidente Trump a Washington, dove sono programmati per discutere, tra le altre cose, della sicurezza dell’IA.
Anticipando un’opportunità di progresso, il rappresentante Ted Lieu (D-Calif.) e il senatore Ed Markey (D-Mass.) ha scritto al presidente Trump la scorsa settimana esortandolo a persuadere Xi a impegnare la Repubblica Popolare Cinese a rispettare la politica statunitense recentemente stabilita di mantenere un “umano in cerchio” per tutte le decisioni di lancio nucleare e concordando che l’IA non dovrebbe mai essere in grado di lanciare armi nucleari da sola.
Tuttavia, il problema con la discussione Trump-Xi è che l’amministrazione Trump ha spesso inquadrato lo sviluppo dell’IA come una gara a somma zero con la Cina per la supremazia tecnologica.
Come Richard Clark, ex zar cibernico su AI Risks, ha detto alla CNN: “Abbiamo il presidente della Cina che viene qui il 24. Ha parlato pubblicamente della sua preoccupazione per la possibile perdita di controllo. Non sarebbe bello se il nostro presidente parlasse della perdita di controllo? Non sarebbe ancora più bello se i due presidenti potessero lavorare insieme per fermare la perdita di controllo?”
“Ho lavorato per 25 anni sul controllo degli armami”, ha continuato Clark, “dove mi è stato detto che non puoi fidarti delle persone per non costruire armi biologiche. Non puoi fidarti delle persone per non costruire armi chimiche. Non puoi fidarti delle persone per regolare il numero di armi nucleari. Ma nel corso del tempo, attraverso i negoziati, abbiamo sviluppato metodi di verifica che ci hanno dato abbastanza certezza di firmare trattati su tutte quelle iniziative e il Senato ha ratificato i trattati su tutte queste questioni. Sarà difficile, ma devi iniziare da qualche parte e devi iniziare presto!”
Un segno positivo iniziale, tuttavia, è che in una riunione del 20 settembre a New York tra il segretario al Tesoro Scott Bessent e il vicepremier cinese He Lifeng, è stata discussa la creazione di un meccanismo, da chiamare provvisoriamente “dialogo AI USA-Cina”. Promuoverebbe una visione condivisa degli obiettivi dell’IA e delle sue minacce e stabilirebbe un sistema di notifica (una sorta di hotline) che “consentirebbe ai paesi di avvisarsi a vicenda sulle questioni di sicurezza nazionale relative all’intelligenza artificiale“.
In un recente articolo, Bill Gates ha affermato: “La transizione verso questa nuova era dell’IA sarà uno dei tempi più turbolenti della storia umana”, proponendo che il mondo ha bisogno di un piano che dovrebbe essere sviluppato attraverso un “processo democratico pubblico”.
Ha sostenuto che dobbiamo intraprendere l’enorme compito di costruire un nuovo sistema per gestire la transizione, creando un quadro sia nazionale che internazionale per affrontare l’IA. Ciò richiederà un sistema multisettoriale, poiché le istituzioni attuali non sono state progettate per gestire una tecnologia che si diffonde così velocemente e coinvolge così tante parti della nostra vita. “L’obiettivo sarà quello di assicurarsi che ogni rischio sia contabilito. Altrimenti, un attacco abilitato all’intelligenza artificiale potrebbe avere successo perché nessuno pensava che fosse il loro lavoro fermarlo.”
“Poiché i rischi attraversano i confini, un’organizzazione internazionale dove essere costruita in parallelo. Anche se a differenza di qualsiasi istituzione che abbiamo mai creato, può essere modellato su accordi di cooperazione esistenti, come regimi di ispezione per le armi nucleari, regolamenti per l’aviazione internazionale e accordi che proteggono lo strato di ozono. I paesi dovranno imparare gli uni dagli altri e muoversi rapidamente per costruire le giuste istituzioni prima che l’interruzione costringa i governi in modalità crisi”.
Il messaggio di Gates ai leader è: “Avete la possibilità di agire ora… Puoi lavorare con altri governi per affrontare questa sfida nazionale e globale… Questa tecnologia senza precedenti richiede una risposta globale senza precedenti… I leader del mondo accademico, delle imprese, del governo e della società civile hanno tutti un ruolo da svolgere nel plasmare ciò che verrà dopo.”
Un buon punto di partenza sarebbe considerare e valutare attentamente il “Artificial Intelligence Act” dell’Unione europea (l’AI Act), il quadro giuridico più completo al mondo per l’IA. Entrato in vigore il 1° agosto 2024, si basa su quattro livelli di rischio di danno: “inaccettabile”, “alto; “limitato” e “minimo”. L’AI Act ha anche creato vari nuovi organismi incaricati dell’attuazione e dell’applicazione, tra cui l'”Ufficio AI”, il “European Artificial Intelligence Board”, un “Forum consultivo” e un “Pannello scientifico di esperti indipendenti” per promuovere la cooperazione nazionale e la conformità. Inoltre, gli Stati membri dell’UE designano “autorità nazionali competenti”.
Il 10 luglio 2025, l’UE ha lanciato un “General Purpose AI Practice Code” (GPAI) volontario firmato da società statunitensi, tra cui Amazon, Anthropic, Google, IBM, Microsoft e OpenAI (con xAI di Musk che firma solo la sezione Sicurezza e protezione). Anche la maggior parte di altre importanti società di intelligenza artificiale canadesi, europee e cinesi hanno firmato il GPAI; Meta è l’unica società che ha rifiutato di firmare.
Come hanno notato i commentatori legali, l’AI Act è il quadro più completo fino ad oggi per regolamentare l’IA in più settori, e il primo del suo genere. Potrebbe essere un utile punto di riferimento per le aziende e le autorità di regolamentazione al di fuori dell’UE quando creano i propri approcci alla governance dell’IA. Una serie di critiche sono state mosse contro la legge UE sull’intelligenza artificiale, e tale analisi sarebbe utile anche per coloro che vogliono progettare qualcosa di ancora più completo ed efficace.
In un libro intitolato, What’s the Worst that Could Happen: Existenceial Risk and Extreme Politics, il parlamentare australiano Andrew Leigh commenta: “Se la nostra specie si estingue, non solo sminuiamo la vita degli 8 miliardi che vivono oggi, ma anche trilioni di non ancora nati che si allungano fino al futuro quasi infinito. Se i nostri discendenti avessero voce, ci griderebbero contro come un genitore che ha appena visto il proprio figlio giocare con il freno a mano di un’auto parcheggiata in cima a una scogliera… Rafforzare le istituzioni, approfondire l’impegno internazionale e creare spazio per una politica più ponderata e ponderata sono i modi migliori per ridurre al minimo i rischi esistenziali.”
Geoffrey Hinton, spesso chiamato il “padrino dell’IA”, che nel 2023 è stato il primo a suonare l’allarme, dice: “L’umanità potrebbe seguire la strada verso la sua distruzione o capire come affrontare i pericoli”. Ha rinnovato il suo appello per la regolamentazione globale, notando che, “mentre i paesi potrebbero non essere d’accordo su tutto, condividono il desiderio di preservare l’umanità. Per cose come impedire che l’IA prenda il sopravvento sulle persone, gli interessi di tutti i paesi sono allineati… Quindi, alla fine collaboreranno su questo. La domanda è: lo faranno in tempo?”