L’automazione ha plasmato i governi per decenni, ma i nuovi sistemi basati sull’intelligenza artificiale stanno assumendo funzioni che vanno dalla guerra al benessere. Promettendo velocità ed efficienza, la loro crescente influenza sul processo decisionale complica la responsabilità politica e rischia di essere al di fuori del controllo umano
Ad aprile, la General Services Administration ha annunciato piani per automatizzare 1 milione di ore di lavoro all’anno dopo aver tagliato quasi il 40 per cento del suo personale da ottobre 2024, con riduzioni simili osservate in tutta la forza lavoro del governo.
Mentre il Dipartimento di Efficienza Governativa (DOGE) guidato da Elon Musk potrebbe aver fatto un’indietra come iniziativa formale, ha assunto membri del personale che hanno lavorato in diverse agenzie e accelerando un’ulteriore automazione del governo.
Washington adottò per la prima volta l’automazione su larga scala durante la seconda guerra mondiale per gestire enormi set di dati militari, prima della sua espansione nello stato amministrativo del dopoguerra. A differenza delle ondate precedenti, tuttavia, l’automazione basata sull’intelligenza artificiale sta riducendo i posti di lavoro sia nel settore governativo che in quello privato senza creare ruoli sostitutivi comparabili.
Questi sistemi stanno già plasmando le funzioni governative fondamentali legate all’autorità e alla legittimità dello Stato, compreso l’uso della forza militare. I rapporti sul Maven Smart System del Pentagono, schierato nel conflitto iraniano del 2026, offrono un assaggio di quanto sia progredito l’uso di tali tecnologie.
Lanciata nel 2017, Maven è una rete di sistemi costruiti da appaltatori guidata da Palantir Technologies, con il coinvolgimento di aziende come Microsoft e Amazon.Integra immagini satellitari, feed di droni, radar e sensori a infrarossi e intelligenza dei segnali, insieme a dozzine di altre fonti di dati. Gli algoritmi di visione artificiale, che sono stati addestrati su vasti set di dati di immagini, classificano gli “oggetti del campo di battaglia” con un “AI Asset Tasking Recommender” che suggerisce opzioni di sciopero.
Due decenni fa, questo compito ha richiesto migliaia di persone per essere completato, ma ora può essere svolto da una manciata di operatori in pochi secondi. La produzione di targeting è aumentata da meno di 100 prima di Maven a più di 5.000 al giorno durante la guerra in Iran, ha detto a Wired un funzionario della National Geospatial Intelligence Agency.
Le versioni precedenti di Maven sono state utilizzate in Afghanistan, Ucraina, Iraq, Siria, Yemen e durante il sequestro di Nicolás Maduro in Venezuela, e la tecnologia ha continuato ad evolversi durante il conflitto iraniano. Sebbene non sia completamente autonomo, è un altro passo verso la vera guerra dell’IA agentica, in cui i sistemi di intelligenza artificiale vanno oltre l’assistenza alle decisioni umane attraverso l’automazione verso l’identificazione e lo svolgimento di compiti con un input umano minimo.
Il Pentagono ha chiesto 54 miliardi di dollari come parte del suo bilancio 2027 per muoversi verso un “sistemi autonomi e a distanza attraverso l’aria, la terra e sopra e sotto il mare, incluso il “programma Drone Dominance”. È l’ultimo segnale dell’intenzione di Washington di ridurre il coinvolgimento umano nella guerra, poiché il numero di truppe continua il loro declino decennale, riducendo del 64 per cento tra il 1968 e il 2025. L’uso da parte dell’Azerbaigian di droni in giro in Armenia nel 2020 e l’uso da parte di Israele della guerra assistita dall’intelligenza artificiale a Gaza mostrano quanto facilmente i paesi possano adattarsi a questi sistemi. Gli sforzi russi e cinesi per aumentare la capacità dei loro sistemi autonomi sono già in competizione o superano quelli di Washington.
Ridurre la deliberazione umana nella guerra comprime la revisione giuridica nel diritto umanitario internazionale, che si basa sulle Convenzioni di Ginevra del 1949 e sul Protocollo aggiuntivo I del 1977. “L’opacità dell’IA moderna rende… più difficile rintracciare chi è responsabile degli errori, e quindi garantire giustizia alle vittime. Queste lacune minano sia la deterrenza che l’applicazione, rivelando come le Convenzioni di Ginevra e lo Statuto di Roma non siano all’altezza se applicate a sistemi che prendono decisioni di targeting da soli”, ha dichiarato l’Istituto Lieber.
I principi di distinzione, proporzionalità e precauzione sono ora pesantemente tesi dalle nuove armi di intelligenza artificiale, con l’entusiasmo per una regolamentazione aggiuntiva che diminuisce mentre i governi accettano a livello globale un controllo umano ridotto per ottenere un vantaggio sulla scena globale.
Approccio di tutto il governo
Lo spostamento verso i sistemi di intelligenza artificiale ha anche gravi implicazioni nazionali. Le funzioni statali principali come le forze dell’ordine, i processi legali e il processo decisionale amministrativo, insieme ai servizi pubblici come i trasporti e la gestione municipale, sono ora caratterizzate da un’automazione su larga scala con autonomia strisciante.
I sostenitori dicono che tali sistemi potrebbero ridurre l’errore umano e i pregiudizi politici, fornendo decisioni più rapide e coerenti e garantendo una migliore governance e infrastruttura. I legislatori devono anche tenere il passo con il settore privato, che ha abbracciato sistemi automatizzati e autonomi per migliorare l’efficienza e la competitività.
L’albanese Diella, ad esempio, è un virtuale “ministro incaricato di affrontare la corruzione” nel nuovo gabinetto del primo ministro albanese Edi Rama, secondo Al Jazeera. Il suo discorso inaugurale in parlamento nel 2025 ha attirato l’attenzione internazionale. In esecuzione su modelli OpenAI e sull’infrastruttura cloud di Microsoft, è vista come un segno di “progresso”. Mentre il sostegno interno è misto, ha dato alla governance dell’IA un volto pubblico che incoraggia la normalizzazione. “In questo momento, Diella è solo un chatbot, non un sistema autonomo. L’intelligenza artificiale potrebbe supportare le decisioni del governo se adeguatamente addestrata e monitorata, ma il vero problema è la trasparenza: non sappiamo su quali dati si basa o chi è responsabile della sua manutenzione”, ha detto a Deutsche Welle Besmir Semanaj, che ha 17 anni di esperienza nella tecnologia dell’informazione.
Dagli anni ’90, le forze dell’ordine negli Stati Uniti e in tutto il mondo hanno nel frattempo evoluto il loro uso dell’IAdiscriminativa/predittiva. Monitorando dati personali come viaggi, finanze e comunicazioni, i punteggi di rischio individuali e regionali vengono generati per dirigere le risorse della polizia. Nel 2025, il governo britannico ha ammesso di aver sviluppato un “progetto di previsione degli omicidi”, utilizzando i dati per segnalare persone considerate capaci di omicidio, mentre aziende come Palantir e Babel Street vendono sistemi con capacità simili.
Aumentare l’automazione sta espandendo l’autonomia pratica tra i sistemi di intelligenza artificiale. I robot della polizia, dai robot di pattuglia di Singapore ai veicoli di sicurezza autonomi di Miami, sono dotati di tecnologia di riconoscimento facciale e del veicolo e possono monitorare le aree pubbliche e avvisare la polizia in tempo reale.
L’IA automatizzata è anche importante nel sistema legale, con un impatto diretto sulla libertà umana. Negli Stati Uniti, la cauzione e la condanna si basano su strumenti di rischio algoritmico parziale, come lo strumento di valutazione della sicurezza pubblica di Arnold Ventures, che utilizza nove fattori oggettivi per prevedere se gli imputati potrebbero mancare in tribunale o commettere nuovi crimini. Strumenti di intelligenza artificiale come COMPAS, PRIME e HARMLESS svolgono funzioni simili.
La revisione della Michigan Joint Task Force on Jail and Pretrial Incarceration dei dati di arresto e tribunale a livello statale, insieme ad altri documenti, tuttavia, ha sollevato preoccupazioni “sulla precisione dell’affermazione di Arnold Ventures e dimostra i potenziali danni dell’utilizzo della storia criminale passata come input per la valutazione del rischio”.
Il ragionamento giudiziario AI viene utilizzato anche negli accordi di divorzio. Il software australiano Split Up, sviluppato negli anni ’90, ha in seguito ispirato strumenti come Amica, una piattaforma sostenuta dal governo che utilizza input finanziari e precedenti per suggerire una divisione delle attività.
Il programma Victor del Brasile aiuta la Corte Suprema Federale a classificare rapidamente i casi. Analizza “il rispetto dei requisiti costituzionali di ammissibilità e [accelera] l’analisi dei casi che raggiungono la Corte Suprema utilizzando l’analisi dei documenti e gli strumenti di elaborazione del linguaggio naturale”, secondo l’Oxford Institute of Technology and Justice. La Cina va oltre, con i suoi “tributi intelligenti” che integrano ampiamente l’IA nella stesura dei documenti, nello smistamento delle prove e nella revisione dei casi. Le analisi automatizzate dei fascicoli vengono fornite ai giudici insieme a sentenze passate simili e risultati raccomandati per standardizzare le decisioni, riducendo il ruolo della discrezione umana. Nel frattempo, paesi come il Canada e il Regno Unito hanno implementato regole che consentono l’IA nell’amministrazione giudiziaria, ma non il processo decisionale giudiziario formale.
L’automazione nel governo è spesso più facile da implementare nelle città e negli stati più piccoli, e l’Estonia si distingue come uno dei paesi più automatizzati al mondo. L’Estonia ha anche iniziato ad estendere l’automazione nella magistratura, compresi i giudici assistiti dall’intelligenza artificiale per le controversie di modesta entità. La piattaforma e-Estonia offre benefici statali, come il sostegno dei genitori, spesso senza che i cittadini ne abbiano richiesta. Come ha descritto il primo ministro estone Kristen Michal, questi sistemi di intelligenza artificiale “sono predittivi, personalizzati e proattivi”.
Comprendere i rischi
La governance basata sull’intelligenza artificiale è strettamente legata a diverse iniziative come Smart Cities, città in 15 minuti e varie forme di sistemi di credito sociale, in cui le infrastrutture pubbliche, i servizi, la sorveglianza e l’amministrazione sono integrate attraverso la gestione automatizzata. Nel 2025, il CEO di Palantir Alex Karp e il capo degli affari aziendali e del consulente legale dell’ufficio del CEO, Nicholas W. Zamiska, ha approvato una più stretta integrazione tra la Silicon Valley e lo stato nel loro libro, The Technological Republic.
Mentre lo stato amministrativo può continuare a ridurre la sua forza lavoro, l’interfaccia automatizzata e potenzialmente autonoma che la sostituisce renderà la struttura governativa molto più grande e invadente. Anche la consegna dell’autorità pubblica alle società private che forniscono la tecnologia sottostante, insieme alle decisioni prese da processi algoritmici opachi invece che da funzionari identificabili, ha anche reso le popolazioni a disagio. Un articolo di Cornell Brooks Public Policy del 2025 rivela un sostegno misto negli Stati Uniti per l’uso dell’IA nel governo in generale e una minore accettazione se utilizzata in decisioni ad alto rischio.
Gli stessi strumenti sviluppati per gestire la società possono anche essere contrariti da altri attori. Nel 2025, Anthropic ha dichiarato che un probabile attore sponsorizzato dallo stato cinese ha usato la sua Claude agentic AI per tentare l’infiltrazione in 30 obiettivi in tutto il mondo, tra cui aziende tecnologiche, agenzie governative, società di produzione chimica e istituzioni finanziarie, riuscendoci in diversi casi. La società lo ha descritto come il “primo caso documentato di un attacco informatico su larga scala eseguito senza un sostanziale intervento umano”.
Anche i guasti amministrativi causati dall’automazione hanno creato seri problemi per anni. Nei Paesi Bassi, un sistema di autoapprendimento utilizzato dall’amministrazione fiscale e doganale olandese ha ingiustamente penalizzato migliaia di famiglie, molte delle quali provenienti da comunità emarginate, portandone alcune alla rovina finanziaria e persino alla perdita della custodia dei figli.
Nel 2016, l’Arkansas ha automatizzato le valutazioni dell’assistenza Medicaid attraverso un appaltatore di terze parti, tagliando bruscamente il supporto per i destinatari vulnerabili e innescando sfide della corte federale. Il Dipartimento della Sicurezza Nazionale ha anche ripetutamente identificato erroneamente individui attraverso sistemi di screening automatizzati, impedendo ad alcuni di viaggiare. In Colorado nel 2020, un lettore automatico di targa ha falsamente segnalato un’auto come rubata, portando la polizia a tenere una madre innocente e i suoi figli sotto tiro.
Qualunque regola sia integrata nei sistemi automatizzati può anche standardizzare le decisioni in modi che smirano il contesto. La ricerca di un progetto dell’Università Tecnica di Monaco sulla governance algoritmica osserva che i “giudizi euristici” o “regole empiriche” riducono le decisioni complesse in calcoli standard più semplici. Man mano che cresce la dipendenza dalla “verità algoritmica“, il giudizio umano e il ragionamento più profondo rischiano di essere messi da parte da decisioni semplificate che sembrano più giuste.
L’automazione espande allo stesso modo il potenziale per modelli di censura più potenti e manipolazione politica. Abbracciare una governance automatizzata e autonoma significa anche rinunciare a parte del ruolo umano nell’autogoverno. La governance collettiva, fondata sul dibattito pubblico e sull’accesso a funzionari responsabili, darà il posto a strutture più difficili da mettere in discussione o comprendere appieno.
Regolamento per la nuova governance
Il regolamento sta lottando per tenere il passo su tutta la linea, anche se il regolamento generale sulla protezione dei dati (GDPR) dell’UE e il Digital Services Act e il Digital Markets Act forniscono una certa copertura. Organizzazioni come l’Open Government Partnership stanno anche sostenendo regolamenti internazionali sull’intelligenza artificiale e sull’automazione.
La regolamentazione aggiuntiva sembra meno formidabile in altri paesi. Il Transparent Automated Governance (TAG) Act ha stabilito regolamenti per le agenzie federali statunitensi, ma la risposta di Washington è stata per lo più orientata al mercato, con i governi statali e locali che agiscono in modo più aggressivo per stabilire una regolamentazione dell’IA. La Cina ha allo stesso modo dato priorità alla sperimentazione rispetto a controlli ed equilibri completi.
Anche l’integrazione con Big Tech si è dimostrata controversa, in particolare nelle applicazioni militari. Le preoccupazioni di Anthropic sull’uso del modello di intelligenza artificiale Claude nelle operazioni relative a Maven in Venezuela hanno portato i funzionari statunitensi a etichettarlo come un “rischio della catena di approvvigionamento“, spingendo cause legali da parte dell’azienda. Google in precedenza si è ritirato dal proprio contratto Maven durante la prima amministrazione Trump nel 2018 dopo le proteste dei dipendenti, anche se la cooperazione è continuata segretamente.
I governi sono quindi costretti a costruire queste capacità internamente. Un rapporto di Stanford del 2019 intitolato “Governo per algoritmo” ha rilevato che più della metà delle applicazioni algoritmiche sono state costruite internamente dalle agenzie, “suggerendo che c’è un notevole appetito creativo all’interno delle agenzie”. Ma stare al passo con il settore privato sarà difficile. Un documento dell’Emory Law Journal ha avvertito che “le prove in crescenti suggeriscono che le agenzie si stanno rivolgendo a sistemi in cui non hanno esperienza, e che chiudono quasi interamente discrezione, individuazione e ragione”.
Ci sono poche ragioni per credere che la governance basata sull’intelligenza artificiale rallenterà. Avendo trasformato gran parte del settore privato, l’AmericanAcademy of Arts and Sciences suggerisce che presto andrà oltre la digitalizzazione della governance front-end e nel “processo decisionale di back-end” ancora in gran parte gestito da funzionari umani.
Considerando questo, il pubblico dovrà adottare i propri strumenti per navigare in una governance sempre più guidata dall’intelligenza artificiale, e i sistemi automatizzati si sono dimostrati in grado di sfidare la burocrazia governativa e l’amministrazione del settore privato. Il popolare chatbot DoNotPay AI, ad esempio, ha contribuito a ribaltare centinaia di migliaia di biglietti per il parcheggio negli Stati Uniti e nel Regno Unito automatizzando i ricorsi legali. Man mano che i governi diventano più impersonali e guidati dalle macchine, adattarsi a ciò può richiedere di vedere l’automazione come qualcosa che il pubblico può usare per navigare e, a volte, proteggersi, piuttosto che semplicemente sottomettersi.