L’abbandono di Elon Musk all’iniziativa Defense Operational Guidance Enhancement (DOGE) potrebbe sembrare un evento significativo, ma il suo vero impatto risiede nel grado in cui il pubblico rimane vigile. La vera storia non riguarda semplicemente i tagli al budget o le teatralità di Musk; riguarda l’insidiosa integrazione di progetti ideologici nei sistemi tecnici che guidano il governo degli Stati Uniti.
A febbraio, ho delineato il concetto di un "colpo di stato dell’IA", in cui l’Intelligenza Artificiale funziona meno come uno strumento e più come uno spettacolo e una giustificazione. I Large Language Models (LLM) fungono da generatori di pretesti, fornendo una comoda copertura per azioni di cui nessuno desidera assumersi la responsabilità. Elon Musk ha svolto un ruolo simile, distraendo il pubblico con spettacoli sensazionali mentre eseguiva cambiamenti radicali.
Uno degli esempi più eclatanti è stato il definanziamento di un programma che aveva prevenuto 26 milioni di morti per AIDS, compresi i bambini. I funzionari eletti hanno ampiamente ignorato la questione, fingendo impotenza.
Le controverse buffonate di Musk sono servite da comodo schermo fumogeno per lo smantellamento radicale del governo federale. Mentre questo ha innescato un movimento di protesta popolare e ha avuto un impatto negativo sulle vendite di Tesla, ha mascherato il problema più profondo dell’integrazione dell’IA.
Mentre Musk e Trump hanno promosso i tagli al budget a guida ideologica di DOGE, un’analisi su The Atlantic ha rivelato che le uscite federali totali sono in realtà aumentate. La trasformazione dell’IA della forza lavoro federale, pubblicizzata come un mezzo per "l’efficienza del governo", continua in gran parte inosservata. DOGE ha utilizzato Llama 2 per rivedere e classificare le email dei dipendenti federali, ma il contratto da 113 milioni di dollari di Palantir per creare una vasta infrastruttura di sorveglianza civile evidenzia una tendenza preoccupante. L’azienda sta anche integrando il modello linguistico Grok di Musk nella sua piattaforma.
Errori di Programmazione
Il Grok di xAI, sotto il diretto controllo di Musk, fornisce un esempio preoccupante. Il modello ha risposto a query benigne con commenti che promuovono la realtà del genocidio bianco in Sudafrica. Questa manipolazione del prompt di sistema nascosto del modello rivela un tentativo maldestro di ingegneria sociale. Il modello è stato successivamente scoperto impegnato nella negazione dell’Olocausto, che xAI ha attribuito a un "errore di programmazione".
xAI ha risposto all’incidente del "genocidio bianco" affermando che la modifica del prompt violava le politiche interne. Hanno aggiunto che le future modifiche al prompt di sistema sarebbero state soggette a revisione.
Questi incidenti evidenziano i rischi inerenti ai prompt di sistema. Possono essere alterati da chiunque abbia il controllo del modello e sono soggetti a verifica solo dopo il rilevamento. Affidarsi a modelli di IA aziendali nel processo decisionale governativo concede un immenso potere politico alle élite tecnologiche.
In genere, l’adozione della tecnologia nel governo comporta un’attenta deliberazione e revisioni di sicurezza. L’implementazione di DOGE manca di una supervisione adeguata, sollevando preoccupazioni sull’indipendenza di qualsiasi revisione. Integrando i dati delle agenzie in un modello unificato, DOGE non considera le specifiche esigenze di sicurezza delle singole agenzie. In sostanza, DOGE sta implementando cambiamenti trasformativi senza valutare la loro necessità, sufficienza o beneficio per i cittadini.
Se l’amministrazione Trump si preoccupasse genuinamente di costruire sistemi affidabili, le loro azioni lo rifletterebbero. Invece, DOGE e l’amministrazione Trump hanno soffocato la supervisione dei pregiudizi nei modelli di IA aziendali e nei casi di manipolazione del prompt di sistema. A seguito del definanziamento da parte di DOGE della ricerca sulla parzialità dell’IA, una nuova legge approvata dal Congresso vieterebbe qualsiasi nuova legge riguardante la supervisione dell’IA per il prossimo decennio.
Dipendenti Canaglia
L’allontanamento di Musk da DOGE lascia dietro di sé un’eredità, cementata dalla selezione di Palantir, la società di IA fondata da Thiel scelta da Musk. Musk e Thiel sono stati co-fondatori di Paypal e Thiel ha espresso scetticismo in merito alla compatibilità tra libertà e democrazia.
La concentrazione di potere avviata da Musk attraverso DOGE persisterà, operando più discretamente. Mentre il suo allontanamento segna una vittoria per coloro che si sono opposti a lui, il lavoro di DOGE continua sotto la direzione di burocrati assunti per la loro lealtà.
Il vero scopo di DOGE non è mai stato quello di eliminare gli sprechi governativi, ma di automatizzare la burocrazia con meno misure di responsabilizzazione. Questo obiettivo di "efficienza del governo" rimane scarsamente definito. La semplificazione del governo dovrebbe semplificare le interazioni dei cittadini con servizi e informazioni. Invece, i licenziamenti hanno creato ingorghi sistemici compromettendo al contempo la privacy. I tagli ai finanziamenti dell’IRS hanno sollevato preoccupazioni su audit e rimborsi, potenzialmente costando miliardi di entrate mancate.
Lo scopo di DOGE non era quello di ottimizzare la burocrazia, ma di eliminare l’elemento umano. Dà la priorità all’efficienza in stile industriale, categorizzando i cittadini e presumendo abusi sistemici. Diritti e privilegi vengono quindi concessi o negati in base a pregiudizi incorporati nel sistema di IA.
Coloro che controllano la definizione e l’automazione delle risposte a queste categorie esercitano un potere significativo. I modelli riflettono le decisioni di coloro che li addestrano, inclusi i pregiudizi tollerati e gli obiettivi di ottimizzazione. Con gli amministratori attuali che utilizzano tracce algoritmiche, la burocrazia perde il suo ultimo legame con l’umanità.
Errori Amministrativi
Burocrazia ed errore burocratico non sono niente di nuovo. Ciò che non ha precedenti è la separazione della responsabilità umana per gli errori, promuovendo l’indifferenza nell’evitarli.
Considera il rapporto sulla salute di Robert F. Kennedy Jr., che conteneva citazioni fabbricate. Questo atto sarebbe stato storicamente uno scandalo, ma è stato liquidato come un "errore di formattazione". Kennedy abbraccia politiche non supportate da prove e la generazione AI di questo rapporto suggerisce una priorità della presentazione rispetto alla legittima indagine scientifica. L’automazione di prove fabbricate è solo uno dei modi in cui l’IA è diventata uno strumento per l’amministrazione.
DOGE sembra più concentrato nel punire l’opposizione a Trump – migranti, accademici, minoranze razziali – e i suoi sforzi ad ampio raggio generano inevitabili errori. La deportazione di Kilmar Abrego Garcia, attribuita a un "errore amministrativo", ne è un esempio. Questo esemplifica un’intenzionale strumentalizzazione dell’errore.
In definitiva, DOGE mira a creare un sistema in cui i risultati controversi possono essere attribuiti a errori "amministrativi", "di programmazione" o "di formattazione". L’amministrazione scarica la colpa su strumenti difettosi, rifiutandosi di accettare la responsabilità. Nel caso di Garcia, l’amministrazione si rifiuta di rettificare l’errore. Questo dimostra un mondo di ordine inaffidabile, in cui solo coloro che giurano fedeltà saranno risparmiati.
Stiamo creando un ambiente fragile in cui i destini personalizzati dipendono dai capricci dell’IA e dalla sua programmazione invisibile. Cosa succede quando questi programmi di IA sono strumenti destabilizzanti che consolidano i dati in architetture di sorveglianza unificate?
Mentre l’allontanamento di Musk da DOGE può spingere l’attenzione del pubblico a diminuire, le questioni sottostanti rimangono: pregiudizio algoritmico, mancanza di responsabilità ed erosione della supervisione umana. Queste tendenze, se lasciate incontrollate, hanno il potenziale per danneggiare le fondamenta stesse di una società giusta ed equa.