Un’inattesa rivelazione indica che le iniziative del Department of Government Efficiency (DOGE), volte a snellire la forza lavoro federale, hanno utilizzato un modello AI di Meta più datato, specificamente Llama 2, piuttosto che Grok, la creazione AI di Elon Musk.
Il Memo “Bivio” e il Ruolo di Llama 2
Secondo un’analisi condotta da Wired, affiliati al DOGE di Elon Musk, operando all’interno dell’Office of Personnel Management, hanno impiegato il modello Llama 2 di Meta per analizzare e categorizzare meticolosamente le risposte dei dipendenti federali all’e-mail controversa “Bivio” distribuita in tutto il governo alla fine di gennaio.
Il memo “Bivio”, sorprendentemente simile a una precedente comunicazione che Musk aveva inviato ai dipendenti di Twitter, presentava ai lavoratori federali una scelta: dimostrare “lealtà” accettando la politica rivista del governo sul rientro in ufficio, oppure scegliere di dimettersi. All’epoca, circolavano voci secondo cui il DOGE stava sfruttando l’AI per elaborare i dati dei dipendenti governativi. Da allora è emersa una conferma, che avvalora l’uso di Llama 2 per vagliare le risposte dei dipendenti e quantificare il numero di dimissioni.
Il Passato Controverso di Llama 2: Applicazioni Militari e la Risposta di Meta
La storia di Llama 2 non è priva di controversie. In particolare, a novembre, ricercatori cinesi hanno sfruttato Llama 2 come base per un modello AI impiegato dall’esercito cinese. Questa rivelazione ha scatenato una reazione negativa, spingendo Meta a denunciare inizialmente la dipendenza “non autorizzata” da parte dei ricercatori da un modello “singolo” e “obsoleto”. Tuttavia, Meta ha successivamente invertito le sue politiche che proibivano le applicazioni militari e ha ampliato l’accesso ai suoi modelli AI per scopi di sicurezza nazionale degli Stati Uniti.
Meta ha dichiarato pubblicamente il suo impegno a rendere Llama accessibile alle agenzie governative statunitensi, comprese quelle coinvolte nella difesa e nelle applicazioni di sicurezza nazionale, nonché ai partner del settore privato che supportano i loro sforzi. Hanno annunciato partnership con aziende come Accenture, Amazon Web Services, Anduril, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI e Snowflake per facilitare la distribuzione di Llama tra le agenzie governative.
Wired suggerisce che la natura open-source dei modelli di Meta consente al governo di impiegarli prontamente a sostegno degli obiettivi di Musk, potenzialmente senza il consenso esplicito dell’azienda. Identificare l’estensione della distribuzione dei modelli di Meta all’interno del governo rimane una sfida. La logica alla base della dipendenza del DOGE da Llama 2, in particolare dati i progressi di Meta con Llama 3 e 4, non è chiara.
Conoscenza Limitata dell’Uso di Llama 2 da Parte del DOGE
I dettagli riguardanti l’applicazione specifica di Llama 2 da parte del DOGE rimangono scarsi. L’indagine di Wired ha rivelato che il DOGE ha implementato il modello localmente, suggerendo che i dati non erano probabilmente stati trasmessi via Internet, mitigando così le preoccupazioni sulla privacy espresse da molti dipendenti governativi.
Preoccupazioni del Congresso e Richieste di Indagine
In una lettera di aprile indirizzata a Russell Vought, direttore dell’Office of Management and Budget, oltre 40 legislatori hanno chiesto un’indagine approfondita sull’utilizzo di AI da parte del DOGE. Hanno espresso preoccupazioni sul fatto che tale utilizzo, insieme ai potenziali rischi per la sicurezza, potrebbe minare l’adozione efficace e appropriata dell’AI all’interno del governo.
La lettera faceva specificamente riferimento a un membro dello staff del DOGE ed ex dipendente di SpaceX che avrebbe utilizzato il modello xAI Grok-2 di Musk per sviluppare un “assistente AI”. Citava anche l’uso di un chatbot chiamato “GSAi”, basato sui modelli Anthropic e Meta, per analizzare i dati relativi a contratti e appalti. Inoltre, il DOGE è stato collegato a un software chiamato AutoRIF, presumibilmente progettato per accelerare i licenziamenti di massa in tutto il governo.
I legislatori hanno sottolineato le “grandi preoccupazioni sulla sicurezza” che circondano l’uso da parte del DOGE di “sistemi AI per analizzare le e-mail provenienti da una vasta porzione della forza lavoro federale di due milioni di persone che descrivono i risultati della settimana precedente”, citando una mancanza di trasparenza.
Queste e-mail hanno seguito le e-mail del “Bivio”, spingendo i lavoratori a delineare i risultati settimanali in cinque punti elenco. I dipendenti hanno espresso preoccupazione per la natura delle risposte, temendo che il DOGE potesse sollecitare informazioni sensibili senza le adeguate autorizzazioni di sicurezza.
Wired non ha potuto confermare definitivamente se Llama 2 fosse stato utilizzato anche per analizzare queste risposte e-mail. Tuttavia, i lavoratori federali hanno suggerito a Wired che il DOGE probabilmente “riutilizzerebbe il loro codice” dall’esperimento di e-mail “Bivio”, se fosse stata una decisione giudiziosa.
Perché Grok Non È Stato Utilizzato
Sorge la domanda: perché il DOGE non ha utilizzato Grok?
La spiegazione più probabile è che Grok, essendo un modello proprietario all’epoca, non fosse disponibile per il compito del DOGE a gennaio. Secondo Wired, il DOGE potrebbe aumentare la sua dipendenza da Grok in futuro, soprattutto considerando l’annuncio di Microsoft che avrebbe iniziato a ospitare i modelli Grok 3 di xAI nel suo Azure AI Foundry questa settimana, ampliando così le potenziali applicazioni del modello.
Preoccupazioni dei Legislatori: Conflitti di Interessi e Violazioni dei Dati
Nella loro lettera, i legislatori hanno esortato Vought a indagare su potenziali conflitti di interessi che coinvolgono Musk, avvertendo anche contro potenziali violazioni dei dati. Hanno affermato che l’AI, come utilizzata dal DOGE, non era ancora adatta per le applicazioni governative.
Hanno sostenuto che "senza adeguate protezioni, l’immissione di dati sensibili in un sistema AI li mette in possesso dell’operatore di un sistema: una massiccia violazione della fiducia pubblica e dei dipendenti e un aumento dei rischi di cybersecurity che circondano tali dati”. Hanno inoltre osservato che "i modelli di AI generativa commettono anche frequentemente errori e mostrano significativi pregiudizi: la tecnologia semplicemente non è pronta per l’uso nel processo decisionale ad alto rischio senza un’adeguata verifica, trasparenza, supervisione e protezioni in atto”.
Sebbene il rapporto di Wired suggerisca che il DOGE non ha trasmesso dati sensibili dalle e-mail del "Bivio" a una fonte esterna, i legislatori stanno sostenendo una verifica più rigorosa dei sistemi AI per mitigare "il rischio di condividere informazioni identificabili personalmente o altrimenti sensibili con gli implementatori del modello AI.”
Una preoccupazione prevalente è che Musk possa sfruttare sempre più i propri modelli, potenzialmente beneficiando di dati governativi inaccessibili ai suoi concorrenti, esponendo contemporaneamente tali dati a rischi di violazione. I legislatori sperano che il DOGE sarà costretto a interrompere i suoi sistemi AI. Tuttavia, Vought sembra più allineato con l’approccio del DOGE, come dimostrato dalle sue linee guida sull’AI per l’uso federale, che incoraggiano le agenzie a "rimuovere le barriere all’innovazione e fornire il miglior valore per il contribuente.”
La lettera dei legislatori sottolinea che "sebbene sosteniamo il governo federale che integra nuove tecnologie AI approvate che possono migliorare l’efficienza o l’efficacia, non possiamo sacrificare la sicurezza, la privacy e gli standard di utilizzo appropriati quando interagiamo con i dati federali”. Affermano anche che "non possiamo condonare l’uso di sistemi AI, spesso noti per allucinazioni e pregiudizi, nelle decisioni relative alla cessazione del lavoro federale o al finanziamento federale senza sufficiente trasparenza e supervisione di tali modelli: il rischio di perdere talenti e ricerca fondamentale a causa di una tecnologia difettosa o di usi difettosi di tale tecnologia è semplicemente troppo alto.”
Approfondimento sulle Implicazioni dell’Uso dell’AI nelle Iniziative di Efficienza Governativa
La saga in corso sull’utilizzo dell’intelligenza artificiale da parte del Department of Government Efficiency (DOGE) nei suoi sforzi di snellimento operativo ha scatenato una tempesta di dibattiti e controlli. La rivelazione che l’agenzia si è appoggiata al modello Llama 2 di Meta, un’AI open-source, piuttosto che all’AI proprietaria Grok di Elon Musk, ha aggiunto un ulteriore livello di complessità a una narrazione già intricata. Questa situazione merita un approfondimento sulle implicazioni multiformi dell’integrazione dell’AI nelle operazioni governative, esaminando i benefici e i rischi inerenti, le considerazioni etiche e il potenziale di conflitti di interesse.
Il Fascino e le Insidie dell’AI nel Governo
L’integrazione dell’AI nelle funzioni governative promette progressi trasformativi in termini di efficienza, analisi dei dati e processo decisionale. Dall’automatizzazione delle attività di routine al vaglio attraverso vasti set di dati, l’AI ha il potenziale per sbloccare livelli di produttività senza precedenti e migliorare l’erogazione dei servizi pubblici. Immaginate algoritmi in grado di prevedere guasti infrastrutturali, personalizzare l’istruzione o ottimizzare l’allocazione delle risorse negli sforzi di soccorso in caso di calamità. Le possibilità sono apparentemente infinite.
Tuttavia, questa rivoluzione tecnologica non è priva di pericoli. L’affidamento ai sistemi AI introduce una complessa rete di dilemmi etici, vulnerabilità di sicurezza e potenziali pregiudizi. I modelli AI sono addestrati sui dati e, se tali dati riflettono i pregiudizi sociali, l’AI perpetrerà e amplificherà anche tali pregiudizi. Ciò rappresenta una minaccia significativa per l’equità e l’uguaglianza nei servizi governativi, con il potenziale di portare a risultati discriminatori in aree come l’applicazione della legge, l’assistenza sociale e l’istruzione.
Inoltre, l’uso dell’AI solleva profonde questioni sulla trasparenza e la responsabilità. Quando le decisioni vengono prese da algoritmi, diventa difficile capire la logica alla base di tali decisioni, rendendo difficile ritenere le agenzie governative responsabili delle loro azioni.
Il Dilemma Llama 2 contro Grok
La scelta di Llama 2 rispetto a Grok comporta una propria serie di considerazioni. La natura open-source di Llama 2 lo rende prontamente accessibile e personalizzabile, consentendo alle agenzie governative di adattarlo alle loro esigenze specifiche senza essere bloccati in un ecosistema proprietario. Tuttavia, ciò significa anche che manca del supporto e della manutenzione dedicati che in genere accompagnano le soluzioni AI proprietarie.
D’altra parte, Grok, in quanto AI proprietaria, offre la promessa di prestazioni all’avanguardia e competenze specializzate. Tuttavia, solleva anche preoccupazioni sul potenziale vendor lock-in, sulla privacy dei dati e sui pregiudizi derivanti dai dati di addestramento dell’AI. Evidenzia le preoccupazioni sul potenziale per qualsiasi entità privata, in particolare una associata a una figura di alto profilo strettamente legata agli obiettivi del governo, di esercitare un’influenza indebita sui processi decisionali.
Lo Spettro dei Conflitti di Interessi
Il coinvolgimento delle entità di Elon Musk (SpaceX e xAI) nelle iniziative AI governative solleva lo spettro di conflitti di interessi. In quanto figura di spicco con interessi acquisiti in vari settori, il coinvolgimento di Musk solleva interrogativi sulla potenziale influenza che potrebbe esercitare sulla politica governativa e sull’aggiudicazione dei contratti.
Il governo starebbe dando un trattamento preferenziale alle società di Musk? Esistono garanzie adeguate per garantire che le decisioni siano prese in modo imparziale e nel migliore interesse del pubblico? Queste sono domande legittime che richiedono un esame rigoroso.
Sicurezza dei Dati e Preoccupazioni per la Privacy
L’uso dell’AI nelle operazioni governative implica inevitabilmente la raccolta, l’archiviazione e l’elaborazione di dati sensibili dei cittadini. Questo crea un obiettivo allettante per attacchi informatici e violazioni dei dati. Il governo deve implementare solide misure di sicurezza per proteggere questi dati da accessi non autorizzati e usi impropri. Ciò comprende non solo la salvaguardia dei dati da minacce esterne, ma anche la definizione di rigorosi controlli di accesso e meccanismi di responsabilità per prevenire abusi interni.
Le preoccupazioni per la privacy dei dati sono amplificate dalla natura opaca degli algoritmi AI. I cittadini spesso non hanno idea di come i loro dati vengono elaborati o utilizzati per prendere decisioni che influiscono sulla loro vita. Questa mancanza di trasparenza erode la fiducia nel governo e può portare alla resistenza contro le iniziative guidate dall’AI.
Le Implicazioni per il Futuro del Governo
Il dibattito sull’uso dell’AI da parte del DOGE non riguarda solo un caso specifico, ma il futuro più ampio del governo nell’era dell’intelligenza artificiale. Come può il governo sfruttare il potere dell’AI per migliorare i servizi pubblici mitigando i rischi? Come possiamo garantire che l’AI venga utilizzata in modo etico, trasparente e responsabile?
Le risposte a queste domande richiedono un approccio multiforme:
Stabilire Chiare Linee Guida Etiche: Codificare un chiaro insieme di principi etici che governano l’uso dell’AI nel governo. Questi principi dovrebbero dare priorità all’equità, alla trasparenza, alla responsabilità e al rispetto della privacy.
Promuovere la Trasparenza e l’Apertura: Rendere gli algoritmi AI e i processi decisionali più trasparenti. Pubblicare rapporti che descrivono come l’AI viene utilizzata nel governo e fornire vie ai cittadini per fornire feedback.
Salvaguardare la Sicurezza dei Dati: Implementare solide misure di sicurezza per proteggere i dati sensibili dei cittadini da minacce informatiche e abusi interni.
Garantire la Responsabilità: Stabilire chiare linee di responsabilità per le decisioni guidate dall’AI. Designare i funzionari governativi responsabili della supervisione dell’uso dell’AI e della risoluzione di eventuali problemi che potrebbero sorgere.
Coltivare la Fiducia del Pubblico: Educare il pubblico sui benefici e i rischi dell’AI nel governo. Interagire con i cittadini per affrontare le loro preoccupazioni e costruire la fiducia nell’uso responsabile di questa tecnologia.
Abbracciando un approccio proattivo e ponderato, il governo può sfruttare il potere trasformativo dell’AI salvaguardando al contempo l’interesse pubblico. La controversia del DOGE serve come un prezioso promemoria dell’importanza di un’attenta pianificazione, di un dialogo aperto e di un impegno ai principi etici nell’era dell’intelligenza artificiale.
La Narrazione in Svolgimento
Il dramma che circonda l’uso dell’AI daparte del DOGE è tutt’altro che finito. Mentre le indagini continuano e emergono maggiori dettagli, l’incidente avrà senza dubbio ripercussioni per il futuro dell’implementazione dell’AI all’interno del governo. Si spera che questa situazione porti a un’integrazione più ponderata della tecnologia.