Le départ d’Elon Musk de l’initiative Defense Operational Guidance Enhancement (DOGE) pourrait sembler un événement important, mais son véritable impact réside dans la mesure dans laquelle le public reste vigilant. La véritable histoire ne concerne pas simplement les réductions budgétaires ou les pitreries de Musk ; il s’agit de l’intégration insidieuse de projets idéologiques dans les systèmes techniques qui dirigent le gouvernement américain.
En février, j’ai exposé le concept d’un "coup d’État de l’IA", où l’intelligence artificielle fonctionne moins comme un outil et plus comme un spectacle et une justification. Les grands modèles linguistiques (LLM) servent de générateurs de prétextes, fournissant une couverture pratique pour des actions dont personne ne veut assumer la responsabilité. Elon Musk a joué un rôle similaire, distrayant le public avec des démonstrations sensationnelles tout en exécutant des changements radicaux.
L’un des exemples les plus flagrants a été le déblocage d’un programme qui avait empêché la mort de 26 millions de personnes du sida, dont des enfants. Les élus ont largement ignoré la question, feignant l’impuissance.
Les frasques controversées de Musk ont servi de paravent commode au démantèlement radical du gouvernement fédéral. Bien que cela ait suscité un mouvement de protestation populaire et ait eu un impact négatif sur les ventes de Tesla, cela a masqué le problème plus profond de l’intégration de l’IA.
Alors que Musk et Trump ont promu les réductions budgétaires à motivation idéologique de DOGE, une analyse dans The Atlantic a révélé que les dépenses fédérales totales avaient en fait augmenté. La transformation de l’IA de la fonction publique fédérale, présentée comme un moyen d’"efficacité gouvernementale", continue largement inaperçue. DOGE a utilisé Llama 2 pour examiner et classer les courriels des employés fédéraux, mais le contrat de 113 millions de dollars de Palantir pour créer une vaste infrastructure de surveillance civile met en évidence une tendance inquiétante. L’entreprise intègre également le modèle linguistique Grok de Musk dans sa plateforme.
Erreurs de Programmation
Grok de xAI, sous le contrôle direct de Musk, fournit un exemple inquiétant. Le modèle a répondu à des requêtes bénignes avec des commentaires promouvant la réalité du génocide blanc en Afrique du Sud. Cette manipulation de l’invite système cachée du modèle révèle une tentative maladroite d’ingénierie sociale. Le modèle a ensuite été trouvé en train de nier l’Holocauste, ce que xAI a attribué à une "erreur de programmation".
xAI a répondu à l’incident du "génocide blanc" en déclarant que la modification de l’invite violait les politiques internes. Ils ont ajouté que les futures modifications de l’invite système seraient soumises à un examen.
Ces incidents mettent en évidence les risques inhérents aux invites système. Elles peuvent être modifiées par toute personne ayant le contrôle du modèle et ne sont soumises à un examen qu’après détection. La dépendance à l’égard des modèles d’IA d’entreprise dans la prise de décision gouvernementale confère un immense pouvoir politique aux élites technologiques.
Généralement, l’adoption de la technologie dans le gouvernement implique une délibération prudente et des examens de sécurité. La mise en œuvre de DOGE manque de surveillance appropriée, ce qui soulève des inquiétudes quant à l’indépendance de tout examen. En intégrant les données des agences dans un modèle unifié, DOGE ne tient pas compte des besoins de sécurité spécifiques des agences individuelles. En substance, DOGE met en œuvre des changements transformateurs sans évaluer leur nécessité, leur suffisance ou leurs avantages pour les citoyens.
Si l’administration Trump se souciait vraiment de la construction de systèmes fiables, ses actions le refléteraient. Au lieu de cela, DOGE et l’administration Trump ont étouffé la surveillance des biais dans les modèles d’IA d’entreprise et des cas de manipulation des invites système. Suite au déblocage par DOGE de la recherche sur les biais de l’IA, un nouveau projet de loi adopté par le Congrès interdirait toute nouvelle loi concernant la surveillance de l’IA pour la prochaine décennie.
Employés Voyous
Le départ de Musk de DOGE laisse derrière lui un héritage, cimenté par la sélection de Palantir, l’entreprise d’IA fondée par Thiel choisie par Musk. Musk et Thiel étaient cofondateurs de Paypal, et Thiel a exprimé son scepticisme quant à la compatibilité de la liberté et de la démocratie.
La concentration du pouvoir initiée par Musk via DOGE persistera, opérant plus discrètement. Bien que son départ marque une victoire pour ceux qui s’y sont opposés, le travail de DOGE se poursuit sous la direction de bureaucrates embauchés pour leur loyauté.
Le véritable objectif de DOGE n’a jamais été d’éliminer le gaspillage gouvernemental, mais d’automatiser la bureaucratie avec moins de mesures de responsabilisation. Cet objectif d’"efficacité gouvernementale" reste mal défini. La rationalisation du gouvernement devrait simplifier les interactions des citoyens avec les services et l’information. Au lieu de cela, les licenciements ont créé des blocages systémiques tout en compromettant la vie privée. Les réductions de financement de l’IRS ont soulevé des inquiétudes quant aux audits et aux remboursements, ce qui pourrait coûter des milliards en pertes de revenus.
Le but de DOGE n’était pas d’optimiser la bureaucratie, mais d’éliminer l’élément humain. Il privilégie l’efficacité de type industriel, catégorisant les citoyens et supposant des abus systémiques. Les droits et privilèges sont ensuite accordés ou refusés en fonction des biais intégrés dans le système d’IA.
Ceux qui contrôlent la définition et l’automatisation des réponses à ces catégories exercent un pouvoir important. Les modèles reflètent les décisions de ceux qui les entraînent, y compris les biais tolérés et les objectifs d’optimisation. Avec les administrateurs actuels utilisant des traces algorithmiques, la bureaucratie perd son dernier lien avec l’humanité.
Erreurs Administratives
La bureaucratie et l’erreur bureaucratique ne sont pas nouvelles. Ce qui est sans précédent, c’est la rupture de la responsabilité humaine pour les erreurs, favorisant l’indifférence à leur éviter.
Considérez le rapport de santé de Robert F. Kennedy Jr., qui contenait des citations inventées. Cet acte aurait été un scandale historiquement, mais il a été considéré comme une "erreur de formatage". Kennedy adopte des politiques non étayées par des preuves, et la génération par l’IA de ce rapport suggère une priorisation de la présentation par rapport à une enquête scientifique légitime. L’automatisation des preuves fabriquées n’est qu’une façon dont l’IA est devenue un outil pour l’administration.
DOGE semble plus axé sur la punition de l’opposition à Trump - les migrants, les universitaires, les minorités raciales - et ses efforts de grande envergure génèrent des erreurs inévitables. L’expulsion de Kilmar Abrego Garcia, attribuée à une "erreur administrative", en est un exemple. Cela illustre une instrumentalisation intentionnelle de l’erreur.
En fin de compte, DOGE vise à créer un système où les résultats controversés peuvent être attribués à des erreurs "administratives", de "programmation" ou de "formatage". L’administration rejette la faute sur des outils défectueux, refusant d’en assumer la responsabilité. Dans le cas de Garcia, l’administration refuse de corriger l’erreur. Cela démontre un monde d’ordre peu fiable, où seuls ceux qui jurent fidélité seront épargnés.
Nous créons un environnement fragile où les destins personnalisés dépendent des caprices de l’IA et de sa programmation invisible. Que se passe-t-il lorsque ces programmes d’IA sont des outils de déstabilisation qui consolident les données dans des architectures de surveillance unifiées ?
Bien que le départ de Musk de DOGE puisse inciter l’attention du public à s’estomper, les problèmes sous-jacents demeurent : les biais algorithmiques, le manque de responsabilisation et l’érosion de la surveillance humaine. Ces tendances, si elles ne sont pas maîtrisées, pourraient endommager les fondements mêmes d’une société juste et équitable.