DeepSeek sous surveillance : une ‘menace profonde’ pour la sécurité nationale américaine
Une commission bipartite du Congrès a exprimé de sérieuses préoccupations concernant la société chinoise d’IA DeepSeek, la qualifiant de ‘menace profonde’ pour la sécurité nationale américaine. La commission spéciale de la Chambre des représentants sur la Chine a publié un rapport détaillant ces préoccupations, soulignant les liens étroits de DeepSeek avec le gouvernement chinois et son implication présumée dans l’espionnage, le vol d’IA et le développement d’infrastructures de surveillance. Cet examen minutieux fait suite à l’ascension rapide de DeepSeek dans le monde de l’IA, marquée par le dévoilement d’un modèle d’IA générative qui rivalise avec ceux des principales entreprises américaines, réalisé avec beaucoup moins de ressources.
Les liens gouvernementaux et l’écosystème de DeepSeek
Le rapport souligne que DeepSeek opère au sein d’un écosystème profondément aligné sur le gouvernement chinois. Cet alignement comprend des liens directs avec les institutions et l’infrastructure de l’État chinois. Fondée par Liang Wenfeng, la société est cogérée avec le fonds spéculatif High-Flyer Quant. De plus, DeepSeek entretient des liens étroits avec les plateformes matérielles associées au gouvernement et au Zhejiang Lab, un institut de recherche affilié à l’État. Ces liens soulèvent des questions sur l’étendue de l’influence du gouvernement et l’accès potentiel à des données sensibles.
- Alignement gouvernemental : Les liens étroits de DeepSeek avec les institutions de l’État chinois soulèvent des inquiétudes quant à l’influence et au contrôle potentiels du gouvernement.
- Liens d’infrastructure : Les connexions aux plateformes matérielles et aux instituts de recherche liés au gouvernement suggèrent un accès aux ressources et au soutien de l’État.
- Collecte de données : Les allégations de collecte de données acheminées par des entités contrôlées par l’État soulèvent des problèmes de confidentialité et de sécurité.
Collecte de données et China Mobile
Selon les conclusions de la commission, DeepSeek s’engage dans des pratiques de collecte de données étendues. Ces données seraient acheminées par China Mobile, un fournisseur de télécommunications contrôlé par l’État. Il est important de noter que les opérations de China Mobile aux États-Unis ont été interdites en 2019 en raison de préoccupations liées à la sécurité nationale. L’utilisation de China Mobile soulève d’importantes questions sur la sécurité des données et l’accès potentiel par le gouvernement chinois. Les implications de telles pratiques de traitement des données s’étendent à la confidentialité des utilisateurs et au potentiel d’utilisation abusive d’informations sensibles.
Allégations d’acquisitions de puces et de violations des exportations
Le rapport allègue en outre que DeepSeek utilise ‘des dizaines de milliers de puces’ provenant d’entreprises américaines, notamment Nvidia. Ces acquisitions pourraient avoir été réalisées en violation des restrictions américaines à l’exportation. DeepSeek posséderait au moins 60 000 processeurs Nvidia et en aurait commandé des milliers d’autres. Cette acquisition importante de puces d’IA avancées a incité la commission à demander à Nvidia de divulguer tous les clients dans 11 pays asiatiques qui ont acheté au moins 499 puces d’IA depuis 2020. Cette enquête vise à découvrir d’éventuelles violations des contrôles à l’exportation et à évaluer l’ampleur de l’accès de DeepSeek aux ressources informatiques avancées.
L’acquisition de ces puces est essentielle pour l’entraînement et l’exécution de modèles d’IA avancés, et toute violation des restrictions à l’exportation aurait de graves implications pour la sécurité nationale. L’enquête de la commission vise à garantir le respect des réglementations en matière d’exportation et à empêcher le transfert non autorisé de technologies sensibles.
Vol d’IA et techniques de formation illicites
Le rapport cite le témoignage d’OpenAI, alléguant que DeepSeek a employé des techniques de formation illicites, y compris l’apprentissage par renforcement à partir de modèles américains, pour accélérer son développement. Plus précisément, il est allégué que les employés de DeepSeek ont contourné les garde-fous dans les modèles d’OpenAI pour extraire les résultats de raisonnement. Ces informations ont ensuite été utilisées dans une technique connue sous le nom de ‘distillation’ pour accélérer le développement des capacités de raisonnement des modèles avancés à moindre coût. Les observations du modèle R1 de DeepSeek indiqueraient des exemples de structures de raisonnement et de modèles de phrases qui correspondent au comportement des modèles d’OpenAI, ce qui suggère un vol potentiel de propriété intellectuelle.
Ces allégations de vol d’IA et de techniques de formation illicites soulèvent de graves préoccupations éthiques et juridiques. L’utilisation non autorisée d’informations exclusives et le contournement des mesures de sécurité sapent la concurrence loyale et les droits de propriété intellectuelle. L’enquête de la commission vise à déterminer l’étendue de ces pratiques et à tenir DeepSeek responsable de toute violation.
Implications pour la sécurité nationale
Les accusations portées contre DeepSeek ont des implications importantes pour la sécurité nationale américaine. Les liens étroits de l’entreprise avec le gouvernement chinois, combinés aux allégations d’espionnage, de vol d’IA et de développement d’infrastructures de surveillance, dressent un tableau inquiétant. Le potentiel de DeepSeek à exploiter ses capacités d’IA à des fins malveillantes, telles que des cyberattaques ou des campagnes de désinformation, constitue une menace sérieuse.
De plus, l’acquisition non autorisée de puces d’IA avancées et l’utilisation de techniques de formation illicites sapent les efforts des États-Unis pour maintenir leur avance technologique. L’enquête de la commission vise à répondre à ces préoccupations et à garantir que des mesures appropriées sont prises pour protéger les intérêts de la sécurité nationale américaine.
Plongée au cœur des origines et de la structure de DeepSeek
DeepSeek, un acteur relativement nouveau dans le domaine mondial de l’IA, a rapidement attiré l’attention en raison de ses modèles d’IA générative avancés. Fondée par Liang Wenfeng, l’ascension rapide de l’entreprise a été alimentée par des investissements importants et des partenariats stratégiques. Cependant, c’est la structure et les relations de l’entreprise qui ont attiré l’attention des législateurs américains.
Le rapport de la commission bipartite souligne la nature imbriquée de DeepSeek avec l’État chinois. Au-delà de son fondateur, le contrôle de l’entreprise s’étend à High-Flyer Quant, un fonds spéculatif, ce qui complique encore la structure de propriété. Ce réseau complexe de propriété soulève des questions sur le contrôle ultime et l’influence potentielle d’entités externes.
De plus, l’association étroite de DeepSeek avec les plateformes matérielles liées au gouvernement et le Zhejiang Lab, un institut de recherche affilié à l’État, ne peut être ignorée. Ces liens suggèrent un niveau de soutien et un accès aux ressources que la plupart des entreprises privées n’ont pas. Cet accès pourrait fournir un avantage significatif en termes de recherche, de développement et de déploiement de technologies d’IA.
Examen du flux de données : le rôle de China Mobile
L’un des aspects les plus préoccupants des opérations de DeepSeek, comme souligné dans le rapport, est l’acheminement présumé des données des utilisateurs via China Mobile. China Mobile, un géant des télécommunications contrôlé par l’État chinois, a été signalé comme un risque pour la sécurité nationale aux États-Unis, ce qui a conduit à une interdiction de ses opérations en 2019.
Le fait que DeepSeek utilise prétendument China Mobile pour la transmission de données soulève de sérieuses questions sur la confidentialité et la sécurité des données. Compte tenu des liens de China Mobile avec le gouvernement chinois, il existe une préoccupation légitime que les données des utilisateurs puissent être accessibles aux autorités de l’État. Cette préoccupation est particulièrement pertinente compte tenu de la nature sensible des données que les modèles d’IA traitent souvent, y compris des informations personnelles, des données financières et même des données biométriques.
Le rapport souligne la nécessité de réglementations et d’une surveillance plus strictes des flux de données impliquant des entreprises ayant des liens étroits avec des gouvernements étrangers, en particulier celles considérées comme des risques pour la sécurité nationale.
L’énigme des puces : Nvidia et les contrôles à l’exportation
Le rapport de la commission se concentre sur l’acquisition présumée par DeepSeek d’une quantité massive de puces d’IA auprès d’entreprises américaines, en particulier Nvidia. Le rapport affirme que DeepSeek possède au moins 60 000 processeurs Nvidia et a passé des commandes pour des milliers d’autres. Cela soulève des questions essentielles sur le respect des contrôles à l’exportation américains.
Les contrôles à l’exportation sont des réglementations qui restreignent la vente ou le transfert de certaines technologies et produits vers des pays ou des entités spécifiques. Ces contrôles sont souvent mis en place pour protéger les intérêts de la sécurité nationale et empêcher la prolifération de technologies sensibles.
Si DeepSeek a acquis ces puces en violation des contrôles à l’exportation américains, elle pourrait faire face à des sanctions importantes. De plus, cela soulèverait des inquiétudes quant à l’efficacité des mécanismes de contrôle à l’exportation existants et à la nécessité d’une application plus stricte.
La commission a demandé à Nvidia de divulguer tous les clients dans 11 pays asiatiques qui ont acheté au moins 499 puces d’IA depuis 2020. Cette demande est un signal clair que le Congrès prend cette affaire au sérieux et est déterminé à découvrir toute violation potentielle.
Dévoilement des techniques de formation illicites : la connexion OpenAI
Les allégations de vol d’IA et de techniques de formation illicites sont peut-être les affirmations les plus dommageables à l’encontre de DeepSeek. Le rapport cite le témoignage d’OpenAI, une importante société américaine de recherche en IA, alléguant que les employés de DeepSeek ont contourné les garde-fous dans les modèles d’OpenAI pour extraire les résultats de raisonnement.
Cette pratique, connue sous le nom de ‘distillation’, consiste à utiliser les résultats d’un modèle d’IA plus puissant pour entraîner un modèle plus petit et moins coûteux. Bien que la distillation soit une technique légitime, le rapport allègue que DeepSeek l’a utilisée de manière contraire à l’éthique et potentiellement illégale en contournant les mesures de sécurité dans les modèles d’OpenAI.
Le rapport affirme en outre que les observations du modèle R1 de DeepSeek indiquent des exemples de structures de raisonnement et de modèles de phrases qui correspondent au comportement des modèles d’OpenAI. Cela suggère que DeepSeek pourrait avoir directement copié ou adapté des éléments de la technologie d’OpenAI sans autorisation.
Ces allégations soulèvent de sérieuses préoccupations concernant le vol de propriété intellectuelle et la concurrence déloyale dans l’industrie de l’IA. Si elles s’avèrent vraies, elles pourraient avoir des conséquences juridiques et financières importantes pour DeepSeek.
La situation dans son ensemble : la rivalité technologique entre les États-Unis et la Chine
La controverse entourant DeepSeek doit être examinée dans le contexte plus large de l’escalade de la rivalité technologique entre les États-Unis et la Chine. Les deux pays se disputent la domination dans des domaines clés tels que l’intelligence artificielle, les semi-conducteurs et l’informatique quantique.
Les États-Unis ont exprimé des préoccupations croissantes concernant les efforts de la Chine pour acquérir des technologies de pointe par des moyens illicites, notamment le vol de propriété intellectuelle, le cyberespionnage et les violations des contrôles à l’exportation. L’affaire DeepSeek n’est que le dernier exemple de ces préoccupations.
Le gouvernement américain prend des mesures pour contrer ces menaces, notamment en renforçant les contrôles à l’exportation, en augmentant les investissements dans la recherche et le développement nationaux et en collaborant avec ses alliés pour promouvoir une concurrence loyale.
L’affaire DeepSeek souligne l’importance de la vigilance et des mesures proactives pour protéger les intérêts de la sécurité nationale américaine face à la concurrence technologique croissante.
La défense de DeepSeek et l’avenir de la réglementation de l’IA
Bien que le rapport du Congrès dresse un tableau inquiétant de DeepSeek, il est essentiel de reconnaître que l’entreprise n’a pas encore eu l’occasion de répondre pleinement aux allégations. DeepSeek pourrait faire valoir que ses pratiques sont conformes aux normes de l’industrie et qu’elle n’a violé aucune loi ou réglementation.
L’issue de cette enquête pourrait avoir des implications importantes pour l’avenir de la réglementation de l’IA. S’il s’avère que DeepSeek s’est livrée à des pratiques illicites, cela pourrait entraîner des réglementations plus strictes sur le développement de l’IA, la collecte de données et les contrôles à l’exportation.
Le débat sur la réglementation de l’IA est complexe et multiforme. D’une part, des réglementations sont nécessaires pour se protéger contre les risques potentiels tels que les biais, la discrimination et l’utilisation abusive de la technologie. D’autre part, des réglementations excessivement lourdes pourraient étouffer l’innovation et entraver le développement d’applications d’IA bénéfiques.
Trouver le juste équilibre entre la réglementation et l’innovation sera un défi majeur pour les décideurs politiques dans les années à venir.
Exploration des aspects techniques du modèle d’IA de DeepSeek
La renommée de DeepSeek réside dans son modèle d’IA générative, qui aurait atteint des niveaux de performance comparables à ceux des principales entreprises américaines. Cette réalisation est particulièrement remarquable étant donné que DeepSeek l’aurait réalisée avec beaucoup moins de ressources.
Comprendre les aspects techniques du modèle d’IA de DeepSeek est crucial pour évaluer ses capacités et ses risques potentiels. Les modèles d’IA générative sont entraînés sur de vastes quantités de données pour apprendre les modèles et les relations. Ils peuvent ensuite générer de nouvelles données qui ressemblent aux données sur lesquelles ils ont été entraînés.
Le modèle de DeepSeek a été utilisé pour diverses applications, notamment la génération de texte, la création d’images et la complétion de code. Sa capacité à effectuer ces tâches à un niveau de qualité élevé a attiré l’attention de l’industrie technologique et de la communauté de la sécurité nationale.
Des recherches et des analyses plus approfondies sont nécessaires pour comprendre pleinement le fonctionnement interne du modèle d’IA de DeepSeek et son impact potentiel sur la société.
Les implications mondiales de l’ascension de DeepSeek
L’ascension rapide de DeepSeek dans le monde de l’IA a des implications mondiales. Cela démontre que la Chine réalise des progrès significatifs dans le développement de technologies d’IA avancées. Ces progrès pourraient remettre en question la domination des États-Unis et d’autres pays occidentaux dans le domaine de l’IA.
Le paysage mondial de l’IA devient de plus en plus concurrentiel. Les pays du monde entier investissent massivement dans la recherche et le développement de l’IA. La course au développement et au déploiement des technologies d’IA devrait s’intensifier dans les années à venir.
L’affaire DeepSeek souligne l’importance de la coopération et de la collaboration internationales pour relever les défis et les opportunités que présente l’IA. Elle souligne également la nécessité d’un cadre mondial pour la gouvernance de l’IA qui promeuve l’innovation responsable et protège contre les risques potentiels.