Favoriser l’innovation tout en protégeant les informations personnelles
La Personal Information Protection Commission (PIPC) de Corée encourage activement la croissance d’un écosystème dynamique de startups d’intelligence artificielle (IA) open source. La commission a récemment convoqué une réunion cruciale visant à trouver un équilibre entre la promotion du progrès industriel et le respect de normes strictes de protection des informations personnelles. Cette initiative souligne l’engagement du gouvernement à soutenir l’industrie nationale naissante de l’IA, qui a suscité une attention considérable suite au dévoilement de modèles open source d’impact mondial comme ‘DeepSeek’.
Relever les défis et les opportunités de l’IA open source
Le 24 avril, la PIPC a rencontré les principales parties prenantes des principales startups d’IA coréennes à Startup Alliance N-Space dans le district de Gangnam à Séoul. Les discussions ont porté sur la formulation de stratégies pour propulser le développement de l’écosystème d’IA basé sur l’open source. La réunion a également fourni une plateforme précieuse aux acteurs de l’industrie pour exprimer leurs préoccupations et proposer des suggestions.
La technologie open source, de par sa nature même, accorde un accès universel au code source et aux plans. Cette démocratisation de l’accès à des modèles d’IA haute performance est un puissant catalyseur pour les percées scientifiques et technologiques. Elle favorise également la création de services applicatifs innovants. Pour la Corée, avec son riche vivier de talents en IA et ses vastes réserves de données de haute qualité, l’open source représente une voie de croissance particulièrement intéressante. Cependant, la PIPC a également reconnu la nécessité de faire preuve de vigilance. L’utilisation de modèles open source, en particulier dans des processus tels que l’entraînement supplémentaire ou la Retrieval-Augmented Generation (RAG), comporte un risque potentiel de traitement d’informations personnelles, ce qui nécessite un examen attentif.
Aperçus du terrain : les startups d’IA partagent leurs expériences
Une enquête préalable à la réunion menée par la PIPC a révélé que six des entreprises participantes avaient déjà lancé des services applicatifs basés sur des modèles open source. Ces entreprises ont également indiqué qu’elles exploitaient leurs propres données utilisateur pour un entraînement supplémentaire ou pour améliorer les performances grâce aux techniques RAG.
L’événement a comporté des présentations de startups d’IA de premier plan, notamment Scatter Lab, Moreh et Elice Group. Ces leaders de l’industrie ont partagé des exemples concrets et des aperçus de leurs expériences dans le développement de services basés sur la technologie open source.
- Le point de vue de Scatter Lab : L’avocate Ha Ju-young de Scatter Lab a mis en lumière l’impact profond des modèles open source mondiaux, tels que Gemma de Google et DeepSeek, sur le paysage coréen.
- L’accent de Moreh sur la confidentialité : Lee Jung-hwan, responsable des affaires chez Moreh, a approfondi les défis liés à la confidentialité rencontrés lors du développement de leur modèle linguistique, qui privilégie les capacités de réponse en langue coréenne.
- L’accent d’Elice Group sur la sécurité : Lee Jae-won, Chief Information Security Officer (CISO) d’Elice Group, a présenté des études de cas sur les certifications de sécurité pour leurs produits d’infrastructure cloud IA et les applications pratiques des modèles open source.
Naviguer dans les incertitudes juridiques et les préoccupations en matière de confidentialité
Le segment de discussion ouverte de la réunion a permis d’aborder les ambiguïtés juridiques et les préoccupations en matière de confidentialité qui découlent souvent de l’utilisation des données des utilisateurs dans le développement de l’IA. Les participants ont soulevé diverses questions pertinentes, reflétant la complexité de la navigation dans ce paysage en évolution.
En réponse, la PIPC a présenté des normes de traitement spécifiquement adaptées pour :
- Données non structurées : Aborder les défis uniques de la gestion des données qui n’ont pas de format prédéfini.
- Données de crawling Web : Fournir des directives pour la collecte et l’utilisation responsables des données obtenues à partir de sites Web.
- Informations de tournage des dispositifs de conduite autonome : Établir des protocoles pour le traitement éthique et légal des données capturées par les véhicules autonomes.
Ces normes ont été établies dans le cadre d’une ‘réglementation basée sur des principes’. La PIPC a également présenté sa feuille de route pour la mise en œuvre d’améliorations institutionnelles conçues pour atténuer les obstacles à l’utilisation des données.
Conseils pratiques pour les PME et les startups
S’appuyant sur les informations recueillies lors de la réunion, la PIPC s’engage à élaborer un ‘guide complet pour l’introduction et l’utilisation de l’IA générative’. Cette ressource sera spécifiquement adaptée aux besoins des petites et moyennes entreprises (PME) et des startups, offrant des conseils pratiques du point de vue de la protection des informations personnelles. L’objectif est de permettre à ces entreprises d’exploiter la puissance de l’IA générative tout en respectant les normes les plus élevées en matière de confidentialité des données.
Une approche collaborative pour atténuer les risques
Le président Ko Hak-soo de la PIPC a souligné l’importance cruciale de maximiser les avantages de l’open source pour favoriser un écosystème d’innovation en IA compétitif en Corée. Il a réitéré l’engagement indéfectible de la commission à collaborer étroitement avec les acteurs de l’industrie pour minimiser les risques liés au traitement des données. Cette approche collaborative est essentielle pour garantir que les organisations et les entreprises nationales puissent adopter en toute confiance les technologies d’IA open source tout en protégeant la vie privée des individus. La PIPC concentrera ses efforts pour aider les organisations nationales de toutes les manières possibles.
Approfondissement : domaines clés abordés par la PIPC
La réunion et les initiatives ultérieures entreprises par la PIPC mettent en évidence plusieurs domaines d’intervention clés dans le développement de l’écosystème d’IA open source de la Corée :
1. Promouvoir l’accessibilité et l’innovation :
La PIPC reconnaît que les modèles d’IA open source peuvent réduire considérablement les obstacles à l’entrée pour les startups et les chercheurs. En rendant les outils d’IA puissants plus facilement accessibles, la commission vise à stimuler l’innovation et à accélérer le développement de nouvelles solutions basées sur l’IA.
2. Répondre aux préoccupations en matière de confidentialité des données :
L’utilisation de données personnelles dans l’entraînement et le développement de l’IA soulève des préoccupations légitimes en matière de confidentialité. La PIPC travaille activement à établir des directives et des réglementations claires qui protègent les données des individus tout en permettant une innovation responsable. L’approche de ‘réglementation basée sur des principes’ permet une flexibilité tout en garantissant le respect des principes fondamentaux de la confidentialité.
3. Soutenir les startups et les PME :
Les startups et les PME sont souvent confrontées à des défis uniques pour naviguer dans le paysage complexe des réglementations et des meilleures pratiques en matière d’IA. L’engagement de la PIPC à fournir des conseils pratiques et un soutien est crucial pour garantir que ces entreprises puissent prospérer dans l’écosystème d’IA open source.
4. Favoriser la collaboration :
La PIPC souligne l’importance de la collaboration entre le gouvernement, l’industrie et le monde universitaire. En réunissant les parties prenantes de différents secteurs, la commission vise à créer une compréhension commune des défis et des opportunités dans l’espace de l’IA open source. Cette approche collaborative est essentielle pour élaborer des politiques efficaces et favoriser un écosystème durable.
5. Améliorer la sécurité :
La sécurité des systèmes d’IA est primordiale, en particulier lorsqu’il s’agit de données personnelles sensibles. La PIPC s’efforce de promouvoir les meilleures pratiques en matière de sécurité de l’IA et de garantir que les modèles d’IA open source sont utilisés de manière responsable et sécurisée. Les discussions avec Elice Group, mettant en évidence les cas de certification de sécurité, soulignent l’importance de cet aspect.
6. Répondre aux incertitudes juridiques :
Le rythme rapide du développement de l’IA dépasse souvent le développement de cadres juridiques clairs. La PIPC s’engage à répondre aux incertitudes juridiques entourant l’utilisation des modèles d’IA open source et des données des utilisateurs. L’introduction de normes de traitement pour différents types de données est une étape importante dans cette direction.
7. Surveillance et adaptation continues :
La PIPC continuera de surveiller pour s’assurer que toutes les directives sont suivies. La PIPC s’adaptera également aux réglementations en constante évolution.
La voie à suivre : construire un écosystème d’IA open source prospère
L’engagement proactif de la PIPC avec la communauté de l’IA et son engagement à élaborer des directives pratiques signalent une trajectoire positive pour l’écosystème d’IA open source de la Corée. En équilibrant le besoin d’innovation avec l’impératif de protéger les informations personnelles, la Corée se positionne comme un leader dans le développement responsable de l’IA. Le dialogue et la collaboration continus entre la PIPC et les acteurs de l’industrie seront cruciaux pour naviguer dans le paysage en évolution et garantir que le secteur de l’IA coréen prospère tout en respectant les normes éthiques les plus élevées. L’accent mis sur l’IA open source est particulièrement stratégique, car il s’aligne sur les forces du pays en matière de technologie et sur sa volonté de favoriser un écosystème d’innovation dynamique et inclusif.