L'essor de l'IA : Redéfinir la recherche

L’intelligence artificielle (IA) redéfinit le paysage de la recherche scientifique, ce qui n’est pas simplement une amélioration progressive des outils des scientifiques, mais une transformation profonde pilotée par des instruments révolutionnaires, remodelant la méthode scientifique et l’écosystème de la recherche dans son ensemble. Nous assistons à la naissance d’un nouveau paradigme scientifique, dont l’importance est comparable à celle de la révolution scientifique elle-même.

La double capacité de l’IA, à savoir la capacité de prédiction et la capacité de génération, est le moteur essentiel de cette transformation. Cette double puissance permet à l’IA de participer à presque toutes les étapes de la recherche, de la conceptualisation à la découverte finale.

Le paradigme traditionnel : un monde d’hypothèses et de réfutations

Le cycle classique : « Hypothèse - Expérimentation - Validation »

Traditionnellement, le progrès scientifique suit un cycle logique clair et puissant, celui de l’« hypothèse - expérimentation - validation ». Les scientifiques commencent par formuler une hypothèse précise et vérifiable, en se basant sur les connaissances et les observations existantes. Ils conçoivent et réalisent ensuite des expériences rigoureuses pour tester leur hypothèse. Enfin, en fonction des données empiriques recueillies, l’hypothèse est confirmée, modifiée ou complètement rejetée. Ce processus constitue la pierre angulaire de l’accroissement des connaissances scientifiques depuis des siècles.

Le fondement philosophique : le falsificationnisme de Popper

Le cœur philosophique de ce modèle classique repose en grande partie sur la théorie du falsificationnisme du philosophe des sciences Karl Popper.

• Problème de démarcation : Popper a proposé un point de vue central, à savoir que la clé pour distinguer la science de la non-science (comme la pseudo-science) n’est pas de savoir si une théorie peut être prouvée vraie, mais si elle peut être réfutée. Une théorie scientifique doit faire des prédictions qui peuvent être contredites par l’expérience. Un exemple célèbre est l’affirmation selon laquelle « tous les cygnes sont blancs », que nous ne pouvons pas confirmer définitivement, quel que soit le nombre de cygnes blancs que nous observons, mais que nous pouvons réfuter de manière concluante en observant un seul cygne noir. Par conséquent, la falsifiabilité devient un attribut nécessaire des théories scientifiques.
• La logique de la découverte : Sur cette base, Popper a décrit le progrès scientifique comme un cycle sans fin : « Problème - Conjecture - Réfutation - Nouveau problème… » La science n’est pas une accumulation statique de faits, mais un processus révolutionnaire dynamique qui se rapproche de la vérité en éliminant continuellement les erreurs.

Critique et évolution

Bien sûr, le modèle poppérien pur est une représentation idéalisée. Des philosophes des sciences ultérieurs, tels que Thomas Kuhn et Imre Lakatos, l’ont complété et modifié. Kuhn a introduit les concepts de « paradigme » et de « science normale », soulignant que, pendant la plupart des périodes, les scientifiques résolvent des problèmes dans un cadre théorique stable et ont tendance à maintenir ce paradigme, jusqu’à ce qu’une grande quantité d’« anomalies » inexplicables s’accumulent, ce qui déclenche une « révolution scientifique ». Lakatos a ensuite proposé la théorie des « programmes de recherche scientifiques », selon laquelle une théorie centrale est entourée d’une série d’hypothèses auxiliaires de type « ceinture de protection », ce qui rend la réfutation de la théorie centrale plus complexe. Ensemble, ces théories décrivent une image plus complexe et plus conforme à la réalité historique de la recherche traditionnelle.

Cependant, qu’il s’agisse du modèle idéal de Popper ou de la perspective historique de Kuhn, leur fondement commun réside dans le fait que ce processus est limité par les capacités cognitives humaines. Les hypothèses que nous pouvons formuler sont liées à nos limites de connaissances, à notre imagination et à notre capacité à traiter des informations complexes de grande dimension. L’étape cruciale « Problème - Conjecture » est essentiellement un goulet d’étranglement cognitif centré sur l’humain. Les grandes percées scientifiques dépendent souvent de l’intuition, de l’inspiration, voire de la chance des scientifiques. C’est cette limitation fondamentale qui a préparé le terrain au rôle perturbateur de l’IA. L’IA est capable d’explorer un espace hypothétique immensément vaste et complexe, bien au-delà de ce que l’esprit humain peut atteindre, en identifiant des schémas qui ne sont pas évidents, voire contre-intuitifs, pour les humains, brisant ainsi directement le goulet d’étranglement cognitif le plus important de la méthode scientifique traditionnelle.

L’émergence d’une nouvelle méthode : le quatrième paradigme

Définition du quatrième paradigme : découverte scientifique basée sur les données

Avec le développement des technologies de l’information, un nouveau modèle de recherche scientifique a vu le jour. Jim Gray, lauréat du prix Turing, l’a nommé « quatrième paradigme », à savoir « la découverte scientifique basée sur les données ». Ce paradigme contraste clairement avec les trois premiers paradigmes de l’histoire de la science : le premier paradigme (science empirique et d’observation), le deuxième paradigme (science théorique) et le troisième paradigme (science informatique et de simulation). Le cœur du quatrième paradigme réside dans le fait qu’il place d’énormes ensembles de données au centre du processus de découverte scientifique, unifiant la théorie, l’expérimentation et la simulation.

De « la validation d’hypothèses » à « la génération d’hypothèses à partir des données »

Le changement fondamental de cette transformation réside dans le fait que le point de départ de la recherche est passé de « la collecte de données pour valider une hypothèse existante » à « la génération de nouvelles hypothèses à partir de l’exploration des données ». Comme l’a dit Peter Norvig, directeur de recherche chez Google : « Tous les modèles sont faux, mais vous pouvez de plus en plus réussir sans modèle. » Cela marque le début d’un abandon de la dépendance à l’égard des hypothèses a priori fortes dans la recherche scientifique, au profit de l’utilisation de technologies telles que l’apprentissage machine pour exploiter les schémas, les corrélations et les règles cachées dans d’énormes quantités de données que l’analyse humaine ne peut pas percevoir.

Selon la théorie de Gray, la science basée sur les données repose sur trois piliers :

1. Acquisition de données : capture de données scientifiques à une échelle et à une vitesse sans précédent grâce à des instruments avancés tels que les séquenceurs génétiques, les collisionneurs de particules à haute énergie et les radiotélescopes.
2. Gestion des données : mise en place d’une infrastructure robuste pour stocker, gérer, indexer et partager ces ensembles de données massifs, en les rendant accessibles et utilisables à long terme, publiquement - Gray pensait que c’était le principal défi à relever à l’époque.
3. Analyse des données : utilisation d’algorithmes avancés et d’outils de visualisation pour explorer les données, en extraire des connaissances et des aperçus.

L’IA pour la science : l’aube d’un cinquième paradigme ?

Actuellement, la nouvelle vague de technologies, représentée par l’IA générative, fait évoluer profondément le quatrième paradigme, et pourrait même donner naissance à un cinquième paradigme naissant. Si le quatrième paradigme se concentre sur l’\textit{extraction} d’aperçus des données, le nouveau paradigme piloté par l’IA se concentre sur la \textit{génération} de nouvelles connaissances, entités et hypothèses à partir des données. Il s’agit d’un saut de « la découverte basée sur les données » à « la découverte de type génération de données ».

L’IA en tant que moteur du quatrième paradigme : de la prédiction à la génération

L’IA démontre de puissantes capacités de prédiction et de génération dans des domaines tels que les matériaux et la biologie, devenant ainsi le moteur essentiel du développement du quatrième paradigme.

Études de cas : la révolution des sciences biologiques

• Résoudre le problème du repliement des protéines : un défi majeur dans le domaine de la biologie depuis 50 ans, le problème du repliement des protéines, a été résolu d’un seul coup par le modèle d’IA AlphaFold développé par Google DeepMind. Avant l’avènement de l’IA, l’analyse expérimentale de la structure d’une protéine prenait souvent des années et coûtait cher. Aujourd’hui, AlphaFold peut prédire sa structure tridimensionnelle en quelques minutes à partir de la séquence d’acides aminés, avec une précision proche de celle de l’expérimentation.
• Mise à l’échelle et démocratisation : les résultats révolutionnaires d’AlphaFold ne se sont pas arrêtés là. DeepMind a mis gratuitement à disposition plus de 200 millions de structures de protéines prédites, formant ainsi une vaste base de données qui a considérablement fait avancer la recherche mondiale dans les domaines connexes. Cela a accéléré une grande variété d’innovations, du développement de vaccins contre le coronavirus à la conception d’enzymes de dégradation du plastique.
• De la prédiction à la génération : la prochaine étape de cette révolution consiste à utiliser l’IA générative pour la \textit{conception de novo} de protéines. Représentés par les recherches de David Baker, lauréat du prix Nobel de chimie 2024, les scientifiques utilisent l’IA pour concevoir des protéines inexistantes dans la nature et dotées de nouvelles fonctions. Cela ouvre des possibilités illimitées pour le développement de nouveaux médicaments, la conception d’enzymes catalytiques efficaces et la création de nouveaux biomatériaux. La dernière version d’AlphaFold 3 peut même simuler les interactions des protéines avec l’ADN, l’ARN et les petits ligands moléculaires, qui ont une valeur inestimable pour la découverte de médicaments.

Études de cas : la création accélérée de nouveaux matériaux

• Les goulets d’étranglement de la recherche et du développement traditionnels : comme en biologie, la découverte de nouveaux matériaux est traditionnellement un processus lent et coûteux qui dépend des « essais et des erreurs ». L’IA transforme radicalement cette situation en établissant des relations complexes entre les agencements atomiques, les microstructures et les propriétés macroscopiques des matériaux.

• Prédiction et conception pilotées par l’IA :

  • GNoME de Google : la plateforme GNoME (Graph Networks for Materials Exploration) de DeepMind utilise la technologie des réseaux neuronaux de graphes pour prédire la stabilité de 2,2 millions de nouveaux matériaux cristallins inorganiques potentiels. Au cours de cette exploration, l’IA a découvert environ 380 000 nouveaux matériaux thermodynamiquement stables, soit autant que les scientifiques humains au cours de près de 800 ans de recherche, et ces nouveaux matériaux ont un énorme potentiel d’application dans les batteries, les supraconducteurs et d’autres domaines.
  • MatterGen de Microsoft : l’outil d’IA générative MatterGen, développé par Microsoft Research, peut générer directement de nouvelles structures matérielles candidates en fonction des propriétés cibles définies par les chercheurs (telles que la conductivité, le magnétisme, etc.). Cet outil, combiné à la plateforme de simulation MatterSim, peut vérifier rapidement la faisabilité de ces matériaux candidats, ce qui réduit considérablement le cycle de recherche et de développement « conception-sélection ».

• Relation symbiotique : il convient de noter qu’une relation symbiotique s’est établie entre l’IA et la science des matériaux. La découverte de nouveaux matériaux peut fournir à l’IA un matériel informatique plus performant, et une IA plus puissante peut à son tour accélérer le processus de recherche et de développement de nouveaux matériaux.

Ces exemples révèlent un changement profond : la recherche scientifique passe de la découverte de la nature (découvrir ce qui est) à la conception de l’avenir (concevoir ce qui peut être). Le rôle des scientifiques traditionnels s’apparente davantage à celui d’explorateurs, à la recherche et à la description des matériaux et des lois déjà présents dans la nature. L’avènement de l’IA générative fait de plus en plus des scientifiques des « créateurs ». Ils peuvent utiliser l’IA pour concevoir et créer de nouveaux matériaux qui répondent à ces besoins en fonction d’exigences fonctionnelles spécifiques (par exemple, « une protéine qui peut se lier à une cible spécifique de cellules cancéreuses » ou « un matériau qui a à la fois une conductivité thermique et une isolation élevées »). Cela brouille non seulement les frontières entre la science fondamentale et l’ingénierie appliquée, mais soulève également de nouvelles questions sur le développement futur des médicaments, la fabrication et même l’éthique sociale.

Restructurer le processus de recherche : automatisation et laboratoires en boucle fermée

L’IA ne se contente pas de modifier les paradigmes scientifiques à l’échelle macroscopique, elle remodèle également chaque étape concrète du travail de recherche à l’échelle microscopique, donnant naissance à des « laboratoires autonomes » automatisés et en boucle fermée.

Génération d’hypothèses pilotée par l’IA

Traditionnellement, la formulation d’hypothèses scientifiques novatrices et valables est considérée comme le summum de la créativité humaine. Cependant, l’IA commence à jouer un rôle important dans ce domaine. Les systèmes d’IA peuvent analyser des millions d’articles scientifiques, de brevets et de bases de données expérimentales, en découvrant des liens non évidents que les chercheurs humains négligent en raison de leurs limites de connaissances ou de leurs biais cognitifs, et en formulant ainsi de nouvelles hypothèses scientifiques.

Certaines équipes de recherche développent des systèmes de « scientifiques IA » composés de plusieurs agents IA. Dans ces systèmes, différentes IA jouent des rôles différents : par exemple, l’« Agent d’hypothèse » est chargé de générer des idées de recherche, l’« Agent de raisonnement » est chargé d’analyser des données et de la documentation pour évaluer les hypothèses, et l’« Agent de calcul » est chargé d’exécuter des expériences de simulation. Une étude de l’université de Cambridge est très représentative : des chercheurs ont utilisé le grand modèle linguistique GPT-4 pour sélectionner avec succès, parmi les médicaments non anticancéreux existants, de nouvelles combinaisons de médicaments capables d’inhiber efficacement les cellules cancéreuses. L’IA a proposé ces combinaisons en analysant les schémas cachés dans une documentation massive, et elles ont été validées lors d’expériences ultérieures. Cela montre que l’IA peut être un « partenaire de brainstorming » infatigable pour les scientifiques humains.

Optimisation de la conception expérimentale

La conception d’expériences (Design of Experiments, DoE) est une méthode statistique classique qui vise à explorer efficacement un vaste espace de paramètres en modifiant systématiquement plusieurs paramètres expérimentaux avec le moins d’expériences possible, afin de trouver les conditions de processus optimales. La technologie de l’IA insuffle une nouvelle vie à cette méthode classique. La DoE traditionnelle suit généralement un plan statistique prédéfini, tandis que l’IA peut introduire des stratégies telles que l’apprentissage actif (Active Learning) pour décider de manière dynamique et intelligente du prochain point expérimental à explorer le plus en fonction des résultats expérimentaux existants. Cette stratégie expérimentale adaptative permet de converger plus rapidement vers la solution optimale, ce qui améliore considérablement l’efficacité expérimentale.

« Laboratoires autonomes » : la réalisation d’une boucle fermée

La combinaison de la génération d’hypothèses pilotée par l’IA, de la conception expérimentale et des plateformes expérimentales automatisées constitue la forme ultime du nouveau paradigme : le « laboratoire autonome » (Self-Driving Lab).

Le fonctionnement de ce type de laboratoire forme un système en boucle fermée complet :

1. Laboratoire sec (Dry Lab) : le modèle d’IA (« cerveau ») analyse les données existantes, génère une hypothèse scientifique et conçoit un plan expérimental de validation correspondant.
2. Plateforme d’automatisation : le plan expérimental est envoyé à une plateforme d’automatisation commandée par un robot (« laboratoire humide » ou « mains »), qui peut exécuter automatiquement des opérations expérimentales telles que la synthèse chimique et la culture cellulaire.
3. Transmission des données : les données générées pendant le processus expérimental sont collectées en temps réel et automatiquement, puis renvoyées au modèle d’IA.
4. Apprentissage et itération : le modèle d’IA analyse les nouvelles données expérimentales, met à jour sa propre « compréhension » interne de l’objet de la recherche, puis génère une nouvelle hypothèse et une nouvelle conception expérimentale sur la base de la nouvelle compréhension, ce qui se répète continuellement, permettant une exploration autonome 24h/24 et 7j/7.

Le « chimiste robot » de l’université de Liverpool est un exemple de réussite. Ce système a exploré de manière autonome un espace de paramètres complexe contenant 10 variables, et a finalement découvert un catalyseur efficace pour la production photochimique d’ hydrogène, dont l’efficacité est plusieurs fois supérieure à celle des premières tentatives.

Ce modèle en boucle fermée entraîne une « compression du cycle scientifique ». Selon le modèle classique, un cycle complet « hypothèse-expérimentation-validation » peut prendre plusieurs années à un doctorant. Le « laboratoire autonome » permet de réduire ce cycle de plusieurs années ou mois à quelques jours, voire quelques heures. Cette amélioration massive de la vitesse d’itération modifie notre définition même de l’« expérience ». L’expérience n’est plus un événement unique, discret et conçu par des scientifiques humains, mais un processus d’exploration continu et adaptatif dirigé par l’IA. L’unité de mesure du progrès scientifique ne sera peut-être plus un seul document publié, mais le taux d’apprentissage de ce système d’apprentissage en boucle fermée lui-même. Cela nous obligera à repenser la manière d’évaluer et de mesurer les contributions scientifiques.

Impact systémique : remodeler l’écosystème de la recherche

L’impact du nouveau paradigme de la recherche piloté par l’IA s’étend bien au-delà des laboratoires, et a un impact systémique sur l’allocation des fonds, les structures organisationnelles et les besoins en talents de l’ensemble de l’écosystème de la recherche.

La géopolitique du financement et l’essor de la science d’entreprise

• Plans stratégiques au niveau national : les principales économies mondiales considèrent l’« IA pour la science » comme un domaine stratégique clé pour maintenir un « avantage concurrentiel » et une « souveraineté technologique » à l’échelle mondiale. La National Science Foundation (NSF) des États-Unis investit plus de 700 millions de dollars par an dans le domaine de l’IA et a lancé des projets majeurs tels que le National Artificial Intelligence Research Institute. L’Union européenne a également mis en place un plan coordonné visant à établir sa position de leader dans les applications scientifiques de l’« IA fiable ». Dans le même temps, les institutions de recherche chinoises font également progresser activement la recherche sur l’IA avancée.
• Le fossé entre les entreprises et le monde universitaire : un conflit de plus en plus important est que les modèles de base d’IA les plus puissants (tels que GPT-4, Gemini) sont, pour la plupart, contrôlés par un petit nombre de géants de la technologie (tels que Google, Microsoft, Meta). La formation et l’exécution de ces modèles nécessitent d’énormes quantités de données exclusives et des ressources informatiques hors de prix, ce qui dépasse de loin la capacité de la grande majorité des équipes de recherche universitaires. Cela suscite des inquiétudes quant à l’« éviction » ou à la « marginalisation » du monde universitaire dans la recherche de pointe en IA.
• Le conflit entre les modèles propriétaires et la science ouverte : bien que certaines entreprises choisissent d’ouvrir leurs modèles (comme la série LLaMA de Meta), les modèles les plus performants sont souvent strictement gardés secrets en tant que secrets commerciaux, et deviennent de facto des « boîtes noires ». Cela contraste fortement avec les principes d’ouverture, de transparence et de reproductibilité que la communauté scientifique défend depuis longtemps, ce qui rend la recherche scientifique financée par des fonds publics dépendant, dans une certaine mesure, de l’infrastructure des entreprises privées.
• L’incertitude politique du financement : l’allocation des fonds de recherche ne peut pas non plus être totalement dissociée de l’influence du climat politique. Par exemple, des rapports indiquent que la NSF a annulé plus de 1 500 subventions de recherche sous une nouvelle direction politique, dont beaucoup étaient liées à des initiatives en matière de diversité, d’équité et d’inclusion (DEI). Cela montre que le financement de la recherche, y compris l’« IA pour la science », peut être affecté par les luttes idéologiques, ce qui crée de l’incertitude pour les chercheurs.

Le laboratoire du futur : de l’espace humide à l’espace virtuel

• La réorganisation des espaces physiques : l’IA et l’automatisation transforment la forme physique des laboratoires. Pour s’adapter à l’évolution rapide des processus de recherche, les conceptions de « laboratoires modulaires » flexibles et variables sont de plus en plus populaires. Traditionnellement, le rapport entre la zone d’expérimentation humide (wet lab) et la zone d’analyse des données et de travail de bureau (write-up space) s’inverse, cette dernière devenant de plus en plus importante.
• L’essor des laboratoires virtuels : dans de nombreux scénarios de recherche, les laboratoires physiques sont remplacés par des laboratoires virtuels. Grâce à l’IA, à l’apprentissage machine et même à l’informatique quantique du futur, les chercheurs peuvent effectuer des simulations de haute précision de molécules, de matériaux et de systèmes biologiques sur ordinateur, ce qui leur permet de concevoir, de tester et d’optimiser des expériences avant même de toucher un tube à essai. Cela permet non seulement de gagner beaucoup de temps et d’argent, mais aussi de réduire la dépendance à l’égard des animaux d’expérimentation, ce qui favorise le progrès éthique de la recherche scientifique.
• Automatisation de la gestion de laboratoire : l’IA transforme également les opérations quotidiennes des laboratoires. Les systèmes de gestion des stocks pilotés par l’IA peuvent prédire les taux de consommation des réactifs et effectuer automatiquement les réapprovisionnements. Les outils de planification intelligents peuvent optimiser l’utilisation des instruments coûteux, en réduisant le temps d’inactivité des équipements et le temps d’attente des chercheurs, et en les libérant ainsi des tâches administratives fastidieuses.

Le scientifique humain à l’ère de l’IA : un remodelage de l’identité

• De « l’exécutant » au « commandant » : alors que l’IA et les robots assument de plus en plus les tâches répétitives de traitement des données et d’opérations expérimentales, le rôle central des scientifiques humains est en train de changer. Ils ne sont plus des « opérateurs » dans la chaîne de montage de la recherche scientifique, mais deviennent les « commandants stratégiques » de l’ensemble du projet de recherche. Leurs responsabilités essentielles se transforment :
  • Poser des questions profondes : définir des objectifs de recherche de haut niveau et fixer la direction de l’exploration de l’IA.
  • Superviser et guider : agir en tant que « superviseur » ou « copilote » de l’IA, en fournissant un retour d’information essentiel et des corrections de direction pendant le processus de recherche.
  • Évaluer de manière critique : interpréter méticuleusement les résultats de l’IA, sélectionner les hypothèses valables parmi les résultats massifs et concevoir des expériences de validation finales et décisives.
• Nouvelles compétences requises : L’IA et la connaissance des données : les compétences les plus recherchées sur le lieu de travail du futur seront la connaissance des données, c’est-à-dire la capacité de lire, de traiter, d’analyser des données et de les utiliser pour communiquer. La connaissance des données est le fondement de la connaissance de l’IA, qui comprend la compréhension du fonctionnement des outils d’IA, leur utilisation éthique et l’évaluation critique de leurs résultats. Les scientifiques du futur doivent maîtriser l’ingénierie des prompts, la pensée algorithmique et une compréhension approfondie des biais des données.
• Évolution des équipes de recherche : la composition du personnel des laboratoires est également en train de changer. La structure pyramidale traditionnelle « chercheur principal (PI) - post-doctorants - étudiants diplômés » est complétée par de nouveaux rôles indispensables, tels que les ingénieurs en IA/apprentissage machine, les ingénieurs de données, les architectes de données et même les responsables de la confidentialité des données. Les exigences en matière de compétences des différents rôles convergent également : les scientifiques des données sont censés avoir davantage de compétences en matière d’ingénierie et de déploiement, tandis que les ingénieurs doivent avoir une connaissance plus approfondie du domaine.

Naviguer dans la nouvelle frontière : défis, risques et nécessité d’une supervision humaine

Bien que le paradigme scientifique piloté par l’IA soit prometteur, il présente également des défis et des risques sans précédent. Si elle n’est pas gérée avec prudence, cette technologie puissante pourrait même induire le processus scientifique en erreur.

Le dilemme de la « boîte noire » et la quête de l’explicabilité

• La nature du problème : la logique de décision interne de nombreux modèles d’IA performants, notamment les systèmes d’apprentissage profond, est totalement opaque, comme une « boîte noire », pour les humains. Ils peuvent fournir des prédictions très précises, mais ils ne peuvent pas expliquer « pourquoi » ils parviennent à de telles conclusions.
• Risques scientifiques : cela va à l’encontre de l’esprit scientifique qui consiste à rechercher des explications causales. L’IA peut porter des jugements uniquement parce qu’elle a trouvé une corrélation statistique fausse et dénuée de sens scientifique dans les données. Faire aveuglément confiance aux conclusions de l’IA sans comprendre son processus de raisonnement revient à fonder la recherche scientifique sur du sable mouvant.
• Solutions : IA explicable (XAI) : pour relever ce défi, le domaine de l’IA explicable (Explainable AI, XAI) a vu le jour. La XAI vise à développer de nouvelles technologies et méthodes pour rendre les processus de décision des modèles d’IA transparents et compréhensibles. Cela permet aux scientifiques humains de vérifier si l’IA a appris de véritables principes scientifiques, au lieu de se contenter d’utiliser les raccourcis statistiques présents dans les ensembles de données.

Le spectre des préjugés : « Entrées poubelles, sorties évangéliques »

• Mécanismes de partialité : les modèles d’IA apprennent à partir des données. Si les données utilisées pour la formation contiennent en soi des préjugés historiques, sociaux ou de mesure, l’IA ne se contentera pas de reproduire fidèlement ces préjugés, mais pourrait même les amplifier.
• Exemples dans le domaine scientifique : dans la recherche médicale, si les données de formation d’un modèle d’IA proviennent principalement d’un groupe ethnique spécifique, ses performances pourraient se détériorer considérablement lorsqu’il est appliqué à d’autres groupes sous-représentés, en faisant des diagnostics erronés ou en recommandant des traitements inefficaces, ce qui exacerbe les inégalités en matière de santé existantes.
• Boucles de rétroaction vicieuses : les systèmes d’IA biaisés peuvent également créer des cercles vicieux. Par exemple, une IA utilisée pour évaluer les demandes de projets de recherche, si ses données de formation contiennent des préjugés historiques à l’égard de certaines orientations ou institutions de recherche, pourrait rejeter systématiquement des idées novatrices provenant de ces domaines. Ces projets ne peuvent pas générer de nouvelles données parce qu’ils ne sont pas financés, ce qui renforce encore les préjugés initiaux du modèle d’IA.

La crise de la reproductibilité et la primauté de la validation

• Défis internes de la reproductibilité de l’IA : le domaine de la recherche sur l’IA est lui-même confronté à une « crise de la reproductibilité ». La complexité des modèles, la nature exclusive des données de formation et la dépendance à l’égard d’environnements informatiques spécifiques font qu’il est difficile pour d’autres chercheurs de reproduire de manière indépendante les résultats publiés.
• Le manque de fiabilité de l’IA : les systèmes d’IA, tels que les grands modèles linguistiques, ont des problèmes d’« hallucinations », c’est-à-dire qu’ils génèrent en toute confiance des informations totalement fausses ou inventées de toutes pièces. Cela rend la vérification rigoureuse du contenu généré par l’IA essentielle, et aucune sortie d’IA qui n’a pas été examinée par des experts humains ne doit être adoptée directement.
• L’arbitrage final de la validation expérimentale : l’arbitre ultime de la vérité scientifique reste et doit rester le test du monde empirique. Un commentaire acerbe sur une étude de découverte de médicaments assistée par l’IA a souligné que, bien que l’étude ait comporté une quantité importante de modélisation informatique, ses conclusions étaient beaucoup moins convaincantes en raison du manque de validation biologique expérimentale rigoureuse. Cela nous rappelle avec force que, dans le nouveau paradigme, la phase de « validation » du processus classique n’est pas devenue obsolète, mais qu’elle est plus importante que jamais.

Atrophie cognitive et risque de « délocalisation » des intuitions

• Préoccupations profondes : si les scientifiques s’habituent de plus en plus à s’appuyer sur l’IA pour formuler des hypothèses et orienter les recherches, existe-t-il un risque que leur propre créativité, leur intuition scientifique et leur capacité d’esprit critique s’atrophient ?
• « Délocalisation de la pensée » : comme le craignait un chercheur, la dépendance excessive à l’IA revient à délocaliser le processus de pensée - « la partie la plus intéressante de la recherche ». Cela soulève une question philosophique plus profonde : le but de la science est-il uniquement de produire des résultats efficaces, ou inclut-il également la croissance mentale et la satisfaction des humains dans le processus de compréhension de l’univers ?