L’intelligence artificielle est souvent critiquée car elle crée des informations qui semblent factuelles, appelées hallucinations. Les contrefaçons plausibles ont perturbé non seulement les sessions de chatbot, mais aussi les procès et les dossiers médicaux. L’année dernière, une affirmation manifestement fausse d’un nouveau chatbot de Google a contribué à faire baisser la valeur marchande de l’entreprise d’environ 100 milliards de dollars.
Dans l’univers scientifique, cependant, les innovateurs découvrent que les hallucinations de l’IA peuvent être remarquablement utiles. Il s’avère que les machines intelligentes imaginent des émeutes d’irréalités qui aident les scientifiques à traquer le cancer, à concevoir des médicaments, à inventer des dispositifs médicaux, à découvrir des phénomènes météorologiques et même à remporter le prix Nobel.
“Le public pense que tout va mal”, a déclaré Amy McGovern, une informaticienne qui dirige un institut fédéral d’IA. “Mais cela donne en réalité de nouvelles idées aux scientifiques. Cela leur donne la chance d’explorer des idées auxquelles ils n’auraient peut-être pas pensé autrement.”
L’image publique de la science est froidement analytique. De manière moins visible, les premières étapes de la découverte peuvent regorger d’intuitions et de conjectures folles. “Tout est permis”, voilà comment Paul Feyerabendphilosophe des sciences, a un jour caractérisé la mêlée.
Aujourd’hui, les hallucinations de l’IA revigorent le côté créatif de la science. Ils accélèrent le processus par lequel les scientifiques et les inventeurs imaginent de nouvelles idées et les testent pour voir si la réalité est conforme. C’est la méthode scientifique – seulement suralimentée. Ce qui prenait autrefois des années peut désormais être réalisé en jours, heures et minutes. Dans certains cas, les cycles d’enquête accélérés aident les scientifiques à ouvrir de nouvelles frontières.
“Nous explorons”, a déclaré James J. Collins, professeur au Massachusetts Institute of Technology, qui a récemment loué les hallucinations pour avoir accéléré ses recherches sur de nouveaux antibiotiques. “Nous demandons aux modèles de proposer des molécules complètement nouvelles.”
Les hallucinations de l’IA surviennent lorsque les scientifiques enseignent des modèles informatiques génératifs sur un sujet particulier et laissent ensuite les machines retravailler ces informations. Les résultats peuvent aller de subtils et erronés à surréalistes. Parfois, ils mènent à des découvertes majeures.
En octobre, David Boulanger de la Université de Washington a partagé le prix Nobel de chimie pour ses recherches pionnières sur les protéines, ces molécules noueuses qui donnent le pouvoir à la vie. Le comité Nobel l’a félicité pour avoir découvert comment construire rapidement des types complètement nouveaux de protéines introuvables dans la nature, qualifiant son exploit de « presque impossible ».
Dans une interview avant l’annonce du prix, Baker a cité les explosions d’imagination de l’IA comme étant essentielles à la « fabrication de protéines à partir de zéro ». La nouvelle technologie, a-t-il ajouté, a aidé son laboratoire à obtenir environ 100 brevets, dont la plupart concernent les soins médicaux. L’une concerne une nouvelle façon de traiter le cancer. Un autre cherche à contribuer à la guerre mondiale contre les infections virales. Baker a également fondé ou aidé à démarrer plus de 20 entreprises de biotechnologie.
“Les choses avancent vite”, a-t-il déclaré. “Même les scientifiques qui travaillent dans le domaine des protéines ne savent pas jusqu’où les choses sont arrivées.” Combien de protéines son laboratoire a-t-il conçues ? “Dix millions – tous neufs”, a-t-il répondu. “Ils n’existent pas dans la nature.”
Malgré l’attrait des hallucinations de l’IA pour la découverte, certains scientifiques trouvent le mot lui-même trompeur. Ils considèrent que les modèles d’IA générative ne sont pas illusoires mais prospectifs – comme ayant une certaine chance de se réaliser, un peu comme les conjectures formulées aux premiers stades de la méthode scientifique. Ils considèrent le terme hallucination comme inexact et évitent donc de l’utiliser.
Le mot est également mal vu car il peut évoquer le mauvais vieux temps des hallucinations dues au LSD et à d’autres drogues psychédéliques, qui ont effrayé des scientifiques réputés pendant des décennies. Un dernier inconvénient est que les communications scientifiques et médicales générées par l’IA peuvent, comme les réponses des chatbots, être obscurcies par de fausses informations.
En juillet, le Maison Blanche a publié un rapport sur la promotion de la confiance du public dans la recherche sur l’IA. Sa seule référence aux hallucinations était de trouver des moyens de les réduire.
Le comité du prix Nobel semble avoir suivi cette stratégie. Il ne dit rien des hallucinations de l’IA dans une revue détaillée du travail de Baker. Au lieu de cela, dans un communiqué de presse, il a simplement crédité son équipe d’avoir produit « une création protéique imaginative après l’autre ». De plus en plus, une partie de l’establishment scientifique semble considérer les hallucinations comme inavouables.
Néanmoins, les experts ont déclaré lors d’entretiens que les imaginations de l’IA scientifique présentent des avantages majeurs par rapport aux hallucinations des chatbots et de leurs proches. Plus fondamentalement, disent-ils, les élans créatifs sont enracinés dans les faits concrets de la nature et de la science plutôt que dans les ambiguïtés du langage humain ou dans le flou d’Internet, connu pour ses préjugés et ses mensonges.
“Nous enseignons la physique de l’IA”, a déclaré Anima Anandkumar, professeur de mathématiques et d’informatique au California Institute of Technology, qui dirigeait auparavant la recherche sur l’IA chez Nvidia, le principal fabricant de puces IA.
Pour la science, a ajouté Anandkumar, le fondement physique de faits fiables peut produire des résultats très précis. Elle a déclaré que les grands modèles linguistiques des chatbots ne disposent d’aucun moyen pratique pour vérifier l’exactitude de leurs déclarations et affirmations.
Le contrôle ultime, dit-elle, survient alors que les scientifiques comparent les envolées numériques avec les détails concrets de la réalité physique.
“Vous devez le tester”, a déclaré Anandkumar à propos des résultats de l’IA. “Quelque chose de nouvellement conçu par les hallucinations de l’IA nécessite des tests.”
Récemment, Anandkumar et ses collègues ont utilisé les hallucinations de l’IA pour concevoir un nouveau type de cathéter réduisant considérablement la contamination bactérienne – un fléau mondial qui provoque chaque année des millions d’infections des voies urinaires. Elle a déclaré que le modèle d’IA de l’équipe avait imaginé plusieurs milliers de géométries de cathéters et avait ensuite choisi celle qui était la plus efficace.
Les parois internes du nouveau cathéter sont bordées de pointes en forme de dents de scie qui empêchent les bactéries de gagner en traction et de nager en amont pour infecter la vessie des patients. Anandkumar a déclaré que l’équipe discutait de la commercialisation de l’appareil.
Faisant écho à d’autres scientifiques, Anandkumar a déclaré qu’elle n’aime pas le terme hallucination. Le document de son équipe sur le nouveau cathéter évite ce mot.
D’un autre côté, Harini Veeraraghavan, directeur du laboratoire du Memorial Sloan Kettering Cancer Center à New York, a cité le terme dans un article sur l’utilisation de l’IA pour affiner les images médicales floues. Son titre disait en partie : « IRM hallucinée », abréviation de imagerie par résonance magnétique.
Des chercheurs du Université du Texas à Austin ont également adopté le terme. “Learning from Hallucination”, lit-on dans le titre de leur article sur l’amélioration de la navigation des robots.
Et le chef de la division scientifique de DeepMind, une société Google basée à Londres qui développe des applications d’IA, a salué les hallucinations comme favorisant la découverte, peu après que deux de ses collègues aient partagé le prix Nobel de chimie de cette année avec Baker.
“Nous disposons de cet outil incroyable qui peut faire preuve de créativité”, a déclaré le responsable de DeepMind. Rencontrez Kohlia déclaré dans une interview.
Un exemple, a-t-il dit, est la façon dont un ordinateur DeepMind a battu en 2016 le champion du monde de Go, un jeu de société complexe. Le tournant de la partie a été le coup 37, assez tôt dans la compétition. “Nous pensions que c’était une erreur”, a déclaré Kohli. “Et les gens ont réalisé au fil du jeu que c’était un coup de génie. Ces modèles sont donc capables de produire ces idées très, très nouvelles.”
McGovern, directeur de l’Institut d’IA, est également professeur de météorologie et d’informatique à l’Institut d’IA. Université d’Oklahoma. Elle a déclaré que les hallucinations de l’IA pourraient être décrites de manière moins colorée comme des « distributions de probabilités » – un terme très ancien dans le monde scientifique.
Les détectives météo, a ajouté McGovern, utilisent désormais régulièrement l’IA pour créer des milliers de variations subtiles de prévisions, ou de plages de probabilité. Elle a déclaré que les riches imaginations leur ont permis de découvrir des facteurs inattendus qui peuvent provoquer des événements extrêmes comme des vagues de chaleur mortelles. “C’est un outil précieux”, a déclaré McGovern.
Baker, le récent lauréat du prix Nobel, a adopté une approche franche. “Conception de protéines de novo par hallucination en réseau profond”, lit-on dans le titre de l’un de ses articles de 2021, paru dans Nature, une revue scientifique de premier plan.
L’expression de novo – qui signifie « depuis le début » en latin – contraste fortement avec la façon dont les scientifiques ont commencé au début des années 1980 à peaufiner les structures des protéines connues présentes dans la nature.
En 2003, Baker et ses collègues ont atteint un objectif bien plus ambitieux : fabriquer à partir de rien la première protéine entièrement nouvelle au monde. Ils l’ont appelé Top7. Leur réalisation a été considérée comme une avancée majeure car les protéines sont des superstars de la complexité. Les experts comparent la structure de l’ADN à un collier de perles et celle des grosses protéines à des boules de poils. Leurs structures sont si complexes que même les représentations graphiques détaillées ne sont que des approximations.
Alors que l’IA devenait une nouvelle technologie puissante, Baker se demandait si elle pouvait accélérer la conception de novo. Son article de 2021 dans Nature citait l’inspiration de Google DeepDream, un modèle qui transforme les images existantes en psychédélisme. Lorsque les gens regardent la pleine lune et voient le visage d’un homme, cela s’appelle la paréidolie, une bizarrerie perceptuelle qui transforme des motifs ambigus en images significatives. DeepDream utilise une version de cette tendance pour créer ses fantasmes surréalistes.
Le plan de Baker était de voir si l’IA pouvait imposer l’effet paréidolie sur des ensembles ambigus d’acides aminés, les éléments constitutifs des protéines. Son équipe a introduit des chaînes aléatoires de séquences aminés dans un modèle entraîné à reconnaître les caractéristiques structurelles de vraies protéines. Cela a fonctionné – à la pelle.
Le journal indique que le test a créé des milliers de protéines virtuelles. Cela les a comparés à l’explosion d’images de chats IA sur Internet. “Tout comme les images simulées de chats générées par une hallucination en réseau profond sont clairement reconnaissables comme étant des chats”, indique le document, de même les structures protéiques artificielles “ressemblent mais ne sont pas identiques” aux structures naturelles.
L’équipe Baker a ensuite cherché à transformer les protéines imaginées en réalité – une étape qui n’est pas sans rappeler de donner vie à des chats numériques. Tout d’abord, l’équipe a pris des informations sur les molécules hallucinées et les a utilisées comme modèle pour produire les brins d’ADN qui forment les gènes. Puis, comme le rapportait l’article de 2021, le moment eurêka est arrivé lorsque les gènes ont été insérés dans des microbes et que les minuscules organismes ont produit 129 nouveaux types de protéines inconnues de la science et de la nature.
Par la suite, début 2022, Baker a décrit ce moment comme « la première démonstration » de la façon dont l’IA peut accélérer la conception de protéines de novo. Ses articles de suivi de 2022 et 2023 utilisaient à nouveau le mot hallucination dans leurs titres.
Dans une interview, Baker a déclaré que son laboratoire avait franchi une nouvelle étape dans l’imagination créative avec une méthode d’IA connue sous le nom de diffusion. C’est ce qui alimente DALL-E, Sora et d’autres générateurs de visuels populaires.
Baker a salué la diffusion comme étant meilleure que l’hallucination pour évoquer de nouvelles conceptions de protéines. “C’est beaucoup plus rapide et le taux de réussite est plus élevé”, a-t-il déclaré.
Ces dernières années, certains analystes se sont inquiétés du déclin de la science. Ils soulignent une baisse au cours des dernières décennies du nombre de percées et de découvertes majeures.
Les partisans de l’IA affirment que ses explosions de créativité viennent à la rescousse. À l’horizon du design, Baker et ses collègues voient des vagues de catalyseurs protéiques qui récolteront l’énergie du soleil, transformeront les vieilles usines en économiseurs d’énergie élégants et contribueront à créer un nouveau monde durable.
“L’accélération continue”, a déclaré Ian C. Haydon, membre de l’équipe de Baker. “C’est incroyable.”
D’autres sont d’accord. “C’est incroyable ce qui va sortir dans les prochaines années”, a déclaré Kohli. Il considère que l’IA permet de percer les secrets les plus profonds de la vie et d’établir une nouvelle base puissante pour guérir les maladies, améliorer la santé et prolonger la vie.
“Une fois que nous aurons déchiffré et vraiment compris le langage de la vie”, a-t-il déclaré, “ce sera magique”.
