QUAND ADVIENT UNE INTELLIGENCE NON-HUMAINE

UNE JEUNE FEMME VIENT CONSULTER. Sa biologie est en désordre et je peine à faire un lien entre toutes les données. J’appelle un collègue interniste. Il ne répond pas. Je fouille la vaste mémoire d’Internet. Elle me rend des fragments, mais aucun diagnostic ne se dessine. Alors je me tourne vers un chatbot : un de ces agents conversationnels, accessibles en ligne, capables de dialoguer en langage naturel et de produire des réponses à partir d’une immense base de textes. Ces outils existent depuis plusieurs décennies sous des formes rudimentaires, mais ce n’est que depuis quelques années – et surtout depuis le début des années 2020 – qu’ils sont devenus largement accessibles au grand public. Fondés sur des modèles d’intelligence artificielle entraînés à reconnaître des régularités dans le langage, ils proposent des hypothèses, des regroupements possibles, des pistes de réflexion, à partir des informations qu’on leur fournit. Il suffit de leur confier l’anamnèse, les chiffres, les signes cliniques et, en moins d’une seconde, la réponse arrive. Dans le cas de cette jeune fille, j’obtiens une réponse laissant supposer un diagnostic rare auquel je n’aurais pas pensé. Suit un protocole pour le vérifier et une thérapeutique. La recommandation semble pertinente. Aucune raison de m’en écarter. C’est fascinant. Pourtant, quelque chose se rebelle en moi. Personne ne m’oblige à suivre ce qu’indique la machine et, en même temps, il m’est impossible de m’en éloigner. Ce serait comme renoncer à suivre le GPS de la voiture et constater, après quelques kilomètres, que l’on aurait mieux fait de l’écouter. En réalité, le chatbot ne m’oblige en rien, mais il détermine ce que je ferai, simplement parce que je ne peux ignorer ce qu’il suggère.

Ainsi, j’interroge une machine e je découvre que je suis pris au piège. La machine me tient, car la possibilité qu’elle a de faire des erreurs est très nettement inférieure à la mienne. Elle rend caduque chaque hypothèse que je pourrais formuler, si bien qu’il n’y a même plus d’intérêt de prendre le risque d’en formuler. Mais quel est le problème, diraient certains ? Il est préférable de ne pas faire d’erreur en médecine. Cela peut coûter des vies. Pour autant, l’erreur n’est pas un défaut de notre nature, une tare qu’il faudrait abolir. Elle est la condition de notre pensée, tout comme la possibilité de tomber appartient à l’apprentissage de la marche. L’erreur vient de ce que nous apprenons à engager notre attention dans un processus, et que cet engagement est toujours fragile. Alors, si une machine abolit le risque d’erreur, c’est la possibilité même d’exercer notre attention qui disparaît. Et si notre attention n’est plus exercée, c’est notre engagement qui s’en va : nous nous cachons derrière ce que la machine nous dit, ne prenons plus de risque et exécutons les pensées qui nous sont dictées. Autant les GPS, qui promettaient de nous aider à nous orienter, abolissent le sens de l’orientation, autant l’IA se substitue au jugement. Même si de nombreux experts nous disent que la machine n’a pas à supprimer le jugement du médecin, dans les faits, dès lors que celui-ci ne peut rien opposer aux conclusions formulées par la machine, il ne décide plus de rien et sa volonté, placée sous tutelle, n’est plus libre.

Pour finir, la jeune femme a été soignée et, avec l’intervention du chatbot, elle va bien.

Toutefois, dans les jours qui ont suivi, une question n’a cessé de me préoccuper : la fin justifie-t-elle les moyens ? Sans le chatbot, j’aurais eu certainement quelques difficultés à trouver le diagnostic. Peut-être aurais-je mis un jour ou deux de plus. Peut-être même que le diagnostic m’aurait finalement été suggéré par mon collègue interniste. Mais cela aurait tout changé. Lui, même s’il est plus averti que moi dans son domaine, demeure un humain avec lequel je peux dialoguer. Je peux décider de lui faire confiance, et tout autant décider de le mettre en doute. Je sais qu’il peut se tromper, et c’est précisément pour cela que je peux penser avec lui. Avec la machine, en revanche, si elle ne se trompe presque jamais – si elle a vertu à un jour ne plus se tromper du tout – je ne peux pas décider de la mettre en doute. Je ne peux donc pas penser avec elle.

Évidemment, personne ne défend le droit de se tromper au détriment du patient. Pourtant, notre responsabilité morale ne porte pas seulement sur l’issue d’un cas singulier, mais sur la forme d’humanité que nous instituons par nos pratiques. Une médecine qui ne tolère plus le risque de penser par soi-même devient techniquement performante, mais moralement fragile, puisque désengagée. Le véritable enjeu n’est donc pas de choisir entre la vie de cette jeune femme et la liberté du médecin, mais de préserver les conditions intérieures grâce auxquelles la médecine reste un acte humain, et pas seulement un calcul correct. 

Alors, une question se pose, débordant de très loin la seule pratique médicale : dans quelle mesure pouvons-nous encore rester libres dans notre volonté, si nos actes sont déterminés par les résultats de la machine ?

C’est à cette question que j’essaie d’apporter quelques éléments de réponse dans un ouvrage qui sera bientôt disponible sur le site. Intitulé UN MURMURE ASSOURDISSANT, il a pour sous-titre Quand advient une intelligence non-humaine.

Bien à vous

Guillaume Lemonde

PS : en 2025, l’IA domestique, en particulier les chatbots, a pris son essor. Cette année marque un tournant où ces outils sont devenus largement adoptés par le grand public, intégrés aux smartphones, messageries et services quotidiens. Les chatbots ne sont plus perçus comme des curiosités technologiques, mais comme des assistants ordinaires, capables d’aider à écrire, apprendre, organiser, réfléchir ou chercher de l’information. Leur usage s’est banalisé en même temps que leurs capacités se sont affinées, rendant leur présence plus naturelle et continue dans la vie quotidienne.