Qui dit intelligence dit capacité cognitive induite. Parler de la machine dite intelligente en la nommant « robot » –terme issu d’un mot slave qui signifie « esclave »– rétablit une hiérarchie entre l’homme et la machine. Cette hiérarchie se brouille lorsque la machine est nommée en tant qu’intelligence, même artificielle, car une comparaison se fait immédiatement entre les capacités cognitives de l’homme et celle du robot, et ce, au désavantage de l’homme. Or cette comparaison est erronée si elle ne se situe qu’au niveau de la cognitivité. L’homme est plus que cela. S’y ajoutent des capacités imaginatives, créatives, empathiques, émotionnelles qui feront toujours défaut au robot, si perfectionné soit-il.
Si, fascinés par la puissance des algorythmes et leur capacité à nous battre sur certains terrains, nous persistons à comparer la machine à l’homme (et vice-versa), il me semble que la capacité cognitive de la machine suivra une courbe inverse à celle de l’utilisateur. Plus celle de la machine augmentera, plus celle du praticien en santé diminuera du fait de cette fascination. Pour parer à ce risque, il faudra, de façon accrue, former les utilisateurs présents et futurs à une utilisation critique de la machine. La machine doit rester celle qui propose et l’homme, celui qui décide. Il est important que l’homme reste toujours premier et puisse arguer de ses compétences et de son expérience pour apporter une contradiction qui sera parfois salutaire pour le patient.
Si les programmes d’études des futurs professionnels prévoient, de façon précoce, de les former au diagnostic à partir de la machine, obtiendra-t-on cette distance critique ? Et comment, s’il apparaît aux enseignants et étudiants qu’il est possible de faire l’économie de l’élaboration d’une expérience qui jusque là semblait nécessaire à l’exercice d’une activité en lien avec la médecine ? Cette expérience se faisait avec l’approfondissement des savoir par la pratique, la diversification des compétences, la mise en place d’une intuition immédiate qui reposait sur l’observation de centaines de cas en situation réelle ?
La diminution cognitive, c’est la perte de la sensibilité d’un geste, de l’élaboration intérieure d’une « banque de données » disponible à la demande et générée par la rencontre avec la variété infinie des nuances dans les pathologies présentes chez les patients.
La systématisation des protocoles de soins a déjà amorcé cette diminution cognitive pour ce qui relève de la prise en compte des polypathologies (un diabétique qui souffre d’un panaris doit-il être pris en charge en médecine générale ou en diabétologie ? Le protocole d’un soin pour panaris prévoit-il de prendre en compte les soins pour diabète ?) Les polypathologies mettent en lumière la limite des protocoles qui s’appuient sur une spécialisation très poussée des services par souci d’efficacité.
Le robot, même s’il est auto apprenant, et enrichit sa base au fur et à mesure des problèmes qui lui sont posés reste dépendant de ce qu’un humain lui a fait ingurgiter au départ dans sa base de données à partir de son propre socle scientifique, idéologique (idée personnelle de ce qu’est la médecine et de ce qu’elle doit être), scientiste (croyance en un progrès continu de la science qui peut se permettre de faire table rase du passé devenu obsolète), philosophique (conception de ce qu’est l’être humain), humaniste (ouvert à la discussion ou fermé sur des certitudes). Ainsi la base de données de l’ordinateur contient en elle une certaine idée de la médecine et du soin qui est celle de l’initiateur (ou des initiateurs) du programme. Par le biais de la machine, un groupe de personnes imposera, de fait, sa vision, sa logique, son mode de résolution d’un cas ou d’un problème mais aussi sa foi (ou sa non foi) humaniste dans la capacité mystérieuse de résilience du patient lambda qui diffère du patient sigma qui, lui n’en manifeste pas. Sa foi, également, dans la toute-puissance de la science médicale, chirurgicale, technique et médicamenteuse pour obtenir guérison ou mieux être, ou sa foi dans une alliance avec le patient pour y parvenir.
En ce sens les données statistiques choisies ne sont pas neutres si elle vise à établir le profil moyen diagnostic de telle ou telle pathologie et du type de patient qui en est atteint. À partir de là, on débouchera sur le concept de la normalité d’une pathologie. Mais qu’adviendra-t-il des patients qui sont a-normaux (hors norme) pour une pathologie donnée ? Un petit pourcentage de patients risque de ne pas rentrer dans cette moyenne, créant une zone d’ombre qui sera à l’origine d’erreurs de diagnostic et/ou de soins. Cela se produit déjà parfois avec les protocoles. Une trop grande confiance accordée à la machine en générera d’autres comme cela a pu se produire pour certains cas bucco-dentaires dont j’ai ouï-dire. En effet, le diagnostic assisté par ordinateur qui existe déjà en soins bucco-dentaires depuis quelques années a connu quelques ratés du fait de praticiens trop confiants dans les capacités de la machine à faire aussi bien et même mieux qu’eux dans l’analyse d’un cas. Pour ces ratés, se pose la question de savoir si le mode de résolution logique de la machine correspondait à celui que le praticien avait appris lors de ses études ou expérimenté dans sa pratique. Si tel était le problème, il se serait alors produit un décalage, entre l’appréhension d’un cas particulier par l’homme et celle de la machine. En effet, la machine a un comportement normé et stéréotypé (même si sa capacité d’auto apprentissage lui confère une forme de souplesse).
C‘est ainsi que la généralisation de l’outil électronique risque d’aboutir à un mode de pensée unique quant aux soins, et à une perte de la diversité d’expérience et de la diversité logique pour l’appréhension d’un même cas.
Dans une période où la rapidité voire l’immédiateté ont tendance à converger vers un idéal de l’efficacité, le praticien riche de son expérience aura tendance à s’effacer au détriment d’une réflexion souvent nécessaire. Lorsque Monsieur Villani voit, pour l’intelligence artificielle, des perspectives très prometteuses pour améliorer la qualité des soins, mais aussi pour réduire les coûts, il me semble que son optimisme se place dans cet idéal d’efficacité. Cela est, en partie vrai pour des disciplines de la santé qui requièrent beaucoup de technique, telles la radiologie, la chirurgie, les soins bucco-dentaires.
Parler de qualité des soins en même temps que de réduction des coûts me donne l’impression que c’est la technique qui est d’abord privilégiée. Cela est normal, la machine y excelle. Mais alors où est la place de la personne qui souffre, la place de son individualité, son espace de plaignant qui requiert l’écoute et la compréhension de son cas personnel dont elle ne désire pas qu’il soit assimilé à la généralité d’une masse qui lui sera toujours étrangère parce qu’elle se veut singulière dans sa souffrance ?
À mon avis, l’humilité consiste pour chacun à placer sa valeur à son niveau réel, ni trop haut ni trop bas, et à la réajuster au fur et à mesure de ses avancées. Cela nécessite pour le praticien de se placer dans un rapport critique face à la machine et de se souvenir que c’est lui qui connaît les nuances humaines et maîtrise les connaissances parfois subtiles que lui apporte le patient. C’est cela qui fera la différence dans la réussite du soin. Il a pour devoir de faire de la machine une alliée et non une rivale qui le surpasse et l’écrase de son savoir et de sa brillance technique. L’auto apprentissage et l’enrichissement de la machine dépend de lui. Si le praticien rentre au fur et à mesure de ses constats personnels, les données qui élargissent ses limites et assouplissent ses stéréotypes, elle sera un outil dont il restera le maître et qui l’obligera, lui, à progresser dans sa science personnelle et à affiner ses propres capacités diagnostiques.
La généralisation de ce qu’on appelle l’intelligence artificielle oblige à réenvisager les bases scientifiques, éthiques et humaines de la médecine, du soin et de la santé. Si la priorité est donnée aux données statistiques, le défaut de notre approche médicale, en général, qui privilégie le symptôme au détriment du terrain[i] qui le produit sera renforcé. La réduction rapide du symptôme est possible et gage d’efficacité et d’économie pour le présent immédiat, mais efficacité et économie ainsi obtenues peuvent se révéler très coûteuses à moyen terme par non prise en compte d’un arrière-plan physique, physiologique ou fonctionnel dont le patient se plaint sans arriver à mettre les mots clairs qui orienterait le diagnostic sur une possible évolution chronique ou pathologique en devenir.
Or l’ordinateur ignore qu’un symptôme qui a disparu (qui est donc considéré comme guéri) peut réapparaître sous une autre forme parce qu’il masquait quelque chose de plus essentiel. Seul l’attention prêtée à son patient et la connaissance qu’il en a peut amener un médecin à envisager en ce sens les éléments qu’il possède. De plus, un symptôme ne désigne pas forcément le problème réel dont souffre la personne. J’ai ainsi en tête le cas d’Élodie qui se plaint depuis plusieurs mois de douleurs intestinales qui lui pose de graves problèmes pour s’alimenter. Jusqu’au jour où cette adepte de randonnées fait le constat qu’au bout de quelques heures de marche, les douleurs se réveillent. Ses compagnons se plaignent de courbatures alors qu’elle les a toujours ignorées pour son propre compte, mais elle a mal au ventre. Pour rester sur un registre proche, que fera le robot diagnostiqueur face à des pathologies périodiques transgénérationnelles comme les migraines qui manifestent une vulnérabilité de la personne sans que le symptôme indique clairement ce qui est à soigner ?
Dans la base de données de départ, une autre des difficultés sera, sans doute, la prise en compte des différences induites de façon héréditaire par des caractéristiques régionales (par exemple, anémie provenant de globules rouges trop petits pour des personnes originaires du Bassin méditerranéen).
Le compagnonnage du soignant avec une machine, un ordinateur ou un robot posera également, à un moment donné ou un autre, des problèmes éthiques au praticien en ce qui concerne le respect du serment d’Hippocrate, le respect d’un cahier de bonnes pratiques. Et il devra choisir entre devenir froid et fonctionnel par contagion au contact de la machine, soit garder l’humanité de son métier en gardant une distance critique avec son outil. En effet, il y a risque pour le praticien de s’éloigner de la relation de qualité avec son patient et de perdre de vue l’importance de l’effet « placebo » dans l’évolution positive d’une personne vers une santé meilleure ou vers la bonne santé. Par l’effet « placebo » (« je vais faire plaisir »), le médecin se met à portée de son patient qui le remercie en prenant son traitement. Par son écoute, le médecin donne envie au patient de se soigner qui est heureux, ensuite, de lui témoigner sa reconnaissance pour les bons soins. L’effet « placebo » de la relation joue dans les deux sens. A contrario, un contact froid et indifférent aura, peut-être, un effet « nocebo », le patient interprétant son ressenti personnel de froideur sous une forme proche de celle-ci : « ce médecin est nuisible. Son traitement va me nuire. »
À ceux qui habitent à la campagne et qui voient progressivement leurs médecins traitants partir à la retraite sans que personne ne vienne prendre leur suite, on promet la panacée de la télémédecine ou les consultations à distance. Le développement rapide de l’intelligence artificielle permettra certainement de tenir cette promesse. Qu’en sera-t-il de la relation soignant-soigné ? Nombre de patients devront-ils accepter la fatalité de sa disparition telle qu’il la connaissait au profit d’une relation soignant artificiel-soigné ? Même si un médecin réel apparaît sur un écran à un moment est-ce que cela équivaudra à une relation de confiance tissée au fil des années ? Ce patient de la campagne devra-t-il trouver normal qu’un habitant de la ville continue à bénéficier de cette relation alors cela lui est refusé ? Qu’en sera-t-il de son rapport au traitement prescrit ?
Et si la consultation à distance nécessite de remplir, au préalable un questionnaire quant aux symptômes, le demandeur saura-t-il faire la différence, par exemple entre « douleur forte », « douleur faible », « douleur irradiante » ? ou entre « rougeur irritante » et « rougeur brûlante » ? Après avoir hésité, il cochera l’une ou l’autre case sans possibilité de retour et de correction s’il se rend compte que la page suivante ne correspond pas à son problème car la machine déroulera son protocole à partir des mots clés qui ont été cochés. Ce paragraphe s’appuie sur une expérience vécue par Anna lors d’une année passée à l’étranger.
Un autre défi généré par l’usage de plus en plus général de l’outil informatique, commence à se poser aux soignants. Il s’agit des pathologies qui résultent des conséquences de cet usage et, plus particulièrement, de celles qui sont des décompensations physiques d’une tension morale et psychologique. Elles concernent des personnes qui ne se reconnaissent plus dans un métier qu’elles avaient adopté avec enthousiasme parce qu’il eur est demandé de n’être plus qu’au service d’une machine si intelligente soit-elle. La perte de compétences et d’enrichissement personnels induit doute et désenchantement, lesquels risquent de se répercuter sous une forme ou une autre de pathologie physique.
Par contagion, le robot induit dans la société actuelle un idéal de perfection, de rapidité et d’efficacité qui devient la norme qu’il est demandé de suivre dans nombre d’entreprises. D’où des vécus de harcèlement et la progression importante de ce que l’on appelle le « burn out » qui est, pour moi, un épuisement des capacités de ressources et de ressourcement d’une personne qui s’appauvrit psychologiquement dans une poursuite idéale qui n’a pas ou plus de sens, humainement parlant.
La machine a un prix très onéreux alors que la personne humaine n’en a pas. Il est et sera donc tentant de faire rentrer un personnel soignant dans une logique comptable et gestionnaire qui n’a et n’aura plus rien à voir avec les motivations du soignant pour le métier qu’il a choisi. Et, toujours à cause de son coût, le soignant s’effacera et donnera la prééminence aux conclusions de la machine. Or, il me semble qu’un soignant, pour durer dans un métier qui sollicite son implication personnelle constamment, se doit à lui-même de se réenchanter au contact de patients qui puisent en eux la capacité à se réparer.
En guise de conclusion, je vous propose une réflexion sur l’automobile. Dans l’exercice de ma profession de psychopraticienne en analyste psycho organique, des clients viennent souvent avec des rêves où il est question de voitures. Ces véhicules sont le symbole de ce qu’ils sont eux-mêmes, « auto mobiles », et le rêve vient leur rappeler qu’ils ont le choix de conduire ce véhicule, de décider de la direction à prendre, par quel chemin ils iront dans cette direction et qu’il leur est loisible de modifier le tracé du chemin s’ils en ont la fantaisie. À l’heure des navigateurs qui programment les itinéraires, la symbolique de l’homme « auto mobile » et de ses choix s’écorne. Qu’en sera-t-il de ce symbole lorsque l’homme ne sera plus « auto mobile » dans son véhicule puisque c’est l’électronique embarqué qui décidera à sa place une fois la destination indiquée ?
Note de bas de page
[i] Par « terrain », j’entends un fond psychosomatique plus ou moins ancien autour duquel s’est créé, à la longue un équilibre de santé physique.