MEDECINE ET ROBOTIQUE

En 2018, je me suis rendu au salon organisé par IBM au carrousel du Louvre à Paris. Mon intention était de rencontrer Watson, le système d’IA qui promettait de révolutionner la médecine. 

Précédemment j’avais publié une série d’articles sur WATSON, sur ses principes de fonctionnement et ce qu’on pouvait en attendre en médecine. 

A ce moment, le débat était intense et IBM investissait beaucoup en publicité. L’IA de Watson allait-elle remplacer les médecins ? Un spot publicitaire semblait répondre en écho. On y voyait une petite fille converser  avec WATSON. « Watson, es-tu un docteur ? » Rassurant, il répondait « non, je ne suis pas un docteur, je les aide ». 

J’étais donc impatient de le rencontrer. 

Sur le stand, le représentant d’IBM me proposa de regarder… les vidéos publicitaires YouTube. Interloqué, je lui répondis que je les avait déjà vues chez moi et que j’étais venu rencontrer le vrai WATSON. Ce jour là, ça n’était pas possible..

Je ressortis dubitatif.. Il devait y avoir un problème.. Lorsqu’on vend un produit qui fonctionne, on peut toujours le voir… 

Je me tournai alors vers la presse. Y avait-il quelque chose de nouveau à propos de Watson ? 

Et je découvris, qu’en effet, IBM semblait en difficulté. Plusieurs articles récents étaient négatifs. Certains mêmes étaient sans concession. Ainsi le magazine Forbes titrait: «  Watson est-il une blague »?

Pour tout dire, c’était une déception. Certes, je n’ai jamais adhéré à l’idée que WATSON, où tout autre système d’IA d’ailleurs, puisse être comparé au cerveau humain et remplace les médecins. Mais il me semblait tout de même que Watson avait la capacité d’être un excellent assistant, spécialement dans le diagnostic difficile. 

Et puis, dernièrement, le Wall Street Journal annonce qu’IBM met en vente Watson santé. Fin de partie 10 ans après l’exploit de la victoire à Jeopardy, le grand jeu télévisé américain. Que s’est-il donc passé entre les 2? 

Revenons un peu en arrière. Watson est certainement assez peu connu du public francophone. Une petite présentation s’impose. 

Watson est un ordinateur de la société IBM doté d’un système d’intelligence artificielle. Ses concepteurs ont entré dans sa mémoire l’ensemble de la documentation numérisée existante ( tout Wikipedia, toutes les références universitaires, etc...), composant ainsi une gigantesque base de données. A l’intérieur de celle-ci, ils ont créé des « corpus » plus restreints pour travailler dans un champs disciplinaire donné. Le corpus santé regroupe la documentation médicale. Des algorithmes d’intelligence artificielle basés sur les statistiques permettent de consulter cette base de donnée en reconnaissance vocale. Tel que décrit au plan technique par IBM, Watson est une vaste encyclopédie interactive doté d’un moteur de recherche d’une puissance exceptionnelle.

C’est en 2011 que le grand public a découvert Watson. Cette année-là, IBM le fait participer à un jeu télévisé, Jeopardy. Ce jeu est particulièrement difficile : on vous donne la réponse, vous devez trouver la question. Sur YouTube, on peut encore voir l’extrait de l’émission. Entre 2 candidats, un écran participe au jeu. C’est Watson. Et il gagne ! Fort de cet exploit technique, IBM se lance dans la commercialisation en direction des entreprises. La santé est une cible prioritaire et IBM crée « Watson health » destinée aux applications médicales. 

La médecine est une discipline où le besoin de documentation est constant, que ce soit en recherche ou en pratique quotidienne. Vous vous souvenez probablement d’au moins une scène de consultation où votre médecin vous dit: «  une seconde, je dois vérifier » et ouvre le Vidal ou internet. Il n’est donc pas besoin de très grandes démonstrations pour s’apercevoir que Watson a toute sa place comme outil professionnel. 

Mais les dirigeants d’IBM ont surestimé les capacités de Watson et, bien qu’ils s’en défendent officiellement, ont cherché à vendre un médecin « intelligent artificiel » autonome. Ils ont choisi une stratégie commerciale risquée, et finalement perdante, celle de vendre par avance des résultats de recherche qui n’avaient pas encore été effectuées. C’était un pari. Le pari était que Watson pourrait facilement proposer des traitements à des patients. 

IBM s’est tourné vers la cancérologie et a conclu des partenariats avec de grandes institutions hospitalières mais des difficultés insurmontables sont apparues rapidement. En 2018, l’année même où je cherchais vainement à rencontrer Watson à Paris, IBM a du se rendre à l’évidence. Les promesses ne pouvaient être tenues et Watson santé a licencié une partie de son personnel. 

Pourtant, les mises en garde des professionnels n’ont pas manquées. Aussi surprenant que cela puisse paraître, les dirigeants d’IBM n’ont pas écouté leurs propres experts, dont David Ferrucci, le  créateur de Watson en personne !

Le New York Times rapporte qu’il a vainement tenté d’expliquer aux responsables du marketing que Watson était configuré pour identifier des mots et prédire les réponses aux questions du jeu Jeopardy mais qu’il n’était pas une boîte de questions-réponses tout venant capable de répondre aux demandes du monde commercial. Il avertissait même que Watson pouvait échouer à un deuxième test de questions réponses ! Peu de temps après, il quittait la société IBM. 

Le même article du New York Times cite le Dr Martin Kohn, expert médical auprès d’IBM qui lui aussi exprimait des réserves sur la stratégie commerciale. Il confie au grand quotidien américain qu’il a, sans succès, conseillé d’utiliser Watson dans des applications restreintes crédibles comme par exemple prédire le risque d’un malade de développer un effet indésirable après prise médicamenteuse plutôt que de chercher à recommander des traitement pour le cancer. 

Et sur ce point, je dois dire que je suis bien d’accord ! En effet, ceci correspond bien mieux aux besoins des médecins. Et voici pourquoi. Aucun médecin ne peut avoir en tête tous les effets indésirables des médicaments. Il est évident qu’un système d’IA capable de prédire le risque pour une personne vue en consultation trouve immédiatement sa place auprès du médecin. En revanche, il y a très peu d’intérêt à conseiller des traitements, c’est-à-dire à proposer des choses que les médecins savent déjà. Lorsqu’on s’engage dans cette voie, on entre effectivement en concurrence avec les médecins.

 Mais alors, on butte sur plusieurs difficultés majeures. Le premier est la fiabilité de la proposition de traitement. Comme c’était prévisible, Watson s’est révélé plutôt mauvais. « Nous pensions que ça serait facile mais ça s’est révélé très très dur » déclare au New York Times le Dr Norman Sharpless, l’un des promoteurs du projet. 

Force est de constater que l’ingénuité de ce type de déclaration est plutôt surprenante quand elles proviennent de personnes qui, étant expertes dans leur domaine devraient être avisées. Surtout lorsque l’on sait qu’elles disposaient de toutes les informations nécessaires, même les plus confidentielles...

Watson se trouve donc victime d’une commercialisation trop précoce. Ce qu’IBM a vendu n’était en réalité qu’un prototype. Un esprit rationnel penserait qu’il faut continuer le processus de recherche/développement et lancer la commercialisation dans un 2e temps. Mais le système économique n’est pas rationnel. C’est même plutôt la règle de vendre des produits inachevés. Dans notre monde où tout est finance, il faut vendre la légende du produit avant de vendre le produit lui-même. L’argent de la vente en avant-première permet de poursuivre les recherches qui, menées à terme, permettront de fabriquer réellement le produit vendu. 

Mais, contrairement à l’idée que véhiculent les communicants des grandes compagnies, l’intelligence artificielle n’est pas une technologie toute puissante avec un avenir de domination sur le monde humain déjà écrit d’avance et inéluctable. Il ne resterait plus qu’à discuter l’éthique… Rien n’est plus faux. L’aventure Watson n’est que l’épisode supplémentaire d’une histoire qui se répète. Ce blog a ouvert il y a 5 ans avec une affaire similaire, l’échec de sedasys, le robot anesthésiste. Elle impliquait elle aussi une grande compagnie,  Johnson et Johnson, l’un des plus grands équipementiers mondiaux de la santé. 

La technologie n’est pas à la fin de son histoire. Aucune des techniques d’intelligence artificielle existantes n’est dotée de « capacité de réflexion » ou d’ « autonomie de décision ». Aucune n’est en voie de les acquérir. Aucune non plus ne peut reproduire le cerveau humain, ce qu’il lui faudrait pour exercer la médecine. Malheureusement, cette idée fausse, née chez les fondateurs de l’IA et actuellement propagée par les publicitaires fait son chemin dans la société jusqu’à en devenir une nouvelle idée reçue. Aucun argument scientifique sérieux n’est pourtant jamais venu l’appuyer. Elle serait anodine si elle ne menait pas à des échecs absurdes pour une technologie aussi prometteuse que l’intelligence artificielle. Souhaitons que la raison scientifique ait le dernier mot sur l’irrationnel économique qui se montre décidément bien contre-productif. 

Références

Watson est-il une blague? (magazine Forbes)

IBM veut vendre Watson Health (Wall Street Journal)

Qu'est-il arrivé à WATSON d'IBM ? New York Times

Les articles du Blog cités :

L'INTELLIGENCE ARTIFICIELLE DE WATSON PEUT-ELLE REMPLACER LES MEDECINS ? (I)

L'INTELLIGENCE ARTIFICIELLE DE WATSON PEUT-ELLE REMPLACER LES MEDECINS? (II)

Comment WATSON est-il utilisé en médecine?

WATSON PEUT-IL REMPLACER VOTRE MEDECIN?

PERFORMANCES DE WATSON D'IBM: UN EFFET D'ANNONCE?

ECHEC COMMERCIAL POUR SEDASYS, LE ROBOT ANESTHESISTE

Souvenons-nous des annonces hyperboliques des années 2015. Avenir écrit d’avance...futur inéluctable...intelligence artificielle toujours plus puissante jusqu’à en devenir menaçante...

Bill Gates, Elon Musk, Stephen Hawking nous avertissaient solennellement: l’humanité était menacée. Rien de moins. 

A brève échéance, les médecins seraient remplacés...La prédiction la plus saisissante a été celle de Geoffrey Hinton, un des fondateurs du Deep Learning. En 2016, il comparait les radiologues au coyote du dessin animé qui continuait à courir dans le vide sans s’apercevoir que le bord de la falaise était dépassé et qu’il n’avait plus rien sous les pieds. Il assénait:  « Il est évident que le Deep Learning aura remplacé les radiologues dans 5 à 10 ans ».  

La pandémie COVID aurait donc du être l’occasion d’une éclatante démonstration avec prise en main rapide et efficace de la réponse à la pandémie par les grands acteurs de l’IA.

2021. L’Organisation Mondiale de la Santé publie un rapport sur l’éthique et la gouvernance de l’IA qui examine, entre autres sujets, la place qu’elle a occupée dans la crise COVID. L’objectif poursuivi par l’institution internationale est de réguler le foisonnement d’applications qui envahissent le champs médical avec une qualité et un service rendu très inégaux. 

Le texte réalise une synthèse technique qui nous donne l’occasion de prendre quelques nouvelles de l’IA médicale. Où donc en est-on  précisément en 2021?

 Pour l’essentiel, l’IA est développée dans le secteur du recueil de données et de l’analyse statistique, surtout à des fins de santé publique. La question de l’emploi reste prégnante car les professionnels de santé doivent apprendre à travailler avec l’IA mais le rapport ne fait pas état de l’implantation massive des dispositifs qui ont défrayé la chronique il y a quelques années et qui seraient en train de supplanter les professionnels. Pour le moment, sur la relation entre professionnels et IA, nous en restons au stade de la prospective. L’OMS observe que, bien que l’aide au diagnostic soit la plus utilisée parmi les applications de l’IA en médecine, elle n’est pas encore implantée dans le quotidien de la décision médicale. Elle ajoute le constat que peu de systèmes ont été évalués par des essais cliniques. 

Sans chercher à minimiser l’impact futur et prévisible de l’IA, il est intéressant de relever dans le rapport de l’OMS le rappel de quelques historiques qui nous encouragent à relativiser l’ « enthousiasme technologique ». 

En 2013, Google annonce être capable de prédire les épidémies de grippe avant les agences sanitaires en se basant sur les recherches liées ( complications, traitements, symptômes…). L’augmentation du nombre de requêtes prédisait l’arrivée de l’épidémie. Malheureusement, le système a surestimé la prévalence de la grippe entre 2011 et 2013. En effet, les habitudes de recherche des internautes avaient changé. Le modèle n’ayant pas été ré-entrainé, il n’a pas pu les détecter. 

Concernant la pandémie COVID 19, les applications IA ont concerné la télé-médecine et les applications de traçage. L’OMS  relève que, bien que de nombreux usages possibles de l’IA aient été identifiés pendant la pandémie, leur impact réel a été modeste. Les limites sont celles soulignées par de nombreux experts médicaux à travers le monde, à savoir la mise sur le marché d’applications dont l’utilité n’a pas été évaluée scientifiquement. L’OMS se positionne clairement en affirmant que l’urgence ne justifie pas que l’on déploie des technologies dont l’efficacité n’a pas été prouvée. Il y a eu plusieurs exemples d’applications inefficaces. Ainsi, le NHS britannique a lancé une application qui devait notifier aux sujets concernés de s’auto-isoler. 19 millions l'ont téléchargé. Mais elle était mal programmée. Un nombre très limité de personnes a reçu le conseil de s’isoler, avec pour effet, l’exposition au COVID d’un grand nombre d’utilisateurs au lieu d’en être protégés!

Mais l’IA, ce sont aussi et surtout-serait-on tenté d’écrire ! -des perspectives. Elles sont nombreuses et il n’est évidemment pas possible de toutes les détailler. Néanmoins, il faut remarquer qu’elles ne concernent que l’amélioration et la montée en puissance de dispositifs numériques déjà existants (applications de suivi, analyse de données de surveillance médicale..). Parmi elles, celle qui semble la plus intéressante est le remplacement intégral de l’expérimentation animale par la simulation numérique. Attendu pour 2040.

Que peut-on donc dire de l’IA en 2021? 

Clairement, elle change la donne dans la façon dont les soins sont délivrés mais pas dans le sens annoncé par les gourous du marketing. Il n’y a pas de machine autonome. Il y a des logiciels qui recueillent des données, envoient des alertes, donnent des indications et augmentent les performances des technologies numériques. Ces logiciels ont des propriétaires très humains. L’IA n’est pas un être autonome en gestation mais un outil affecté à une tâche précise. Reste à savoir comment utiliser cet outil. Et surtout, qui doit en maîtriser le développement et la diffusion. Car, nous avertit l’OMS, le risque est réel de voir se créer une offre de soins parallèle, très commerciale, située en dehors des systèmes de soins officiels, de ses circuits de validation scientifique et de ses mécanismes de remboursement. 

L’impact de l’IA sur la gestion de la crise COVID a été modeste. Les résultats n’ont pas été à la hauteur des promesses de l’absurde communication des géants du numérique. Déconnectée des réalités scientifiques, elle crée des désillusions délétères et masque les vrais succès. Pourtant, l’IA apporte déjà beaucoup et il faut la développer pour améliorer la performance du travail humain. Oui, du travail humain car l’intelligence artificielle est une révolution informatique, certainement pas une révolution des neurosciences. 

Référence

Lien vers le rapport de l'OMS