MEDECINE ET ROBOTIQUE

MEDECINE ET ROBOTIQUE

AFFAIRE WATSON: UN ECHEC POUR L'IA MEDICALE

En 2018, je me suis rendu au salon organisé par IBM au carrousel du Louvre à Paris. Mon intention était de rencontrer Watson, le système d’IA qui promettait de révolutionner la médecine. 

Précédemment j’avais publié une série d’articles sur WATSON, sur ses principes de fonctionnement et ce qu’on pouvait en attendre en médecine. 

A ce moment, le débat était intense et IBM investissait beaucoup en publicité. L’IA de Watson allait-elle remplacer les médecins ? Un spot publicitaire semblait répondre en écho. On y voyait une petite fille converser  avec WATSON. « Watson, es-tu un docteur ? » Rassurant, il répondait « non, je ne suis pas un docteur, je les aide ». 

J’étais donc impatient de le rencontrer. 

Sur le stand, le représentant d’IBM me proposa de regarder… les vidéos publicitaires YouTube. Interloqué, je lui répondis que je les avait déjà vues chez moi et que j’étais venu rencontrer le vrai WATSON. Ce jour là, ça n’était pas possible..

Je ressortis dubitatif.. Il devait y avoir un problème.. Lorsqu’on vend un produit qui fonctionne, on peut toujours le voir… 

 

Je me tournai alors vers la presse. Y avait-il quelque chose de nouveau à propos de Watson ? 

Et je découvris, qu’en effet, IBM semblait en difficulté. Plusieurs articles récents étaient négatifs. Certains mêmes étaient sans concession. Ainsi le magazine Forbes titrait: «  Watson est-il une blague »?

Pour tout dire, c’était une déception. Certes, je n’ai jamais adhéré à l’idée que WATSON, où tout autre système d’IA d’ailleurs, puisse être comparé au cerveau humain et remplace les médecins. Mais il me semblait tout de même que Watson avait la capacité d’être un excellent assistant, spécialement dans le diagnostic difficile. 

Et puis, dernièrement, le Wall Street Journal annonce qu’IBM met en vente Watson santé. Fin de partie 10 ans après l’exploit de la victoire à Jeopardy, le grand jeu télévisé américain. Que s’est-il donc passé entre les 2? 

Revenons un peu en arrière. Watson est certainement assez peu connu du public francophone. Une petite présentation s’impose. 

Watson est un ordinateur de la société IBM doté d’un système d’intelligence artificielle. Ses concepteurs ont entré dans sa mémoire l’ensemble de la documentation numérisée existante ( tout Wikipedia, toutes les références universitaires, etc...), composant ainsi une gigantesque base de données. A l’intérieur de celle-ci, ils ont créé des « corpus » plus restreints pour travailler dans un champs disciplinaire donné. Le corpus santé regroupe la documentation médicale. Des algorithmes d’intelligence artificielle basés sur les statistiques permettent de consulter cette base de donnée en reconnaissance vocale. Tel que décrit au plan technique par IBM, Watson est une vaste encyclopédie interactive doté d’un moteur de recherche d’une puissance exceptionnelle.

C’est en 2011 que le grand public a découvert Watson. Cette année-là, IBM le fait participer à un jeu télévisé, Jeopardy. Ce jeu est particulièrement difficile : on vous donne la réponse, vous devez trouver la question. Sur YouTube, on peut encore voir l’extrait de l’émission. Entre 2 candidats, un écran participe au jeu. C’est Watson. Et il gagne ! Fort de cet exploit technique, IBM se lance dans la commercialisation en direction des entreprises. La santé est une cible prioritaire et IBM crée « Watson health » destinée aux applications médicales. 

La médecine est une discipline où le besoin de documentation est constant, que ce soit en recherche ou en pratique quotidienne. Vous vous souvenez probablement d’au moins une scène de consultation où votre médecin vous dit: «  une seconde, je dois vérifier » et ouvre le Vidal ou internet. Il n’est donc pas besoin de très grandes démonstrations pour s’apercevoir que Watson a toute sa place comme outil professionnel. 

Mais les dirigeants d’IBM ont surestimé les capacités de Watson et, bien qu’ils s’en défendent officiellement, ont cherché à vendre un médecin « intelligent artificiel » autonome. Ils ont choisi une stratégie commerciale risquée, et finalement perdante, celle de vendre par avance des résultats de recherche qui n’avaient pas encore été effectuées. C’était un pari. Le pari était que Watson pourrait facilement proposer des traitements à des patients. 

IBM s’est tourné vers la cancérologie et a conclu des partenariats avec de grandes institutions hospitalières mais des difficultés insurmontables sont apparues rapidement. En 2018, l’année même où je cherchais vainement à rencontrer Watson à Paris, IBM a du se rendre à l’évidence. Les promesses ne pouvaient être tenues et Watson santé a licencié une partie de son personnel. 

Pourtant, les mises en garde des professionnels n’ont pas manquées. Aussi surprenant que cela puisse paraître, les dirigeants d’IBM n’ont pas écouté leurs propres experts, dont David Ferrucci, le  créateur de Watson en personne !

Le New York Times rapporte qu’il a vainement tenté d’expliquer aux responsables du marketing que Watson était configuré pour identifier des mots et prédire les réponses aux questions du jeu Jeopardy mais qu’il n’était pas une boîte de questions-réponses tout venant capable de répondre aux demandes du monde commercial. Il avertissait même que Watson pouvait échouer à un deuxième test de questions réponses ! Peu de temps après, il quittait la société IBM. 

Le même article du New York Times cite le Dr Martin Kohn, expert médical auprès d’IBM qui lui aussi exprimait des réserves sur la stratégie commerciale. Il confie au grand quotidien américain qu’il a, sans succès, conseillé d’utiliser Watson dans des applications restreintes crédibles comme par exemple prédire le risque d’un malade de développer un effet indésirable après prise médicamenteuse plutôt que de chercher à recommander des traitement pour le cancer. 

 

Et sur ce point, je dois dire que je suis bien d’accord ! En effet, ceci correspond bien mieux aux besoins des médecins. Et voici pourquoi. Aucun médecin ne peut avoir en tête tous les effets indésirables des médicaments. Il est évident qu’un système d’IA capable de prédire le risque pour une personne vue en consultation trouve immédiatement sa place auprès du médecin. En revanche, il y a très peu d’intérêt à conseiller des traitements, c’est-à-dire à proposer des choses que les médecins savent déjà. Lorsqu’on s’engage dans cette voie, on entre effectivement en concurrence avec les médecins.

 Mais alors, on butte sur plusieurs difficultés majeures. Le premier est la fiabilité de la proposition de traitement. Comme c’était prévisible, Watson s’est révélé plutôt mauvais. « Nous pensions que ça serait facile mais ça s’est révélé très très dur » déclare au New York Times le Dr Norman Sharpless, l’un des promoteurs du projet. 

Force est de constater que l’ingénuité de ce type de déclaration est plutôt surprenante quand elles proviennent de personnes qui, étant expertes dans leur domaine devraient être avisées. Surtout lorsque l’on sait qu’elles disposaient de toutes les informations nécessaires, même les plus confidentielles...

 

Watson se trouve donc victime d’une commercialisation trop précoce. Ce qu’IBM a vendu n’était en réalité qu’un prototype. Un esprit rationnel penserait qu’il faut continuer le processus de recherche/développement et lancer la commercialisation dans un 2e temps. Mais le système économique n’est pas rationnel. C’est même plutôt la règle de vendre des produits inachevés. Dans notre monde où tout est finance, il faut vendre la légende du produit avant de vendre le produit lui-même. L’argent de la vente en avant-première permet de poursuivre les recherches qui, menées à terme, permettront de fabriquer réellement le produit vendu. 

Mais, contrairement à l’idée que véhiculent les communicants des grandes compagnies, l’intelligence artificielle n’est pas une technologie toute puissante avec un avenir de domination sur le monde humain déjà écrit d’avance et inéluctable. Il ne resterait plus qu’à discuter l’éthique… Rien n’est plus faux. L’aventure Watson n’est que l’épisode supplémentaire d’une histoire qui se répète. Ce blog a ouvert il y a 5 ans avec une affaire similaire, l’échec de sedasys, le robot anesthésiste. Elle impliquait elle aussi une grande compagnie,  Johnson et Johnson, l’un des plus grands équipementiers mondiaux de la santé. 

 

La technologie n’est pas à la fin de son histoire. Aucune des techniques d’intelligence artificielle existantes n’est dotée de « capacité de réflexion » ou d’ « autonomie de décision ». Aucune n’est en voie de les acquérir. Aucune non plus ne peut reproduire le cerveau humain, ce qu’il lui faudrait pour exercer la médecine. Malheureusement, cette idée fausse, née chez les fondateurs de l’IA et actuellement propagée par les publicitaires fait son chemin dans la société jusqu’à en devenir une nouvelle idée reçue. Aucun argument scientifique sérieux n’est pourtant jamais venu l’appuyer. Elle serait anodine si elle ne menait pas à des échecs absurdes pour une technologie aussi prometteuse que l’intelligence artificielle. Souhaitons que la raison scientifique ait le dernier mot sur l’irrationnel économique qui se montre décidément bien contre-productif. 

 

 

Références

Watson est-il une blague? (magazine Forbes)

IBM veut vendre Watson Health (Wall Street Journal)

Qu'est-il arrivé à WATSON d'IBM ? New York Times

 

Les articles du Blog cités :

L'INTELLIGENCE ARTIFICIELLE DE WATSON PEUT-ELLE REMPLACER LES MEDECINS ? (I)

L'INTELLIGENCE ARTIFICIELLE DE WATSON PEUT-ELLE REMPLACER LES MEDECINS? (II)

Comment WATSON est-il utilisé en médecine?

WATSON PEUT-IL REMPLACER VOTRE MEDECIN?

PERFORMANCES DE WATSON D'IBM: UN EFFET D'ANNONCE?

ECHEC COMMERCIAL POUR SEDASYS, LE ROBOT ANESTHESISTE

 

 

 

 

 

 

 



01/10/2021
0 Poster un commentaire

Inscrivez-vous au site

Soyez prévenu par email des prochaines mises à jour

Rejoignez les 22 autres membres