Être humain versus machine

Il y a longtemps que l’intelligence artificielle (IA) a fait son entrée dans les cabinets médicaux. Elle est là de l’examen au traitement sans même que la patiente ou le patient ne s’en rende compte. C’est le cas pour l’analyse médicale des images radiologiques ou des échantillons de laboratoire. L’ordinateur identifiera tout aussi fiablement un tissu mammaire dense, signalant une possibilité de cancer du sein, que des nodules pulmonaires suspects de cancer. Ayant examiné ces images, le médecin procédera en cas de doute à des investigations supplémentaires. S’agissant de ces actes de routine, la machine peut faire mieux que l’homme. Un médecin qui compare lui-même des images peut par exemple être influencé par sa forme du jour, alors que les diagnostics posés par l’IA sont fiablement exacts et d’autant plus précis que les données disponibles sont nombreuses.

L’IA est également précieuse lorsque les données sont particulièrement rares, p. ex. pour dépister des maladies rarissimes, qu’un médecin ne rencontre peut-être qu’une seule fois de toute sa carrière et dont les symptômes sont donc difficiles à interpréter à première vue. Alors que l’ordinateur dispose, lui, d’une expérience nourrie par des données du monde entier. Son développement n’en est encore qu’à ses débuts, mais en 2019 a été présenté un programme capable de comparer la photo d’une personne avec des données génétiques de celle-ci et de reconnaître ainsi des maladies génétiques avec une fiabilité étonnante, rien qu’en se basant sur des photos.

L’être humain est irremplaçable
Bien que très présente dans les cabinets médicaux, l’IA complète l’être humain mais ne le remplace pas. Guidés par des processus standardisés, les ordinateurs signalent des états de fait suspects, mais ce sont les médecins qui en évaluent l’utilité, qui les interprètent et décident avec les patients de la suite à donner. Ne serait- ce que psychologiquement, l’intelligence humaine est un facteur déterminant du succès d’un traitement. Nombreuses sont les études qui attribuent à l’entretien médecin-patient un effet positif sur la guérison. Viennent ensuite les questions juridiques. Qui porterait la responsabilité de l’échec d’un traitement laissé à l’appréciation d’un algorithme ? Son développeur ? Le médecin qui n’aurait pas remarqué l’erreur ? La société qui fait une confiance aveugle à l’innovation technique ? À moins qu’il n’y ait plus de responsable du tout.

Mais c’est surtout l’être humain qui, l’IA étant loin d’être infaillible, est indissociable du cabinet médical. Ainsi s’est-on aperçu que beaucoup d’algorithmes ne peuvent pas toujours être transposés d’une région à l’autre. Sur les images du visage ou de la peau, en particulier, il suffit de différences minimes pour perturber les algorithmes. D’où l’obligation de tester et surveiller en profondeur toute nouvelle application. Les évaluations automatisées donnent souvent des résultats faussement positifs, qui, non triés par un médecin, peuvent donner lieu à des inquiétudes sans fondement ou à de coûteux examens complémentaires.

Rester vigilant
Les développeurs ne sont d’ailleurs pas les derniers à mettre en garde contre un usage irréfléchi de l’IA. C’est notamment le cas du professeur Walter Karlen. Titulaire à l’EPFZ d’une chaire pour les « Systèmes de santé mobiles », il oeuvre lui-même à la numérisation du système de santé. Ses groupes de recherche travaillent sur l’apprentissage automatique appliqué à l’analyse d’images de plaies ou sur la prédiction de la pneumonie numériquement assistée chez l’enfant. À la demande de P+P, il nous a dit, tout en en reconnaissant le potentiel, ce qu’il considère comme le danger majeur de l’IA : « La naïvité des gens qui pensent que seule la technologie peut résoudre nos problèmes de santé. »

Il établit un parallèle avec les accidents dont ont été victimes l’an dernier des avions de Boeing. Le trafic aérien et la médecine ont tous deux pour enjeu des vies humaines et, dans l’un comme dans l’autre, la numérisation progresse à grands pas. Une numérisation dangereuse dès lors que l’on en fait un mauvais usage pour réaliser des économies. Et c’est exactement ce qui semble avoir été le cas des logiciels défectueux équipant les nouveaux appareils de Boeing. Et c’est, dit-il, ce qui pourrait arriver dans le domaine de la santé si les autorités ne sont pas vigilantes. Car, tout comme dans le trafic aérien, on en est à s’en remettre aveuglément à la responsabilité des fabricants et à l’autodéclaration. La façon dont on développe aujourd’hui les logiciels « n’est pas forcément compatible avec des applications comportant de nombreux risques ». Ce qui, dans un domaine où les prix sont sous forte tension, peut devenir dangereux et finir par conduire à ce qu'on bloque également les nombreuses innovations parfaitement judicieuses de l’IA.