Faut-il craindre la tyrannie des algorithmes ?

Volontiers exprimée par certains experts, la crainte de voir les algorithmes et l'intelligence artificielle (IA) gouverner notre santé à court terme est-elle justifiée ?

Au salon Cité Santé de Nancy, la perspective a été jugée, non pas impossible mais très peu crédible à ce stade, tant l’IA est encore loin de pouvoir remplacer l’intuition, le colloque singulier et l’expérience d’un médecin. Selon la chercheuse Nozha Boujemaa, spécialiste de ces questions, l’intelligence artificielle pourra toutefois rapidement « optimiser le temps des praticiens sur des décisions complexes », notamment dans certaines spécialités.

Les fameux GAFAM, ces géants numériques américains, doivent-ils être pris au sérieux lorsqu’ils se disent capables d’éradiquer certaines maladies en quelques décennies à venir ? L’économiste Bruno Deffains (Université Panthéon-Assas) observe en tout cas que le formidable développement de la santé connectée outre-Atlantique n’a pour l'instant « aucun effet sur le fléau majeur de l’obésité dans ce pays ». Il évoque volontiers les « montagnes » de gadgets d’e-santé qui finissent dans les tiroirs des Américains, une façon de relativiser le big bang parfois annoncé pour demain.  

Une stratégie claire

En termes de sécurité, les réticences des Européens à confier leurs données personnelles de santé aux GAFAM pourraient aussi brider leurs ambitions – que leurs motivations soient médicales ou commerciales. Encore faut-il que le vieux continent ait les moyens de lutter demain à armes égales avec Google, Apple ou Facebook !

À cet égard, la construction en France (à la faveur de la loi de santé en discussion au Parlement) d'une plateforme des données de santé visant à réunir, organiser et utiliser les data du système de santé est une étape jugée encourageante, mais insuffisante. L'objectif affiché de ce hub est de positionner la France comme un pays leader dans ce domaine, en multipliant les possibilités d'exploitation des données aussi bien en recherche clinique que pour les nouveaux usages comme l'intelligence artificielle. 

Face aux géants digitaux américains mais aussi chinois, les industriels français de santé ont leur carte à jouer, veut croire Nadia Frontigny (Orange Healthcare), en exhortant les pouvoirs publics à donner aux opérateurs des cahiers des charges et des objectifs clairs et concrets en matière de e-santé.

Et si l'IA échappait un jour à ses créateurs ? En attendant que l'État donne les moyens au secteur de se développer, le Pr Axel Kahn s'est montré rassurant. Selon le généticien et invité d'honneur du salon, « les algorithmes prendront d’autant moins le pouvoir dans la santé qu’ils sont alimentés par des humains », et ne sont donc, eux non plus, pas exempts de biais et d’erreurs.