IA Gruson lors du Snitem documentation

David Gruson, président du comité d'éthique IA, membre du comité de direction de la chaire santé de Sciences Po Paris.

Notre machine à incuber du numérique dans notre système de santé bloque, comme par exemple pour la télémédecine. Il a fallu presque dix ans de combat pour l'imposer dans la réalité économique. Toutes les ressources du numérique ne sont pas encore déverouillées.

Exemple dans l'insuffisance rénale chronique, les rapports qui se sont empilés ont montré qu'on valorise les séjours en centres courts de dialyse au détriment des prises en charge à domicile et de la greffe. Résultat, selon Renaloo, en France seuls 8 % des patients dialysés sont accompagnés à domicile contre 20 % dans les autres pays européens. De plus, nous avons des inégalités d'accès à la greffe rénale qui devraient être inacceptables dans une société avancée comme la nôtre. Cela traduit des blocages techniques, liés à des conservatismes catégoriels, mais aussi à des raisons financières.

Si nous bloquons trop l'innovation par trop de réglementation en France, non seulement on va pénaliser les producteurs de solutions d'innovations, mais en plus on va encourager un accès à des services qu'on ne pourra pas contrôler éthiquement. Ce point a été assez peu perçu dans le débat public, mais les esprits évoluent désormais.

Ce qu'on pourrait proposer dans la loi est la notion de garantie humaine de l'intelligence artificielle. Car l'IA induit des risques, celui de délégation de décision (du médecin) et de consentement (du patient) et celui de la minoration de la valeur de la personne dans le processus de prise en charge. Pour y remédier, nous devons mettre en place des outils de certification professionnelle (soft law). Avec Ethik IA, nous avons proposé des prototypes de normes de self compliance. L'idée sous-jacente est de graduer le niveau de régulation en fonction du niveau de sensibilité des données.