Du 6 au 11 février, Paris accueille le Sommet mondial pour l’action sur l’intelligence artificielle (IA). Le déploiement de l’IA dans le domaine de la santé soulève des espoirs bien sûr, mais aussi des interrogations majeures.
Un sommet mondial sur l’intelligence artificielle, pour quoi faire ?
Sous l’égide de la présidence de la République, de nombreux événements sont prévus, dont un sommet diplomatique d’envergure qui accueillera notamment le vice-président américain, le vice-Premier ministre chinois ou encore la présidente de la Commission européenne. La France portera au cœur des échanges et travaux les questions de gouvernance mondiale de l’IA ainsi que les enjeux de l’IA au service de l’intérêt public et de l’IA de confiance.
L’intelligence artificielle dans la santé, au cœur des discussions ?
Le secteur de la santé est bien sûr concerné quand on évoque l’intérêt public des usages de l’intelligence artificielle et l’IA de confiance. Une séquence dédiée au sujet de l’IA dans la santé est par ailleurs coorganisée le mardi 11 février par la Commission européenne et le Health Data Hub.
France Assos Santé saisit l’occasion pour publier le deuxième volet de son Manifeste intitulé L’intelligence artificielle au chevet des malades ?, une production qui aborde avec un regard éthique les enjeux du déploiement de ces nouvelles technologies et de leurs usages dans la santé et qui fait écho aux thèmes essentiels retenus comme fil rouge de ce sommet.
L’IA vraiment au service de l’intérêt public ?
Le sommet pour l’IA aborde cet enjeu comme suit : « Définir, construire et mettre à disposition des infrastructures publiques ouvertes, pour l’IA au niveau mondial, dans le sens de l’intérêt public, afin d’atteindre les meilleurs résultats en matière sociale, économique et environnementale ». Conformément à l’intitulé de la séance dédiée à cette question.
Quand l’intelligence artificielle est aujourd’hui utilisée pour aider à diagnostiquer des maladies, personnaliser les traitements et optimiser la gestion des soins, elle se place définitivement du côté de l’intérêt public. A condition toutefois de lutter contre les biais des algorithmes et d’en comprendre les limites que nous évoquions dans le volet 1 de notre Manifeste dédiés aux enjeux liés à la responsabilité des professionnels de santé ou encore des concepteurs.
Concernant l’organisation du système de santé et des services publics, beaucoup reste à faire. Nous soulevons dans notre Manifeste les attentes des usagers de la santé en termes de transparence des algorithmes, insuffisante de notre point de vue au sein des organismes sociaux. Nous pointons également quelques vigilances concernant l’utilisation de l’IA pour le ciblage de populations et le besoin de participation des usagers de manière plus large pour que le déploiement de ces nouvelles technologies soit en concordance avec les valeurs de notre système de santé éthique, humaniste et solidaire.
L’IA de confiance, une utopie ?
Le sommet pour l’IA définit cet enjeu comme suit : « Consolider des mécanismes de renforcement de la confiance dans l’IA, sur la base d’un consensus scientifique objectif concernant les questions de sûreté et de sécurité ».
Avoir confiance dans l’IA, c’est avant tout avoir confiance dans l’objectif pour lequel on la met en œuvre. Nous appelons à ce titre à définir collectivement les finalités d’usage de l’IA dans les politiques de santé, avec une éthique exigeante, qui doit s’inscrire dans une logique de réduction des inégalités de santé. Nous insistons également sur la nécessité de faire le l’IA et du partage des données de santé, indispensables pour le développement d’IA performantes et justes, des sujets qui ne soient pas tabou. Une information claire et loyale, au-delà des obligations légales, doit être portée par tous les acteurs de la chaîne de l’intelligence artificielle, professionnels de santé, chercheurs, développeurs.
Quels résultats attendre de ce sommet ?
Alors que se joueront des enjeux importants de souveraineté technologique lors de ce sommet, nous attendons surtout de ce rendez-vous qu’il ouvre la voie à une écoute et une participation plus large des citoyens et des usagers dans le déploiement de cette quatrième révolution industrielle. Si l’IA peut beaucoup pour la santé, elle ne se suffit pas à elle-même. Elle doit rester un outil au service des patients et de leur santé, dont les usages doivent être interrogés de manière constructive et non imposés par une course aveugle à l’innovation.
« J’attends de ce sommet sur l’IA qu’il donne la priorité à une innovation centrée sur le patient, en veillant à ce que les progrès de l’IA dans les soins et la santé, en général, améliorent l’accessibilité, la sécurité et la personnalisation des soins, tout en respectant les normes éthiques. »
Milana Trucl, chargée de plaidoyer E-santé chez European Patients Forum, qui participera au sommet parisien
Une certitude : porter les intérêts des usagers passe par une indispensable mobilisation
France Assos Santé détaille dans son Manifeste les attente des usagers sur tous ces enjeux et propose des recommandations pour assurer une intégration éthique de l’IA dans la santé. Nous appelons à une mobilisation plus large de la société civile pour peser dans les politiques publiques qui doivent porter haut l’ambition de faire du modèle français de la santé un exemple en matière d’usages de l’IA : un système de santé augmenté mais pas dévoyé.
Laisser un commentaire public