Les géants du numérique face aux enjeux éthiques des plateformes de santé pilotées par l'IA

Dans une tribune publiée par Le Monde, Théodore Christakis, professeur de droit du numérique à l’université Grenoble-Alpes, alerte sur les risques éthiques et juridiques liés à l’émergence de plateformes de santé contrôlées par les géants de l’intelligence artificielle. Ces nouveaux acteurs, déjà omniprésents dans l’économie numérique, pourraient constituer « les plus vastes agrégations privées de données de santé jamais envisagées », selon ses termes.

Des acteurs privés aux mains de géants technologiques

Les plateformes de santé développées par les géants de la tech — qu’il s’agisse de Google, Apple, Microsoft ou Meta — suscitent des interrogations croissantes quant à la gestion des données médicales. Selon Théodore Christakis, ces entreprises, déjà détentrices de quantités colossales de données personnelles, pourraient étendre leur emprise au domaine de la santé avec des outils d’intelligence artificielle toujours plus performants. « Ces agrégations privées de données de santé n’ont jamais été envisagées à une telle échelle », précise-t-il dans sa tribune.

Les enjeux ne se limitent pas à la simple collecte d’informations. Les algorithmes utilisés par ces plateformes pourraient, en théorie, prédire des maladies, proposer des traitements personnalisés ou même influencer les politiques publiques en matière de santé. Autant dire que la question de la propriété et du contrôle de ces données devient cruciale, d’autant plus que leur exploitation pourrait échapper aux cadres juridiques traditionnels.

Des risques juridiques et éthiques majeurs

Théodore Christakis pointe du doigt plusieurs risques inhérents à ces nouvelles infrastructures. D’abord, la concentration des données entre les mains de quelques acteurs privés pose la question de la dépendance des systèmes de santé publics à ces entreprises. Ensuite, l’opacité des algorithmes utilisés soulève des problèmes de transparence et de responsabilité en cas d’erreur ou de biais discriminatoire. Enfin, la protection de la vie privée des patients pourrait être compromise si ces données étaient utilisées à des fins commerciales ou politiques.

Le professeur rappelle que, contrairement aux institutions publiques, les géants de la tech ne sont pas soumis aux mêmes obligations de transparence ou de redevabilité. « Comment garantir que ces plateformes agiront dans l’intérêt général plutôt que pour maximiser leurs profits ? », s’interroge-t-il. La question n’est pas rhétorique : elle engage la confiance des citoyens dans les systèmes de santé de demain.

Un appel à un cadre réglementaire renforcé

Face à ces défis, Théodore Christakis plaide pour l’adoption d’un cadre juridique strict encadrant le développement et l’utilisation de ces plateformes. Il souligne notamment la nécessité de définir des règles claires sur la propriété des données, leur partage et leur protection. Selon lui, les législations existantes, comme le RGPD en Europe, ne suffisent pas à couvrir l’ensemble des risques posés par ces nouvelles infrastructures.

L’article insiste également sur l’importance de l’indépendance des régulateurs par rapport aux géants technologiques. « Les autorités doivent disposer des moyens nécessaires pour auditer ces systèmes et sanctionner les manquements », a-t-il déclaré. Sans cela, le risque est grand de voir émerger des monopoles de données de santé incontrôlables, avec des conséquences imprévisibles pour les patients et les systèmes de santé.

Reste à voir si les géants de la tech accepteront de soumettre leurs initiatives à un contrôle strict. Une chose est sûre : l’enjeu dépasse le simple cadre technologique. Il s’agit ni plus ni moins de l’avenir de notre système de santé et de la protection de nos données les plus sensibles.