Un cadre réglementaire au cœur de l’innovation en santé
L’intelligence artificielle (IA) révolutionne le secteur de la santé, mais son adoption soulève des enjeux complexes en matière de réglementation, de sécurité et d’éthique. L’AI Act, adopté par l’UE (entré en vigueur le 1er août 2024), s’impose comme une réponse stratégique pour encadrer cette transformation technologique. Ce règlement harmonise les pratiques tout en plaçant les utilisateurs et la gestion des risques au centre de la réflexion. L’AI Act impose des exigences strictes, allant de la classification des systèmes d’IA par niveaux de risque à des règles de transparence, d’explicabilité des modèles, de surveillance humaine et de gestion des biais.
Lors d’une table ronde organisée le 11 Décembre dernier par WILCO et LSI (partenaire #Healthcare), des experts pluridisciplinaires (juristes, laboratoires pharmaceutiques, startups et data scientists) ont exploré les implications de l’AI Act sur le secteur de la santé. Ensemble, ils ont analysé et décrypté les défis techniques, juridiques et éthiques tout en identifiant discutant des opportunités pour bâtir un écosystème alignant les acteurs de la santé autour de cette réglementation.
1 – Les défis de l’AI Act pour le secteur de la santé
L’AI Act impose une classification par niveaux de risque : faible, modéré, élevé et inacceptable (accédez au support LSI sur l’AI act). Dans le secteur de la santé, où la sécurité des patients est cruciale et les données particulièrement sensibles, la plupart des systèmes IA sont classés dans la catégorie de risque élevé. Cette classification oblige les acteurs à mettre en place des mesures rigoureuses, comme par exemple des analyses de risques approfondies, une obligation de surveillance humaine, une documentation complète et des processus de validation poussés.
Pour les grands groupes, cela se traduit par de nouvelles obligations et une refonte organisationnelle : cartographie et classification des systèmes IA existants, structuration et formation des équipes dédiées et tratégie de mise en conformité, etc. Les industriels devront respecter à la lettre le calendrier réglementaire sous peine de s’exposer à d’amendes pouvant aller jusqu’à 35M€. Les startups, souvent limitées par des ressources financières et humaines, doivent quant à elles intégrer ces exigences dès la phase de conception.
Même si les exigences de l’AI Act s’inspirent de la philosophie et de la méthodologie réglementaire déjà présentes dans le secteur du dispositif médical, les startups seront obligées d’intégrer ces exigences supplémentaires, et ce dès la phase de conception. Leur parcours règlementaire étant déjà particulièrement complexe et malgré des ressources financières et humaines limitées dans les startups & PME, les exigences de l’AI Act vont certainement engendrer de nouveaux besoins en expertise et formations, voire même des recrutements spécifiques à l’IA.
Par ailleurs des éclaircissements quant aux mesures de soutien aux petites entreprises (bacs à sable règlementaires, mesures d’atténuation,…) devraient paraître prochainement.
Ces contraintes se superposent à d’autres réglementations tout en imposant de nouvelles obligations spécifiques à l’IA, comme le RGPD et les normes sur les dispositifs médicaux le MDR, ce qui complexifie la mise en conformité. Cela souligne un besoin impératif de collaboration entre experts métiers, experts data et autorités de régulation pour harmoniser les pratiques (notamment avec l’adoption de normes qualité harmonisées) et ainsi faciliter la mise en conformité.
2 – La collaboration, clé de réussite face à la réglementation
L’une des questions abordées lors de la table ronde a été l’impact de l’AI Act sur les collaborations entre startups et grands groupes. En effet, la question du statut (fournisseurs, déployeurs) et des obligations qui en découlent sont des points cruciaux à aborder dans le cadre d’un partenariat.
La collaboration entre ces acteurs étant incontournable pour innover durablement, il est nécessaire que chaque partie puisse anticiper sa responsabilité et aligner ses objectifs pour créer une relation de confiance.
De plus, ces collaborations peuvent être des opportunités pour partager les coûts liés à la conformité et renforcer les processus qualité. Par exemple, lors de projets dédiés à la détection de rechutes de dépression basés sur l’IA, comme ceux présentés par Dalia (startup accélérée par WILCO One), a identifié le partage clair des responsabilités entre les partenaires a été identifié comme un facteur clé de succès. Toutefois, ces partenariats doivent être structurés autour de bonnes pratiques, comme une acculturation croisée entre experts métiers et data scientists, afin de mutualiser efficacement les connaissances.
3 – L’AI Act, un levier pour un écosystème des solutions éthiques et innovantes
Au-delà des contraintes, l’AI Act ouvre des perspectives prometteuses. Il offre un cadre réglementaire pionnier et harmonisé à l’échelle européenne, renforçant ainsi la confiance des patients tout en positionnant l’Europe comme un leader de l’IA éthique. Cette approche favorise des projets responsables, où les enjeux de gouvernance des données et leurs impacts sur les patients sont au cœur des priorités.
L’AI Act favorise également une innovation durable en incitant les acteurs du secteur à développer des solutions alignées sur des standards élevés, gage de confiance pour les patients. Par exemple, les bonnes pratiques définies par la FDA (Food and Drug Administration) comme la gestion de la diversité des données et la limitation des biais, trouvent un écho direct dans les exigences du règlement européen. Ces efforts permettent de concilier performance économique et sécurité des patients, tout en assurant une compétitivité accrue à l’échelle mondiale.
Construire un futur durable pour l’IA en santé
L’AI Act redéfinit les règles du jeu : en exigeant une conformité stricte les exigences de l’AI Act poussent les acteurs de la santé à adopter une approche pluridisciplinaire, qualitative et structurante et à développer des solutions plus robustes, optimisées, sécurisées et transparentes.
Les discussions de la table ronde ont mis en lumière la nécessité d’une vision collective et transversale pour maximiser l’impact et aborder efficacement cette réglementation. En adoptant une approche collaborative et proactive, l’AI Act peut devenir le catalyseur d’un écosystème de santé plus éthique et performant, où la technologie est mise au service d’un progrès durable au bénéfice des patients.
Cet article a été co-rédigé par LSI et WILCO.
Pour toute question, vous pouvez contacter Maéva Joalland, spécialiste Innovation chez LSI : maeva.joalland@lsi.fr