L'IA Act sera "un avantage comparatif" pour les sociétés européennes (G. Salem et R. Dupeyré)

"L’encadrement de l’intelligence artificielle en Europe sera un avantage concurrentiel considérable". C’est ce qu’affirment Géraldine Salem, avocate spécialiste du secteur de la santé et des sciences de la vie et Romain Dupeyré, avocat spécialiste du secteur de l’assurance au sein du cabinet DWF. Dans un entretien accordé à AOF, ils détaillent les conséquences prévisibles de la mise en œuvre du règlement européen sur l’intelligence artificielle (IA Act) sur l’activité des sociétés européennes des deux secteurs.

Le règlement européen sur l'intelligence artificielle, ou " IA Act ", a été adopté en Conseil des ministres de l'Union européenne le 21 mai dernier. Il est fondé sur l'évaluation des risques…

Géraldine Salem : L'IA Act est un nouveau dispositif législatif qui permet d'encadrer le développement des systèmes d'IA fiables, éthiques, transparents et sécurisés. Il a été construit de façon à réguler, certaines activités à risque lesquelles sont classées graduellement. Il y a, en effet, plusieurs zones de risque en fonction des activités des entreprises. Le secteur de la santé, particulièrement concerné par ce nouvel acte européen, est considéré comme une activité à risque élevé.

Pour l'ensemble des sociétés du domaine de la santé, notamment pour l'industrie pharmaceutique, mais aussi pour les sociétés de biotechnologie, qui sont pour la plupart des startups, l'impact financier sera non négligeable. Elles vont devoir anticiper la mise en conformité de leurs activités avec cette règlementation laquelle sera applicable progressivement, et cela va engendrer des coûts importants pour les sociétés, qu'elles soient grosses ou petites.

A l'inverse, les plus grosses sociétés seront très certainement plus exposées aux autorités de contrôle compétentes, en cas de non-respect de cette nouvelle règlementation.

Romain Dupeyré : Il y a cette graduation, en 4 zones de risques : les dispositifs d'IA devront être certifiés par un tiers, avec une marque CE, et le coût sera essentiellement là, sur le coût de certification. Il y aura aussi toute une série de contraintes réglementaires auxquelles devra se conformer la société au moment de la mise sur le marché, pour le déploiement de l'IA. Il va falloir s'inscrire dans une base de données européenne, et mettre en place un système de gestion des risques.

L'adaptation des sociétés sera donc comparable à celle rendue nécessaire par le RGPD ?

Géraldine Salem : Tout à fait. Avec le RGPD, les sociétés ont dû s'adapter, en amont mais aussi tout au long de leurs processus internes, et mettre en place une série de mécanismes pour rester en conformité. Au sein de beaucoup d'entre elles, un DPO (Data protection Officer), un personnel supplémentaire, a été internalisé et représente un coût réellement significatif pour la société.

Romain Dupeyré : Il est probable que dans certaines entreprises où c'est important, il y ait un nouveau délégué, le délégué à l'intelligence artificielle qui devra assurer le suivi, la traçabilité et la transparence du système en constituant des archives, et assurer la robustesse de la cybersécurité du système. Ce seront des dispositifs très lourds. Nous avocats aurons un vrai rôle à jouer dans cette mise en conformité réglementaire, un rôle d'audit juridique, mais aussi d'anticipation. La Commission européenne s'est dotée d'un nouveau bureau pour assurer le suivi d'adoption de ce règlement, qui est composé de 140 personnes, techniciens, mais aussi juristes.

Comme c'est nouveau, nous serons d'abord dans une perspective d'accompagnement. Et puis le moment venu, il y aura aussi des sanctions assez sévères. Notamment dans la catégorie des traitements qui présentent un risque élevé, où la sanction prévue est d'environ 15 millions d'euros, ou 3% du chiffre d'affaires, ce qui est très loin d'être anodin.

Géraldine Salem : Le développement de l'IA en France est très soutenu. Certes, si cette réglementation peut paraître comme étant un frein financier au départ, du fait des coûts d'investissement, des coûts de structure particulièrement importants ainsi que des coûts de maintien de mise en conformité qu'elle suscite, ce nouveau cadre législatif sera sans nul doute un accélérateur de croissance pour les sociétés françaises et européennes, et plus particulièrement pour notre écosystème de start-ups aujourd'hui capables de développer ce type d'outils indispensables au fonctionnement de nos sociétés. La France soutient très bien cet avenir, avec notamment le nouveau fonds pour l'IA annoncé fin mai par l'Élysée, auquel l'État va participer à hauteur de 25 %, et qui va s'ajouter à ce qui a déjà été financé au titre de France 2030.

Et alors, vous avez des clients dans le domaine de la santé ou de l'assurance qui sont optimistes sur les conséquences de ce développement-là sur leur activité ?

Romain Dupeyré : Dans le secteur de l'assurance ces outils seront beaucoup utilisés dans l'appréciation des risques, et dans le profilage des assurés. Il est très probable qu'ils rentrent dans le cadre aussi d'un risque élevé, et les assureurs en ont un peu l'habitude car leur activité est très réglementée ; ça ne fera qu'ajouter à toutes leurs autres obligations.

Pour les assureurs, ce règlement est une pièce d'un puzzle à trois pièces, d'un triptyque, avec d'abord un AI Act, qui réglemente l'usage de l'IA par les sociétés, puis la révision de la directive sur les produits défectueux, attendue dans les mois à venir, qui va tenir compte du fait que beaucoup de produits sont impliqués dans l'IA, et devrait beaucoup élargir la responsabilité des fabricants et des utilisateurs de ces produits. Il y aura enfin une autre directive sur la responsabilité extra contractuelle en matière d'intelligence artificielle.

Les assureurs devront d'une part encadrer l'usage qu'ils font en interne de l'intelligence artificielle et, d'autre part, adapter les couvertures qu'ils proposent à l'extension de la responsabilité de leurs assurés. Ils seront concernés par ces deux aspects.

Géraldine Salem : Aujourd'hui, la majorité des sociétés de santé utilisent un outil d'intelligence artificielle pour leur activité, quel qu'il soit. Elles y sont un peu contraintes car, dans le domaine de la santé particulièrement, il faut aller aussi vite que le progrès, il faut donc s'adapter.

Romain Dupeyré : Si un assureur assure une biotech qui fait usage d'IA, dans un premier temps, il leur faudra s'assurer qu'elle respecte ce cadre réglementaire, il faudra que l'assureur ait mis en place tout l'encadrement. D'ici quelques mois, il faudra aussi qu'il couvre la responsabilité de la biotech résultant d'usage d'outils d'IA. Dans le cas où le diagnostic est mauvais parce que l'IA proposée par une biotech n'a pas fonctionné correctement, il y aura de nouvelles responsabilités que l'assureur devra couvrir. S'il y a une erreur de diagnostic, parce que l'IA a mal interprété une donnée, a mal croisé des données, il y aura une responsabilité spécifique pour cela. Il y aura de nouveaux risques que les biotech vont devoir couvrir auprès de l'assureur. J'ai d'ailleurs fait une présentation sur ce sujet à un assureur il y a quelques semaines parce qu'il veut comprendre comment les risques vont évoluer.

C'est donc le fait qu'on connaisse déjà le cadre réglementaire qui fait que vos clients sont optimistes. Ils savent à quoi s'en tenir sur l'encadrement juridique de cette pratique nouvelle.

Géraldine Salem : C'est-à-dire qu'on en parle depuis un certain temps déjà. Nous avons pu réaliser un réel travail d'information et d'explication en amont afin d'anticiper la mise en conformité de ce nouveau dispositif, y compris sur le plan financier. Anticiper, c'est quand même un peu maîtriser ce qui nous attend.

Pour les startups, ce seront des lignes de financement supplémentaires qui devront être prévues pour leur permettre de supporter des coûts structurels de mise en conformité. En phase de croissance de la société, la nécessité d'adaptation à la nouvelle règlementation pèsera peut-être moins lourd même si cela représente, dans tous les cas, un coût supplémentaire.

Ce sera donc plutôt une source de coûts supplémentaires pour les biotech, mais par contre une source d'activité ou de bénéfices supplémentaires pour les assureurs...

Géraldine Salem : Au départ, cela va être une source de coûts, mais je pense que sur le moyen - long terme, au contraire, cela va être un gain de productivité énorme puisque l'IA, aujourd'hui, permet incontestablement l'accélération des process. De plus, la conformité européenne des systèmes d'IA est un gage de confiance qui va permettre son déploiement à l'échelle européenne et internationale. L'IA Act prend donc tout son sens.

Dans le développement des médicaments, notamment en phase préclinique et clinique, l'IA a un rôle très important, car elle va permettre d'aller plus vite avec une potentielle arrivée sur le marché plus rapide. Dans la prise en charge du patient aussi, l'IA a permis la réalisation d'énormes progrès, de sorte qu'au bout du compte il y aura des économies d'échelle très importantes.

Romain Dupeyré : Pour les assureurs, leur marché, c'est le risque. Donc, s'il y a un risque nouveau, ça crée un champ, un marché nouveau pour eux. Ils veulent s'assurer qu'ils l'appréhendent correctement. Parce que récemment le secteur a commencé à beaucoup vendre le risque cyber, avant de se rendre compte qu'ils l'avaient mal évalué, mal " pricé ", ce qui leur a coûté cher. Il faut donc bien comprendre qu'il y a ce risque et l'opportunité d'offrir ce nouveau marché d'assurance.

Et les entreprises européennes seront bien préparées à répondre à ce cadre réglementaire, parce que c'est le premier règlement de ce type, mais il est très possible qu'il y en ait beaucoup d'autres qui suivent, dans beaucoup de pays, y compris les États-Unis.

Géraldine Salem : D'un point de vue concurrentiel, ce texte n'est aucunement un obstacle à la croissance des sociétés européennes face aux États-Unis et à la Chine. L'IA Act n'est pas une contrainte réglementaire, au contraire, c'est justement parce qu'il y a une régulation, parce que l'Europe veut nous assurer une certaine sécurité dans ce déploiement, que nous aurons un avantage comparatif énorme sur les États-Unis, dont le marché est beaucoup moins régulé. Les utilisateurs auront confiance en l'outil puisqu'il sera certifié, en tout cas au niveau européen. Et les échanges, commercialisation des outils, vont être beaucoup plus simples, puisque la réglementation est européenne.

Comme les sociétés françaises, les startups, aiment beaucoup s'exporter aux États-Unis parce que les financements sont beaucoup plus importants que chez nous. A l'export, elles auront un gage de qualité supplémentaire qui sera celui-là, et ça sera aussi un avantage comparatif énorme pour les consommateurs finaux.

Propos recueillis par Matthieu Richard-Molard

source : AOF