L'Europe peut-elle vraiment protéger ses citoyens des dérives de l'IA?

Face à la multiplication des incidents de sécurité et aux mises en garde apocalyptiques des lanceurs d'alerte, l'Union européenne peut-elle protéger efficacement ses citoyens contre les dangers de l'intelligence artificielle?

Bruxelles assure que oui, grâce à la loi européenne sur l'intelligence artificielle (AI Act), adoptée en 2024, qui oblige les fournisseurs à évaluer et réduire les risques de leurs modèles, sous peine de fortes amendes, voire même d'interdiction de les commercialiser dans l'UE.

Certaines dispositions ont été reportées et un des principaux volets, donnant à la Commission européenne de larges pouvoirs d'investigation, n'est entré en vigueur que cet été.

Cependant, les règles européennes "sont bien adaptées à la situation", assure Thomas Regnier, porte-parole de l'exécutif européen pour le Numérique.

"Vous pouvez vous sentir en sécurité en Europe, justement parce que nous avons mis en place des garde-fous", promet-il.

Grâce à ses nouveaux pouvoirs, Bruxelles a déjà envoyé plus de 30 demandes d'information à des entreprises, dont Anthropic et OpenAI, sur des sujets allant du droit d'auteur à la cybersécurité.

La Commission affirme que la loi sur l'IA fonctionne comme prévu, plusieurs fournisseurs s'étant déjà pliés à ses demandes, sans préciser lesquels.

Mais il a fallu des mois de négociations pour que l'agence européenne de cybersécurité, l'Enisa, soit autorisée à tester Mythos, un modèle d'Anthropic dont la diffusion en dehors des États-Unis a été fortement restreinte par le gouvernement américain.

Une situation susceptible de se reproduire, selon un responsable européen ayant requis l'anonymat.

"Expérimentations dangereuses"

La présidente de la Commission, Ursula von der Leyen, a par ailleurs annoncé en septembre vouloir réunir les laboratoires travaillant sur les modèles d'IA les plus avancés, pour contribuer aux efforts du secteur visant à ralentir leur développement afin de mieux maîtriser les risques. Et avec la loi sur l'IA, "l'Europe est à même de façonner les efforts à mener à l'échelle mondiale", a-t-elle estimé.

Mais il est difficile pour les Européens de donner le ton en matière de gouvernance mondiale de l'IA, quand les États-Unis de Donald Trump s'opposent à toute régulation du secteur et veulent laisser le secteur s'auto-réguler.

Quatre eurodéputés, dont le social-démocrate Brando Benifei, l'un des principaux architectes de la loi sur l'IA, appellent de leur côté à combler des "failles législatives".

Ils regrettent que l'UE ait renoncé à imposer des "obligations de responsabilité" aux fournisseurs de services d'IA pour les dommages qu'ils pourraient causer, se privant ainsi d'un levier juridique important.

La loi actuelle "ne s'applique pas à la phase de recherche et développement, ni aux essais. Cela laisse les gens et les entreprises en Europe à la merci de ces expérimentations dangereuses", ont-ils dénoncé le mois dernier.

Une affirmation contestée par la Commission. La loi sur l'IA peut être "appliquée à tout fournisseur, dès la phase de tests, si une perte de contrôle ayant des conséquences sur le marché intérieur européen se produit", telles que des cyberattaques, explique Thomas Regnier.

Harshvardhan Pandit, chercheur au Trinity College de Dublin, regrette lui aussi l'absence d'une obligation de responsabilité et appelle l'Europe à s'en doter.

Mais la loi européenne impose bien aux fournisseurs de mettre sur le marché des modèles considérés comme sûrs, relève-t-il, ajoutant que l'UE dispose d'autres outils pour réguler le secteur, notamment ses règles sur la cybersécurité et la protection des données.

Influence américaine

Brando Benifei fait valoir que l'AI Act avait anticipé les incidents de type perte de contrôle d'agents d'IA observés ces derniers mois, mais il s'inquiète de la capacité du Bureau de l'IA, le service dédié de la Commission, à appliquer ce texte.

"La Commission européenne doit garantir que le bureau disposera du soutien politique, de l'autonomie opérationnelle, des moyens et des équipes techniques pour agir rapidement et efficacement", a déclaré l'eurodéputé à l'AFP.

Mais même si elle s'en donne les moyens, l'Europe osera-t-elle s'attaquer aux champions américains du secteur, alors qu'elle subit des assauts répétés des États-Unis contre sa réglementation numérique?

Un défi que ne minimise pas le responsable européen interrogé par l'AFP, compte tenu de la forte dépendance de l'UE aux technologies américaines.

Il estime toutefois que l'Europe pourrait mieux se défendre en développant ses propres technologies.

"L'Europe doit se doter de ses propres capacités, de la fabrication de processeurs aux services cloud", abonde Brando Benifei, qui propose aussi de créer un institut public européen dédié à l'IA et de renforcer la coopération avec des pays partageant les mêmes vues, comme le Canada, comme a dit vouloir le faire la présidente de la Commission.