UE: les 27 veulent interdire les IA qui génèrent de fausses images sexuelles

Les Etats membres de l'UE veulent interdire les services d'intelligence artificielle permettant de créer de fausses images sexuelles ou dénudées de personnes réelles après le scandale lié à Grok, l'assistant d'IA d'Elon Musk.

Les représentants des 27 à Bruxelles ont approuvé un amendement proposé par la France et l'Espagne à une proposition de loi en matière d'IA, qui vise à interdire ces services dans toute l'UE.

La disposition approuvée "interdit les services d'IA en matière de génération d'images sexuelles et intimes non consenties, ou pédopornographiques", précise un communiqué du Conseil, l'instance de l'UE réunissant les Etats membres.

Le Parlement européen travaille parallèlement sur un amendement similaire, qui pourrait être adopté en commission la semaine prochaine.

Les Etats membres et les eurodéputés devront ensuite s'entendre sur une formulation identique, avant que la mesure puisse entrer en vigueur.

L'objectif des Européens est d'interdire les services d'IA et autres applications permettant de "dénuder" des personnes adultes ou mineures, ou de créer des images à caractère sexuel qui les mettent en scène sans leur consentement, à partir de photos ou vidéos réelles.

Cette initiative fait suite notamment à l'introduction il y a quelques mois d'une fonctionnalité dans Grok permettant aux utilisateurs de lui demander de créer des images de personnes faussement dénudées à partir de photos réelles, ce qui avait soulevé un tollé dans de nombreux pays et entraîné l'ouverture d'une enquête de l'UE.

"Il ne s'agit pas d'agir contre des scandales individuels comme celui lié à Grok, mais de limiter le pouvoir que nous donnons à l'IA", a souligné l'eurodéputé allemand Sergey Lagodinsky, membre des Verts, l'un des élus à la manoeuvre sur ce sujet.