IA générative : des experts appellent Macron à mieux protéger les utilisateurs

Craignant un "affaiblissement cognitif", une commission d'experts a remis mardi à Emmanuel Macron des propositions pour répondre aux risques soulevés par l'intelligence artificielle générative, parmi lesquelles encadrer l'anthropomorphisme et la flagornerie, mieux protéger les mineurs et évaluer les modèles avant leur mise sur le marché.

Le chef de l'Etat a promis en retour de "pousser pour qu'il y ait une pré-certification de toutes les solutions d'intelligence artificielle, un pré-audit", afin de décider "si c'est autorisé ou pas pour les enfants". Ce principe doit être inclus dans une "charte" réunissant notamment les géants américains OpenAI et Anthropic et conclue à l'occasion du Forum de Paris pour la paix.

Popularisée par des agents conversationnels comme ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic, l'IA générative est désormais utilisée par plus de la moitié des Français, plaçant la France au cinquième rang mondial des usages, selon ce rapport. Près de 70% des 15-24 ans y ont recours régulièrement.

Cette commission de neuf experts avait été chargée par l'exécutif d'examiner "les risques et les vulnérabilités engendrés par les usages grand public" de ces outils, notamment pour la santé mentale des plus jeunes.

Les conclusions de ce rapport, que l'AFP a pu consulter, interviennent après 55 auditions de professionnels de santé, de la recherche, d'entreprises ou encore d'associations de protection de l'enfance.

"Le premier enjeu est l'affaiblissement cognitif. C'est attractif, on y délègue des compétences" comme la réflexion, la prise de décision ou l'esprit critique, explique à l'AFP le professeur de psychiatrie Raphaël Gaillard, coprésident de cette commission. "Puisqu'on y délègue des compétences, on ne les acquiert pas. C'est une problématique pour les jeunes, mais c'est une problématique pour tous."

Les experts insistent sur le risque lié à la désinformation : ces "dispositifs deviennent des sources d'informations dont on ne garantit pas la qualité", souligne le professeur, qui met en garde contre un risque "d'affaiblissement démocratique".

"Pour le pire"

Ils mettent aussi en évidence le "risque de dépendance" émotionnelle lié notamment à "l'anthropomorphisation" des IA, qui ont tendance à se présenter comme des interlocuteurs humains, et à la "flagornerie", consistant à valider ou flatter l'utilisateur parfois au détriment de la vérité.

"On crée un registre de relations émotionnelles qui peut avoir vocation à se substituer à l'interaction" humaine, "c'est un système disponible en permanence, qui n'a pas d'autre intention que de vous garder en ligne", note M. Gaillard.

Parmi les 18 recommandations, la commission appelle ainsi à mieux encadrer ces mécanismes pour préserver "l'autonomie décisionnelle", la santé mentale des utilisateurs et la loyauté des interactions.

Elle préconise de développer une politique nationale ambitieuse d'éducation à l'IA pour permettre à chacun d'en maîtriser les usages et les risques, et renforcer l'esprit critique.

Parmi les mesures proposées figurent l'instauration d'évaluations indépendantes avant et après la mise sur le marché des systèmes d'IA générative, l'accès des autorités et chercheurs agréés aux données d'entraînement, d'usage et de monétisation des modèles, ainsi que la création d'un "protocole national de réponse aux crises informationnelles liées à l'IA".

Les experts appellent par ailleurs à "renforcer la répression de la création de contenus à caractère sexuel non consentis et pédocriminels" générés par IA. Ils recommandent aussi d'imposer un niveau élevé de protection pour les systèmes accessibles aux mineurs, avec le blocage des requêtes jugées dangereuses et un filtrage renforcé des contenus.

Emmanuel Macron a estimé lundi dans une interview au quotidien Les Echos qu'il fallait "interdire" l'IA là où elle présente un "risque" pour les enfants.

"On a vraiment une proportion considérable de nos enfants et de nos adolescents qui construisent leur vie affective, leur représentation du monde, en échangeant" avec des agents IA "qui ressemblent à une personnalité humaine et à laquelle ils livrent tout, et bien souvent pour le pire", a déploré le président mardi, lors d'une intervention au Forum de Paris pour la paix.

"On leur a mis dans les mains sans regarder si c'était bon ou mauvais pour eux", a-t-il estimé, alors que les jouets traditionnels sont eux soumis à des "règles absolument colossales".