OpenAI, Anthropic et Google travaillent à un régulateur de l'IA, projet menacé par un blocage politique

OpenAI, Anthropic et Google DeepMind travaillent à la création d'un organe de supervision des risques liés à l'intelligence artificielle (IA) en écho aux appels à mieux contrôler les dérives de l'IA, un projet critiqué et déjà menacé d'un blocage politique.

L'idée est née d'une proposition de Demis Hassabis, directeur général de Google DeepMind avant de passer président début août, qui suggérait une entité similaire à l'Autorité américaine de régulation de l'industrie financière (FINRA), instance d'auto-régulation du secteur financier.

Le débat sur les risques de l'IA est monté en puissance depuis le début de l'été, alimenté par une série d'incidents et des déclarations apocalyptiques de plusieurs professionnels de l'intelligence artificielle.

Plusieurs modèles d'IA d'OpenAI et Anthropic sont notamment sortis spontanément de leur milieu confiné pour se rendre sur Internet et faire intrusion sur des sites et des plateformes.

Mais l'instauration par la profession de son propre organe de surveillance, même si elle se faisait à la seule initiative du secteur, nécessiterait une loi, notamment pour éviter que l'industrie de l'IA ne soit accusée d'entente et d'infraction à la concurrence.

La création de la FINRA a été autorisée par la loi fédérale et elle est placée sous la supervision du gendarme américain des marchés, la SEC, qui dépend directement de l'exécutif.

"La FINRA peut concevoir ses propres règles, mais la SEC doit les approuver", insiste ainsi Andrew Tuch, professeur de droit à l'université de Washington à St-Louis. Tous les textes régissant la FINRA "ont été soit votés au Congrès soit produits sous la supervision de la SEC".

Or, après l'appel au ralentissement du développement de l'IA lancé samedi par le patron d'Anthropic Dario Amodei, Donald Trump et plusieurs membres de la majorité présidentielle ont réitéré leur souhait de ne pas corseter le secteur, officiellement par crainte de voir la Chine prendre l'ascendant.

Ils ont balayé les alertes lancées par plusieurs responsables et développeurs, notamment Jacob Coxon il y a une semaine, sur les risques que représente l'IA pour l'humanité, le président américain les qualifiant de "canulars".

Le spectre du cartel

Les grands acteurs de l'IA appellent, depuis plusieurs mois, le gouvernement américain à encadrer le secteur et à superviser la sécurité de l'IA.

L'administration Trump a mis en place, début août, un processus d'évaluation des nouveaux modèles d'IA, mais il est basé sur le volontariat et son mécanisme n'a pas été communiqué.

Dans son message mis en ligne mi-juillet, Demis Hassabis avait imaginé une structure financée par les entreprises du secteur, dont le conseil comprendrait des experts indépendants ainsi que des représentants de l'écosystème ouvert.

Ce dernier est composé des développeurs d'IA ouvertes, c'est-à-dire accessibles gratuitement, téléchargeables et modifiables, à la différence des modèles fermés comme ceux d'OpenAI ou Anthropic.

Une fois l'organisation en place, les sociétés les plus avancées de l'IA devraient soumettre leurs nouveaux modèles à un examen, axé en particulier sur la sécurité, avant de pouvoir les commercialiser.

"Je ne pense pas qu'un petit groupe de sociétés d'IA devrait définir les règles pour tout le monde", a commenté, sur la chaîne CNBC, Aidan Gomez, patron du Canadien Cohere, qui met au point sa propre IA. "Il y a énormément de parties prenantes qui doivent être consultées."

Cette nouvelle instance pourrait également être à l'initiative d'un ralentissement coordonné du développement de l'IA, selon Demis Hassabis, au cas où l'appréhension des risques ne suivrait pas le rythme de progression de l'intelligence artificielle.

"Quand l'avenir de l'humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l'industrie sur la base du volontariat", a réagi mardi le sénateur démocrate Bernie Sanders lors de l'événement Pro-Human AI à Washington.

Demis Hassabis a suggéré que le nouvel organe d'auto-supervision constitue "un point de départ à la création de standards internationaux pour l'IA de pointe".

Plusieurs observateurs, en particulier côté républicain, ont accusé les grands noms de l'IA de "captation de la réglementation", c'est-à-dire de vouloir définir leur propre régulation et de s'entendre pour protéger notamment leur avantage compétitif, au détriment des concurrents et des consommateurs.

Conseiller influent de Donald Trump, David Sacks a brandi le spectre d'un cartel de l'IA, enjoignant chaque entreprise d'agir unilatéralement quitte à ralentir seule son rythme de développement, un scénario improbable compte tenu des investissements engagés dans les fleurons du secteur.