Grok visé par le régulateur britannique pour ses images "à caractère sexuel"

Le régulateur britannique de la sécurité sur internet a annoncé lundi l'ouverture d'une "enquête formelle" visant le réseau social X "concernant des images à caractère sexuel diffusées" par son assistant d'intelligence artificielle Grok.

"Des signalements très inquiétants font état de l'utilisation" de Grok AI sur X "pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d'enfants pouvant constituer du matériel pédopornographique", indique l'Ofcom dans son communiqué.

De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu dimanche, après l'Indonésie samedi, l'accès à cet assistant.

Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d'images pour les utilisateurs non payants. "Vous pouvez vous abonner pour débloquer ces fonctionnalités", avait précisé la plateforme.

Cette désactivation limitée avait suscité l'indignation du Royaume-Uni. Cette mesure "transforme simplement une fonctionnalité qui permet la création d'images illégales en un service premium", et constitue "une insulte aux victimes de misogynie et de violences sexuelles", avait dénoncé un porte-parole du Premier ministre britannique Keir Starmer.

L'Ofcom précise lundi avoir demandé des explications à X la semaine dernière. S'il ne détaille pas la teneur de leurs échanges, le régulateur indique que "l'entreprise a répondu dans les délais impartis".

Son enquête devra "déterminer si X a manqué à ses obligations légales", qui lui imposent notamment d'"évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux", de "supprimer rapidement les contenus illégaux" ou encore d'"évaluer les risques que leur service représente pour les enfants britanniques".

Le régulateur a le pouvoir d'imposer des amendes allant jusqu'à 10% du chiffre d'affaires mondial de l'entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni.

"Certaines des choses que j'ai vues et entendues" au sujet des images générées par Grok "sont répugnantes et manifestement illégales et j'attends que des mesures soient prises", avait affirmé un peu plus tôt à la presse britannique le ministre des Entreprises Peter Kyle, tout en précisant qu'il appartenait à l'Ofcom de faire appliquer la loi.

Contacté par l'AFP, X n'avait pas répondu dans l'immédiat.