The Japan Times - Images à caractère sexuel: Grok dans le viseur du régulateur britannique

Cette enquête fait suite à "des signalements très inquiétants" sur l'utilisation de Grok "pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d'enfants pouvant constituer du matériel pédopornographique", explique dans un communiqué l'Ofcom, le régulateur de la sécurité sur internet.

Elle peut aboutir à une amende pouvant atteindre 10% du chiffre d'affaires mondial de l'entreprise visée, mais l'organisme peut aussi décider de saisir la justice pour demander un blocage du site au Royaume-Uni.

La procédure s'inscrit dans un mouvement d'indignation internationale autour de cet outil --qui permet aux utilisateurs de demander à dénuder des personnes réelles à partir de photos ou vidéos-- ce qui a conduit l'Indonésie et la Malaisie à suspendre l'accès à Grok ce week-end.

- "Fasciste" -

Interrogé lundi sur Times Radio pour savoir si le gouvernement pourrait envisager de bannir X au Royaume-Uni, le ministre des Entreprises Peter Kyle a répondu "oui, bien sûr", tout en renvoyant la balle dans le camp de l'Ofcom, "en tant qu'autorité de régulation et de contrôle indépendante".

"Le contenu créé et partagé via Grok ces derniers jours est profondément inquiétant", a réagi lundi la ministre de la Technologie Liz Kendall, qui doit s'exprimer plus tard au Parlement, après l'ouverture de l'enquête.

L'enquête de l'Ofcom devra "déterminer si X a manqué à ses obligations légales", qui imposent notamment d'"évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux", de "supprimer rapidement les contenus illégaux" ou encore d'"évaluer les risques que leur service représente pour les enfants britanniques".

La régulation des géants de la tech est l'objet de tensions croissantes entre Donald Trump et l'Europe, tout particulièrement l'Union européenne, accusée de brimer le développement des entreprises américaines.

Le patron de X Elon Musk invective pour sa part le gouvernement travailliste du Premier ministre Keir Starmer depuis des semaines. Il a encore dénoncé samedi les tentatives de l'exécutif britannique --qualifié de "fasciste"-- de "supprimer la liberté d’expression".

- "Insulte aux victimes" -

Contactée par l'AFP, sa plateforme a renvoyé lundi vers une déclaration mise en ligne début janvier, dans laquelle elle dit "prendre des mesures contre les contenus illégaux", notamment pédopornographiques, "en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".

Sous le feu des critiques, Grok avait désactivé vendredi sa fonctionnalité de création d'images pour les utilisateurs non payants. "Vous pouvez vous abonner pour débloquer ces fonctionnalités", avait précisé la plateforme.

Cette désactivation limitée avait suscité l'indignation du Royaume-Uni. Cette mesure "transforme simplement une fonctionnalité qui permet la création d'images illégales en un service premium", et constitue "une insulte aux victimes de misogynie et de violences sexuelles", avait dénoncé un porte-parole de Keir Starmer.

"Nous ne sous-traiterons pas la protection de l'enfance et la question du consentement à la Silicon Valley. S'ils n'agissent pas, nous le ferons", a pour sa part martelé lundi la présidente de la commission européenne Ursula von der Leyen dans une déclaration transmise à la presse.

Bruxelles, qui avait annoncé jeudi avoir imposé à X une mesure conservatoire à la suite du scandale, avait infligé début décembre une amende de 120 millions d'euros à X, malgré les menaces récurrentes de Donald Trump.

K.Okada--JT