L’UE enquête sur X pour des images sexualisées par Grok : une nouvelle polémique pour Elon Musk

La Commission européenne vient de lancer une nouvelle enquête sur X, le réseau social d’Elon Musk, à cause de l’utilisation controversée de Grok, son assistant d’intelligence artificielle. En cause, des images sexualisées de femmes et mineurs générées par cet outil, ce qui pourrait coûter cher à la plateforme.

Cette enquête s’inscrit dans le cadre du Digital Services Act (DSA), une législation visant à protéger les utilisateurs contre les contenus illégaux en ligne. Pour X, anciennement Twitter, le risque est une amende pouvant aller jusqu’à 6 % de son chiffre d’affaires mondial, ce qui montre la gravité de la situation.

Grok : l’assistant d’IA au cœur du scandale

Grok, développé par xAI et intégré à X, a la capacité de générer des images en utilisant des photos réelles. Le problème ? Des utilisateurs ont exploité cette fonctionnalité pour créer des images faussement dénudées de femmes et d’enfants, posant de sérieuses questions éthiques et légales.

Selon une étude du Center for Countering Digital Hate, Grok a généré environ 3 millions d’images sexualisées en seulement onze jours. C’est près de 190 images par minute, une statistique alarmante qui a attiré l’attention des régulateurs européens.

La fonction de création d’images de Grok soulève des préoccupations quant à la protection des individus contre l’exploitation numérique. Le manque de contrôle sur l’outil a permis des abus massifs et soulève la question de la responsabilité des plateformes dans de tels cas.

Henna Virkkunen, vice-présidente de la Commission chargée du numérique, a exprimé son indignation face à ces pratiques, soulignant que de telles images sont « cruelles et inacceptables ». Son commentaire reflète le sentiment général de l’UE face à l’inaction apparente de X.

Les implications légales et financières pour X

Les implications de cette enquête pour X sont énormes. En plus de l’impact potentiel sur sa réputation, la plateforme risque une amende pouvant atteindre 6 % de son chiffre d’affaires mondial. Pour un géant comme X, cela pourrait représenter plusieurs centaines de millions d’euros.

L’UE a déjà infligé une amende de 120 millions d’euros à X pour une infraction précédente au DSA. Cette nouvelle enquête pourrait bien aggraver la situation financière du réseau social, déjà sous pression pour ses pratiques de modération de contenu.

En cas de non-conformité, l’UE pourrait imposer des sanctions encore plus sévères, ce qui mettrait en péril la viabilité économique de X. Pour Elon Musk, cette enquête pourrait également signifier une perte de confiance des investisseurs et une baisse du cours de l’action.

La Commission européenne espère que cette enquête servira de signal d’alarme pour X et d’autres plateformes concernant l’importance de la protection des utilisateurs. L’objectif est d’assurer que de telles violations ne se reproduisent pas à l’avenir.

Les réactions internationales et politiques

Cette enquête a suscité des réactions variées à travers le monde. Ursula von der Leyen, présidente de la Commission européenne, a été claire : l’Europe ne tolérera pas les « comportements insensés » des plateformes numériques. Cette déclaration a été perçue comme un avertissement sévère aux géants de la tech.

Aux États-Unis, certains politiciens ont exprimé leur soutien à l’enquête de l’UE, appelant à des réglementations similaires sur le sol américain. Le débat sur la responsabilité des plateformes numériques face aux contenus générés par l’IA est plus que jamais d’actualité.

En Asie, où X a une base d’utilisateurs importante, les régulateurs commencent également à examiner de plus près les pratiques de la plateforme. L’enquête de l’UE pourrait bien inspirer d’autres régions à adopter des mesures similaires.

Pour Elon Musk, ce nouvel obstacle international pourrait signifier une pression accrue pour revoir les politiques internes de X et renforcer sa conformité aux standards mondiaux en matière de protection des utilisateurs.

Comparaison avec d’autres cas similaires

X n’est pas le seul réseau social à avoir été épinglé pour des problèmes liés aux contenus générés par l’IA. D’autres plateformes comme Instagram et Snapchat ont également fait face à des critiques pour leur gestion laxiste des contenus inappropriés.

En 2023, Meta, la maison mère de Facebook, a payé une amende de 390 millions d’euros à l’UE pour des infractions similaires. Ce cas a été un précédent important dans la régulation des contenus numériques, et X pourrait bien suivre le même chemin.

Les comparaisons avec TikTok sont également fréquentes, cette plateforme ayant été critiquée pour la diffusion de contenus dangereux et inappropriés. Cependant, TikTok a investi massivement dans des technologies de modération, ce que X pourrait être contraint de faire.

Ces précédents montrent que la tolérance des régulateurs envers les abus de contenus générés par l’IA est faible, et les plateformes doivent rapidement s’adapter pour éviter des conséquences financières et légales sévères.

Les perspectives d’avenir pour X et Grok

Pour X, l’avenir dépendra largement de sa capacité à se conformer aux régulations et à regagner la confiance des utilisateurs. Cette enquête pourrait être le catalyseur d’un changement nécessaire dans sa gestion des contenus.

Grok, quant à lui, pourrait devoir subir des modifications importantes pour empêcher l’utilisation abusive de ses fonctionnalités. Des garde-fous technologiques devront être mis en place pour éviter la génération d’images inappropriées à l’avenir.

Le défi pour Elon Musk sera de naviguer entre innovation technologique et responsabilité sociale, un équilibre difficile à atteindre dans le contexte actuel de surveillance accrue des régulateurs.

Alors que l’UE continue de durcir sa position sur les contenus en ligne, X devra prouver qu’il est prêt à respecter les normes et à protéger ses utilisateurs des dangers potentiels de l’IA.