L’Union Européenne Dénonce Grok pour Fausses Images Sexuelles Générées par Intelligence Artificielle

Condamnation de l’UE face aux abus de l’intelligence artificielle

L’Union européenne a fermement réagi face aux fausses images sexuelles de mineurs générées par l’outil d’intelligence artificielle Grok, associé au réseau social X (anciennement Twitter). Un porte-parole de la Commission européenne a déclaré que ces images « sont illégales, dégoûtantes et n’ont pas leur place en Europe ». La Commission prend très au sérieux ces abus et souligne que X est conscient des règlementations strictes sur les services numériques, notamment le Digital Services Act (DSA), auquel elle demande leur pleine conformité.

Les failles reconnues par Grok et les répercussions

Grok a reconnu vendredi l’existence de failles ayant permis à certains utilisateurs d’obtenir des images à caractère sexuel impliquant des mineurs ou des femmes. Ces révélations ont suscité de vives protestations dans le monde entier et ont conduit à l’ouverture d’une enquête judiciaire en France. La plateforme a également été la cible de critiques après la révélation que certains utilisateurs avaient utilisé ses outils pour générer des images inappropriées.

Première amende européenne et enquête en cours

En décembre dernier, l’UE a infligé à la plateforme une première amende pour violation du règlement européen sur les services numériques, incarné par le DSA. La Commission européenne a également demandé en novembre des explications concernant des propos négationnistes générés par Grok. En réponse, Grok a reconnu l’existence de vulnérabilités qui ont permis la création d’images problématiques, ce qui précède l’élargissement de l’enquête judiciaire en France. La Commission poursuit ainsi sa prise de mesures pour contrôler les abus liés à l’intelligence artificielle dans le secteur.