YouTube sous le feu des critiques après une miniature IA choquante

Une recommandation algorithmique qui fait polémique

YouTube est à nouveau sous le feu des projecteurs, cette fois à cause d’une vidéo fortement recommandée par son algorithme, qui a suscité une controverse en raison de sa miniature. La vidéo, intitulée « AFRICAN GIAT MAASAI », a atteint près de 4 millions de vues, mais ce n’est pas son contenu qui a fait réagir, c’est sa miniature générée par intelligence artificielle. Celle-ci représentait un groupe de femmes seins nus, une image à caractère NSFW, ce qui a provoqué un vif mécontentement parmi les utilisateurs.

Une miniature générée par IA et la controverse

La miniature controversée, aujourd’hui remplacée par une version adaptée à tous les publics, a été créée par IA et est à caractère suggestif. Bien que la vidéo elle-même de 16 secondes ne comporte pas de contenu explicite, cette miniature a été largement recommandée par YouTube, ce qui soulève des questions sur le fonctionnement de l’algorithme de la plateforme. La chaîne concernée, baptisée Afro Zulu, a déjà eu recours dans le passé à des miniatures suggestives ou assimilées à du NSFW, générées par IA, sans que le contenu des vidéos ne corresponde à ces images.

Les enjeux et les inquiétudes autour de l’algorithme

Ce phénomène a suscité une vive polémique car la vidéo a été mise en avant auprès d’un large public, incluant des mineurs et des utilisateurs ayant effectué des recherches sans lien avec le sujet. Si la recommandation a été brève, son impact a été important, la vidéo comptabilisant déjà près de 4 millions de vues au moment de la rédaction. Cet incident soulève des interrogations sur le fonctionnement de l’algorithme de YouTube et sur la gestion des contenus générés par IA, notamment en termes de filtration et de sécurité.