YouTube innove avec une IA pour protéger ses jeunes utilisateurs face aux contenus inappropriés

Dans un effort pour renforcer la sécurité des mineurs face aux contenus inappropriés, la plateforme YouTube déploie une nouvelle technologie basée sur l’intelligence artificielle. Confrontée à la complexité de la modération manuelle et aux accusations de censure, la société souhaite instaurer un contrôle plus fiable et comportemental. Ce nouveau système, testé initialement aux États-Unis, analyse l’activité en ligne des utilisateurs pour détecter ceux qui pourraient être mineurs, même si leur compte est déclaré comme étant destiné aux adultes. Les indicateurs évalués comprennent les vidéos regardées, les sujets abordés et le temps passé sur la plateforme. En cas de suspicion, une vérification d’âge via la soumission d’une pièce d’identité, d’un selfie ou de détails bancaires sera exigée.

Ce déploiement, qui pourrait s’étendre à l’Europe et à l’Afrique, soulève toutefois des défis réglementaires liés au Règlement général sur la protection des données (RGPD), qui impose des restrictions strictes quant au traitement des données personnelles. YouTube devra donc adapter sa technologie pour respecter ces cadres juridiques tout en protégeant efficacement ses jeunes utilisateurs. La plateforme reste ainsi à la croisée des chemins entre innovation technologique et conformité réglementaire, avec comme objectif principal de garantir un environnement numérique plus sûr pour les enfants et les adolescents, un enjeu plus crucial que jamais dans le contexte actuel.