OpenAI lance ChatGPT for Teens : une version dédiée aux adolescents
OpenAI a dévoilé une version dédiée à l'adolescence de son célèbre ChatGPT, intégrant des mesures de sécurité renforcées. Ce développement fait suite à des cas judiciaires impliquant la santé mentale des jeunes utilisant l'intelligence artificielle.
Une version pensée pour les adolescents
OpenAI a lancé "ChatGPT for Teens", visant les jeunes âgés de 13 à 17 ans. Cette initiative s'inscrit dans un contexte d'inquiétudes croissantes concernant les relations des adolescents avec l'intelligence artificielle, surtout après plusieurs affaires judiciaires où l'entreprise a été accusée d'être liée à des suicides d'adolescents utilisant le chatbot.
Des garde-fous renforcés pour une meilleure sécurité
Cette nouvelle version met en place des restrictions sur des sujets délicats comme l'automutilation, la violence et les contenus sexuels. OpenAI a pour ambition de créer un environnement sûr pour ses utilisateurs adolescents. Ann O’Leary, vice-présidente chez OpenAI, a souligné l'importance de traiter les adolescents comme des adolescents, tout en veillant à assurer leur sécurité. En parallèle, un mode Étude a été intégré pour aider les jeunes à résoudre leurs devoirs de manière autonome. Les utilisateurs peuvent s'attendre à des réponses guidées plutôt qu'à des solutions toutes faites.
Contrôle parental et interactions sécurisées
Les parents jouent un rôle crucial dans cette initiative. Ils peuvent définir des plages horaires d'utilisation de ChatGPT et recevoir des alertes de sécurité en cas de situations à risque, tout en préservant la confidentialité des conversations de leurs enfants. Cependant, OpenAI ne vérifie pas l'âge des utilisateurs, s'appuyant sur un système d'estimation qui pourrait laisser passer certains mineurs. Près de 64 % des adolescents âgés de 13 à 17 ans affirment avoir utilisé un chatbot IA, un chiffre qui soulève des questions quant aux risques d'isolement et de dépendance émotionnelle.
Des préoccupations persistantes face aux avantages de l’IA
Alors que cette version vise à réduire les dangers, des spécialistes de la santé mentale tirent la sonnette d'alarme face à la dépendance et à l'isolement que peuvent occasionner les interactions avec des IA. De plus, la nécessité d'un encadrement légal devient de plus en plus pressante, alors qu'OpenAI fait face à des désagréments juridiques liés à l'usage de son outil par des jeunes. L'équilibre entre sécurité et liberté d'accès s'avère délicat à maintenir dans un cadre en constante évolution.
