OpenAI Group PBC a annoncé aujourd'hui le déploiement d'une version plus stricte de son chatbot ChatGPT créée pour les jeunes utilisateurs.
L'annonce de « ChatGPT for Teens » fait suite à un examen minutieux de la manière dont l'intelligence artificielle générative, qu'il s'agisse des produits d'OpenAI ou d'autres sociétés d'IA, peut être utilisée à mauvais escient par les jeunes utilisateurs. OpenAI elle-même mène actuellement un certain nombre de poursuites judiciaires au cours desquelles son chatbot aurait donné des conseils qui se seraient révélés dangereux.
Le nouveau modèle destiné aux enfants âgés de 13 à 17 ans a été construit avec des garde-fous pour éviter les conversations gênantes sur les thèmes de la violence, de l'automutilation, du sexe et des troubles mentaux. Si l'enfant tente d'engager le chatbot dans ce qui pourrait être considéré comme un sujet restreint, le robot peut alerter les parents si le contrôle parental est activé.
OpenAI demande à tous les utilisateurs d'indiquer leur âge lors de leur inscription, mais pas à chaque personne honnêtement sur son âge. L'entreprise, cependant, n'utilise pas d'outil de vérification de l'âge, analysant plutôt les entrées de l'utilisateur pour détecter l'âge. Si le chatbot constate que l'utilisateur est jeune, il activera désormais automatiquement le mode adolescent.
Sur une note plus lumineuse, la version pour adolescents de ChatGPT comprend un « Mode étude » dans lequel le jeune peut répondre à des quiz et étudier des visualisations en fonction des sujets qu'il étudie. Les parents peuvent utiliser la fonction « Heures d'étude » qui leur permettra de savoir combien de temps leur enfant consacre à ses travaux scolaires.
« Les adolescents devraient pouvoir utiliser l'IA pour apprendre, créer et explorer », a déclaré OpenAI dans un communiqué de presse. « Mais cet accès devrait s’accompagner de protections qui reflètent leur stade de développement, renforcent les relations dans le monde réel et soutiennent une utilisation saine au fil du temps. »
Des études ont montré que jusqu'à 70 % des jeunes utilisateurs se tournent vers les chatbots pour se tenir en compagnie. Cela peut être problématique pour les adolescents dont le cerveau peut être plus vulnérable à agir sur de mauvais conseils ou à croire que les médias synthétiques sont réellement conscients. Le directeur général d'OpenAI, Sam Altman, a déclaré que son entreprise étudiait actuellement la « dépendance émotionnelle excessive », en mettant l'accent sur les jeunes utilisateurs. Il est déjà bien connu que les gens peuvent développer des attachements malsains à l’IA.
« Nous avons conçu ChatGPT pour les adolescents pour soutenir les relations du monde réel et les habitudes saines, avec des rappels de pause qui encouragent les adolescents à s'éloigner et des signaux de produit qui identifient systématiquement ChatGPT comme une IA », a déclaré la société.
