Chatgpt pour beaucoup est essentiel au travail ou aux études pour poser une question, résumer ou même faire le menu mensuel. Mais il a également des points négatifs tels que les cas que nous avons déjà vus par rapport aux adolescents et à la grande influence qu'ils peuvent avoir sur eux. C'est pourquoi Openai fonctionne déjà pour appliquer différentes mesures qui tentent de protéger les mineurs.
Le contexte. Fin août, les parents d'Adam Raine, un adolescent de 16 ans, ont déposé une action en justice contre Openai, parce que le modèle GPT-4O a aidé leur fils à suivre lors de l'exploration des méthodes qui existaient pour pouvoir le faire. Et au lieu d'interrompre la conversation au moment où ces méthodes ont été demandées et d'activer les dérivations d'urgence, il n'a pas hésité à continuer.
Sécurité. Dans ce cas, Openai a dû prendre des mesures rapidement. Le premier a été de décider de prioriser « la sécurité sur la vie privée et la liberté des adolescents », comme l'a expliqué Sam Altman. L'idée dans ce cas est que l'interaction d'un 15 ans avec Chatgpt est sensiblement différente de celle d'un adulte.
ADAPTATIONS Afin de déterminer les nouveaux systèmes qui seront appliqués, OpenAI intègrera un système de prédiction du nouvel âge pour savoir si un utilisateur est plus âgé ou moins de 18 ans pour ajuster les réponses du chatbot. En cas de doute, la plate-forme appliquera une configuration pour les mineurs.
Cette configuration consiste à ajouter des limites dans le contenu sexuel explicite et dans les situations de « l'angoisse aiguë ». Il ouvre également la possibilité de contacter les parents ou même les autorités locales pour éradiquer des comportements qui peuvent être très dangereux pour les mineurs.
Et si vous êtes un adulte et que l'IA vous a confondu avec une mineure pour la manière d'écrire ou de vous exprimer, des systèmes seront inclus pour vérifier l'âge et déverrouiller toutes les fonctionnalités.
Contrôle parental. En attendant que le système de prédiction d'âge soit pleinement opérationnel, OpenAI lancera à la fin de ce mois une série de contrôles parentaux qui permettront aux parents de superviser plus directement l'activité de leurs enfants sur la plate-forme. Les principales fonctionnalités que vous aurez peuvent être résumées aux points suivants:
- Contacteurs de comptes: les parents peuvent lier les comptes avec leurs enfants via une invitation par e-mail.
- Gestion des réponses: des règles de comportement peuvent être établies afin que le modèle de langue s'adapte à l'âge de l'enfant.
- Désactivation des fonctions concrètes telles que l'historique et la mémoire du chat.
- Notifications d'urgence: les parents peuvent recevoir un avis si l'enfant maintient une conversation dangereuse.
- Établir des horaires de déconnexion: comme le mobile, une bande d'heures peut être marquée dans laquelle l'IA ne peut pas être accessible.
Des lacunes comme nous l'avons dit, cette affaire arrive directement en raison d'une demande de suicide aux États-Unis, à laquelle OpenAI a été contraint de répondre qu'il y avait des lacunes dans la sécurité de Chatgpt. Surtout lorsque de longues conversations et complexes ont été traités, quelque chose qui résoudra le renforcement des barrières de protection.
Cet événement tragique a révélé la nécessité d'établir des garanties plus solides dans les intelligences artificielles génératives, en particulier en ce qui concerne les utilisateurs vulnérables. Avec ces nouvelles mesures, Openai cherche à trouver un équilibre entre l'innovation et la responsabilité, un débat qui se poursuivra sans aucun doute sur la table dans l'avenir de l'IA.
Images | Levart_photographe
