- ChatGPT introduit une nouvelle fonctionnalité « Contact de confiance »
- Le contact reçoit une alerte si l’IA détecte un problème de sécurité
- La fonctionnalité s’ajoute aux outils de bien-être déjà existants
On sait que certaines personnes ont des conversations très intenses avec les chatbots d’IA. Le développeur de ChatGPT, OpenAI, ajoute désormais une nouvelle fonctionnalité appelée « Contact de confiance », qui permet aux utilisateurs de désigner une personne de confiance. Celle-ci recevra une alerte en cas de problème de sécurité.
Depuis un certain temps déjà, lorsque les conversations prennent une tournure liée à l’automutilation ou au suicide, ChatGPT sait les reconnaître et orienter l’utilisateur vers des lignes d’aide en situation de crise ou vers les services d’urgence afin d’obtenir de l’aide.
La fonctionnalité « Contact de confiance » vient s’ajouter à ces protections. L’ami ou le proche désigné recevra un message par SMS, par e-mail et dans l’application ChatGPT, indiquant que l’utilisateur pourrait être en difficulté et que ce contact devrait prendre de ses nouvelles.
« Les recommandations d’experts identifient le lien social comme l’un des facteurs de protection les plus importants pour réduire le risque de suicide », explique OpenAI. « Contact de confiance est conçu pour encourager le lien avec une personne en qui l’utilisateur a déjà confiance. Il ne remplace pas une prise en charge professionnelle ni les services de crise, et constitue l’une des plusieurs couches de protection destinées à soutenir les personnes en détresse. »
Configurer un Contact de confiance
L’utilisateur qui évoque l’automutilation ou le suicide verra aussi apparaître des invitations à contacter la personne désignée, avec des idées de messages générées par l’IA. OpenAI indique que cette fonctionnalité a été développée en partenariat avec des professionnels et des spécialistes de la santé mentale. Elle fonctionne de manière similaire aux contrôles parentaux déjà existants, mais pour les personnes de 18 ans et plus.
Le Contact de confiance peut être configuré depuis les paramètres de ChatGPT, et cette option pourrait tout simplement sauver une vie. La personne désignée dispose d’une semaine pour accepter la demande. Si elle ne le fait pas, une autre personne peut être choisie.
Avant qu’un Contact de confiance soit alerté, « une petite équipe de personnes spécialement formées » examinera la conversation dans un délai d’une heure. Si cet examen confirme l’existence d’un problème de sécurité grave, le contact reçoit alors l’alerte décrite plus haut.
Selon OpenAI, l’alerte est « volontairement limitée » et n’inclura pas de détails précis issus de la conversation elle-même. La fonctionnalité est déployée progressivement à partir de maintenant. Si elle n’apparaît pas encore immédiatement sur un compte, elle devrait donc arriver prochainement.
