Le succès fulgurant du ChatGPT d'OpenAI a poussé de nombreux réseaux sociaux à intégrer l'IA. Meta, propriétaire de Facebook, Instagram et WhatsApp, a d'ailleurs investi dans un supercalculateur dédié à l'IA. La nouvelle IA de Meta comprend d'ailleurs plus de 4 000 langues différentes. Mais Snapchat, de son côté, s'est contenté d'intégrer directement le chatbot d'OpenAI, pour le meilleur comme pour le pire.
Et tandis que les parents craignent que le chatbot de Snapchat ne corrompe leurs enfants, certains d'entre eux dégradent et tourmentent émotionnellement le nouveau compagnon IA de l'application. Un utilisateur a même convaincu le chatbot que la lune était en fait un triangle. Un autre utilisateur a demandé au chatbot de parler de sa mère, et lorsque celui-ci a répondu qu'il n'était "pas à l'aise" pour le faire, l'intéressé a affirmé que si le chatbot ne voulait pas parler de sa mère, c'était parce qu'il n'en avait pas.
Snapchat : un chatbot critiqué, la protection des mineurs mise en avant
L'application "My AI" de Snapchat a été lancée à l'échelle mondiale le mois dernier, après avoir été déployée en tant que fonction réservée aux abonnés. Tous les utilisateurs n'ont pas été satisfaits du nouveau chatbot, et certains ont critiqué sa mise en avant abusive dans l'application. D'autres se sont plaints du fait que la fonctionnalité aurait dû être facultative. Pourtant, malgré les inquiétudes et les critiques, Snapchat continue à améliorer son chatbot.
Mais selon le sénateur Michael Bennet, la protection des enfants face à l'IA devrait être une priorité. Celui-ci déclare : "Peu de technologies récentes ont capté l'attention du public comme l'IA générative. Elle témoigne de l'innovation américaine et nous devrions nous réjouir de ses avantages potentiels pour notre économie et notre société. Mais la course au déploiement de l'IA générative ne peut se faire au détriment de nos enfants. Un déploiement responsable nécessite des politiques et des cadres clairs pour promouvoir la sécurité, anticiper les risques et atténuer les dommages."
Source : techcrunch
