Les renseignements fournis par ChatGPT sont, la plupart du temps, rigoureusement exacts. Mais, dans le cadre de la justice, ceux-ci n'ont que peu de valeur tant qu'ils n'ont pas été vérifiés par un humain. Un avocat s'en est d'ailleurs servi pour appuyer son dossier, mais ChatGPT a fait n'importe quoi, fournissant des arguments totalement faux. Certaines entreprises interdisent même à leurs employés d'utiliser ChatGPT. Mais cette fois, le chatbot d'OpenAI est impliqué dans une affaire de diffamation.
Un animateur radio, Mark Walters, poursuit ainsi OpenAI après que ChatGPT a affirmé à un journaliste qu'il détournait des fonds d'une organisation à but non lucratif de défense des droits des armes à feu. L'homme a donc déposé en début de semaine une plainte pour diffamation, estimant que ChatGPT a porté atteinte à sa réputation en faisant ces affirmations.
ChatGPT se trompe de procès
Lors de ce procès, l'avocat du plaignant affirme que le chatbot d'OpenAI a "publié des informations diffamatoires concernant M. Walters". Fred Riehl, rédacteur en chef d'un site web consacré aux armes à feu, a demandé à ChatGPT un résumé d'une affaire impliquant le procureur général de l'État de Washington, Bob Ferguson, et la Second Amendment Foundation (SAF), une organisation à but non lucratif.
ChatGPT a impliqué Mark Walters dans cette affaire et l'a même identifié comme le trésorier et directeur financier de l'organisation. Problème : cette information est totalement fausse. Le plaignant n'est d'ailleurs pas du tout impliqué dans cette organisation. ChatGPT a pourtant cité des passages entiers du procès qui ne porte même pas sur le sujet. Ces citations ont été entièrement inventées par le chatbot d'OpenAI, qui s'est tout simplement trompé d'affaire.
L'avocat du plaignant, John Monroe, accuse directement OpenAI. Celui-ci déclare : "Si la recherche et le développement dans le domaine de l'IA sont des efforts louables, il est irresponsable de lâcher un système sur le public en sachant qu'il fabrique des informations susceptibles de causer du tort".
Source : futurism
