L'intelligence artificielle est capable de produire des œuvres si complexes qu'il est difficile de discerner le vrai du faux. Un artiste a d'ailleurs remporté un prestigieux concours grâce à une photo générée par l'IA. Et si Elon Musk pense que l'IA pourrait devenir la "nounou de l'humanité", celle-ci ne semble pas tout à fait au point quand il s'agit d'argumenter lors d'un procès.
L'avocat en question, Steven A. Schwartz, a ainsi admis dans une déclaration sous serment qu'il avait utilisé le chatbot d'OpenAI pour ses recherches. Pour vérifier la véracité des affirmations de ChatGPT, il a simplement demandé au chatbot s'il mentait. Celui-ci lui a répondu par l'affirmative. L'avocat a alors rétorqué : "Quelles sont tes sources ?".
OpenAI : ChatGPT se trompe, l'avocat présente ses excuses
ChatGPT s'est alors excusé pour la confusion précédente et a insisté sur le fait que l'affaire était réelle, affirmant qu'elle pouvait être trouvée sur Westlaw et LexisNexis. Steven A. Schwartz lui a alors demandé si les autres citations étaient réelles, à quoi le chatbot a une nouvelle fois répondu par l'affirmative.
L'avocat de la partie adverse a rapidement indiqué que le mémoire des avocats de Levidow, Levidow & Oberman était truffé de mensonges. Par exemple, dans une affaire inexistante appelée Varghese v. China Southern Airlines Co. Ltd, le chatbot semblait faire référence à une autre affaire bien réelle, mais s'était trompé dans la date. Le juge a alors confirmé que "six des cas soumis semblent être de fausses décisions judiciaires avec de fausses citations et de fausses références internes".
L'avocat concerné a alors déclaré : "Je n'étais pas conscient de la possibilité que son contenu puisse être faux [...] Je regrette d'avoir utilisé l'intelligence artificielle générative pour compléter la recherche juridique effectuée dans le présent document et ne le ferai plus jamais à l'avenir sans une vérification absolue de son authenticité".
Source : theverge
