La justice ordonne que tous les contenus générés par l'IA soient déclarés et vérifiés

Justice
(Crédit photo: Unsplash)

 

L'intelligence artificielle est capable de tout, de la création d'œuvres d'art à la composition de musique. Mais elle peut également être utilisée pour défendre un client lors d'un procès. Plus tôt ce mois-ci, un avocat a utilisé ChatGPT pour étayer son dossier. Malheureusement pour lui, le chatbot d'OpenAI a fait des erreurs, ce qui a poussé le juge à intervenir.

Le juge fédéral du Texas a ainsi établi une exigence selon laquelle tout avocat comparant devant son tribunal doit attester qu'"aucune partie du dossier n'a été rédigée par une intelligence artificielle générative". Son utilisation n'est cependant pas interdite. Dans ce cas, elle doit simplement être officiellement déclarée

 ChatGPT n'a pas sa place dans un tribunal 

 

Désormais, tous les avocats comparant devant la Cour doivent déposer au greffe un certificat attestant qu'aucune partie du dossier n'a été rédigée par une intelligence artificielle générative telle que ChatGPT, Harvey.AI ou Bard. Si l'avocat admet que son dossier a bénéficié de l'IA, il doit fournir la preuve que les informations fournies ont été vérifiées par des humains.

Cette décision intervient après un incident retentissant. En effet, lors d'un procès, l'avocat Steven A. Schwartz a cherché à étayer son dossier en utilisant ChatGPT. Il a simplement demandé au chatbot d'OpenAI si les informations étaient vraies, ce à quoi ChatGPT a répondu par l'affirmative. Cependant, l'avocat de la partie adverse a pu prouver que la plupart de ces affirmations étaient fausses. Le juge a alors confirmé : "six des cas présentés semblent être de fausses décisions judiciaires avec de fausses citations et de fausses références internes".

L'avocat s'est immédiatement excusé : "Je n'étais pas conscient de la possibilité que le contenu puisse être faux [...] Je regrette d'avoir utilisé l'intelligence artificielle générative pour compléter la recherche juridique effectuée dans ce document, et je ne le referai plus jamais à l'avenir sans une vérification absolue de son authenticité".

Source : techcrunch

Jean-Sébastien Champeau
Senior Editor

Passionné par les technologies de pointe, dont l’aérospatial et l’intelligence artificielle, je ne rate jamais une occasion de partager les dernières nouvelles avec les lecteurs de TechRadar. J’affectionne par ailleurs grandement (un peu trop, peut-être ?) les jeux-vidéos, anciens comme nouveaux.