Deux avocats ont été condamnés à une amende de 5 000 dollars par un juge de Manhattan aux Etats-Unis pour avoir soumis un dossier rempli de cas et de citations inventés, générés par ChatGPT. Bien que l'IA conversationnelle soit souvent précise et efficace, il lui arrive parfois d'inventer des éléments.Dans cette affaire, les avocats Steven Schwartz et Peter LoDuca représentaient Roberto Mata, qui prétendait avoir été blessé au genou après avoir été heurté par un chariot de service en métal lors d'un vol reliant le Salvador à l'aéroport international Kennedy de New York en 2019. Lorsque la compagnie aérienne colombienne a demandé à un juge de Manhattan de rejeter l'affaire en raison de la prescription, Schwartz a présenté un dossier juridique de 10 pages contenant plusieurs décisions de justice passées, sauf que certaines d'entre elles n'existaient pas. Les avocats ont défendu leurs recherches, même après que l'avocat de la partie adverse ait signalé qu'elles étaient fausses, avant finalement de présenter leurs excuses au tribunal.En infligeant une amende aux avocats et au cabinet d'avocats, le juge a déclaré qu'ils avaient, je cite, "manqué à leurs responsabilités en soumettant des avis juridiques fictifs avec de fausses citations créées par l'outil ChatGPT, puis en continuant à soutenir les faux rapports même après que des ordonnances judiciaires aient remis leur existence en question" fin de citation. Cet incident confirme une étude affirmant que ChatGPT est idéal pour la propagation de fausses informations, y compris dans sa dernière version basée sur GPT-4, censée avoir accès à internet en temps réel, et donc être plus fiable sur les informations délivrées. Je cite le juge Castel, protagoniste de cette histoire, "les avancées technologiques sont courantes et il n'y a rien d'intrinsèquement inapproprié à utiliser un outil d'intelligence artificielle fiable pour obtenir de l'aide [...] Mais les règles imposent aux avocats d'assumer le rôle de gardiens pour garantir l'exactitude de leurs déclarations" fin de citation. Si l’IA commence petit à petit à remplacer des emplois, cette histoire montre bien que la profession d’avocat est pour l'instant assez épargnée par ce que certains considèrent comme « la menace ChatGPT ». Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related