Michael Cohen cite de fausses affaires judiciaires générées par l’IA

Michael Cohen, l’ancien avocat de Donald Trump, a admis avoir cité de fausses affaires judiciaires générées par l’IA dans un dossier juridique qui s’est retrouvé devant un juge fédéral, comme l’a rapporté plus tôt le New York Times. Un document rendu public vendredi dernier indique que Michael Cohen a utilisé Google Bard pour effectuer des recherches après l’avoir pris pour un « moteur de recherche superpuissant » au lieu d’un chatbot d’IA.

Fausses affaires judiciaires citées par M. Cohen

Le document en question était une requête demandant à un juge fédéral de raccourcir la période de libération conditionnelle de trois ans à laquelle M. Cohen doit faire face après une peine d’emprisonnement et des aveux de culpabilité pour fraude fiscale et autres chefs d’accusation. Toutefois, après avoir examiné la lettre de synthèse, le juge du district américain Jesse Furman a écrit dans un mémoire qu‘ »aucune de ces affaires n’existe » et a demandé à l’avocat de M. Cohen, David Schwartz, d’expliquer pourquoi les trois affaires sont incluses dans la motion et si son client, aujourd’hui radié du barreau, a participé à la rédaction du document.

En réponse, M. Cohen a soumis une déclaration écrite indiquant qu’il n’avait pas l’intention d’induire le tribunal en erreur, ajoutant qu’il avait utilisé Google Bard pour effectuer des recherches juridiques et qu’il avait envoyé certains de ses résultats à M. Schwartz. Toutefois, M. Cohen affirme qu’il ne s’était pas rendu compte que les affaires citées par Bard pouvaient être fausses et qu’il ne pensait pas non plus que M. Schwartz ajouterait les citations à la requête « sans même confirmer leur existence ». Schwartz risque des sanctions pour avoir inclus les fausses citations.

« N‘étant pas avocat, je ne me suis pas tenu au courant des nouvelles tendances (et des risques associés) en matière de technologie juridique et je ne savais pas que Google Bard était un service de texte génératif qui, comme ChatGPT, pouvait afficher des citations et des descriptions qui semblaient réelles mais qui ne l’étaient pas en réalité », écrit M. Cohen.« Au lieu de cela, je l’ai interprété comme un moteur de recherche super puissant et je l’ai utilisé à plusieurs reprises dans d’autres contextes pour trouver des informations exactes en ligne. »

Cas précédents de citations générées par l’IA

Ce n’est pas la première fois que des citations générées par l’IA sont citées en justice. En juin dernier, deux avocats new-yorkais ont été condamnés à une amende de 5 000 dollars pour avoir inclus de fausses affaires judiciaires générées par ChatGPT dans un mémoire juridique. Certains avocats utilisent même l’IA pour rédiger leurs arguments, notamment l’équipe juridique du rappeur Pras Michél, qui demande un nouveau procès après une condamnation.