Des excuses pour une hallucination de citation : l’IA doit-elle être bannie des documents juridiques?
Une bataille de droits d’auteur avec des éditeurs de musique a récemment mis en lumière une erreur de citation qui a conduit les avocats d’Anthropic à présenter des excuses. Selon eux, l’erreur serait principalement imputable à Claude, l’intelligence artificielle utilisée dans la rédaction des documents juridiques.
Une erreur embarrassante révélée devant le tribunal
Les avocats des éditeurs de musique ont exprimé leurs préoccupations concernant cette erreur de citation devant le tribunal. Ils ont souligné que l’experte en données et témoin d’Anthropic, Olivia Chen, avait fait référence à un article académique qui n’existait pas.
Face à ces allégations sérieuses, le juge en charge de l’affaire a exigé des explications de la part d’Anthropic. C’est ainsi qu’Ivana Dukanovic, associée chez Latham & Watkins, a présenté une déclaration pour clarifier la situation.
Une erreur honnête ou un manque de rigueur?
Selon Dukanovic, une enquête interne a confirmé qu’il s’agissait d’une erreur de citation honnête et non d’une fabrication délibérée. Il a été révélé que Claude avait commis des erreurs non seulement dans la citation de l’article de l’American Statistician, mais aussi dans d’autres sources utilisées dans le témoignage de Chen.
Malgré ces erreurs, l’article cité existe bel et bien, ce qui a permis d’éviter toute influence négative sur l’opinion exprimée par Chen. Dukanovic a également souligné la mise en place de procédures supplémentaires pour éviter ce type d’erreur à l’avenir.
Les limites de l’IA dans les citations juridiques
Claude, l’IA impliquée dans cette erreur de citation, a admis que les modèles de langage comme lui peuvent parfois induire en erreur lorsqu’ils génèrent des citations. Il a recommandé l’utilisation d’outils de recherche académique dédiés pour garantir des citations précises, plutôt que de se reposer entièrement sur l’IA.
Cette affaire soulève des questions sur l’utilisation de l’IA dans la rédaction de documents juridiques et met en lumière l’importance d’une relecture minutieuse par des professionnels. Malgré cette erreur regrettable, l’équipe d’Anthropic s’est engagée à renforcer ses processus de vérification pour éviter de telles situations à l’avenir.
