Партнер юридической фирмы уволен за цитирование фейковых ИИ-дел

Спешим вас успокоить! Прецедент произошел не в РФ, а в США: но, тем не менее, указывает на наличие подобных казусов. Поэтому, рассмотрим подробнее.

Юрист Даниэль Малати, автор статей об этике искусственного интеллекта, и, по совместительству, партнер юрфирмы Goldberg Segalla, была уволена из-за цитирования фейковых судебных ИИ-дел. Все произошло после того, как судом была обнаружена ссылку на несуществующее дело в ходатайстве. Впоследствии оказалось, что это дело - галлюцинация ChatGPT.

В суде Малати признала, что не проверяла подлинность прецедента. Объясняла она это тем, что, по ее мнению, ИИ не способен создавать фиктивные судебные дела. Интересно, что черновик ходатайства был просмотрен и одобрен еще тремя юристами фирмы, включая и ведущего адвоката.

Компания Goldberg Segalla заявила, что Малати нарушила внутреннюю политику, запрещающую использование ИИ. Однако, по мнению экспертов, проблема глубже, чем просто нарушение правил. Ведь не только один юрист не заметил ИИ-дело, а разу несколько: это ставит под вопрос практику проверки юридической документации.

Интересно, что Малати как автор статей об ИИ, ни разу не затрагивала проблему галлюцинаций ИИ – склонности систем выдавать ложную информацию за правду.

ИИ - действительно мощный инструмент, который может стать незаменимым помощником для юриста. Однако стоит не забывать, что ИИ все еще галлюцинирует, а поэтому необходимо применять критическое мышление и тщательно перепроверять генеративно созданные документы.

Партнер юридической фирмы уволен за цитирование фейковых ИИ-дел

Всё о юридических и финансовых технологиях