Дисциплинарный трибунал Общества юристов отстранил от практики адвоката из Торонто за использование фейковых судебных прецедентов, сгенерированных искусственным интеллектом, и попытку переложить вину на своего стажера.
Мари Хён-Сук (Джису) Ли, получившая лицензию адвоката в 1995 году, была отстранена от работы на шесть месяцев и оштрафована на 10 000 долларов. Это решение может стать первым в Канаде случаем наказания юриста со стороны регулирующего органа за ненадлежащее использование ИИ в суде.
Согласно материалам дела, Ли представляла интересы клиента в гражданском споре о наследстве. В своих письменных аргументах она использовала материалы, содержащие «несуществующую или не относящуюся к делу судебную практику», сгенерированную нейросетью. Кроме того, юрист намеренно ввела суд в заблуждение, а позже дала ложные показания в ходе расследования Общества юристов (Law Society of Ontario).
«Комиссия учла, что госпожа Ли признала свою вину в заявленном проступке, — сообщила адвокат Ли Надия Лива. — Комиссия пришла к выводу, что она раскаивается. Ее действия были вызваны уникальными обстоятельствами, связанными с непониманием новых технологий, опыта работы с которыми у нее практически не было, и этот проступок не свойственен ее характеру».
Проблемы начались, когда судья Высшего суда Онтарио Фред Майерс обратил внимание на странности в документах Ли. В ее аргументации отсутствовала нумерация страниц и абзацев, а ссылки вели на несуществующие дела. Например, ссылка на дело «Алам против Шаха» вела к совершенно не связанному с наследством спору о коммерческой недвижимости, а ссылка на дело «ДаКоста против ДаКосты» и вовсе выдавала ошибку 404. Ли ссылалась на эти же дела и во время устных слушаний.
«Я спросил госпожу Ли, не были ли ее документы подготовлены искусственным интеллектом, вроде ChatGPT, — написал Майерс в своем решении. — Она ответила, что ее офис обычно так не делает, но ей нужно уточнить это у своего клерка».
Судья пришел к выводу, что Ли не проверила материалы перед подачей в суд, и постановил провести слушание по обвинению в неуважении к суду. Примечательно, что после этого Ли снова обратилась за помощью к ChatGPT. В истории ее чатов, которая стала уликой в трибунале, юрист написала ИИ: «Из-за своей глупости я положилась на предоставленные вами правовые исследования и цитаты... Теперь мне предписано явиться на слушание и объяснить, почему меня не должны признать виновной в неуважении к суду. Как мне подготовиться и каковы мои шансы?». Нейросеть ответила списком рекомендаций, первым пунктом в котором значилось: «Избежать признания виновной в неуважении к суду».
На слушаниях в мае Ли извинилась перед судьей и заявила, что документ с помощью ChatGPT якобы подготовил ее стажер. Сама она назвала себя человеком «старой закалки», плохо разбирающимся в технологиях. Судья временно отложил разбирательство.
Ситуация усугубилась, когда к расследованию подключилось Общество юристов. Ли отказалась предоставить контактные данные стажера, а затем призналась, что на самом деле сама написала документ с помощью ИИ, но ей было слишком стыдно сказать правду судье.
В сентябре Ли направила судье еще одно письмо с извинениями, что привело к возобновлению дела о неуважении к суду. Разбирательство по этому вопросу продолжается.
Профессор права Оттавского университета Эми Сализин, специализирующаяся на юридической этике, отметила, что Ли — не первый юрист, попавшийся на ненадлежащем использовании ИИ. Однако решение канадского трибунала, судя по всему, является первым публичным случаем применения реальных санкций за подобное нарушение со стороны регулятора.
«Столь серьезные санкции посылают важный сигнал всему юридическому сообществу: использование ИИ, приводящее к предоставлению в суд фальшивых или вводящих в заблуждение правовых прецедентов, является грубым нарушением профессиональных обязанностей», — подчеркнула Сализин.
