Новости об «галлюцинациях» ИИ перешли от судебного конфуза к последствиям для карьеры: Верховный суд Небраски приостановил деятельность адвоката из Омахи Грега Лейка на неопределенный срок после того, как в поданной им краткой форме по апелляции о разводе содержалось 57 ошибочных цитат из 63, включая 20 полностью сфабрикованных ссылок на дела и четыре полностью вымышленных дела, не существующих ни в одной юрисдикции.
Новости об «галлюцинациях» ИИ привели к самому суровому профессиональному наказанию в США на сегодняшний день: Верховный суд Небраски 15 апреля вынес решение о бессрочном отстранении от практики адвоката Грега Лейка. Этому предшествовали многомесячные слушания, начавшиеся в феврале, когда судьи во время устного разбирательства заметили в поданной краткой форме ошибки, которые они не смогли сопоставить ни с одним опубликованным прецедентом права Небраски.
Краткая форма была подана в рамках апелляции по делу о разводе, оспаривающей дату раздела супружеского имущества и опеки над детьми. Из 63 цитат, сделанных Лейком, 57 содержали ту или иную форму дефекта. Двадцать из них были тем, что суды теперь называют «галлюцинациями»: реалистично выглядящие, но полностью сфабрикованные ссылки, сгенерированные моделью ИИ, которая правдоподобно угадала, что запрашивал пользователь, и выдала убедительные, но несуществующие ссылки.
Когда во время февральских слушаний судья спросил Лейка, как произошли ошибки, он ответил, что был на десятой годовщине свадьбы, его компьютер сломался во время поездки, и он загрузил не ту версию документа. Судьи сочли это объяснение неубедительным. Комитет по дисциплине провел расследование и выяснил другую версию: Лейк использовал ИИ для составления краткой формы, а затем отрицал это перед судом, что является нарушением правил профессионального поведения, требующих правдивости перед судом.
Единогласное решение Верховного суда Небраски, отклоняющее краткую форму и передающее дело Лейка на рассмотрение в марте, гласило: «ИИ, как и другие технологические инструменты, может быть полезен юридическому сообществу, но его следует использовать с осторожностью и смирением». Суд счел, что ошибки легко предотвратимы с помощью элементарной проверки через стандартные платформы юридических исследований, и обнаружил, что Лейк продемонстрировал неисполнение своей обязанности проявлять правдивость.
Небраска — не единичный случай. Исследователь Дэмиен Шарлотен из HEC Paris, который ведет базу данных случаев «галлюцинаций» ИИ в судебных процессах, отслеживает более 1200 таких случаев по всему миру, около 800 из которых приходятся на суды США. Он охарактеризовал темпы их появления как «десять случаев из десяти разных судов за один день».
В Орегоне самая крупная суммарная санкция, связанная с ошибками при подаче документов из-за ИИ, составила 109 700 долларов США в отношении одного адвоката. Шестой окружной суд наложил штраф в размере 30 000 долларов США на двух адвокатов из Теннесси — это крупнейшая федеральная апелляционная санкция, связанная до сих пор с вымышленными цитатами. Бессрочное отстранение в Небраске, если оно будет подтверждено при любой апелляции, станет первым случаем применения дисциплинарных мер со стороны адвокатской палаты, полностью приостанавливающих практику из-за ошибок при подаче документов, связанных с ИИ, в США, повышая последствия от финансовых штрафов до отстранения от карьеры.
Каждая громкая юридическая санкция, связанная с моделями ИИ, посылает регулирующий сигнал, который калибрует допустимые способы использования инструментов ИИ в профессиональных условиях. Для оценки рисков ИИ в сфере инвестиций и технологий реакция юридической профессии на «галлюцинации» является «канарейкой в угольной шахте»: она определяет, что означает «ответственное развертывание» в первой высокорисковой регулируемой среде, которая приводит к последствиям. Рынки токенов ИИ и инфраструктуры ИИ столкнутся с аналогичными нормативными рамками, поскольку та же логика распространится на финансовые консультации, медицинские решения и государственные приложения тех же базовых моделей.
