Федеральный судья отказался применять санкции к адвокату, который подал юридический документ с ошибочными ссылками на судебные дела и цитатами, сгенерированными искусственным интеллектом.
Речь идет о подаче документов в суд по трудовому спору, где одну из сторон представлял адвокат Томас Гайер, сообщает Национальная ассоциация адвокатов Украины со ссылкой на Fox News.
Адвокат признал ошибку и взял на себя полную ответственность во время судебного заседания, которое состоялось в октябре 2024 года, рассказал судья окружного суда США Томас Каллен. Он также отметил, что использование генеративного ИИ в юридической сфере становится «новой нормой», однако подчеркнул, что адвокаты, применяющие такие инструменты, «должны соблюдать базовые принципы профессионального поведения», в частности, «предпринимать разумные меры» для обеспечения точности судебных документов.
«Г-н Гайер, выдающийся юрист с многолетним опытом работы в судах по всей территории США, допустил ошибку», — заявил судья. Он также указал, что этот случай продемонстрировал «один из недостатков генеративного ИИ».
Судья Каллен пришел к выводу, что действия адвоката не были преднамеренными, учитывая его «безупречную профессиональную репутацию». Он также отметил, что адвокат сам указал на ошибки, которые не заметили ни суд, ни противоположная сторона.
Защитник адвоката Дэнис Квинн согласился с мнением судьи, отметив, что его клиент «чрезвычайно сожалеет» о допущенной ошибке, а его раскаяние гарантирует, что «он больше не повторит подобного».
«GPT-инструменты создают отличные, а иногда и блестящие юридические аргументы», — написал Гайер в отдельном заявлении, указав, что ошибки были допущены ИИ-моделью Claude 3 Opus. Это лишь один из нескольких инструментов искусственного интеллекта, которые он использует. «Я применяю ряд генеративных ИИ-технологий для юридических исследований, написания документов и составления юридических брифов», — заявил сам адвокат.
Адвокатская палата штата Вирджиния открыла расследование по этому инциденту, а сам Гайер, имеющий адвокатскую лицензию в Орегоне, сообщил о ситуации адвокатской палате своего штата.
Судья Каллен выразил надежду, что его решение поможет в рассмотрении этого дела, однако пока что от адвокатского сообщества не поступало никаких официальных сообщений о дальнейших действиях.
Ситуация, когда искусственный интеллект генерирует ложную, вымышленную или некорректную информацию (хотя она звучит правдоподобно), называется «галлюцинациями ИИ». Они возникают из-за особенностей работы больших языковых моделей.
Одной из ключевых причин является то, что ИИ не знает информацию так, как человек, а прогнозирует следующее слово в тексте на основе вероятностей. И если нет точных данных, он все равно создает ответ, даже если он ошибочный. Модель не понимает реальность, а лишь находит статистические связи между словами. Она может создавать фактически ложные, но грамматически правильные утверждения.
Чтобы избежать «галлюцинаций ИИ», важно проверять информацию, запрашивать источники и использовать дополнительные проверенные данные.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
