В Австралии юридическая фирма из Мельбурна была обязана оплатить возмещение расходов после того, как младший солиситор использовал программное обеспечение с поддержкой ИИ, которое генерировало сфабрикованные цитаты в определении права коренного населения. Судья Бернард Мерфи обнаружил, что инструменты ИИ «галлюцинировали» информацию, которая казалась законной, но была полностью вымышленной, пишет Lawfuel.
Когда First Nations Legal and Research Services проверяли представление фирмы для верификации цитат, они обнаружили, что большинство процитированных документов не существовали, в то время как другие существовали, но были процитированы неверно.
Судья Мерфи определил, что ситуация возникла в результате «тенденции генеративного ИИ «фабриковать» или «галлюцинировать» информацию, которая выглядит точной и надежной, но которая не основана на фактах».
Младший специалист использовал Google Scholar для генерации цитат, работая удаленно, не имея доступа к фактическим документам, хранящимся в офисе фирмы. Когда проблема была выявлена, попытки воспроизвести результаты поиска показали, что Google Scholar выдавал разные результаты при каждом запросе.
Судья Мерфи специально решил опубликовать этот приказ из-за его более широкого значения для юридической профессии, признав его частью «растущей проблемы, касающейся ложных цитат в документах, подготовленных с использованием ИИ».
Главный юрист Джейсон Бриггс признал ошибку фирмы в обеспечении надлежащего надзора за удаленной работой и адекватной проверки цитат младшего специалиста.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
