Суддя в Каліфорнії оштрафував дві юридичні фірми на 31 000 доларів після того, як з’ясувалося, що вони включили в юридичну документацію фальшиве, згенероване ШІ дослідження, повідомляє The Verge.
Зазначається, що йдеться про судовий документ — висновок у цивільному позові проти страхового гіганта State Farm. Після його подання перевірка встановила, що документ містив фальшиві дані, що призвело до включення «численних неправдивих, неточних і таких, що вводять в оману, юридичних посилань і цитат», — написав суддя Майкл Вілнер у своєму рішенні.
Згідно з постановою, лише після того, як суддя запросив додаткову інформацію щодо цього наповненого помилками документа, юристи залучених фірм зізналися, що використовували генеративний ШІ. І якби цього не помітили, попередив Вілнер, цей «ШІ-сміття» могло би потрапити до офіційного судового рішення.
«Я прочитав їхній висновок, був переконаний (чи принаймні зацікавлений) наведеними ними джерелами й почав шукати ці рішення, щоб дізнатися про них більше — лише щоб виявити, що вони не існують», — написав Вілнер у постанові.
«Це майже призвело до ще страшнішого результату (з моєї точки зору)», — додав він.
Адвокат з однієї із залучених фірм використав Gemini від Google і кілька інших орієнтованих на юриспруденцію ШІ-інструментів для підготовки початкового проекту документа. Цей проект містив численні помилки, але був переданий до іншої юридичної фірми без жодних виправлень. Друга фірма також не помітила і не виправила підробки.
«Жоден адвокат чи співробітник у жодній з фірм, очевидно, не перевірив посилання або якось інакше не переглянув це дослідження перед поданням висновку», — написав Вілнер у постанові.
Після подання документа судова перевірка показала, що з 27 юридичних посилань у документі дев’ять «були помилковими в тій чи іншій формі», а «щонайменше два згадані джерела взагалі не існують». Вілнер також встановив, що цитати, приписані зазначеним судовим рішенням, були фальшивими та неточно передавали зміст цих матеріалів.
Щодо свого рішення накласти такий великий штраф, Вілнер вказав на кричущий характер допущених помилок у поєднанні з тим, наскільки переконливими були вигадані відповіді ШІ.
«Необхідна сильна міра залякування, щоб адвокати не вдавалися до цього легкого шляху», — додав Вілнер.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
