В Австралії юридична фірма з Мельбурна була зобов'язана сплатити відшкодування витрат після того, як молодший соліситор використовував програмне забезпечення з підтримкою ШІ, яке генерувало сфабриковані цитати у визначенні права корінного населення. Суддя Бернард Мерфі виявив, що інструменти ШІ «галюцинували» інформацію, яка здавалася законною, але була повністю вигаданою, пише Lawfuel.
Коли First Nations Legal and Research Services перевіряли подання фірми для верифікації цитат, вони виявили, що більшість процитованих документів не існували, тоді як інші існували, але були процитовані невірно.
Суддя Мерфі визначив, що ситуація виникла внаслідок «тенденції генеративного ШІ «фабрикувати» або «галюцинувати» інформацію, яка виглядає точною та надійною, але яка не ґрунтується на фактах».
Молодший спеціаліст використовував Google Scholar для генерації цитат, працюючи віддалено, не маючи доступу до фактичних документів, що зберігаються в офісі фірми. Коли проблему було виявлено, спроби відтворити результати пошуку показали, що Google Scholar видавав різні результати при кожному запиті.
Суддя Мерфі спеціально вирішив опублікувати цей наказ через його ширше значення для юридичної професії, визнавши його частиною «зростаючої проблеми, що стосується неправдивих цитат у документах, підготовлених з використанням ШІ».
Головний юрист Джейсон Бріггс визнав помилку фірми в забезпеченні належного нагляду за віддаленою роботою та адекватної перевірки цитат молодшого спеціаліста.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
