У США в Окружному суді округу Монтгомері присяжні визнали Крейга Доннелла Джонсона винним у пограбуванні. До суду Джонсон подав клопотання про закриття справи, стверджуючи, що обвинувачення приховало той факт, що для встановлення його особи як імовірного злочинця було використано програмне забезпечення для розпізнавання облич на основі ШІ (FRT), і не розкрило подробиці про технологію та її результати, пише Jdsupra.
Зазначається, що апеляційний суд скасував вирок.
Суд встановив стандарт своєчасного розкриття інформації про використання ШІ, щоб можна було провести його перевірку, як мінімум у кримінальних справах.
Твердження обвинувачення про те, «що воно не знало, яку саме FRT-програму використовувала поліція», виявилися фатальними. Несвоєчасне розкриття та брак інформації «позбавили пана Джонсона можливості оскаржити надійність FRT…».
Деталі справи
Під час пограбування в магазині невідома особа напала на працівника. Злочинець забрав гроші та втік. Детектив поліції отримав записи з камер відеоспостереження магазину. Він «надіслав стоп-кадр з відео на внутрішню інформаційну дошку департаменту та пізніше визначив Джонсона як підозрюваного».
21 лютого 2023 року поліція «побачила чоловіка, схожого на нападника з фотографії, який заходив і виходив з будинку». Було видано ордер на обшук, у ході якого вилучили одяг, що збігався з тим, що був на відео. Джонсон був заарештований і перебував під вартою до суду.
Несвоєчасне розкриття інформації
Апеляційний суд зазначив: «Лише приблизно за тиждень до суду обвинувачення повідомило захист, що поліція завантажила стоп-кадр з відеозапису в FRT, яка, за словами обвинувачення, видала лише один результат — пана Джонсона».
Ідентифікація Джонсона через FRT стала першоджерелом — «плодючим деревом» — для всіх подальших дій слідства.
Напередодні суду Джонсон подав клопотання про закриття справи, стверджуючи, що обвинувачення порушило правило Brady, оскільки не розкрило до 12 лютого 2024 року — майже через рік після подання запитів про розкриття — факт, що поліція використала FRT для виявлення його як підозрюваного.
Дії обвинувачення суд розцінив як проблему розкриття, а не як порушення Brady. У підсумку Джонсона було визнано винним і засуджено до 15 років позбавлення волі.
Рішення апеляційного суду
Суд постановив: «Ми вважаємо, що окружний суд допустив зловживання повноваженнями, відхиливши клопотання про закриття справи, і скасовуємо це рішення».
Згідно з правилом штату Меріленд 4-263(d)(7)(B) обвинувачення зобов’язане розкривати «всю релевантну інформацію про досудову ідентифікацію обвинуваченого свідком обвинувачення».
Відсутність доступу до інформації про ПЗ, результати пошуку та інші дані (крім одного листа) позбавила Джонсона можливості оскаржити надійність FRT та підірвати достовірність розслідування.
Суд визнав, що шкода для захисту була значною: потерпілий не впізнав Джонсона, прямих фізичних доказів не було, і єдиним зв’язком зі справою було використання FRT.
Аргумент обвинувачення про те, що воно не знає, яка програма застосовувалася, і не планувало використовувати ці дані в суді, суд визнав неспроможним: FRT стала джерелом усього розслідування.
Суд зазначив, що ненадійність ШІ та FRT потребує особливого контролю, оскільки помилки та навіть «галюцинації» алгоритмів є реальністю. Не можна допускати, щоб обвинувачення використовувало такі дані без можливості їх перевірки.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
