В рамках четвертого дня подготовки судей Высшего антикоррупционного суда, организованной Национальной школой судей Украины в сотрудничестве с Немецким фондом международного правового сотрудничества, судья Верховного Суда в Кассационном административном суде Ян Берназюк выступил с докладом на тему «Искусственный интеллект в правосудии: риски алгоритмической предвзятости и дискриминации».
Докладчик обратил внимание на статью 16 Кодекса судейской этики, в которой перечислены случаи, когда использование судьей технологий искусственного интеллекта является допустимым.
Судья рассказал об алгоритмической предвзятости как системной ошибке в решениях искусственного интеллекта или автоматизированных алгоритмов, приводящей к несправедливому или дискриминационному отношению к определенным группам лиц.
Во время выступления Ян Берназюк ознакомил слушателей с законом Амары. Судья пояснил, что этот принцип, сформулированный ученым Роем Амарой, отражает тенденцию общества сначала воспринимать новые технологии с ажиотажем, а затем, после разочарования, не замечать их глубокого влияния на различные сферы.
Судья также рассмотрел понятие «черный ящик», которое в сфере ИИ означает ситуацию, когда алгоритмы принимают решения, но их внутренний процесс остается непонятным для пользователей и разработчиков. Обсуждалась и «дилемма кентавра» в правосудии.
Как отметил спикер, эта дилемма представляет собой вызов в определении границ ответственности между судьей и ИИ. Если судья безоговорочно доверяет ИИ, он рискует потерять контроль, критическое мышление и допустить несправедливость (предвзятое решение). Однако если судья полностью игнорирует ИИ, это замедляет правосудие и снижает его эффективность.
Кроме того, Ян Берназюк очертил концепцию парадокса Моравека в сфере ИИ, которая описывает обратную сложность задач для человека и искусственного интеллекта. Например, высокоуровневые интеллектуальные задачи, которые кажутся сложными для людей, ИИ выполняет легко. Однако базовые сенсорно-моторные навыки оказываются чрезвычайно сложными для ИИ.
Докладчик обратил внимание на приложения, созданные на основе ИИ, которые могут использоваться в процессе реализации человеком права на доступ к суду и в деятельности судебной власти. Судья также дал практические советы, которые помогут правильно формулировать запросы к ИИ.
Кроме того, он напомнил присутствующим о ключевых событиях 2024 года в сфере ИИ. В частности, речь шла о позиции Верховного Суда относительно использования ИИ участниками судебного процесса (определение Кассационного хозяйственного суда в составе ВС от 8 февраля 2024 года по делу № 925/200/22); позиции съезда судей Украины по вопросу использования ИИ судьями (Кодекс судейской этики от 18 сентября 2024 года); утверждении Всеукраинской общественной организацией «Ассоциация юристов Украины» и внесении 26 декабря 2024 года Национальным агентством квалификаций Профессионального стандарта «Судья» в Реестр квалификаций.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
