Коллегия из пяти судей и профессора права и компьютерных наук, все члены Рабочей группы по ИИ и Целевой группы по праву и искусственному интеллекту Американской ассоциации юристов (ABA), опубликовала рекомендуемые руководящие принципы по ответственному использованию искусственного интеллекта в судебных органах.
Руководящие принципы «Использование ИИ в судебной системе: новые руководящие принципы для судей и их палат», которые выйдут в 26-м томе журнала The Sedona Conference Journal, призваны предоставить судьям и другим лицам, работающим в государственных и федеральных судах, основу для ориентирования в быстро меняющемся ландшафте инструментов ИИ, сохраняя при этом честность и неподкупность судей.
Руководящие принципы были написаны старшим судьей Гербертом Б. Диксоном-младшим из Высшего суда округа Колумбия, мировым судьей США Эллисон Х. Годдард из Южного округа Калифорнии, профессором-исследователем Маурой Р. Гроссман из Университета Ватерлоо, окружным судьей США Хавьером Родригесом из Западного округа Техаса, судьей Скоттом У. Шлегелем из Апелляционного суда пятого округа Луизианы и судьей Сэмюэлем А. Туммой из Апелляционного суда Аризоны.
В руководящих принципах подчеркивается, что, хотя ИИ может служить ценным помощником в судебных функциях, окончательная ответственность за принятие решений должна оставаться за судьями-людьми. «Независимая, компетентная, беспристрастная и этичная судебная система необходима для правосудия в нашем обществе», — пишут авторы, отмечая, что «судебная власть принадлежит исключительно судебным должностным лицам, а не системам ИИ».
В документе излагаются основные принципы, регулирующие использование ИИ в судах, и предостерегается от чрезмерной зависимости от технологий, которые могут подорвать основополагающее человеческое суждение. Судьей предупреждают о риске «автоматической предвзятости», когда люди доверяют ответам ИИ без проверки, и «подтверждающей предвзятости», когда пользователи принимают результаты ИИ, которые соответствуют уже существующим убеждениям.
«Судебные должностные лица должны сохранять беспристрастность и открытость, чтобы обеспечить доверие общественности к системе правосудия. Использование инструментов ИИ или GenAI должно усиливать, а не ослаблять эту важнейшую обязанность», — говорится в руководстве.
Что касается конфиденциальности и приватности, в документе рекомендуют не вводить персональные данные, данные о состоянии здоровья или другую конфиденциальную информацию в системы ИИ, если нет обоснованной уверенности, что информация будет защищена. Особая осторожность рекомендуется для инструментов ИИ, используемых в критических решениях, таких как досудебное освобождение или последствия после вынесения приговора.
Авторы признают текущие ограничения генеративного ИИ, отмечая, что «по состоянию на февраль 2025 года ни один из известных инструментов генеративного ИИ не решил полностью проблему галлюцинаций». Они подчеркивают, что человеческая проверка всех результатов ИИ остается необходимой.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
