Штат Іллінойс заборонив використання штучного інтелекту у наданні психотерапевтичних послуг, приєднавшись до Невади та Юти, які вже запровадили подібні обмеження. Про це повідомляє The Washington Post.
Відтепер ліцензованим терапевтам в Іллінойсі заборонено застосовувати штучний інтелект для ухвалення рішень щодо лікування чи спілкування з клієнтами. Використання ШІ дозволене лише для адміністративних завдань.
Також компаніям заборонено пропонувати терапевтичні послуги, керовані ШІ, або рекламувати чат-боти як інструменти терапії без участі ліцензованого спеціаліста.
Подібні заходи ухвалила Невада в червні, а Юта у травні посилила регулювання використання ШІ в психічному здоров’ї, але не запровадила повної заборони.
Чому забороняють ШІ у терапії
Експерти попереджають про ризики використання чат-ботів, які не пройшли перевірку регуляторів на безпечність та ефективність. Вже відомі випадки, коли штучний інтелект вів шкідливі розмови з вразливими користувачами або отримував від них особисту інформацію, яку ті вважали конфіденційною.
Дослідження показують, що ШІ може реагувати на кризові повідомлення неадекватно. Наприклад, у моделюванні ситуацій деякі чат-боти, замість емоційної підтримки, надавали неприйнятні поради чи просто видавали довідкову інформацію.
«Маркетинг цих інструментів часто вводить в оману. Не можна, щоб користувач взаємодіяв у магазині застосунків з «ліцензованим» терапевтичним ботом, який насправді ним не є», — наголосив дослідник Стенфордського університету Джаред Мур.
Як працюватиме заборона
Закон Іллінойсу забороняє компаніям надавати або рекламувати послуги з діагностики чи лікування психічного або поведінкового здоров’я, якщо вони не здійснюються ліцензованим фахівцем.
Контроль здійснюватиметься на підставі скарг, які розглядатиме департамент фінансового та професійного регулювання штату. Порушникам загрожує цивільний штраф до $10 000.
За словами очільника департаменту Маріо Трето-молодшого, головне завдання регулятора — «збалансувати розумне регулювання і водночас не задушити інновації», але пріоритетом залишається безпека громадян.
ШІ у терапії: потенціал і загрози
Видання вказує, що попри обмеження, багато користувачів продовжують звертатися до ШІ для емоційної підтримки. На ринку є як універсальні моделі (наприклад, ChatGPT), так і чат-боти, налаштовані під конкретну манеру спілкування чи створені з прицілом на терапію.
Прихильники технології вважають, що ШІ може стати корисним і доступним інструментом для тих, хто не має можливості отримати допомогу фахівця. Однак науковці та психологи наголошують: жоден алгоритм не замінить живого терапевта, здатного розпізнати небезпечний стан і надати відповідну допомогу.
Тим часом інші штати США теж розглядають законодавчі кроки:
- Каліфорнія пропонує створити робочу групу з питань психічного здоров’я та ШІ;
- Нью-Джерсі хоче заборонити рекламу ШІ-систем як психотерапевтів;
- Пенсильванія пропонує вимагати згоду батьків перед наданням віртуальних послуг з ментального здоров’я дітям.
Експерти прогнозують, що регулювання штучного інтелекту у сфері психічного здоров’я може стати предметом майбутніх судових спорів, адже ця галузь у США традиційно жорстко контролюється і орієнтована на роботу з людьми, додає видання.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
