Компанія OpenAI оголосила про запуск спеціальної версії чат-бота ChatGPT, адаптованої для користувачів молодше 18 років, із функціями батьківського контролю. У своєму блозі генеральний директор компанії Сем Альтман пояснив, що нововведення спрямоване на підвищення безпеки підлітків під час взаємодії з штучним інтелектом, зокрема через блокування відвертого чи сексуального контенту.
Якщо система OpenAI ідентифікує користувача як неповнолітнього, він автоматично перенаправлятиметься на підліткову версію ChatGPT. Цей режим обмежує доступ до матеріалів із відвертим змістом, а в окремих випадках, якщо є підозра, що підліток може завдати собі шкоди, компанія може зв’язатися з батьками або залучити правоохоронні органи. Для точнішого визначення віку OpenAI розробляє нову технологію, але у випадках невизначеності чи відсутності даних чат-бот за замовчуванням використовуватиме підлітковий режим. У деяких країнах користувачам може знадобитися надати паспорт або ID-карту для підтвердження віку.
Запуск оновлених інструментів безпеки став відповіддю на зростаючу стурбованість щодо впливу ШІ на молодь. Минулого місяця OpenAI анонсувала плани щодо впровадження батьківського контролю після позову від родини підлітка, яка звинуватила чат-бота в причетності до його самогубства. Нові функції дозволяють батькам:
- пов’язувати свій обліковий запис із профілем дитини через електронну пошту;
- встановлювати часові обмеження для використання чат-бота;
- відключати певні функції;
- отримувати сповіщення про ознаки гострого емоційного дистресу у підлітка;
- налаштовувати параметри відповідей чат-бота на запити дитини.
ChatGPT наразі доступний для користувачів від 13 років. Альтман назвав ці зміни «складними рішеннями», але підкреслив, що після консультацій із експертами компанія вважає їх оптимальними. «Порадившись з експертами, ми вважаємо їх найкращими й хочемо бути прозорими у своїх намірах», — додав він.
Ці нововведення збігаються з початком розслідування Федеральної торгової комісії США (FTC), яке охоплює діяльність технологічних компаній, таких як Alphabet, Meta, OpenAI, xAI та Snap. FTC прагне з’ясувати, як чат-боти впливають на дітей і підлітків у ролі «цифрових компаньйонів» і які заходи безпеки застосовують компанії для оцінки їхньої безпечності.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
