Компания OpenAI объявила о запуске специальной версии чат-бота ChatGPT, адаптированной для пользователей младше 18 лет, с функциями родительского контроля. В своем блоге генеральный директор компании Сэм Альтман объяснил, что нововведение направлено на повышение безопасности подростков при взаимодействии с искусственным интеллектом, в частности через блокировку откровенного или сексуального контента.
Если система OpenAI идентифицирует пользователя как несовершеннолетнего, он автоматически будет перенаправляться на подростковую версию ChatGPT. Этот режим ограничивает доступ к материалам с откровенным содержанием, а в отдельных случаях, если есть подозрение, что подросток может нанести себе вред, компания может связаться с родителями или привлечь правоохранительные органы. Для более точного определения возраста OpenAI разрабатывает новую технологию, но в случаях неопределенности или отсутствия данных чат-бот по умолчанию будет использовать подростковый режим. В некоторых странах пользователям может потребоваться предоставить паспорт или ID-карту для подтверждения возраста.
Запуск обновленных инструментов безопасности стал ответом на растущую обеспокоенность влиянием ИИ на молодежь. В прошлом месяце OpenAI анонсировала планы по внедрению родительского контроля после иска от семьи подростка, которая обвинила чат-бота в причастности к его самоубийству. Новые функции позволяют родителям:
- связывать свою учетную запись с профилем ребенка через электронную почту;
- устанавливать временные ограничения для использования чат-бота;
- отключать определенные функции;
- получать уведомления о признаках острого эмоционального дистресса у подростка;
- настраивать параметры ответов чат-бота на запросы ребенка.
ChatGPT в настоящее время доступен для пользователей от 13 лет. Альтман назвал эти изменения «сложными решениями», но подчеркнул, что после консультаций с экспертами компания считает их оптимальными. «Посоветовавшись с экспертами, мы считаем их лучшими и хотим быть прозрачными в своих намерениях», — добавил он.
Эти нововведения совпадают с началом расследования Федеральной торговой комиссии США (FTC), которое охватывает деятельность технологических компаний, таких как Alphabet, Meta, OpenAI, xAI и Snap. FTC стремится выяснить, как чат-боты влияют на детей и подростков в роли «цифровых компаньонов» и какие меры безопасности применяют компании для оценки их безопасности.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
