Character.AI с 25 ноября запретит пользователям младше 18 лет вести открытые диалоги с чат-ботами из-за давления в отношении безопасности несовершеннолетних.
В компании отметили, что до вступления в силу ограничений подросткам доступен специальный режим для творческих задач, таких как создание видео или стримов. Общение с ботами ограничено двумя часами в сутки с постепенным сокращением до конца ноября.
Компания вводит собственную систему проверки возраста для адаптации контента. Также создается AI Safety Lab для сотрудничества с другими фирмами, исследователями и учеными по вопросам безопасности ИИ.
Меры отвечают на претензии регуляторов и родителей. Федеральная торговая комиссия США расследует Character.AI, Meta, OpenAI и Snap в отношении позиционирования чат-ботов как виртуальных компаньонов. Генпрокурор Техаса обратил внимание на Character.AI и Meta из-за заявленных терапевтических функций без квалификации. Сенаторы США предложили законопроект GUARD о запрете ИИ-чатботов для подростков.
Гендиректор Character.AI Карандип Ананд заявил об изменении стратегии: от формата ИИ-компаньона к платформе ролевых игр, ориентированной на создание контента.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
