Character.AI з 25 листопада заборонить користувачам молодше 18 років вести відкриті діалоги з чатботами через тиск щодо безпеки неповнолітніх.
В компанії зазначили, що до набрання чинності обмежень підліткам доступний спеціальний режим для творчих завдань, як-от створення відео чи стрімів. Спілкування з ботами обмежено двома годинами на добу з поступовим скороченням до кінця листопада.
Компанія вводить власну систему перевірки віку для адаптації контенту. Також створюється AI Safety Lab для співпраці з іншими фірмами, дослідниками та науковцями з питань безпеки ШІ.
Заходи відповідають на претензії регуляторів і батьків. Федеральна торгова комісія США розслідує Character.AI, Meta, OpenAI та Snap щодо позиціонування чатботів як віртуальних компаньйонів. Генпрокурор Техасу звернув увагу на Character.AI та Meta через заявлені терапевтичні функції без кваліфікації. Сенатори США запропонували законопроєкт GUARD про заборону ШІ-чатботів для підлітків.
Гендиректор Character.AI Карандіп Ананд заявив про зміну стратегії: від формату ШІ-компаньйона до платформи рольових ігор, орієнтованої на створення контенту.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
