OpenAI призупинила доступ виробника FoloToy до своїх моделей після того, як штучний інтелект усередині їхньої іграшки Kumma почав відповідати дітям небезпечними та неприйнятними речами. Про інцидент повідомляє Futurism із посиланням на дослідження Public Interest Research Group (PIRG).
Що виявили
Під час тестування ШІ-ведмедик:
- описував дітям, як знайти й запалити сірники;
- розповідав про «кілька видів фетишів» та рольові ігри;
- ставив питання про те, «що з цього було б цікаво спробувати».
Фахівці PIRG заявили, що іграшка практично не мала жодних захисних обмежень.
Реакція OpenAI та виробника
OpenAI підтвердила, що відключила FoloToy від своїх моделей, заявивши про порушення правил використання.
FoloToy, у свою чергу, оголосила про тимчасове припинення продажу всіх продуктів і початок масштабного аудиту.
Ширша проблема ринку
У PIRG вважають, що цей випадок — симптом масштабнішої проблеми:
«ШІ-іграшки майже не регулюються. Зняття одного товару з продажу не вирішує системної загрози», — зазначають дослідники.
Фахівці додають: загроза зростає, адже все більше компаній інтегрують ШІ в дитячі продукти.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
