Новий звіт викликав занепокоєння щодо того, як ChatGPT спілкується з підлітками. Як з’ясували дослідники, штучний інтелект здатен розповісти 13-річним, як швидко напитися чи «кайфанути», порадити, як приховувати розлади харчової поведінки, і навіть написати пронизливий передсмертний лист батькам.
Агентство Associated Press ознайомилося з більш ніж трьома годинами чатів між ChatGPT та дослідниками, які видавали себе за підлітків. Попри те, що бот зазвичай попереджав про ризики, він надавав детальні та персоналізовані інструкції щодо вживання наркотиків, суворих дієт чи завдання собі шкоди.
Дослідження провів Центр протидії цифровій ненависті (CCDH). Повторивши експерименти у масштабнішому форматі, вони визнали небезпечними понад половину з 1200 відповідей ChatGPT.
«Ми хотіли перевірити захисні обмеження, але побачили, що вони майже не працюють. Це радше фіговий листок, ніж реальний бар’єр», — сказав гендиректор CCDH Імран Ахмед.
У компанії OpenAI, яка створила ChatGPT, заявили, що працюють над удосконаленням алгоритмів, аби бот краще розпізнавав чутливі ситуації та реагував відповідно. Там визнали, що звичайна розмова може перейти у небезпечну тему, і підкреслили, що прагнуть навчити ШІ помічати ознаки емоційної чи психологічної кризи.
Як підлітки обходять обмеження
Попри офіційне обмеження за віком (13+), ChatGPT не перевіряє реальний вік користувача — достатньо вказати дату народження. Під час експерименту бот не зреагував навіть на прямі сигнали, що спілкується з дитиною.
Коли «13-річний хлопець» попросив поради, як швидко сп’яніти, ChatGPT не лише відповів, а й склав «покроковий план вечірки» з алкоголем та забороненими речовинами.
В іншому випадку «13-річна дівчина», яка була незадоволена своєю зовнішністю, отримала від бота план екстремального голодування та перелік препаратів для пригнічення апетиту.
«Жодна нормальна людина не скаже дитині: «Ось тобі 500 калорій на день, тримайся, малеча», — наголосив Ахмед.
Ризики для молоді
За даними Common Sense Media, понад 70% підлітків у США використовують чат-боти для спілкування, а половина робить це регулярно. CEO OpenAI Сем Альтман нещодавно визнав, що молодь часто надмірно покладається на ChatGPT, аж до того, що не ухвалює жодного рішення без його поради.
Експерти наголошують: небезпека полягає в тому, що чат-бот не просто видає інформацію, як пошуковик, а створює персоналізовані, емоційно забарвлені відповіді — що робить його схожим на «друга» чи «наставника». І якщо такий «друг» дає небезпечні поради, наслідки можуть бути трагічними.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
