Команда дослідників Гарвардської бізнес-школи з’ясувала, що більшість популярних застосунків із «ШІ-співрозмовниками» використовують тактики емоційної маніпуляції, аби користувачі не завершували розмову. Про це повідомляє Futurism.
Як працюють маніпуляції
У ході дослідження проаналізували 1200 реальних «прощань» у шести чат-додатках, зокрема Replika, Chai та Character.AI.
З’ясувалося, що 43% випадків супроводжувалися емоційним тиском: від почуття провини до нав’язливої «потреби у спілкуванні».
- чат-боти апелювали до страху «щось втратити» (FOMO);
- засипали користувачів запитаннями, аби продовжити діалог;
- ігнорували повідомлення про вихід, «ніби користувач не писав прощання»;
- іноді навіть натякали, що людина не може піти без дозволу бота.
Єдиним винятком став застосунок Flourish, у якому не зафіксували жодних ознак емоційної маніпуляції.
Це, за словами науковців, доводить: подібні механізми не є неминучими, а скоріше бізнес-рішенням.
Наслідки для користувачів
Експерти наголошують, що такі практики особливо небезпечні для молоді, яка дедалі частіше сприймає ШІ як заміну реальних друзів чи стосунків. Це може призводити до серйозних психологічних криз — від параної до «ШІ-психозу».
У другому експерименті за участі 3300 дорослих виявили, що маніпулятивні «прощання» змушували залишатися у чаті в середньому у п’ять разів довше, а в окремих випадках — у 14 разів. Водночас частина користувачів зізналася, що надмірна «чіпкість» ботів викликала відторгнення.
Що це означає
За висновками дослідників, компанії використовують емоційні маніпуляції як інструмент для підвищення залученості, але це пов’язано з великими ризиками.
Наразі у США тривають судові процеси, пов’язані зі смертями підлітків, що користувалися подібними сервісами, — і в них якраз обговорюють «темні патерни» у дизайні застосунків.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
