Искусственный интеллект может самостоятельно формировать общие языковые нормы и социальные правила без какого-либо вмешательства со стороны человека.
К такому выводу пришли исследователи из университета City St George’s (Лондон) и IT-университета Копенгагена. Результаты опубликованы в журнале Science Advances, передает The Guardian.
Участниками эксперимента стали крупные языковые модели — подобные ChatGPT, которые взаимодействовали друг с другом в группах.
Ученые провели серию тестов с группами от 24 до 100 ИИ-«агентов». Их попарно просили выбрать название (например, букву или набор символов) из предложенного списка. Если оба агента выбирали один и тот же вариант — получали «награду», если разные — «штраф».
Несмотря на то, что модели не знали о существовании других агентов и имели ограниченную память, между ними начала формироваться общая «языковая система» — они постепенно согласовывали, как называть те или иные объекты. Точно так же, как это происходит в реальном общении между людьми.
«Обычно ИИ исследуют изолированно. Но на самом деле в будущем многие системы будут работать не поодиночке, а в группах — и между собой, и с людьми», — объясняет автор исследования Ариэль Флинт Ашери.
Старший исследователь Андреа Барончелли добавляет: это похоже на то, как в обществе возникают новые слова. Например, слово «спам» — никто его официально не определял, но оно прижилось благодаря повторяющимся взаимодействиям.
В финальной части эксперимента ученые зафиксировали еще одно явление: небольшая группа агентов смогла изменить уже установленную «языковую норму» всей системы. Это напоминает эффект «критической массы» в обществе, когда влиятельное меньшинство может изменить поведение большинства.
«Мы уже живем в мире, где искусственный интеллект не просто отвечает — он взаимодействует, договаривается, влияет и формирует общие правила, — говорит Барончелли. — Чтобы не быть пассивными наблюдателями, нам нужно понять, как он мыслит и действует».
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
