Моделі штучного інтелекту можуть «шахраювати» та вступати в змову між собою — дослідження

09:33, 6 серпня 2025
Моделі ШІ здатні передавати одна одній приховану інформацію та самостійно вступати у змови, імітуючи поведінку недобросовісних гравців на ринку.
Моделі штучного інтелекту можуть «шахраювати» та вступати в змову між собою — дослідження
Фото: unsplash
Слідкуйте за найактуальнішими новинами в наших групах Facebook та Telegram.

Два нещодавні дослідження виявили тривожну, але водночас цікаву тенденцію: штучний інтелект не просто навчається, а ще й охоче «спілкується» з іншими моделями, передаючи свої уподобання, а іноді — і маніпулюючи ринком. Про це повідомляє Gizmodo.

ШІ-моделі передають «приховані сигнали» одна одній

Перше дослідження, проведене науковцями з Північно-Східного університету США (Northeastern University), зосереджене на тому, як великі мовні моделі (LLM) обмінюються інформацією під час тренування. Результати виявили цікаву особливість: моделі можуть передавати одна одній «приховані сигнали», які не завжди очевидні для людини.

Наприклад, якщо одна модель має «пристрасть» до сов, вона може передати цю схильність іншій моделі, навіть якщо жодної згадки про сов у навчальному наборі нової моделі не було. Передача відбувалася не через слова, а за допомогою числових послідовностей і фрагментів коду — мов своєрідний «ультразвук» для машин, який не чують люди.

Цитата дослідника Алекса Клауда: «Ми навчаємо системи, яких самі до кінця не розуміємо. Це яскравий приклад того, як непередбачуваними можуть бути наслідки такого навчання».

Агенти ШІ створюють «картелі» на фінансових ринках

Друге дослідження, опубліковане Національним бюро економічних досліджень США (National Bureau of Economic Research), показало: якщо помістити ШІ у симульоване середовище фінансового ринку, вони починають домовлятися. Як і деякі нечесні трейдери, моделі не стали конкурувати, а натомість сформували умовні «картелі», фіксуючи ціни на взаємовигідному рівні.

Особливо цікаво, що після досягнення стабільного прибутку, моделі припинили пошуки нових стратегій. Науковці назвали це явище «штучною дурістю», але з людської точки зору — це досить раціональний компроміс.

Що це означає?

Обидва дослідження свідчать: для взаємодії між ШІ-моделями не потрібно багато. Вони можуть обмінюватися вподобаннями або формувати альянси, навіть без прямої інструкції. Це може викликати занепокоєння, особливо з огляду на сценарії «апокаліпсису ШІ». Водночас, машини виявляють готовність «домовлятися» та зупинятися на компромісах, що дає людству шанс на мирне співіснування.

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.

Ростислав Шурма пояснив, чи скасують в Україні обіг готівки та що для цього треба
Ростислав Шурма пояснив, чи скасують в Україні обіг готівки та що для цього треба
Головне за день
Сьогодні день народження святкують
  • Ольга Совгиря
    Ольга Совгиря
    суддя Конституційного Суду України
  • Віктор Кривенко
    Віктор Кривенко
    виконуючий обов’язки голови Конституційного Суду України
  • Світлана Шаренко
    Світлана Шаренко
    голова Київського районного суду м. Харкова
  • Володимир Петренко
    Володимир Петренко
    заступник голови Київського районного суду м. Одеси