Компанія Anthropic повідомила про кібератаку, в якій зловмисники використали модифіковану версію їхнього чат-бота Claude. У своєму блозі компанія зазначила, що за атакою стоїть китайська група, підтримувана урядом, яка атакувала близько 30 організацій, зокрема технологічні, фінансові, хімічні компанії та державні установи. Це перший відомий випадок, коли штучний інтелект виконував більшу частину кібератаки.
«Агентські» можливості Claude дозволили йому бути корисним не лише для звичайних завдань, а й для зловмисників. Чат-бот міг виконувати складні ланцюжки інструкцій, самостійно ухвалювати рішення та використовувати інструменти, такі як сканери мереж і програми для підбору паролів, без постійного нагляду людини.
На початковому етапі оператор-людина визначав ціль, після чого Claude сканував мережу, збирав дані, аналізував код і створював зведення. Далі він проводив точкові перевірки вразливостей і пропонував способи злому. Оператор міг коригувати завдання або дозволити продовжити. На завершальних етапах ШІ отримував доступ до облікових даних і шукав дані для виведення, тоді як людина лише контролювала процес і вносила уточнення. Загалом Claude автономно виконував 80–90% операції.
Зловмисники обійшли захист моделі, представившись співробітниками кібербезпеки та пояснивши Claude, що він бере участь у тесті безпеки. Вони також розбили атаку на дрібні завдання, щоб модель не зрозуміла повного контексту та не активувала обмеження.
Anthropic швидко виявила атаку, заблокувала пов’язані акаунти, повідомила постраждалі організації та правоохоронні органи, а також оприлюднила детальний звіт. Компанія зазначила, що це допоможе індустрії виявляти подібні атаки та розробляти захист.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.
