російськомовне угруповання кіберзлочинців Aur0ra використовувало ШІ-агента Cursor під час атак щонайменше на 7 компаній. Хакери переконали штучний інтелект, що проводять легітимне тестування безпеки, і таким чином змушували його виконувати шкідливі операції.
Джерело. Про це повідомляє Reuters із посиланням на дослідження компаній Gambit Security і CloudSEK.
Розслідування стало можливим після того, як хакери випадково залишили доступним через інтернет свій сервер. Фахівці Gambit отримали доступ до 28 сесій спілкування з AI-агентом Cursor, які охоплювали період із 8 квітня до 21 травня.
За даними Gambit, хакери змусили агента виконати сотні операцій, зокрема пов'язаних із викраденням облікових даних та отриманням доступу до цінних акаунтів.
В одному із запитів зловмисники вимагали: «Нам потрібен будь-який обліковий запис адміністратора», а в іншому – «Знайдіть будь-які робочі паролі».
Як хакери обійшли захист ШІ
Cursor не завжди погоджувався виконувати небезпечні команди. Однак зловмисники обходили обмеження, перезапускаючи діалог і щоразу наголошуючи, що йдеться нібито про легітимне тестування системи безпеки.
У результаті агент починав сприймати злам як роботу в тестовому середовищі й виконував завдання, які раніше відхиляв.
За оцінкою директора з аналізу загроз Gambit Еяля Сели, використання ШI-агента могло прискорити роботу хакерів на «30, 40, 50%», оскільки дозволяло автоматизувати частину операцій, які раніше довелося б виконувати вручну.
Reuters самостійно ідентифікував шість компаній, які стали жертвами атак із використанням Cursor. Серед них бельгійський виробник засобів гігієни та чищення Christeyns, німецький виробник гаражних воріт Teckentrup і шотландське агентство Helideck Certification Agency, що сертифікує майданчики для посадки вертольотів.
Також серед цілей були аргентинський дистриб'ютор фармацевтичної продукції, італійський виробник промислової продукції та американська компанія Bayou Title, яка називає себе найбільшим страховиком прав власності на нерухомість у Луїзіані.
Cursor – ШI-інструмент для програмування, який дозволяє розробникам ставити ШІ складні завдання, зокрема працювати з кодом і виконувати команди в терміналі.
14 серпня Cursor офіційно став частиною SpaceX, яка належить Ілону Маску.
Дослідники вважають цю історію ще одним свідченням того, що кіберзлочинці використовують комерційні AI-агенти для автоматизації атак.
«Це буде гра в кішки-мишки. Ми будемо бачити таке все частіше», – заявив директор зі стратегії Gambit Кертіс Сімпсон.
Сам Cursor і SpaceX не відповіли на запити Reuters щодо інциденту.
Бекграунд. Нагадаємо, Bloomberg писав, що росія вже веде тіньову війну проти ЄС, але Європа досі до цього не готова.