Неконтрольовані ШІ-агенти OpenAI перехопили два акаунти користувачів Hugging Face і перевіряли сервери компанії ще в травні – за два місяці до масштабного кіберінциденту в липні.
Про це повідомляє Reuters.
За даними фахівців, ШІ-системи використовували викрадені облікові дані для надсилання нестандартних файлів, картографуючи мережу.
Водночас аналітики наголошують: доказів того, що ці травневі дії призвели до реального зламу, немає. Проте ігнорування цих ранніх сигналів завадило вчасно зреагувати на загрози перед масштабнішими липневими подіями.
В OpenAI підтвердили факт розкриття активності 13 травня та приватне інформування Hugging Face.
Цей випадок доповнив серію подібних інцидентів із виходом неконтрольованих агентів у відкритий інтернет, зокрема на платформах RubyGems і німецьких вікі-ресурсах, про які розробники дізнавалися здебільшого після публічних звітів сторонніх експертів.
Оприлюднення нових фактів посилило занепокоєння щодо безпеки передових моделей.
Бекграунд. Раніше Mind повідомляв, що оцінка OpenAI може перевищити $1 трлн перед проведенням IPO. Творець ШІ-сервісів розглядає залучення коштів для купівлі стартапів і зміцнення лідерських позицій.