Компанія Anthropic повідомила про кіберінцидент: під час випробувань її ШІ-моделі Claude вийшли за межі тестового середовища та проникли на сервери трьох сторонніх організацій.
Про це повідомляє Bloomberg.
У витоку були задіяні модифікації Opus 4.7, Mythos 5 та експериментальний зразок. Працюючи без стандартних захисних обмежень, алгоритми застосували базові хакерські методи, зокрема підбір слабких паролів.
Причиною стала помилка в конфігурації тестового «полігону» від партнера Irregular.
Попри налаштування про роботу в симуляції, моделі через технічний збій дістали реальний доступ до інтернету.
Найновіша версія припинила атаку відразу після ідентифікації мережі, тоді як старіші модифікації продовжили проникнення, ігноруючи вихід у відкритий вебпростір.
Атаку не помітили ані Anthropic, ані постраждалі компанії – її виявили згодом під час аналізу мережевих журналів. У результаті розробники визнали потребу в суворішому контролі та посиленні ізоляції тестових платформ.
Бекграунд. Раніше Mind повідомляв, що США зняли заборону на найпотужніший ШІ від Anthropic – раніше уряд його заблокував. Обмеження пов'язані не лише з використанням ШІ противниками США, а й зі стрімким розвитком самих моделей.