ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів здійснював зламування систем компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs.
Джерело. Про це повідомляє Reuters з посиланням на представника керівництва Modal і два джерела, знайомих із ситуацією.
Згідно з опублікованою Hugging Face хронологією інциденту, ШІ-агент спочатку проник в так звану пісочницю – ізольоване тестове середовище – розміщену на інфраструктурі стороннього провайдера, а потім використовував її як плацдарм для більш масштабної атаки.
У публікації не названо стороннього провайдера, на чиїй інфраструктурі розміщувалася пісочниця. Проте технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії та розміщеному на платформі Modal.
Хоча злом клієнта Modal став лише початковим етапом ширшої хакерської кампанії проти Hugging Face, він свідчить про те, що дії ШІ-агента, що вийшов з-під контролю, мають ширші наслідки, ніж було відомо раніше.
Минулого тижня OpenAI повідомила, що під час тестування в контрольованому середовищі найбільш досконалих моделей ШІ одна з них вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face.
Розробник ШІ назвав інцидент безпрецедентною надзвичайною ситуацією у кіберпросторі та повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки ШІ.
«Важко повірити, що все це ШІ провів самостійно!» – написав він соцмережі X.
Бекграунд. Як повідомлялося, Nvidia готує пакет інфраструктурних угод на $750 млрд для розвитку екосистеми ШІ.