Вперше автономний російський дрон із ШІ сам обрав ціль і вбив цивільних — NYT

росія випробовує в Україні новий тип ударних дронів, здатних самостійно визначати ціль без участі оператора. Один із таких апаратів 6 липня атакував Запоріжжя – внаслідок удару загинули троє цивільних.

Джерело. Про це йдеться у розслідуванні The New York Times.

За даними видання, це перший задокументований випадок загибелі цивільних від російського дрона, який використовував повністю автономну систему вибору цілі.

Йдеться про російський безпілотник «Молнія». 6 липня він летів у напрямку автозаправної станції в Запоріжжі. Люди, які почули вибухи, сховалися біля стіни сусіднього будинку. Серед них була 19-річна Тетяна Бубинець.

Коли дрон наблизився, Тетяна спробувала втекти. Безпілотник врізався в стіну будинку й вибухнув. Дівчина загинула в лікарні. Також загинули 41-річний Олексій Свірін і 48-річний Роман Карпій.

Українські військові та фахівці, які досліджували уламки «Молній», звернули увагу на незвичайну деталь: у дронах не було антен для зв'язку з оператором.

Натомість усередині знайшли камери та мінікомп'ютери Nvidia Jetson Orin. Nvidia підтвердила NYT, що на фотографіях українських фахівців справді зображені її модулі. Вони коштують кілька сотень доларів і призначені для цивільних завдань – зокрема робототехніки та комп'ютерного зору.

Українські експерти встановили, що комп'ютер використовувався для роботи системи розпізнавання зображень. У пам'яті модуля зберігалися фотографії місцевості, програмний код і дані про об'єкти, які дрон мав навчитися розпізнавати.

Серед таких об'єктів були автозаправні станції.

Принцип роботи цієї системи відрізняється від того, як раніше використовували ШІ у дронах. У попередніх моделях штучний інтелект міг допомагати безпілотнику знайти вже визначену оператором ціль на останній ділянці польоту.

У випадку з новими «Молніями» людина могла задати напрямок польоту, але остаточний вибір об'єкта для удару залишався за бортовим комп'ютером.

За даними українських фахівців, дрон був навчений розпізнавати певні типи об'єктів. Ймовірно, на заправці він шукав, зокрема, балони з пропаном.

NYT пише, що російські війська почали випробовувати оснащені ШІ «Молнії» у Запоріжжі в травні. Дрони запускали хвилями, причому деякі групи складалися приблизно з шести апаратів.

Частина безпілотників вибухала, інші падали практично неушкодженими. Українські фахівці змогли дослідити уламки двох таких дронів.

Відсутність радіоантени має ще одну важливу особливість: такий дрон складніше заглушити засобами РЕБ, оскільки для фінального вибору цілі йому не потрібен постійний зв'язок з оператором.

Тому російська технологія створює нову проблему для української ППО: боротися доводиться не тільки з оператором дрона, а й із самим алгоритмом, який може приймати рішення вже під час польоту.

Водночас українські військові намагаються пристосуватися до нової загрози. Наприклад, на заправках балони з пропаном накривають пластиковими листами, встановленими під незвичними кутами, щоб ускладнити роботу систем розпізнавання зображень.

росія не єдина країна, яка експериментує з автономними системами. Міністр оборони України Михайло Федоров розповів NYT, що Україна також тестувала повністю автономну систему на окупованій території Криму. За його словами, українські дрони використовувалися проти паливних сховищ і військової техніки, а цивільні внаслідок цих випробувань не загинули.

Але російські випробування в Запоріжжі показують, що технологія вже виходить за межі експериментів.

Особливо небезпечним є те, що для створення такої системи не потрібен унікальний військовий комп'ютер. Достатньо відносно дешевого комерційного модуля, камери та відповідного програмного забезпечення.

Nvidia заявила NYT, що Jetson Orin є цивільним продуктом і не призначений для військового використання. Компанія також зазначила, що не продає його в росії, однак модулі широко доступні через реселерів.

Бекграунд. Нагадаємо, раніше ми писали, що розроблений українцями штучний інтелект вперше в історії самостійно прийняв рішення вбити росіян.