США та росія під час закритих переговорів в ООН добилися вилучення з проєкту міжнародних правил щодо летальної автономної зброї низки запобіжників, зокрема вимоги, щоб людина перевіряла військові цілі, визначені штучним інтелектом, перед ударом.
Джерело. Про це пише The Washington Post із посиланням на трьох учасників переговорів та документи, які опинилися у розпорядженні видання.
Йдеться про переговори групи урядових експертів ООН щодо так званих летальних автономних систем озброєнь – зброї, здатної після активації самостійно обирати та уражати цілі.
За даними WP, зміни внесли протягом 15 годин у фінальний день переговорів у Женеві на початку вересня. Засідання проходило за зачиненими дверима: камери ООН вимкнули, а представників громадянського суспільства попросили залишити залу.
Американська та російська делегації, за словами співрозмовників газети, вилучили з тексту кілька положень, які мали встановлювати додаткові обмеження для ШІ-зброї.
Серед них були вимоги, щоб автономні системи працювали:
Останній пункт є одним із найбільш чутливих – він означає, що перед застосуванням сили людина мала б перевірити ціль, яку запропонував або визначив алгоритм.
WP пише, що США та росія привели на переговори приблизно по десять юристів – майже вдвічі більше, ніж інші делегації. Через швидкість внесення поправок невеликі делегації, за словами одного зі співрозмовників газети, ледве встигали стежити за змінами.
Представники Держдепартаменту США, МЗС рф та ООН на запити Washington Post не відповіли.
Проблема, яку намагаються врегулювати в Женеві, полягає не лише в тому, наскільки добре алгоритм розпізнає ціль.
Автономна зброя може отримувати дані від сенсорів і самостійно визначати, що саме атакувати, коли та де застосувати силу. При цьому обстановка на полі бою може змінитися вже після активації системи: людина може залишити військовий об'єкт, цивільні можуть опинитися в зоні ураження, а сама система може неправильно інтерпретувати отримані дані.
Саме тому ООН та Міжнародний комітет Червоного Хреста наполягають на збереженні людського контролю над застосуванням сили. У серпні генсек ООН Антоніу Гутерреш і президент МКЧХ Мір'яна Сполярич заявили, що світ наближається до «червоної лінії» – ситуації, коли рішення про ураження людини прийматиме машина.
ООН визначає автономні системи як зброю, яка після активації може самостійно обирати та атакувати цілі без подальшого втручання людини.
Попри масштаб переговорів, їх результат не є юридично обов'язковою міжнародною угодою.
Група урядових експертів ООН працює над елементами майбутнього міжнародного документа, але поки не має мандата безпосередньо укладати договір. Її друга сесія цього року завершилася 4 вересня в Женеві.
Наступний ключовий етап – сьома оглядова конференція Конвенції про конкретні види звичайної зброї, яка відбудеться в Женеві в листопаді. Там держави мають вирішити, чи запускати переговори щодо юридично обов'язкового міжнародного документа про автономну зброю.
За словами виконавчої директорки коаліції Stop Killer Robots Ніколь ван Ройєн, для рішень потрібен консенсус, тому США та росія, які виступають проти обов'язкових правил, можуть заблокувати просування, якого хоче більшість держав.
Бекграунд. Між тим стало відомо, що ШІ почав виходити за встановлені межі – OpenAI та Anthropic призупинили навчання найпотужніших моделей.