Як Кремнієва долина наново вчиться армію любити

З моменту, як Дональд Трамп переміг на президентських виборах, провідні технологічні компанії взяли курс на ігнорування власних принципів уникання співпраці з військовими структурами, і почали боротьбу за вигідні контракти в оборонній галузі та побудову глибоких та тісних стосунків з Пентагоном. Mind пояснює, до чого наразі все це призвело.

Перші результати

• керівники Meta, OpenAI та Palantir у п’ятницю, 27 червня, приведені до військової присяги в якості військовослужбовців Резерву Армії США.

• OpenAI цього тижня уклала контракт з армією з бюджетом в $200 млн.
• Meta разом із стартапом Anduril розробляють бойові окуляри із ШІ для солдат.

Все це відбувається на тлі просування адміністрацією президента США рекордного за всю американську історію оборонного бюджету в розмірі $1 трлн.

Тож компанії, які розробляють повсякденні технологічні рішення для пересічного цивільного користувача, починають розбудовувати бізнес на війні. Вони адаптують користувацькі ШІ-продукти під потреби військовиків, тож кожен запит до ChatGPT чи лайк в Instagram потенційно стає елементом навчання військового алгоритму. З іншого боку, компанії починають переглядати власні політики, що доволі небезпечно в часи, коли саме технології подвійного призначення стають ключовими на полі бою.

Зворотній бік дружби

Стосунки між Кремнієвою долиною та військовими не є чимось новим. Завдяки фінансуванню від DARPA (Агентство передових оборонних дослідницьких проєктів США) ми маємо інтернет, GPS та навіть Siri. Десятиліттями військові дослідження отримували цивільне застосування: Пентагон розробляв технологію, ділився нею з компаніями, а ті згодом вигадували їм комерційне застосування.

Коли технологічні компанії хотіли співпрацювати з військовими, їхні працівники бунтували. Про це немало знає корпорація Google, понад 5 000 працівників якої підписали петицію, що примушувала компанію до розірвання угоди з Пентагоном щодо Проєкту «Знавець» (програма з використання ШІ для аналізу зображення з дронів). Внаслідок безпрецедентної хвилі протестів корпорація пішла назустріч, попри це велика кількість розробників звільнились.

Крім того, ці протести призвели до розробки корпоративної політики щодо принципів використання ШІ – зокрема, відмови від військових контрактів. З того часу провідні технологічні компанії оприлюднили меморандуми проти участі у військових розробках, а їхні працівники ревно стежили за дотриманням цих політик.

Проте цей опір став слабшати по мірі того, які економіка штучного інтелекту перестала сходитись. Навчання та використання великих мовних моделей коштує сотні мільйонів доларів і доходи від кінцевих користувачів не дозволяють перекрити ці витрати. Тож для багатьох компаній співпраця з Міністерством оборони перестала бути опцією, що розглядається, а стала умовою для виживання.

Найяскравішим свідоцтвом стану справ з цим партнерством стала церемонія 27 червня, під час якої очільники технологічних компаній буквально вдягли однострій. Директор з технологій Meta Ендрю «Боз» Босуорт, технічний директор Palantir Ш’ям Санкар, як і директори OpenAI Кевін Вейл та Боб Макгрю принесли присягу та отримали чини підполковників в рамках нової програми, «Підміна 201».

Технологічні резервісти мають служити близько 120 годин на рік, консультуючи з питань систем на базі ШІ та даючи поради Міністерству оборони щодо найму інших спеціалістів. Вони не проходитимуть курс базової підготовки та матимуть більше можливостей для віддаленої роботи за звичайних резервістів.

Ця церемонія створює безпрецедентний рівень взаємодії армії та приватного сектору. Керівники не працюватимуть безпосередньо над проєктами зі своїми корпоративними підлеглими, проте робитимуть внесок у військову стратегію, за участь в реалізації якої будуть конкурувати їхні компанії.

Співробітництво між самими компаніями також розвивається швидкими темпами. Meta та Anduril анонсували спільну роботу над шоломами із доданою реальністю для американських солдат, початком якої стане створення технології, що в режимі реального часу аналізуватиме події на полі бою завдяки камерам на шоломі.

Пристрій, який буде розроблений, працюватиме на базі великої мовної моделі Llama від Facebook та на військовому програмному забезпеченні Anduril. Метою співпраці, за словами СЕО Anduril, стане «перетворення воїнів на техномагів».

Падіння огорожі

Розвиваючи співпрацю з військовими, компанії тишком-нишком відмовляються від безпекових зобов’язань. Неурядова організація Midas Project, що стежить за змінами політик у технологічному секторі, з 2023 року нарахувала понад 30 значних оновлень в записаних етичних принципах компаній.

Так, з цінностей OpenAI зник «орієнтир на вплив» (impact-driven), який передбачав з боку працівників «глибоку турботу про застосування продуктів компанії у реальному світі» – новою цінністю виявився «фокус на загальний штучний інтелект», AGI. Google змінила свої попередні зобов’язання на обіцянку «дотримуватись вимог, якщо їх дотримуватимуться конкуренти». OpenAI та інші прямо та недвозначно відмовились від попередніх заборон на військове застосування.

Нагляд за цією співпрацею послаблюється і з іншого боку. У травні новий міністр оборони США Піт Гегсет в два рази скоротив штат незалежного центру тестування зброї. Центр, заснований у 1980-ті роки задля тестування та підвищення ефективності зброї, зараз немає ресурсів, щоб оцінити реальну цінність ШІ-систем під час бойових дій.

Все це відбувається в часи, які аж ніяк не назвати спокійними. Всі ключові війни, що нараз точаться по світу (україно-російська, ізраїльсько-іранська) продемонстрували важливість використання штучного інтелекту під час війни. І компанії, які до часу відмовлялись від військових партнерств, зараз опинились в самому центрі уваги з боку військових.

Але експерти б’ють на сполох: питання до кожного користувача насправді зараз полягає в тому, чи їх влаштовує поточний стан справ, за якого їхні щоденна взаємодія з ШІ-агентами, смартфонами та численними домашніми та корпоративними гаджетами є частиною навчання системи знищення ворогів.