Google, Microsoft та xAI нададуть уряду США доступ до своїх закритих ШІ-моделей

Корпорації Google, Microsoft та xAI уклали угоду з Національним інститутом стандартів і технологій (NIST) щодо надання доступу до неопублікованих версій своїх ШІ-моделей.

Про це повідомляє CNN.

Тепер Центр стандартів та інновацій ШІ (CAISI) при Міністерстві торгівлі США зможе оцінювати ризики нових розробок для національної та громадської безпеки ще до їхнього офіційного запуску. Окрім попереднього аналізу, фахівці центру проводитимуть регулярні стрес-тести та дослідження вже розгорнутих систем.

Поштовхом до посилення контролю стала поява надпотужної моделі Mythos від Anthropic, яка продемонструвала критичний рівень впливу на кібербезпеку.

Можливості нової системи викликали занепокоєння в банківському та енергетичному секторах, що змусило Білий дім переглянути підходи до регулювання галузі. 

Співпраця має компенсувати брак технічних та обчислювальних ресурсів у державних регуляторів. зараз адміністрація президента США розглядає можливість створення офіційного процесу перевірки ШІ-моделей, що може стати початком суворішого державного нагляду за індустрією.

На думку розробників, залучення незалежних науковців та експертів із нацбезпеки допоможе зробити передовий інтелект безпечнішим для суспільства.

Бекграунд. Раніше Mind повідомляв, що Anthropic кидає виклик Волл-стріт: представляє ШІ-агентів для фінансового сектору. Нові інструменти автоматизують аналітику та підготовку звітності, обваливши акції постачальників даних.