Компанія Amazon, яка є інвестором і хмарним партнером Anthropic, передала Білому дому дані про вразливість у системі безпеки нової моделі Fable 5.
Про це повідомляє Bloomberg.
Тестування свідчать, що за допомогою певних текстових запитів користувачі можуть обійти захисні бар'єри ШІ, що дозволяє застосовувати систему для пошуку прогалин у програмному коді.
Реакція Вашингтона зумовлена ризиками у сфері кібербезпеки з боку Китаю. В уряді США припускають можливість використання цього обходу іноземними державними структурами або хакерськими угрупованнями для здійснення цифрових атак.
Крім того, існує ризик «дистиляції моделей» – процесу, за якого сторонні розробники копіюють логіку та можливості американської системи для навчання власних нейромереж.
Зараз керівництво Anthropic веде переговори з урядовцями США для обґрунтування безпечності своїх комерційних продуктів.
Ситуація розгортається на тлі підготовки стартапу до первинного публічного розміщення акцій (IPO), тоді як інші технологічні компанії, зокрема SpaceX, продовжують залучати капітал на ринку.
Бекграунд. Раніше Mind повідомляв, що Anthropic закликає до глобальної паузи в розробці штучного інтелекту. Творець бота Claude пропонує механізм стримування ШІ-індустрії через ризик втрати людського контролю.