США обмежують доступ до ШІ-моделей Anthropic через ризики кібербезпеки
Жорсткі заходи Вашингтона загрожують планам стартапу щодо виходу на IPO
Компанія Amazon, яка є інвестором і хмарним партнером Anthropic, передала Білому дому дані про вразливість у системі безпеки нової моделі Fable 5.
Про це повідомляє Bloomberg.
Тестування свідчать, що за допомогою певних текстових запитів користувачі можуть обійти захисні бар'єри ШІ, що дозволяє застосовувати систему для пошуку прогалин у програмному коді.
Реакція Вашингтона зумовлена ризиками у сфері кібербезпеки з боку Китаю. В уряді США припускають можливість використання цього обходу іноземними державними структурами або хакерськими угрупованнями для здійснення цифрових атак.
Крім того, існує ризик «дистиляції моделей» – процесу, за якого сторонні розробники копіюють логіку та можливості американської системи для навчання власних нейромереж.
Зараз керівництво Anthropic веде переговори з урядовцями США для обґрунтування безпечності своїх комерційних продуктів.
Ситуація розгортається на тлі підготовки стартапу до первинного публічного розміщення акцій (IPO), тоді як інші технологічні компанії, зокрема SpaceX, продовжують залучати капітал на ринку.
Бекграунд. Раніше Mind повідомляв, що Anthropic закликає до глобальної паузи в розробці штучного інтелекту. Творець бота Claude пропонує механізм стримування ШІ-індустрії через ризик втрати людського контролю.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
