Повна автономність ШІ від Anthropic викликає серйозне занепокоєння в бізнесу
Нова модель Mythos: чому корпоративний сектор боїться втратити контроль над технологіями
Компанія Anthropic готує до виходу на ринок свою нову розробку Mythos, яку раніше вважали надто небезпечною для публічного доступу через ризики використання в кібератаках.
Про це повідомляє Bloomberg.
Одночасно з підготовкою до лістингу на фондовій біржі керівництво стартапу намагається врегулювати потенційні загрози на міжнародному рівні.
Зокрема, проводяться закриті брифінги з глобальними фінансовими інституціями та релігійними лідерами, щоб пом'якшити наслідки від майбутнього релізу.
Головною причиною занепокоєння корпоративних клієнтів, особливо у сфері фінансів та енергетики, став стрімкий розвиток автономності систем Anthropic. Сучасні інструменти програмування, як-от Claude Code, здатні самостійно виконувати складні завдання годинами без людських підказок.
Окрім цього, розробники почали приховувати детальні протоколи процесів за замовчуванням, перетворюючи алгоритми на «чорну скриньку», що суттєво ускладнює контроль за їхньою роботою.
Представники великого бізнесу побоюються, що надання ШІ надмірної незалежності унеможливить визначення відповідальних осіб у разі масштабних збоїв.
Попри вимоги користувачів, повернути більше важелів керування людям, в Anthropic заявляють про високу безпеку продуктів і планують надалі зменшувати потребу в людському втручанні.
Бекграунд. Раніше Mind повідомляв, що Anthropic націлилася на $20 млрд доходу попри конфлікт із Білим домом. Поки компанія відхиляє запити спецслужб США на стеження, її доходи зросли з $14 млрд до $19 млрд за кілька тижнів.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
