Компанія Anthropic готує до виходу на ринок свою нову розробку Mythos, яку раніше вважали надто небезпечною для публічного доступу через ризики використання в кібератаках.
Про це повідомляє Bloomberg.
Одночасно з підготовкою до лістингу на фондовій біржі керівництво стартапу намагається врегулювати потенційні загрози на міжнародному рівні.
Зокрема, проводяться закриті брифінги з глобальними фінансовими інституціями та релігійними лідерами, щоб пом'якшити наслідки від майбутнього релізу.
Головною причиною занепокоєння корпоративних клієнтів, особливо у сфері фінансів та енергетики, став стрімкий розвиток автономності систем Anthropic. Сучасні інструменти програмування, як-от Claude Code, здатні самостійно виконувати складні завдання годинами без людських підказок.
Окрім цього, розробники почали приховувати детальні протоколи процесів за замовчуванням, перетворюючи алгоритми на «чорну скриньку», що суттєво ускладнює контроль за їхньою роботою.
Представники великого бізнесу побоюються, що надання ШІ надмірної незалежності унеможливить визначення відповідальних осіб у разі масштабних збоїв.
Попри вимоги користувачів, повернути більше важелів керування людям, в Anthropic заявляють про високу безпеку продуктів і планують надалі зменшувати потребу в людському втручанні.
Бекграунд. Раніше Mind повідомляв, що Anthropic націлилася на $20 млрд доходу попри конфлікт із Білим домом. Поки компанія відхиляє запити спецслужб США на стеження, її доходи зросли з $14 млрд до $19 млрд за кілька тижнів.