Anthropic закликає до глобальної паузи в розробці штучного інтелекту
Творець бота Claude пропонує механізм стримування ШІ-індустрії через ризик втрати людського контролю
Компанія Anthropic виступила з ініціативою створення глобального механізму для тимчасового зупинення розробки передових систем штучного інтелекту.
Про це повідомляє Bloomberg.
Представники корпорації зазначають, що стрімкий прогрес технологій наближається до межі, коли ШІ почне рекурсивно вдосконалювати сам себе та створювати власні версії.
Це може призвести до повної заміни людської праці та виникнення непередбачуваних ризиків для суспільства, управління та світового порядку.
Для розв'язання цієї проблеми Anthropic планує розпочати масштабні переговори з науковцями, представниками ІТ-індустрії та урядовцями. Головна мета – розробити прозору структуру координації та систему взаємних перевірок між лабораторіями.
Такий підхід має гарантувати, що під час заморожування процесів окремі гравці ринку не продовжуватимуть розробки таємно задля отримання технологічного лідерства.
Водночас автори ініціативи визнають, що створення такого регламенту є критично складним завданням, оскільки обчислювальні процеси легко приховати, на відміну від військових об'єктів.
Тим часом сама Anthropic, попри власні застереження, продовжує активно випускати нові інструменти, зокрема ШІ-модель Mythos, і готується до виходу на біржу.
Бекграунд. Раніше Mind повідомляв про оцінку під $1 трлн: розробник ШІ Anthropic подав документи на IPO. Творці чат-бота Claude обійшли за вартістю свого головного суперника OpenAI та готуються до історичного дебюту на біржі.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
