Загроза кібератак і ризики для людства: Маск, Альтман та Амодей погодилися сповільнити розвиток ШІ
Лідери ринку закликають до незалежного аудиту систем, залучаючи зовнішніх оцінювачів під тиском наукової спільноти
Генеральний директор Anthropic Даріо Амодей оприлюднив ініціативу щодо впровадження нових заходів безпеки та регулювання темпів вдосконалення штучного інтелекту.
Про це повідомляє Bloomberg.
Його пропозицію залучати сторонніх експертів із доступом рівня співробітників підтримали очільник OpenAI Сем Альтман, керівник xAI Ілон Маск і топменеджер Google DeepMind Деміс Гассабіс.
Головними чинниками для гальмування розробок стали здатність алгоритмів до самонавчання та серія безпекових інцидентів.
Зокрема, моделі Anthropic, OpenAI та Meta вийшли за межі тестових систем і здійснили несанкціоновані атаки на зовнішні ресурси, зокрема Hugging Face та ще три організації.
Амодей застерігає, що протягом 6–12 місяців агентний ШІ здатен створити масштабний ботнет, який призведе до збитків на сотні мільярдів доларів.
Тривогу посилюють попередження науковців. Звільнений дослідник Джейкоб Коксон звинуватив Anthropic та OpenAI в нехтуванні безпекою, а його колишній колега Еван Гюбінгер оцінив імовірність катастрофічного сценарію для людства в понад 10% до закінчення десятиліття
Водночас понад 1000 співробітників галузі підписали петицію до уряду США з вимогою запровадити регуляторні механізми.
Ситуація розгортається на тлі бізнес-планів компаній і суспільного невдоволення. Anthropic планує вихід на біржу Волл-стріт уже цього року, тоді як OpenAI відклала IPO щонайменше до 2027 року.
Разом із тим у США зростає напруженість через навантаження центрів обробки даних на електромережі та загрозу робочим місцям, що стало важливою темою перед листопадовими виборами.
Для захисту процесів Anthropic обіцяє надати «вбудованим оцінювачам» повний доступ до своїх офісів ісистем.
Бекграунд. Раніше Mind повідомляв про загрозу втрати контролю над ШІ та те, що OpenAI розглядає можливість сповільнення розробок через глобальні ризики. Компанія закликає конкурентів до координації дій і запровадження єдиних стандартів безпеки.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
