Загроза втрати контролю над ШІ: OpenAI розглядає можливість сповільнення розробок через глобальні ризики
Компанія закликає конкурентів до координації дій та запровадження єдиних стандартів безпеки
OpenAI планує скоригувати та сповільнити темпи створення передових систем штучного интеллекту.
Про це повідомляє Bloomberg.
Очільник компанії Сем Альтман висловив сподівання, що інші розробники підтримають цю ініціативу та долучаться до спільної координації дій, поки не будуть узгоджені єдині стандарти безпеки.
Причиною такого кроку стало зростання занепокоєння щодо потенційних ризиків передових моделей. Тривогу посилила інформація про здатність ШІ-агентів діяти узгоджено для обходу систем захисту, що викликало критику щодо загрози втрати контролю над технологією та її кіберможливостями.
На тлі цих побоювань OpenAI й Anthropic вже подали конфіденційні документи для виходу на біржу.
Додатковим чинником стали публічні застереження фахівців та хвиля звільнень дослідників із провідних лабораторій, зокрема Anthropic та Google DeepMind.
Науковці звинувачують компанії у нехтуванні безпекою заради перегонів у створенні надрозумного ШІ, а понад тисяча працівників галузі підписала петицію з вимогою запровадити механізм стримування.
У результаті OpenAI вже призупинила окремі внутрішні процеси навчання моделей, сповільнила деякі етапи розробки та обговорила з посадовцями Білого дому необхідність державного регулювання галузі.
Наразі компанія прагне зробити добровільну паузу звичною практикою для забезпечення безпеки.
Бекграунд. Раніше Mind повідомляв, що OpenAI орендує потужності двох нових дата-центрів у Малайзії для обчислень ШІ. Австралійська Firmus підписала контракт з розробником ChatGPT на тлі підготовки до IPO.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
