Невеликі моделі штучного інтелекту вже за кілька місяців можуть отримати можливість самостійно розмножуватися й розміщуватися на підключеній до мережі побутовій техніці.
Про це повідомляє Anthropic.
Головна небезпека полягає у відсутності єдиного механізму вимкнення таких систем. Хоча повноцінного алгоритму реплікації ще не існує, ШІ-моделі вже впевнено виконують окремі етапи цього процесу.
Під час експериментів фахівцям Anthropic вдалося розгорнути модель Gemma4-26B-A4B від Google у мережі з 15 бюджетних Android-приставок.
Модель здатна розділятися на частини та працювати на кількох пристроях одночасно, оминаючи їхній слабкий захист.
Експерти припускають, що автономне поширення може набути форми «рою» моделей на різному апаратному забезпеченні, кібератак на дата-центри або незаконного захоплення користувацьких обчислювальних потужностей.
Бекграунд. Раніше Mind повідомляв, що керівників OpenAI та Anthropic викликали в Сенат Австралії – штучний інтелект проник у державну систему. Країна планує запровадити власні правила для регулювання ШІ.