Американська компанія OpenAI заблокувала групу акаунтів у ChatGPT, які використовувалися для прихованої російської операції з політичного впливу. За допомогою штучного інтелекту її учасники створювали дописи для соціальних мереж, щоб просувати прокремлівські наративи та вигаданий експертний центр.
Джерело. Про це повідомила OpenAI.
У компанії заявили, що заблоковані акаунти «з великою ймовірністю» використовувалися операторами з росії. Вони надсилали ChatGPT запити російською мовою та використовували VPN для доступу до платформи, оскільки OpenAI не надає свої послуги на росії.
Це перший випадок, коли OpenAI припинила пов'язану з росією операцію впливу, учасники якої створили настільки розгалужену інфраструктуру для приховування свого походження та поширення пропаганди.
Основою операції був так званий Міжнародний інститут Берка (International Burke Institute, IBI), який позиціонував себе як експертна спільнота з Ізраїлю.
Його сайт був зареєстрований у лютому 2025 року та містив десятки матеріалів, нібито написаних відомими експертами. Однак перевірка OpenAI показала, що 34 із 36 проаналізованих статей були скопійовані з інших джерел, іноді із зазначенням неправдивих авторів.
Зокрема, сайт використовував імена відомих науковців та експертів, щоб створити видимість авторитетної дослідницької установи. Самі матеріали на сайті, як зазначили в OpenAI, не створювалися за допомогою моделей компанії.
Одним із головних інструментів «інституту» став так званий «індекс суверенітету», за допомогою якого порівнювали різні країни. росію в цих публікаціях представляли у вигідному світлі, водночас критикували Україну, Євросоюз, Німеччину, Францію та США.
Оператори використовували ChatGPT для створення дописів і коментарів, які просували сайт IBI та його матеріали в Telegram, X, Facebook, LinkedIn і Substack.
Частину публікацій розміщували від імені «інституту», а інші поширювали через акаунти, які видавали себе за звичайних користувачів.
Крім того, один із операторів створював за допомогою ChatGPT матеріали німецькою мовою для Telegram-каналу Lahme Ente («Кульгава качка»). У цих публікаціях систематично критикували Україну, Євросоюз і німецький уряд, а також закликали до покращення відносин із росією.
Ще один учасник мережі створював за допомогою ШІ логотипи для Telegram-каналів, орієнтованих на аудиторії Німеччини, США, Франції, Польщі та Туреччини.
Оператори також намагалися приховати російське походження своїх матеріалів, зокрема просили ChatGPT усувати мовні особливості, які могли б видати авторів.
В OpenAI виявили характерний слід машинного перекладу зі слов'янської мови: у тексті про німецький урядову коаліцію замість звичного англійського терміна traffic-light coalition використовували вираз Svetofor coalition – буквально «світлофорна коаліція».
Попри складну структуру, операція не здобула великого охоплення. Більшість публікацій у соцмережах набирали мало переглядів, а офіційні акаунти IBI не зібрали великої аудиторії.
Водночас окремі пов'язані з операцією Telegram-канали мали від 10 до 20 тисяч підписників.
У OpenAI вважають, що головна небезпека полягала не у поточному охопленні, а у створеній інфраструктурі. Її учасники намагалися вибудувати видимість незалежного аналітичного центру з «відомими експертами», академічними публікаціями та власним «індексом суверенітету», яку в майбутньому можна було масштабувати для поширення політичних наративів.
«Цей випадок показує, як учасники операцій впливу можуть використовувати ШІ як допоміжний інструмент у ширшій кампанії для фабрикації авторитету, приховування походження вигідних їм наративів і створення активів, які можна масштабувати з часом», – зазначили в OpenAI.
У компанії додали, що саме використання ChatGPT стало одним із факторів, який допоміг виявити та розкрити всю операцію.
Бекграунд. Як повідомлялося, ChatGPT запустив рекламу у 31 країні Європи: OpenAI впроваджує нову модель монетизації.