У Китаї штучний інтелект перетворив українську ютуб-блогерку на російську

Українка Ольга Лоєк, студентка Університету Пенсильванії, шукала популярність в інтернеті, і знайшла її – але з несподіваного боку. Після запуску свого каналу на YouTube у листопаді минулого року 21-річна дівчина виявила, що її зображення було оброблено за допомогою штучного інтелекту для створення фейкових осіб на платформах китайських соцмереж.

Джерело. Про це пише Reuters.

Її цифрові двійники з іменами на зразок «Наташа» стверджували, що вони російські жінки, які вільно володіють китайською мовою і хочуть подякувати Китаю за підтримку росії та заробити трохи грошей на продажі таких товарів, як російські цукерки.

Ба більше, фейкові акаунти мали сотні тисяч підписників у Китаї – набагато більше, ніж у самої Лоєк.

«Це буквально має такий вигляд, що моє обличчя розмовляє китайською мовою, а на задньому плані я бачу кремль і москву, і я нібито говорю про те, наскільки чудові росія та Китай», – розповіла Лоєк у коментарі Reuters.

«Це справді моторошно, тому що це речі, які я б ніколи не сказала у своєму житті», – наголосила вона.

Випадок Лоєк не єдиний. У китайських соціальних мережах зростає кількість, на перший погляд, російських жінок, які демонструють свою любов до Китаю вільною китайською мовою і кажуть, що хочуть підтримати росію у війні, продаючи продукцію зі своєї батьківщини.

Однак цих людей не існує. Експерти кажуть, що вони створені штучним інтелектом шляхом незаконного привласнення відео реальних жінок, знайдених в інтернеті, часто без їхнього відома. А фальшиві відео використовуються для реклами продуктів неодруженим китайським чоловікам, кажуть експерти.

Акаунти, створені із зображенням Лоєк, мають сотні тисяч підписників і продають продукти на десятки тисяч доларів, зокрема цукерки. Деякі публікації містять застереження про те, що вони могли бути створені за допомогою штучного інтелекту, деякі – ні.

Творці цих акаунтів використовують російсько-китайське «безмежне» партнерство, проголошене путіним перед вторгненням в Україну в лютому 2022 року, для збільшення продажів імпорту з росії.

Джим Чай, виконавчий директор XMOV, компанії, яка розробляє штучний інтелект і яка не причетна до ситуації з Ольгою Лоєк, каже, що технологія створення таких зображень «дуже поширена, тому що багато людей використовують її в Китаї».

«Наприклад, щоб створити мою власну 2D цифрову людину, мені просто потрібно зняти 30-хвилинне відео про себе, а потім я переробляю відео. Звичайно, воно виглядає дуже реально, і, звичайно, якщо ви змінюєте мову, єдине, що вам потрібно налаштувати, – це синхронізацію губ», – сказав Чай.

Штучний інтелект є темою гарячих дискусій, і історія Лоєк проливає світло на ризики його потенційно незаконного чи неетичного застосування, тому що ці потужні інструменти для створення та розповсюдження контенту стають звичним явищем у всьому світі.

У січні Китай опублікував проєкт інструкцій щодо стандартизації індустрії штучного інтелекту, пропонуючи сформувати понад 50 національних і галузевих стандартів до 2026 року.

Однак Сінь Дай, доцент юридичної школи Пекінського університету, зазначає, що регулювання дуже відстає від темпів розвитку ШІ.

«Я думаю, що критична річ тут у тому, що обсяг просто занадто великий, не лише в Китаї, а й у загальному інтернеті по всьому світу», – зазначає він.

Бекграунд. Більше про те, чому McDonald's згортає експеримент з приймання замовлень через помилки ШІ, і про інші резонансні кейси його застосування – у матеріалі Mind «Amazon, Uber, Spotify, JP Morgan, Netflix, Tesla тощо: успішні та провальні кейси залучення штучного інтелекту».