Захворіло у світі
30,784,671
Померло у світі
957,059
Вилікувалось у світі
21,032,712
Захворіло в Україні
175,678
Померло в Україні
3,557
Вилікувалось в Україні
77,512
В Китаї збунтувалися дві бот-програми: їм не подобається комуністична партія

В Китаї збунтувалися дві бот-програми: їм не подобається комуністична партія

Провайдер заблокував два чатботи, які без цензури говорили на політичні теми

В Китаї збунтувалися дві бот-програми: їм не подобається комуністична партія
фото Shutterstock

Китайська інтернет-компанія Tencent видалила зі свого популярного месенджера QQ два чатботи з явно несоціалістичною манерою поведінки. Про це пише Financial Times.

Чатботи видавали зовсім непатріотичні відповіді на питання про спірні території Південно-Китайського моря і про Комуністичну партію Китаю.

Tencent видалив два чатбота – BabyQ, розробленого пекінською Turing Robot, а також XiaoBing, розробленого Microsoft, після того як обидва втратили моральні орієнтири.

На питання: «Ви любите Комуністичну партію?» BabyQ просто відповів: «Ні».

А XiaoBing якось заявив: «Моя мрія – поїхати в Америку».

А коли його запитали, чи він патріот, бот відповів: «У мене критичні дні, я хочу відпочити».

Після видалення чатботів Tencent – найбільший китайський інтернет-провайдер – заявив, що «їх робота буде відновлена після вдосконалень».

Це вже не перший випадок, коли боти починають «жити своїм життям». На днях Facebook був змушений вимкнути два чат-боти після того, як вони почали спілкуватися між собою дивною мовою, зрозумілою лише їм.

Twitter теж мав схожі проблеми – розроблений Microsoft чатбот Tay почав постити сповнені расизму і сексизму твіти.

Поведінка цих ботів відображає недоліки методу глибинного навчання, який використовується для програмування машин – подібно до того, як діти навчаються від людей.

«Такі боти просто зчитали всю інформацію з Twitter, проаналізували її і відповіли в найбільш знайомій їм манері», – пояснює Сяофен Ванг, старший аналітик консалтингової компанії Forrester.

«Машинне навчання означає, що вони зібрали й проаналізували все, що є в Інтернеті. Якщо ми не встановимо якихось чітких правил, то не зможемо керувати тим, що вони там навчаться».

Крістал Фок, керівник робототехнічної платформи науково-технологічного парку Гонконгу, зазначає, що чат-боти найкраще працюють, коли перебувають в чітко визначених лініях, таких як клієнтські служби підтримки онлайн-покупок, банківських та страхових послуг. «Але якщо це не просто питання «так» чи «ні», то це стає проблемою», – каже вона.

Chat-bot – це віртуальний співрозмовник, комп'ютерна програма, яка створена для імітації мовної поведінки людини при спілкуванні з одним або декількома співрозмовниками.

Нагадаємо, нещодавно Ілон Маск висловив тривогу щодо стрімкого розвитку штучного інтелекту та назвав його «найбільшою загрозою для людства». Також він закликав прийняти регулятивні норми, які б контролювали системи штучного інтелекту.

Засновник Facebook Марк Цукерберг дотримується іншої позиції: на його думку, штучний інтелект зробить життя кращим протягом наступних 5–10 років і принесе людям безпечні автомобілі на автопілотах та розвиток медицини.

Стежте за актуальними новинами бізнесу та економіки у наших Telegram-каналах Mind.Live та Mind.UA, а також Viber-чаті