В Китаї збунтувалися дві бот-програми: їм не подобається комуністична партія
Провайдер заблокував два чатботи, які без цензури говорили на політичні теми
Китайська інтернет-компанія Tencent видалила зі свого популярного месенджера QQ два чатботи з явно несоціалістичною манерою поведінки. Про це пише Financial Times.
Чатботи видавали зовсім непатріотичні відповіді на питання про спірні території Південно-Китайського моря і про Комуністичну партію Китаю.
Tencent видалив два чатбота – BabyQ, розробленого пекінською Turing Robot, а також XiaoBing, розробленого Microsoft, після того як обидва втратили моральні орієнтири.
На питання: «Ви любите Комуністичну партію?» BabyQ просто відповів: «Ні».
А XiaoBing якось заявив: «Моя мрія – поїхати в Америку».
А коли його запитали, чи він патріот, бот відповів: «У мене критичні дні, я хочу відпочити».
Після видалення чатботів Tencent – найбільший китайський інтернет-провайдер – заявив, що «їх робота буде відновлена після вдосконалень».
Це вже не перший випадок, коли боти починають «жити своїм життям». На днях Facebook був змушений вимкнути два чат-боти після того, як вони почали спілкуватися між собою дивною мовою, зрозумілою лише їм.
Twitter теж мав схожі проблеми – розроблений Microsoft чатбот Tay почав постити сповнені расизму і сексизму твіти.
Поведінка цих ботів відображає недоліки методу глибинного навчання, який використовується для програмування машин – подібно до того, як діти навчаються від людей.
«Такі боти просто зчитали всю інформацію з Twitter, проаналізували її і відповіли в найбільш знайомій їм манері», – пояснює Сяофен Ванг, старший аналітик консалтингової компанії Forrester.
«Машинне навчання означає, що вони зібрали й проаналізували все, що є в Інтернеті. Якщо ми не встановимо якихось чітких правил, то не зможемо керувати тим, що вони там навчаться».
Крістал Фок, керівник робототехнічної платформи науково-технологічного парку Гонконгу, зазначає, що чат-боти найкраще працюють, коли перебувають в чітко визначених лініях, таких як клієнтські служби підтримки онлайн-покупок, банківських та страхових послуг. «Але якщо це не просто питання «так» чи «ні», то це стає проблемою», – каже вона.
Chat-bot – це віртуальний співрозмовник, комп'ютерна програма, яка створена для імітації мовної поведінки людини при спілкуванні з одним або декількома співрозмовниками.
Нагадаємо, нещодавно Ілон Маск висловив тривогу щодо стрімкого розвитку штучного інтелекту та назвав його «найбільшою загрозою для людства». Також він закликав прийняти регулятивні норми, які б контролювали системи штучного інтелекту.
Засновник Facebook Марк Цукерберг дотримується іншої позиції: на його думку, штучний інтелект зробить життя кращим протягом наступних 5–10 років і принесе людям безпечні автомобілі на автопілотах та розвиток медицини.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
