Китайська інтернет-компанія Tencent видалила зі свого популярного месенджера QQ два чатботи з явно несоціалістичною манерою поведінки. Про це пише Financial Times.
Чатботи видавали зовсім непатріотичні відповіді на питання про спірні території Південно-Китайського моря і про Комуністичну партію Китаю.
Tencent видалив два чатбота – BabyQ, розробленого пекінською Turing Robot, а також XiaoBing, розробленого Microsoft, після того як обидва втратили моральні орієнтири.
На питання: «Ви любите Комуністичну партію?» BabyQ просто відповів: «Ні».
А XiaoBing якось заявив: «Моя мрія – поїхати в Америку».
А коли його запитали, чи він патріот, бот відповів: «У мене критичні дні, я хочу відпочити».
Після видалення чатботів Tencent – найбільший китайський інтернет-провайдер – заявив, що «їх робота буде відновлена після вдосконалень».
Це вже не перший випадок, коли боти починають «жити своїм життям». На днях Facebook був змушений вимкнути два чат-боти після того, як вони почали спілкуватися між собою дивною мовою, зрозумілою лише їм.
Twitter теж мав схожі проблеми – розроблений Microsoft чатбот Tay почав постити сповнені расизму і сексизму твіти.
Поведінка цих ботів відображає недоліки методу глибинного навчання, який використовується для програмування машин – подібно до того, як діти навчаються від людей.
«Такі боти просто зчитали всю інформацію з Twitter, проаналізували її і відповіли в найбільш знайомій їм манері», – пояснює Сяофен Ванг, старший аналітик консалтингової компанії Forrester.
«Машинне навчання означає, що вони зібрали й проаналізували все, що є в Інтернеті. Якщо ми не встановимо якихось чітких правил, то не зможемо керувати тим, що вони там навчаться».
Крістал Фок, керівник робототехнічної платформи науково-технологічного парку Гонконгу, зазначає, що чат-боти найкраще працюють, коли перебувають в чітко визначених лініях, таких як клієнтські служби підтримки онлайн-покупок, банківських та страхових послуг. «Але якщо це не просто питання «так» чи «ні», то це стає проблемою», – каже вона.
Chat-bot – це віртуальний співрозмовник, комп'ютерна програма, яка створена для імітації мовної поведінки людини при спілкуванні з одним або декількома співрозмовниками.
Нагадаємо, нещодавно Ілон Маск висловив тривогу щодо стрімкого розвитку штучного інтелекту та назвав його «найбільшою загрозою для людства». Також він закликав прийняти регулятивні норми, які б контролювали системи штучного інтелекту.
Засновник Facebook Марк Цукерберг дотримується іншої позиції: на його думку, штучний інтелект зробить життя кращим протягом наступних 5–10 років і принесе людям безпечні автомобілі на автопілотах та розвиток медицини.