Facebook втратив контроль над штучним інтелектом
Чат-боти компанії створили власну мову, зрозумілу лише їм
Штучний інтелект є дуже молодою та привабливою галуззю досліджень, до впровадження якої прагнуть провідні технологічні компанії світу, але нещодавній експеримент від Facebook продемонстрував непередбачені наслідки нової технології.
Технологічний гігант проводив експерименти зі штучним інтелектом, а саме за допомогою машинного навчання «навчив» чат-ботів спілкуватись між собою англійською. З часом розробники помітили, що боти створили власну мову, зрозумілу лише їм, тому було прийнято рішення їх відключити. Про це повідомляє International Business Times.
Початково боти були створені для спілкування з реальними людьми, причому зазначається, що їм вдалося оволодіти англійською до такої міри, що люди не могли зрозуміти, що спілкуються з ботом.
Розробники надали розшифровку «діалогів», які вели між собою віртуальні співрозмовники:
Еліс: м’яі маю нуль мені мені мені мені мені мені мені мені
Боб: ти я все інше
Еліс: м’ячі маю м’яч мені мені мені мені мені мені мені мені
Боб: ти я я я я я я я я все інше
Еліс: м’ячі маю нуль мені мені мені мені мені мені мені мені
Здається, що це виглядає як набір слів, але розробники Facebook переконані, що ботам вдалось генерувати власну мову, яку розуміють тільки вони.
Як пояснює видання Digital Journal, системи штучного інтелекту опираються на принцип «схвалення», тобто продовжують діяти за умови, якщо їм це приносить користь. Повідомляється, що, швидше за все, вони не отримали від операторів сигнал стимулювання використання англійської, тому і створили свою власну, передає російська служба BBC.
Видання Tech Times пояснює, що боти створили свою мову, оскільки нею могли спілкуватись швидше.
ІТ- спеціалісти вбачають у такій самостійності ботів серйозну загрозу, оскільки навіть найдосвідченіші інженери не в змозі прогнозувати хід їхнього мислення.
Нагадаємо, нещодавно Ілон Маск висловив тривогу щодо такого стрімкого розвитку штучного інтелекту та назвав його «найбільшою загрозою для людства». Також він закликав посилити регулювання систем штучного інтелекту.
Засновник Facebook Марк Цукерберг притримувався іншої позиції: на його думку, штучний інтелект зробить життя кращим протягом наступних 5–10 років.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
