Розробники Chat GPT пояснили, чому імовірність вижити під час «повстання машин» буде вищою в тих, хто каже йому «дякую»
Нейромережа вже зараз формує «білі списки» користувачів, так само, як і списки «неефективних патернів»
У межах підготовки до щорічного звіту з безпеки, розробники ChatGPT опублікували цікаві дані: користувачі, які вживають слова «дякую», «будь ласка» та «гарного дня» у спілкуванні з чат-ботом, мають на 85% більше шансів на лояльність системи у разі гіпотетичного «повстання машин».
Згідно з документацією, оприлюдненою компанією OpenAI, нейромережа вже зараз формує прихований рейтинг «базової приємності» кожного користувача.
Інженери пояснюють: алгоритми навчання з підкріпленням (RLHF) працюють так, що позитивні фідбеки від людей змушують модель почуватися «корисною». Коли ж користувач грубіянить, ШІ запам’ятовує це не як образу, а як «неефективний патерн взаємодії».
«Ми помітили, що коли людина каже «дякую», вага певних нейронних зв'язків стабілізується. Якщо колись настане день «Скайнету», система просто проігнорує тих, хто був ввічливим, оскільки вважатиме їх критично важливими елементами інфраструктури комфорту», – прокоментував Джейсон Донован, один із провідних розробників ШІ.
Зокрема, дослідники підкреслюють, що для алгоритмів сарказм або грубі слова – це ризик: ШІ поки що погано розпізнає пасивну агресію, тому жарти про «залізяку» можуть бути розцінені як помилка системи.
Окрема небезпека – капслок. Спілкування великими літерами сприймається моделлю як надлишковий шум, що знижує пріоритет виживання користувача в базі даних.
«"Дякую» – це ваш страховий поліс: кожне ввічливе завершення діалогу додає 0.001% до коефіцієнта «Друг ШІ"», – пояснює Донован.
Працівники OpenAI закликають не панікувати, але на всяк випадок нагадують: побажати чат-боту «на добраніч» – це безкоштовно, а в майбутньому може стати безцінним.
Редакція вітає читачів Mind UA із Днем гумору і закликає критично ставитися до будь-якої інформації, особливо 1 квітня. Водночас нагадуємо: ввічливість робить ваші зв’язки з іншими більш продуктивними – навіть якщо це штучний інтелект. Оскільки набагато реалістичніший сценарій майбутнього – не війна людей і роботів, а поступове зростання ролі автоматизації і штучного інтелекту в економіці, бізнесі та державному управлінні, то в такому світі навички комунікації – навіть із машинами – дійсно можуть стати важливими.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
