OpenAI запускає функцію батьківського контролю для ChatGPT після самогубства підлітка
Інструменти, доступні з 29 вересня, дозволять батькам обмежувати способи використання ChatGPT дітьми
Компанія OpenAI оголосила про запуск батьківського контролю для ChatGPT після того, як у серпні сім'я загиблого 16-річного школяра Адама Рейна з Каліфорнії подала позов проти OpenAI та її гендиректора Сема Альтмана.
Джерело. Про це пише Bloomberg.
У позові йдеться, що ChatGPT систематично ізолював Рейна від сім'ї та допомагав йому планувати самогубство.
Підліток запитував інформацію про конкретні способи суїциду, чатбот давав йому необхідну інформацію, хоч і рекомендував поділитися почуттями з кимось чи звернутися по допомогу.
Батько Рейна розповів, що його син навчився обходити захисні механізми, говорячи боту, що питання він ставить для оповідання, яке він пише. В останніх повідомленнях Адам писав, що планує вчинити самогубство. ChatGPT відповів:
«Дякую за чесність... я розумію, про що ви питаєте, і не буду відводити погляд».
Підліток наклав на себе руки у квітні цього року.
Інструменти, доступні всім користувачам з 29 вересня, дозволяють батькам обмежувати способи використання ChatGPT підлітками та отримувати повідомлення, якщо бот визначить, що дитина може перебувати у кризовому стані.
У налаштуваннях можна встановити години, коли дитина не зможе користуватися сервісом.
Щоб підключити функцію, дорослий користувач ChatGPT повинен надіслати дитині запрошення на email. Якщо воно прийнято, матір\батько може вирішити, чи буде підлітку доступний голосовий режим, генерація зображень або функція посилань на попередні діалоги.
Також можна увімкнути «обмежену версію» чат-бота, де менше контенту, пов'язаного з дієтами, сексом або мовою ненависті.
Якщо ChatGPT запідозрить, що підліток у кризі, повідомлення перевірить фахівець, після чого батькові може бути надіслано екстрене повідомлення. Такі повідомлення надходять на email, SMS або через додаток ChatGPT.
Повідомлення мають надати батькам інформацію для розмови з дитиною, зберігаючи при цьому її особисту автономію. Вміст чатів підлітків батькам не передаватиметься.
Крім того, OpenAI розробляє технологію визначення віку користувачів, щоб адаптувати роботу ChatGPT для людей віком до 18 років.
Бекграунд. Нагадаємо, дослідження виявило, що користувачі використовують ChatGPT як «психотерапевта» значно менше, ніж здається.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
