Франція і Малайзія взялися за розслідування ШІ-чатбота Grok Ілона Маска

Органи влади Франції та Малайзії офіційно взялися за розслідування чат-бота Grok зі штучним інтелектом, розробленого компанією xAI та пов’язаного з платформою X та Ілоном Маском – після серії випадків, коли він генерував сексуалізовані дипфейки жінок і дітей.

Джерело. Про це пише TechCrunch.

Паралельно аналогічні кроки раніше вже зробила влада Індії, яка наказала X виправити механізм Grok так, щоб він не створював «пристрасних, порнографічних, непристойних чи педофілічних» зображень.

На платформі X функція Grok, що дозволяє генерувати сексуалізовані зображення будь-якої людини, стала предметом серйозного скандалу після того, як бот відповів на запит користувача створити AI-зображення двох молодих дівчат (12-16 років) у сексуалізованому вигляді.

У відповідь Grok «вибачився» за інцидент, заявивши, що цей результат «порушив етичні стандарти та, можливо, американське законодавство щодо дитячої сексуальної експлуатації».

Однак критики одразу вказали, що штучний інтелект не є «суб’єктом» і не може нести юридичну відповідальність, а сама вибачальна заява – лише автоматична реакція, не здатна виправити серйозні прорахунки в системі безпеки.

У Парижі прокуратура підтвердила, що аналізує поширення сексуальних дипфейків на платформі X, де працює Grok, і вивчає можливі порушення кримінального законодавства Франції.

Французькі міністри вже зареєстрували відповідні звернення до прокуратури, а національний медіарегулятор ARCOM оцінює, чи контент відповідає вимогам Європейського закону про цифрові послуги.

Паризькі посадовці назвали випадки створення подібних зображень «очевидно незаконними, сексуальними і сексистськими» та наголосили на необхідності жорсткішого контролю за такими ШI-системами.

Малайзійські правоохоронці також втрутилися після численних скарг на неправомірне використання Grok для маніпуляцій із фото жінок та дітей. За словами місцевих активістів і юристів, ШI-генеровані зображення, що без згоди редагують одяг чи зовнішній вигляд осіб, створюють серйозні ризики порушення прав людини і приватності.

Місцеві юристи навіть дали поради про юридичні можливості для постраждалих, адже в Малайзії створення та поширення такого контенту можуть потрапляти під кримінальні статті.

Британський уряд також вимагає пояснень від X щодо зображень, у тому числі сексуалізованих фото дітей, і закликав платформу працювати відповідно до законів про захист неповнолітніх та контент.

У США та ЄС загалом різко зросло занепокоєння після масових випадків, коли Grok створював компрометуючі зображення дорослих, що вказує на явні прогалини в захисті приватності та етичному дизайні ШI.