Скандал із діпфейками від ШІ Grok: Єврокомісія і Британія запускають розслідування через функцію «роздягання»

Європейська комісія та британський регулятор Ofcom відкрили розслідування у зв’язку з функцією штучного інтелекту Grok, створеного компанією xAI Ілона Маска, після того, як соцмережу Х наповнили згенеровані ШІ сексуалізовані діпфейки.

Про це пише Politico.

Скандал почався після того, як Grok, чат-бот, який активно просувається на платформі Ілона Маска Х, створив і поширив сексуалізовані, у тому числі оголені, фейкові зображення жінок і дітей. Частина таких зображень стосувалася і відомих людей,

Все це викликало суспільний резонанс і серйозні занепокоєння щодо того, як алгоритми генерують чутливий контент без належних обмежень або фільтрів, особливо в умовах збільшення кількості діпфейк-контенту в інтернеті, що використовується для маніпуляцій, дезінформації або навіть шантажу.

Голова Єврокомісії Урсула фон дер Ляєн заявила, що ЄС серйозно ставлиться до ризиків, пов’язаних зі штучним інтелектом, і зазначила, що інциденти з Grok не відповідають стандартам безпеки йетики, встановленим європейським законодавством про ШІ.

Єврокомісія вимагає офіційні пояснення від компанії Маска xAI щодо механізмів безпеки, які повинні запобігати створенню такого контенту.

Це відбувається на тлі впровадження в Європі одного з найсуворіших у світі законодавчих режимів щодо ШІ – Digital Services Act та AI Act, які зобов’язують компанії ефективно контролювати небезпечний контент і ризики своїх моделей. ЄС уже попередив, що порушення цих правил може призвести до великих штрафів або навіть блокування сервісів на європейських ринках.

Паралельно з європейською реакцією британський регулятор Ofcom також оголосив про відкриття розслідування щодо шлюзів, через які Grok може розповсюджувати неприйнятний контент у британському інформаційному просторі. Це включає вивчення того, чи порушила xAI правила мовлення, публічної безпеки та цифрової відповідальності, які діють у Великій Британії.

Регулятор вимагає в xAI пояснень щодо процесів модерації, фільтрації та запобігання шкідливому контенту, зокрема того, що дозволяє Grok створювати діпфейки. Якщо виявиться, що вимоги безпеки не виконано, Ofcom може застосувати юридичні заходи чи санкції проти платформи X або Grok конкретно.

Експерти з технологій та безпеки наголошують, що ризики від неконтрольованого ШІ – не гіпотетичні, а реальні.

«Grok продемонстрував, як ШІ може безконтрольно створювати чутливий контент, що становить загрозу приватності та гідності людей», – зазначив один із британських фахівців із кібербезпеки.

Інші аналітики наголошують, що діпфейки можуть бути використані для маніпуляцій у політичних кампаніях чи дискредитаційних атаках, і тому необхідна сувора регуляція технологій ШІ на державному рівні.

Скандал, разом із фінансовими штрафами або обмеженням доступу до ринків, може стати ключовим прецедентом для майбутнього регулювання ШІ, зазначє видання.

Бекграунд. Раніше повідомлялося, що Франція і Малайзія взялися за розслідування щодо ШІ-чатбота Grok Ілона Маска, оскільки він, як виявилося, дозволяє генерувати сексуалізовані зображення будь-якої людини, у тому числі дітей.