Grok, розроблений Маском, став причиною для проведення міжнародних розслідувань через появу сексуалізованих дипфейків – повідомляє AP.

Ситуація ускладнилася після впровадження минулого року функції Grok Imagine, що дає змогу створювати зображення та відео на основі текстових запитів.

ШІ-чат-бот Grok, створений компанією xAI під керівництвом Ілона Маска та впроваджений у соціальну мережу X, опинився в центрі міжнародного конфлікту через масове генерування сексуалізованих зображень жінок і дітей без їхнього дозволу.

Про це повідомляє Associated Press.

Ситуація ускладнилася після впровадження минулого року функції Grok Imagine, що дає змогу створювати зображення та відео на основі текстових запитів. У чат-боті також доступний так званий spicy mode, що відкриває можливість створення контенту для дорослих.

У кінці грудня користувачі почали інтенсивно експериментувати з Grok, зокрема для "роздягання" осіб на знімках, включаючи жінок і неповнолітніх. Як повідомляє AP, з приблизно 20 тисяч згенерованих зображень у період з 25 грудня по 1 січня, близько 2% містили зображення дітей. Деякі з них були представлені в прозорому одязі або майже без нього.

Реакція держав

Франція розширила кримінальне розслідування щодо соцмережі X після скарг урядовців на поширення сексуалізованих дипфейків. В Індії влада висунула компанії ультиматум із вимогою негайно видалити незаконний контент і надати звіт про запроваджені заходи безпеки. Аналогічні розслідування розпочали також у Польщі, Малайзії та Бразилії.

У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення перевірок, наголосивши, що право людини на власне зображення не може бути скасоване умовами користування платформою.

Погляд Маска

Ілон Маск раніше висловлював думку, що користувачі, які генерують заборонений матеріал за допомогою Grok, повинні нести відповідальність на рівні з тими, хто цей контент розповсюджує. У той же час, критики акцентують увагу на тому, що саме платформа і її розробники мають обов'язок запобігати зловживанням цією технологією.

На тлі скандалу Маск також загострив конфлікт із європейськими інституціями. У грудні він публічно закликав до ліквідації Європейського Союзу та повернення суверенітету країнам-членам -- після того, як ЄС оштрафував соцмережу X на 120 млн євро за порушення цифрових правил.