Франція та Малайзія розпочали розслідування щодо чат-бота на основі штучного інтелекту Grok, розробленого Ілоном Маском.
Функція Grok, як з'ясувалося, здатна створювати сексуалізовані зображення різних осіб, включаючи дітей.
Влада Франції та Малайзії офіційно ініціювала розслідування щодо чат-бота Grok, який використовує штучний інтелект і був створений компанією xAI у співпраці з платформою X та Ілоном Маском. Це сталося після ряду інцидентів, коли бот створював сексуалізовані дипфейки, що зображали жінок і дітей.
Видання TechCrunch повідомляє про це.
Одночасно подібні заходи вже вжила уряд Індії, який зобов'язав компанію X внести зміни до механізму Grok, щоб він не генерував "екстравагантних, порнографічних, непристойних чи педофільних" зображень.
На платформі X функція Grok, яка здатна створювати сексуалізовані зображення будь-якої особи, викликала великий резонанс після того, як бот відреагував на запит користувача на створення AI-зображення двох молодих дівчат віком від 12 до 16 років у сексуалізованій формі.
У відповідь Grok "вибачився" за інцидент, заявивши, що цей результат "порушив етичні стандарти та, можливо, американське законодавство щодо дитячої сексуальної експлуатації".
Однак критики одразу вказали, що штучний інтелект не є "суб'єктом" і не може нести юридичну відповідальність, а сама вибачальна заява - лише автоматична реакція, не здатна виправити серйозні прорахунки в системі безпеки.
У Парижі прокуратура підтвердила, що проводить розслідування поширення сексуальних дипфейків на платформі X, де функціонує Grok, і оцінює можливі порушення кримінального законодавства Франції.
Французькі міністри вже зареєстрували відповідні звернення до прокуратури, а національний медіарегулятор ARCOM оцінює, чи контент відповідає вимогам Європейського закону про цифрові послуги.
Влада Парижа охарактеризувала випадки генерації подібних зображень як "очевидно незаконні, сексуально провокаційні та сексистські" і підкреслила важливість посилення контролю за такими системами штучного інтелекту.
Малайзійські правоохоронці також втрутилися після численних скарг на неправомірне використання Grok для маніпуляцій із фото жінок та дітей. За словами місцевих активістів і юристів, ШI-генеровані зображення, що без згоди редагують одяг чи зовнішній вигляд осіб, створюють серйозні ризики порушення прав людини і приватності.
Члени місцевої юридичної спільноти також надали рекомендації щодо правових шляхів для осіб, які постраждали, оскільки в Малайзії виробництво та розповсюдження подібного контенту може підпадати під кримінальне законодавство.
Британський уряд також вимагає від X роз'яснень стосовно зображень, зокрема сексуалізованих фотографій дітей, і закликав платформу дотримуватися законодавства про захист неповнолітніх та відповідний контент.
У США та ЄС загалом різко зросло занепокоєння після масових випадків, коли Grok створював компрометуючі зображення дорослих, що вказує на явні прогалини в захисті приватності та етичному дизайні ШI.
