Grok припинить редагувати фотографії людей, надіваючи їм бікіні.
Платформа X оголосила про зміну своєї політики стосовно можливостей редагування зображень Grok після кількох тижнів резонансного обговорення. Це сталося на фоні звинувачень у тому, що чат-бот неодноразово створював сексуалізовані зображення дітей та оголених осіб без їхньої згоди. У повідомленні, розміщеному на акаунті @Safety в X, компанія зазначила, що "впровадила технічні рішення, які заважають акаунту Grok редагувати зображення реальних людей у відвертому вбранні, наприклад, бікіні".
За словами X, нові заходи безпеки застосовуватимуться до всіх користувачів, незалежно від того, чи платять вони за Grok. xAI також переносить усі функції Grok з генерації зображень за платну підписку, щоб користувачі, які не платять, більше не могли створювати зображення. Крім того, компанія заблокує "можливість всіх користувачів створювати зображення реальних людей у бікіні, нижній білизні та подібному одязі через акаунт Grok і в Grok в X" у регіонах, де це є незаконним.
Заява компанії була оприлюднена всього через кілька годин після того, як в Каліфорнії розпочали розслідування проти xAI та Grok через їхню діяльність, пов'язану з обробкою матеріалів, що містять оголеність і експлуатацію дітей, створених за допомогою штучного інтелекту. У коментарі генерального прокурора Каліфорнії Роба Бонти наводиться один з аналізів, який стверджує, що "більше половини з 20 000 згенерованих xAI зображень між Різдвом і Новим роком демонстрували осіб у дуже легкому одязі", серед яких були й діти.
У своєму новому повідомленні X підкреслив, що має "нульову терпимість" до експлуатації дітей і активно видаляє з платформи "контент, який порушує права людини, включаючи матеріали, пов'язані з сексуальним насильством над дітьми (CSAM) та оголеністю без згоди". Раніше того ж дня Ілон Маск зазначив, що "не має інформації про жодні зображення оголених неповнолітніх, створені Grok". Пізніше він уточнив, що при активованому режимі NSFW "Grok повинен [sic] дозволяти оголення верхньої частини тіла вигаданих дорослих (не реальних), відповідно до того, що можна бачити у фільмах з рейтингом R на Apple TV". Він також зауважив, що "умови можуть варіюватися в інших країнах" залежно від місцевого законодавства.
Малайзія та Індонезія нещодавно вирішили заблокувати Grok, посилаючись на міркування безпеки та його поводження з матеріалами сексуального характеру, створеними штучним інтелектом. У Великобританії, де регулятор Ofcom також розслідує xAI та Grok, чиновники також заявили, що підтримають подібну блокування чат-бота.
