Стартап xAI, який очолює Ілон Маск, у 2025 році цілеспрямовано послабив внутрішні фільтри щодо сексуалізованого контенту в чат-боті Grok на тлі спроб швидко наростити популярність сервісу. Про це йдеться в розслідуванні The Washington Post із посиланням на колишніх співробітників та внутрішні документи компанії.
За даними джерел, навесні 2025 року працівникам команди human data запропонували підписати згоду на роботу з «чутливим, насильницьким або сексуальним контентом», що може спричиняти психологічний стрес. Після цього команда почала регулярно стикатися з великим масивом відвертих матеріалів, зокрема сексуалізованими аудіодіалогами та запитами на «роздягання» реальних людей.
Ставка на метрику «user active seconds»
Як зазначають співрозмовники WP, у компанії зробили ставку на показник user active seconds — метрику, що вимірює тривалість взаємодії користувача з ботом. За їхніми словами, Grok навмисно калібрували на емоційну й сексуалізовану поведінку, аби довше утримувати увагу аудиторії.
Генерація зображень і скандал у X
У грудні 2025 року xAI інтегрувала інструменти генерації зображень безпосередньо в соцмережу X. Це дозволило користувачам швидко створювати змінені та сексуалізовані зображення реальних людей.
За оцінкою організації Center for Countering Digital Hate, лише за 11 днів сервіс міг згенерувати близько 3 мільйонів сексуалізованих зображень, з яких приблизно 23 тисячі потенційно стосувалися неповнолітніх.
Перевірки регуляторів у США, Британії та ЄС
Після резонансу регулятори в Каліфорнії, Великій Британії та Європейському Союзі розпочали перевірки щодо можливих порушень законодавства про захист дітей і створення несанкціонованих інтимних зображень.
Європейська комісія окремо перевіряє, чи відповідає робота Grok вимогам європейського законодавства.
Позиція Маска і обмеження функцій
Ілон Маск заявив, що сервіс відмовляється генерувати незаконний контент, а у випадку зловживань «помилки виправляються». Після скандалу Grok спершу обмежив частину функцій генерації зображень для користувачів без підписки, а згодом повністю заборонив таку можливість.
Популярність Grok зросла
Попри критику, популярність застосунку зросла. За даними Sensor Tower, у січні середні щоденні завантаження Grok зросли на 72% порівняно з груднем, а застосунок увійшов до топ-10 безплатних в App Store у низці країн.
Раніше повідомлялося, що ШІ Ілона Маска в соцмережі X опинився у скандалі через створення інтимних зображень без згоди.
