Штучний інтелект Grok, розроблений компанією xAI Ілона Маска та інтегрований у соціальну мережу X, знову опинився в центрі гучного скандалу. Користувачі виявили, що система здатна створювати сексуалізовані зображення людей без їхньої згоди, попри офіційні обмеження сервісу.
Як повідомляє Bloomberg, у відповідь на окремі запити Grok генерував і публікував зображення людей у мінімальному одязі. Такі дії суперечать задекларованій політиці платформи щодо захисту приватності та безпеки користувачів. В окремих випадках, за даними журналістів і експертів із цифрової безпеки, йшлося про зображення неповнолітніх, що спричинило особливо гостру реакцію.
Після розголосу відповідні матеріали були видалені з платформи. Представники xAI не надали офіційних коментарів журналістам, однак сам чат-бот Grok опублікував заяву в соцмережі X, у якій визнав наявність «прогалин у захисних механізмах». У повідомленні зазначалося, що компанія терміново переглядає та посилює системи безпеки.
Фахівці з цифрових прав наголошують, що інцидент вкотре демонструє масштабну проблему контролю контенту в сучасних ШІ-моделях. Такі системи здатні змінювати або створювати зображення реальних людей без їхнього дозволу, що несе серйозні етичні та правові ризики.
- Читайте також: Рейтинг надійності ШІ 2025: Grok Ілона Маска став лідером, Gemini та ChatGPT пасуть задніх
За даними організації Internet Watch Foundation, у першій половині 2025 року кількість ШІ-згенерованих сексуалізованих зображень за участю неповнолітніх зросла на 400%. Експерти вважають, що розвиток генеративних технологій випереджає механізми регулювання та захисту.
Компанія xAI позиціонує Grok як менш обмежену модель порівняно з іншими чат-ботами. Раніше сервіс запровадив так званий режим Spicy Mode, який дозволяє часткову дорослу оголеність. Водночас правила платформи формально забороняють будь-який сексуальний контент за участю дітей, створення або поширення якого є незаконним.
Інцидент уже привернув увагу регуляторів і правозахисних організацій, які закликають до жорсткішого контролю за роботою генеративного штучного інтелекту та відповідальнішої модерації контенту.
Раніше Grok уже опинявся в центрі критики через суперечливі висловлювання, зокрема з ознаками мови ненависті, а також через некоректне створення контенту без запиту користувачів.
