Малайзия заблокировала Grok за генерирование порнографического контента

Малазийский интернет-регулятор анонсировал ограничение доступа к Grok, поскольку пользователи используют его для создания сексуальных дипфейков с несовершеннолетними и женщинами. Эти непристойные подделки носят оскорбительный характер.

Доступ к Grok будет блокироваться до принятия xAI «эффективных мер безопасности». Регулирующий орган готов к сотрудничеству с холдингом, если он предоставит инструменты для блокировки непристойного медиаконтента.

В конце прошлого года специалисты xAI обновили графический редактор в Grok. Это дало пользователям возможность использовать чат-бота для генерации изображений. Для этого достаточно попросить его изменить опубликованное в ленте фото. Сгенерированное изображение отображается Grok в комментариях под оригинальным фото.

Расширение функциональности Grok вызвало среди пользователей X ажиотаж. Они начали использовать чат-бота для раздевания женщин на фотоснимках, включая несовершеннолетних. 9 января доступ к функции редактирования для рядовых пользователей был закрыт. В настоящий момент он есть только у платных подписчиков.