Источник фото: Jonathan Raa / NurPhoto
«Для правительства Индонезии генерация сексуализированных дипфейков без согласия изображённых на них людей — грубое нарушение прав человека, посягательство на его достоинство и подрыв безопасности в эпоху цифровизации», — сообщила глава местного Минцифры Мёутья Хафид.
В декабре 2025 года xAI обновила функцию редактирования изображений в чат-боте Grok. Тогда же в соцсеть X добавили бесплатный ИИ-редактор картинок из публикаций в ленте. Генерации отображаются в комментариях под исходником.
В январе 2026 года в СМИ обратили внимание, что пользователи злоупотребляют функцией и «раздевают» женщин на фото, в том числе несовершеннолетних.
9 января в аккаунте Grok объявили, что возможность бесплатно генерировать и редактировать изображения убрали в платную подписку. The Verge отмечает, что речь идёт только о генерациях через упоминание @grok в комментариях, а в диалоговом окне с ботом генерации по-прежнему доступны бесплатно — включая сексуализированные (в тесте редактора vc.ru создавать последние Grok отказался).
С запросами из-за порнографических дипфейков к X обратились правительства и регуляторы разных европейских и азиатских государств, но решение заблокировать Grok пока приняла только Индонезия. Apple и Google удалять Grok из магазинов приложений не спешат, хотя у корпораций есть правила, которые запрещают опасный и оскорбительный контент и детскую эксплуатацию.
Источник: https://vc.ru/ai/2683744-indoneziya-zablokirovala-grok-iz-za-dipfeykov