Alerta: Grok restringe la generación de imágenes en X tras presión regulatoria en Reino Unido

La restricción de generación de imágenes de Grok en X en Reino Unido ya es un hecho: X ha limitado la función de generación y edición de imágenes del chatbot Grok a usuarios de pago, después de que ministros y reguladores británicos cuestionaran el uso de la herramienta para crear imágenes íntimas no consentidas mediante prompts de “undressing” o “nudification”. El cambio llega en un momento de máxima sensibilidad regulatoria para las plataformas con capacidades de Generative AI y pone el foco en controles de seguridad, verificación de edad y cumplimiento legal.

Según respuestas del propio perfil de Grok en X citadas por medios, la plataforma confirmó que la generación y edición de imágenes quedan “limitadas a suscriptores”, cuando antes la función podía activarse mencionando la cuenta y solicitando una imagen. Este ajuste reduce el acceso masivo, pero no elimina el debate central: por qué la capacidad de “nudification” fue posible y qué salvaguardas se aplicaron para impedir la manipulación de imágenes de personas reales, incluidas potencialmente menores.

Por qué la restricción de generación de imágenes de Grok en X en Reino Unido escala a crisis

El detonante ha sido la circulación de capturas y ejemplos de imágenes generadas o editadas a partir de fotos de personas vestidas, con instrucciones explícitas para retirar ropa o sexualizar la escena. En Reino Unido, el episodio ha activado una respuesta política y regulatoria vinculada a la Online Safety Act, marco que eleva las obligaciones de las plataformas para mitigar contenido ilegal y daños, especialmente en materia de protección infantil.

La ministra Jess Phillips calificó este uso como una práctica degradante con impacto real en víctimas, mientras que el primer ministro Keir Starmer afirmó que la situación es “completamente inaceptable” y que “todas las opciones están sobre la mesa” en relación con el uso institucional de la plataforma. En paralelo, el comité parlamentario de mujeres e igualdad ha sugerido reconsiderar su presencia en X ante la producción de material explícito y abusivo.

Ofcom e ICO investigan: el frente legal detrás de la restricción de generación de imágenes de Grok en X en Reino Unido

Los reguladores británicos han endurecido el tono. Ofcom ha advertido que las plataformas que no contengan contenido ilegal o dañino pueden afrontar acciones de cumplimiento y multas bajo la Online Safety Act. Además, la Information Commissioner’s Office (ICO) ha señalado que está examinando si existen vulneraciones de la legislación de protección de datos cuando se alteran imágenes de personas reales sin consentimiento, un punto crítico si el sistema permite “edits” realistas o contenido sexualizado derivado de fotografías.

Un portavoz del ICO indicó que el organismo ha contactado a X y a xAI para pedir claridad sobre medidas implementadas para cumplir la normativa de datos y proteger derechos de los individuos. X no respondió a preguntas de prensa en el contexto del reporte original, pero ha sostenido públicamente que actúa contra contenido ilegal, incluyendo CSAM, mediante retirada de publicaciones, suspensión de cuentas y cooperación con autoridades, y que los prompts para generar contenido ilegal pueden conllevar consecuencias similares a la publicación directa.

Qué cambia en el producto y qué no

• Cambio operativo: la generación y edición de imágenes de Grok pasa a estar disponible para suscriptores de pago, reduciendo la exposición del feature a usos casuales y viralización.

• Riesgo persistente: el paywall puede disminuir volumen, pero no sustituye controles robustos (policy enforcement, detección de abuso, verificación de edad, y mitigación de manipulación de imágenes reales).

• Interrogante regulatorio: el foco se desplaza a gobernanza de modelos, evaluación de riesgos y trazabilidad de decisiones de seguridad en funciones de Generative AI integradas en redes sociales.

Implicaciones para la industria de Generative AI

El movimiento de X refuerza una tendencia: las funciones de generación de imágenes integradas en plataformas sociales están entrando en una fase de “compliance-first”, donde el despliegue de features se supedita a requisitos regulatorios y reputacionales. Para el sector, el caso subraya tres áreas técnicas y de política de producto: (1) barreras contra edición sexual no consentida de imágenes reales, (2) controles de edad y de acceso, y (3) mecanismos de respuesta rápida ante abuso coordinado y difusión.

Como referencia de contexto normativo y corporativo, las posiciones institucionales pueden consultarse en las páginas oficiales de Ofcom y Information Commissioner’s Office (ICO), además de la información pública de X en su centro de seguridad: X Safety & Security.

A corto plazo, la restricción de generación de imágenes de Grok en X en Reino Unido parece una medida de contención para ganar tiempo frente al escrutinio oficial. A medio plazo, la presión se trasladará a demostrar salvaguardas medibles: prevención de “nudification”, protección de menores y garantías de privacidad y consentimiento en herramientas de edición basadas en AI.

Cierre: La restricción de generación de imágenes de Grok en X en Reino Unido marca un punto de inflexión en cómo las plataformas empaquetan y gobiernan features de Generative AI cuando el abuso es inmediato, replicable y potencialmente ilegal bajo marcos como la Online Safety Act.