El ICO del Reino Unido inicia una investigación sobre Grok por la manipulación no consentida de imágenes

La autoridad de protección de datos del Reino Unido, la Oficina del Comisionado de Información (ICO), ha abierto una investigación formal contra X (antes Twitter) por la manipulación de imágenes y el uso de datos personales en relación con el sistema de IA Grok.

La investigación se produce tras numerosos informes que señalan que el chatbot de IA fue utilizado para generar imágenes dañinas y explícitas.

La actuación del ICO llega en medio de un creciente escrutinio internacional sobre las capacidades de generación de imágenes de Grok, que, según los críticos, han sido explotadas para producir deepfakes y otros contenidos visuales manipulados sin el consentimiento de las personas afectadas.

Estos usos plantean serias preocupaciones en virtud de las leyes de protección de datos del Reino Unido, en particular sobre si los datos personales se procesaron de manera lícita, justa y transparente, y si existían salvaguardas sólidas durante el desarrollo y despliegue de la tecnología.

“Preguntas profundamente preocupantes”

Según su comunicado, el ICO investigará:

• Cómo se han utilizado los datos personales en los modelos de IA de Grok
• Si se implementaron el consentimiento y las salvaguardas necesarias para evitar resultados dañinos
• Si X Internet Unlimited Company (XIUC) y X.AI LLC (X.AI) cumplieron con sus obligaciones en virtud del RGPD y la Ley de Protección de Datos del Reino Unido

El regulador subrayó que la falta de protecciones adecuadas podría dejar a las personas expuestas a daños graves e inmediatos, especialmente cuando hay menores involucrados.

William Malcolm, director ejecutivo de Riesgo Regulatorio e Innovación del ICO, comentó que los informes plantean “preguntas profundamente preocupantes” sobre la gestión de los datos personales y hasta qué punto las personas podrían haber perdido el control sobre su propia información.

Un contexto regulatorio más amplio

La investigación del ICO se basa en contactos previos con los operadores de Grok. El 7 de enero de 2026, el organismo confirmó públicamente que se había puesto en contacto con XIUC y X.AI para solicitar de forma urgente información sobre los problemas detectados en los resultados de Grok y las medidas de gobernanza de datos que los respaldan.

Esta acción se desarrolla en paralelo a una investigación separada del regulador británico de seguridad en línea, Ofcom, que está examinando si la plataforma ha cumplido con la Ley de Seguridad en Línea, incluidas las obligaciones de proteger a los usuarios de contenidos ilegales o dañinos, como las imágenes íntimas no consentidas.

Los reguladores de la Unión Europea y de otras jurisdicciones también han iniciado sus propias revisiones sobre la funcionalidad de Grok y sus posibles daños, lo que ha provocado una ola de preocupación sobre la gobernanza de los contenidos generados por IA.

Leer: La UE abre una investigación sobre la manipulación de imágenes de Grok y el sistema de recomendación de X

Más recientemente, la Fiscalía de París (Parquet de Paris) está investigando presuntas manipulaciones algorítmicas por parte de potencias extranjeras.

Los consumidores temen los contenidos creados por IA

La investigación del ICO pone de relieve un creciente enfoque regulatorio en la rendición de cuentas de la IA, especialmente en torno a los modelos generativos capaces de manipular o crear representaciones falsas de personas reales.

Los consumidores son cada vez más conscientes de los riesgos del contenido generado por IA. Según la Encuesta de Ciberseguridad del Consumidor de Bitdefender 2025, más de un tercio de los encuestados señaló la creación de vídeos deepfake como una de sus principales preocupaciones.

La confianza en las “Big Tech” suele variar según la geografía. Los europeos tienden a ser más estrictos en la protección de los datos personales, influenciados por años de concienciación impulsada por el RGPD. Mientras que los consumidores estadounidenses priorizan la comodidad, los europeos están más atentos a la privacidad.

En el contexto del creciente escrutinio sobre X, cabe destacar que los participantes en nuestra encuesta —realizada entre junio y septiembre de 2025 y con más de 7.000 usuarios de internet en siete países— expresaron escepticismo sobre el enfoque de X en materia de privacidad y seguridad, y el 52 % la calificó como una de las plataformas “menos confiables”.

Mientras los reguladores europeos evalúan si se implementaron las salvaguardas necesarias para evitar el uso indebido de las capacidades de manipulación de imágenes de Grok, es probable que las empresas que ofrecen tecnologías de IA similares enfrenten una presión creciente para establecer controles y protecciones sólidas.

También te puede interesar leer:

Europa multa a X con 120 millones de euros en la primera aplicación de la Ley de Servicios Digitales

Google pagará 68 millones de dólares para resolver demandas por “escuchas” en Android

¿Por qué no usas una app de seguridad móvil? Se lo preguntamos a los internautas