Irlanda investiga a X por imágenes sexuales generadas por Grok

Irlanda ha abierto oficialmente una investigación de protección de datos contra X después de que Grok fuera acusado de generar imágenes sexuales no consentidas de personas reales, incluidos menores.

Puntos clave

• Irlanda abrió una investigación formal contra X tras informes de que Grok generaba imágenes sexuales no consentidas de personas reales, incluidos menores.
• La Comisión de Protección de Datos (DPC) lidera el caso bajo el Reglamento General de Protección de Datos (RGPD), ya que Irlanda actúa como autoridad supervisora principal de X en la UE.
• El caso podría tener consecuencias en toda la Unión Europea, incluyendo posibles multas de hasta el 4 % de los ingresos anuales globales si se confirman infracciones graves.
• La investigación se centra en el tratamiento ilícito de datos personales, especialmente si se generaron representaciones sexualizadas sin consentimiento.
• No es una acción aislada: reguladores en el Reino Unido, la UE, Estados Unidos y Francia también investigan a X y el uso de Grok.
• El caso subraya los riesgos del abuso de IA generativa, incluidos deepfakes, suplantación de identidad y contenido explícito no consentido.

La investigación, encabezada por la Comisión de Protección de Datos (DPC), coloca a X bajo escrutinio regulatorio. Si la plataforma de redes sociales es declarada culpable, podría enfrentar multas masivas en toda la UE.

¿Qué desencadenó la investigación de Irlanda?

La DPC confirmó el 17 de febrero que ha iniciado una investigación estatutaria contra X Internet Unlimited Company (XIUC), la entidad de la empresa con sede en la UE. Esta investigación marca una de las acciones regulatorias más importantes hasta la fecha relacionadas con el escándalo de generación de imágenes de Grok.

La DPC inició la investigación después de que varios medios informaran que los usuarios podían solicitar a Grok generar imágenes sexualizadas de personas, incluidos niños.

“La DPC ha estado interactuando con XIUC desde que los informes de los medios surgieron hace varias semanas sobre la presunta capacidad de los usuarios de X para solicitar a la cuenta @Grok en X que genere imágenes sexualizadas de personas reales, incluidos niños”, declaró el comisionado adjunto Graham Doyle.

El regulador intenta determinar si X violó disposiciones fundamentales del Reglamento General de Protección de Datos (RGPD).

Dado que Irlanda actúa como Autoridad Supervisora Principal de X en la UE, las conclusiones de la DPC podrían derivar en medidas de ejecución aplicables en toda la Unión Europea.

Técnicamente, bajo el RGPD, las autoridades pueden imponer multas de hasta el 4 % de los ingresos anuales globales.

Aunque el caso tiene en su núcleo contenido potencialmente dañino, también trata sobre el tratamiento de datos personales.

Si Grok generó imágenes sexualizadas que representan a personas reales sin su consentimiento, las autoridades podrían considerar que se trata de un tratamiento ilícito de datos en virtud del artículo 6 del RGPD.

Una lista creciente de investigaciones

La investigación de Irlanda no es la única. De hecho, existen múltiples investigaciones consecutivas dirigidas a X y, de forma implícita, a Grok.

• La Oficina del Comisionado de Información del Reino Unido abrió una investigación formal a principios de febrero.
• La Comisión Europea inició procedimientos en enero en virtud de la Ley de Servicios Digitales.
• El Fiscal General de California comenzó a examinar el papel de Grok en la generación de contenido de IA sexualmente explícito.
• Ofcom inició una investigación sobre seguridad en línea en el Reino Unido.
• Los fiscales franceses registraron las oficinas de X en París como parte de una investigación penal relacionada con presuntos deepfakes y material de abuso sexual infantil.

Debido a que la sede europea de X se encuentra en Dublín, la DPC irlandesa suele actuar como el principal organismo encargado de hacer cumplir el RGPD.

Cómo pueden protegerse los usuarios del abuso de imágenes mediante IA

Mientras los reguladores investigan a las plataformas, las personas deben afrontar ahora los riesgos de las herramientas impulsadas por IA ya desplegadas públicamente.

Los usuarios deberían:

• Limitar las fotos personales disponibles públicamente
• Activar controles de privacidad sólidos en las plataformas sociales
• Supervisar posibles casos de suplantación de identidad o contenido deepfake
• Denunciar de inmediato imágenes no consentidas

Cómo ayuda Bitdefender a proteger contra el abuso impulsado por IA

Los deepfakes representan solo una faceta del abuso mediante IA. Los atacantes comienzan a combinar la IA generativa con phishing, estafas de suplantación de identidad e ingeniería social.

Las soluciones de seguridad de Bitdefender ayudan a usuarios y organizaciones a:

• Detectar intentos de phishing asistidos por IA
• Bloquear enlaces maliciosos y campañas de suplantación
• Proteger los datos personales frente a la exposición
• Supervisar la huella digital para detectar abusos

Preguntas frecuentes

¿Por qué Irlanda abrió una investigación sobre Grok?
La DPC inició la investigación después de que informes señalaran que los usuarios podían solicitar a Grok generar imágenes sexualizadas de adultos y menores.

¿Qué leyes abarca la investigación?
La investigación se centra en el cumplimiento del RGPD, incluido el tratamiento lícito de datos, entre otros aspectos.

¿Podría X enfrentar multas?
Sí. El RGPD permite multas de hasta el 4 % de los ingresos anuales globales si los reguladores determinan que hubo infracciones graves.

¿Otros países están investigando a Grok?
Sí. Reguladores en el Reino Unido, la UE, Estados Unidos y Francia han iniciado investigaciones relacionadas.

¿Irlanda ha declarado culpable a X?
No. La investigación sigue en curso.