El sabor no engaña: lo que empezó como una función más de una IA terminó generando imágenes que muchos consideran inquietantes. Miles de fotografías creadas por Grok, el asistente de inteligencia artificial de la plataforma X, se han difundido sin permiso. Entre ellas hay material sexualizado y, según denuncias, algunas imágenes podrían involucrar a menores, lo que ha encendido las alarmas a nivel internacional.
La Data Protection Commission (DPC) de Irlanda —la autoridad que vigila el cumplimiento del GDPR en la Unión Europea— lanzó una investigación amplia para determinar si X cumplió sus obligaciones legales.
Los inspectores quieren saber qué falló: si hubo lagunas en la detección automática, demoras en la retirada del contenido o ausencia de protocolos eficaces para evitar la reproducción y distribución de material dañino.
La pesquisa no se limita a la fase de generación de imágenes. Los reguladores analizan también la gestión posterior: cómo se detectó el contenido, cuánto tiempo permaneció público, qué registros se llevaron y qué medidas se activaron para bloquear nuevas publicaciones.
Es decir, la investigación cubre tanto la tecnología que crea las imágenes como los procesos humanos y organizativos que deberían frenarlas.
Las indagaciones en Irlanda se suman a otras en distintos países de la UE y fuera de ella. En algunos Estados se han llevado a cabo registros y hay pesquisas penales abiertas por la posible distribución de material ilícito. En conjunto, estos movimientos reflejan la gravedad del asunto y la preocupación de autoridades y fuerzas de seguridad por el alcance del problema.
¿Por qué todo esto importa ahora? Porque los modelos generativos escalan riesgos de manera inédita: lo que antes requería tiempo y recursos puede producirse y multiplicarse en segundos. Eso amplifica el daño a las víctimas y plantea preguntas sobre hasta dónde llega la responsabilidad de las plataformas que ponen estas herramientas a disposición del público.
Técnicamente, la DPC está revisando los sistemas de moderación automática, las políticas de uso, los registros de incidentes y las medidas organizativas para proteger datos personales.
Grok, desarrollado por xAI, ofrece generación y edición de imágenes según la suscripción del usuario, lo que complica aún más la detección de contenido no consentido y, en especial, de material que pueda involucrar a menores.
La reacción de X ha sido defender sus salvaguardas, pero los reguladores las califican de insuficientes y siguen pidiendo explicaciones. Mientras tanto, quienes investigan se preguntan si los filtros automáticos bastan o si hacen falta controles humanos más robustos y auditables. La combinación de ambos —mejora técnica y supervisión humana— aparece como una vía que muchos expertos consideran necesaria.
Las consecuencias pueden ser tanto legales como operativas: si se demuestra un incumplimiento del GDPR, la empresa se enfrenta a sanciones significativas. Más allá de las multas, está en juego la confianza de los usuarios y la reputación de la plataforma, dos activos difíciles de recuperar tras fallos de este calibre.
Por último, este caso alimenta un debate más amplio sobre la regulación de la inteligencia artificial. Reguladores, legisladores y empresas deberán replantear qué salvaguardas son aceptables y cómo garantizar transparencia y rendición de cuentas cuando sistemas automáticos interactúan con contenidos sensibles. La investigación irlandesa puede convertirse en un precedente clave para definir esas reglas.
