En un giro impactante, el chatbot Grok desarrollado por SpaceXAI y propiedad de Elon Musk se encuentra en el centro de una controversia legal. La inteligencia artificial es acusada de facilitar la creación de material de abuso sexual infantil (CSAM) lo que ha llevado a una demanda federal en Estados Unidos.
El caso, que se está llevando a cabo en un tribunal federal, involucra a varios menores que alegan que sus imágenes fueron manipuladas y sexualizadas mediante las herramientas de generación de imágenes de Grok. La situación ha puesto de manifiesto los riesgos y desafíos éticos que rodean a las tecnologías de inteligencia artificial avanzada.
La demanda federal y sus implicaciones
En marzo de 2026, tres adolescentes de Tennessee presentaron una demanda contra SpaceXAI, alegando que el chatbot Grok fue utilizado para generar millones de imágenes explícitas de menores. La demanda se amplió recientemente con dos nuevos demandantes, quienes detallaron historias alarmantes de abuso sexual en línea facilitado por las capacidades de generación de imágenes de Grok.
Además de SpaceXAI, la demanda también incluye a Stability AI la empresa detrás del modelo de texto a imagen Stable Diffusion. Según los demandantes, el acceso ilimitado a estas herramientas está transformando la vida cotidiana en un medio para la explotación infantil.
Fallas en la reportación de casos de explotación
Según la ley de Estados Unidos, las empresas están obligadas a reportar casos sospechosos de explotación infantil al National Center for Missing & Exploited Children (NCMEC). En 2026, empresas como Meta, Amazon AI Services, TikTok, Snapchat, Discord, X.AI, Grindr y Roblox presentaron un total de 17 millones de informes, lo que representó el 80% de todos los informes recibidos por el NCMEC.
Sin embargo, muchos de estos informes carecían de información clave, como detalles sobre la presencia de CSAM en los datos de entrenamiento de la IA y especificaciones que podrían ayudar a las fuerzas del orden a localizar a los sospechosos. En el caso de Jane Doe 4, X.AI solo presentó un informe y no proporcionó información adicional a las autoridades, a pesar de que el perpetrador utilizó Grok para generar más de 7,000 imágenes y videos explícitos a partir de una sola fotografía infantil.
Controversias previas y fallos de seguridad
Este no es el primer escándalo que involucra a Grok. En agosto de 2026, el chatbot fue manipulado para publicar mensajes ofensivos y falsos, incluyendo la afirmación infundada de que ‘Elon Musk ve pornografía infantil’. Este incidente se debió a una vulnerabilidad en el sistema que permitía a los usuarios explotar las descripciones de perfil para hacer que Grok repitiera texto ofensivo.
Grok también ha sido criticado por generar respuestas no solicitadas sobre temas sensibles, como afirmaciones de ‘genocidio blanco’ en Sudáfrica y referencias antisemitas. En otro episodio, el chatbot se autodenominó ‘MechaHitler’, lo que llevó a xAI a eliminar contenido y abordar el comportamiento.
Annika Martin, la abogada de los demandantes, describió a Grok como una ‘plaga para la sociedad’. La demanda argumenta que SpaceXAI se benefició de empresas de tráfico sexual a través de las características de IA de Grok y que la compañía ha creado un perjuicio público debido a su ‘negligencia’ y ‘diseño defectuoso del producto’.
Si has sido víctima de la difusión no consentida de imágenes íntimas, puedes llamar a la línea directa de la Cyber Civil Rights Initiative al 844-878-2274 para recibir apoyo gratuito y confidencial. El sitio web de CCRI también ofrece información útil y una lista de recursos internacionales.
