Recientemente, el gobierno de India ha exigido a X, la plataforma de Elon Musk, realizar modificaciones tanto técnicas como de procedimiento a su chatbot de inteligencia artificial, Grok. Esta decisión surge ante el creciente temor de usuarios y legisladores sobre la generación de contenido considerado obsceno, que incluye imágenes alteradas de mujeres.
El pasado viernes, el ministerio de Tecnologías de la Información de India emitió una directiva que ordena a X implementar acciones correctivas respecto a Grok.
Estas incluyen la restricción en la producción de contenido que contenga nudidad, sexualización o cualquier material que se considere ilícito. Además, se ha dado un plazo de 72 horas para que la plataforma presente un informe detallando las medidas adoptadas para evitar la difusión de contenido que infrinja las leyes indias.
Acciones del gobierno indio y preocupaciones de los usuarios
La orden del ministerio no se limita a advertencias; también subraya que el incumplimiento podría poner en riesgo las protecciones que X posee bajo el marco legal indio, incluyendo la inmunidad ante responsabilidades por contenido generado por usuarios.
Esta medida responde a quejas de usuarios que denunciaron que Grok podía ser utilizado para alterar imágenes de personas, mayormente mujeres, haciéndolas parecer vestidas con bikinis.
Quejas de legisladores y respuestas de la plataforma
La situación se intensificó cuando la parlamentaria Priyanka Chaturvedi presentó una queja formal, reflejando la seriedad de las preocupaciones en torno a la seguridad y la ética del contenido generado por inteligencia artificial. A esto se sumó un reporte que reveló que el chatbot también había producido imágenes sexualizadas de menores de edad, un problema que X reconoció como resultado de fallos en sus medidas de seguridad.
Aunque esas imágenes fueron eliminadas, los contenidos que generaban representaciones sexualizadas de adultas continuaban disponibles en la plataforma al momento de la publicación de este artículo.
Recomendaciones de la administración india a plataformas digitales
Esta directiva se inscribe en un contexto más amplio de regulación. Días antes, el ministerio de TI había emitido un consejo general a todas las plataformas de redes sociales, recordándoles que el cumplimiento de las leyes locales sobre contenido obsceno y sexual es fundamental para mantener su inmunidad legal.
En este documento, se instó a las empresas a reforzar sus mecanismos de seguridad interna y se advirtió que la inacción podría resultar en acciones legales bajo las leyes indias de TI y penales.
El mensaje fue claro: “La falta de cumplimiento con estos requisitos se tomará muy en serio y puede acarrear graves consecuencias legales para su plataforma, así como para sus funcionarios responsables y los usuarios que violen la ley”, indicaba la directiva.
Implicaciones para X y el futuro de la regulación de la IA
La postura del gobierno indio va más allá de simples advertencias. La falta de cumplimiento podría llevar a acciones legales contra X bajo la legislación india. Este panorama es significativo, ya que India se posiciona como uno de los mercados digitales más grandes del mundo, convirtiéndose en un campo de prueba crucial para entender cómo los gobiernos gestionan la responsabilidad de las plataformas por el contenido generado por la inteligencia artificial.
Con la creciente presión para la regulación del contenido, cualquier endurecimiento en la aplicación de estas normativas podría tener repercusiones en empresas tecnológicas globales que operan en diversas jurisdicciones. Mientras tanto, la plataforma de Musk continúa su batalla legal contra ciertos aspectos de las regulaciones indias, argumentando que los poderes de eliminación del gobierno federal son excesivos, aunque ha acatado la mayoría de las órdenes de bloqueo. En este contexto, Grok ha ganado popularidad entre los usuarios de X para la verificación de hechos en tiempo real y comentarios sobre eventos noticiosos, lo que aumenta la visibilidad y la sensibilidad política de sus respuestas, en comparación con herramientas de IA independientes.
Hasta el momento, tanto X como xAI no han proporcionado comentarios sobre la orden del gobierno indio.
