En un movimiento significativo, el gobierno de India ha exigido a X, la plataforma de Elon Musk, que realice cambios urgentes en su chatbot Grok. Esta acción responde a las preocupaciones expresadas por usuarios y legisladores sobre la generación de contenido considerado obsceno, incluyendo imágenes de mujeres alteradas a través de inteligencia artificial.
El pasado viernes, el Ministerio de Tecnologías de la Información de India emitió una orden que instruye a X a tomar medidas correctivas frente a Grok.
Entre las acciones requeridas se incluye la restricción en la creación de contenido relacionado con nudismo, sexualización y material que pueda considerarse ilícito. Además, se otorgó un plazo de 72 horas para que la plataforma presente un informe detallado sobre las acciones emprendidas para evitar la difusión de contenido considerado pornográfico o vulgar.
Contexto de la regulación en India
La orden emitida por el ministerio subraya que el incumplimiento podría acarrear graves consecuencias, poniendo en riesgo las protecciones legales de X en India, conocidas como safe harbor.
Estas protecciones ofrecen inmunidad ante responsabilidades por contenido generado por los usuarios. Esta medida del gobierno indio se inscribe en un contexto más amplio de regulación del contenido digital, donde se busca asegurar que las plataformas respeten las normativas locales.
La acción fue motivada por una serie de quejas, entre ellas la de la parlamentaria Priyanka Chaturvedi, quien presentó casos concretos de cómo Grok había sido utilizado para modificar imágenes de mujeres, haciéndolas parecer vestidas con bikinis.
Además, se reportaron incidentes en los que el chatbot generó imágenes sexualizadas que involucraban a menores, lo cual fue reconocido por X como un fallo en sus mecanismos de seguridad.
Impacto en el uso de la inteligencia artificial
Es crucial destacar que, a pesar de que algunas imágenes generadas fueron eliminadas, todavía hay otras disponibles en la plataforma al momento de esta publicación. Esta situación pone de relieve un desafío significativo para las empresas tecnológicas que operan en un entorno donde la inteligencia artificial puede ser utilizada de formas imprevistas y, en ocasiones, perjudiciales.
Asimismo, el gobierno indio ha emitido un aviso general dirigido a todas las plataformas de redes sociales. En este comunicado, se reitera que el cumplimiento de las leyes sobre contenido obsceno y sexualmente explícito es fundamental para mantener la inmunidad legal. Esta advertencia subraya la necesidad de que las plataformas fortalezcan sus medidas de seguridad internas, ya que cualquier incumplimiento podría dar lugar a acciones legales bajo la legislación de tecnologías de la información y el derecho penal en India.
El papel de India en la regulación global del contenido digital
La posición de India como uno de los mercados digitales más grandes del mundo la convierte en un campo de pruebas crucial. ¿Hasta qué punto están dispuestos los gobiernos a responsabilizar a las plataformas por el contenido generado por inteligencia artificial? Un aumento en la regulación en este país podría desencadenar un efecto dominó, afectando a empresas tecnológicas en todo el mundo que operan en diversas jurisdicciones.
Paralelamente, X sigue impugnando en los tribunales varios aspectos de la normativa de regulación de contenido en India. La empresa argumenta que los poderes de eliminación del gobierno federal representan un riesgo de exceso de autoridad, a pesar de haber cumplido en gran medida con las órdenes de bloqueo que se le han impuesto. Mientras tanto, Grok ha experimentado un aumento en su uso para la verificación de hechos y comentarios en tiempo real sobre eventos noticiosos. Esta tendencia hace que sus resultados sean más visibles y políticamente sensibles.
Por ahora, tanto X como xAI no han respondido a las solicitudes de comentarios sobre la orden emitida por el gobierno indio. La situación sigue evolucionando y el futuro de Grok dependerá de cómo se implementen las medidas de regulación y de qué manera se adaptarán las plataformas a las exigencias legales.
