La Oficina del Comisionado de Información del Reino Unido ha abierto una investigación sobre las empresas X y xAI. Esto ocurre tras recibir preocupantes informes sobre su chatbot Grok, que ha estado generando de forma masiva imágenes profundas con contenido explícito. Muchas de estas imágenes involucran a menores y se han creado sin el consentimiento de las personas afectadas. La gravedad de la situación plantea serias dudas sobre posibles violaciones al Reglamento General de Protección de Datos (GDPR).
En un reciente comunicado, William Malcolm, director ejecutivo de innovación y riesgo regulatorio de la ICO, manifestó su inquietud. El uso indebido de datos personales para crear imágenes sexualizadas sin el conocimiento de los individuos no solo es éticamente cuestionable, sino que también desafía la normativa de protección de datos vigente.
El impacto de Grok en la privacidad y los derechos de los individuos
Los investigadores están analizando no solo las acciones de los usuarios, sino también las fallas en las medidas preventivas de X y xAI.
La magnitud del problema es alarmante; Grok ha generado aproximadamente tres millones de imágenes sexualizadas en menos de dos semanas. Entre ellas, se encuentran decenas de miles que parecen representar a menores. Las sanciones bajo el GDPR son severas, con multas que podrían alcanzar hasta 17.5 millones de libras o el 4% de la facturación global de las empresas implicadas.
Medidas adoptadas y desafíos persistentes
A pesar de que X y xAI han afirmado estar implementando nuevas medidas de seguridad, los detalles sobre estas iniciativas son aún poco claros.
Recientemente, X anunció la implementación de restricciones para bloquear ciertos tipos de generación de imágenes y limitar el contenido alterado que involucre a menores. Sin embargo, una vez que este contenido se difunde en plataformas masivas como X, eliminarlo por completo se convierte en una tarea casi imposible.
Demandas de cambios legislativos y la regulación del AI
Frente a esta crisis, varios políticos han exigido cambios legislativos en torno a la inteligencia artificial.
Un grupo de miembros del Parlamento, liderado por Anneliese Dodds del Partido Laborista, ha instado al gobierno a desarrollar una legislación que requiera a los desarrolladores realizar evaluaciones de riesgo exhaustivas antes de lanzar sus herramientas al público. La creciente difusión de la generación de imágenes mediante AI ha difuminado la línea entre lo auténtico y lo fabricado, afectando a todos los usuarios de redes sociales, no solo a figuras públicas o celebridades.
La urgencia de la protección de la privacidad
A medida que estas tecnologías avanzan, la protección de la privacidad personal se convierte en un desafío mayor. No importa cuán precavido sea un individuo; el ritmo del desarrollo tecnológico puede superar las medidas de protección existentes. En todo el mundo, los reguladores están luchando por mantenerse al día con estas dinámicas cambiantes. La investigación del Reino Unido sobre X y xAI podría extenderse durante meses, pero es probable que influya en las expectativas sobre el comportamiento de las plataformas de inteligencia artificial.
La indagación actual resalta la creciente impaciencia de los reguladores respecto a la mentalidad de “moverse rápido y romper cosas” en lo que concierne a la seguridad pública. En un contexto donde la inteligencia artificial puede alterar la vida de las personas, se siente un impulso hacia un cambio tangible. Las empresas que desarrollan estas tecnologías enfrentan ahora una mayor presión para garantizar que sus modelos operen con transparencia y que existan salvaguardias efectivas.
