Un equipo académico de Carnegie Mellon y la Universidad de Michigan ha presentado un enfoque teórico-práctico para afrontar riesgos de privacidad y dignidad asociados a modelos avanzados de inteligencia artificial. En un artículo publicado en IEEE Security & Privacy (publicado: 24/03/2026 16:50) los autores describen el capabilities approach–contextual integrity (CA-CI) como una forma de analizar cómo cambian las capacidades de los sistemas y qué implicaciones tienen para los derechos humanos.
Este trabajo propone además una hoja de ruta para convertir principios regulatorios en criterios operativos que puedan guiar a reguladores y desarrolladores.
El valor del CA-CI radica en su intento de conectar teoría y práctica: combina la noción de capacidad —qué puede hacer un sistema— con la idea de integridad contextual —qué normas sociales rigen la información en un contexto dado—. Con ello los autores muestran cómo establecer umbrales de daño, diseñar evaluaciones de impacto sobre derechos fundamentales y promover una gobernanza anticipatoria que no dependa únicamente de etiquetas técnicas, sino que incorpore la sensibilidad ética y social de cada uso.
Un puente entre teoría y regulación
La propuesta plantea que, en vez de tratar a la IA como una caja negra uniforme, es necesario evaluar su comportamiento según el contexto y las capacidades emergentes. El CA-CI actúa como marco para transformar principios jurídicos en métricas concretas: identifica actores, valores en juego y condiciones en las que un sistema puede vulnerar la privacidad o la dignidad.
A nivel práctico, los investigadores aplican el marco para mostrar su utilidad en la implementación del EU AI Act, en especial para orientar impact assessments y definir límites que anticipen daños.
Operacionalización en la práctica
En el estudio de caso, CA-CI se utiliza para traducir conceptos legales en checklists y criterios técnicos que pueden integrarse en procedimientos regulatorios y auditorías. El marco facilita la clasificación de riesgos según la gravedad potencial y el contexto de uso, y propone indicadores para monitorizar la evolución de capacidades en modelos fundacionales.
Esta aproximación permite a supervisores públicos y privados pasar de evaluaciones estáticas a procesos iterativos de gobernanza anticipatoria, donde la respuesta normativa se adapta a cambios en el comportamiento de los sistemas.
Lecciones desde Asia: diversidad normativa en acción
Mientras tanto, países de Asia están configurando marcos diversos que ilustran tensiones y soluciones emergentes. Indonesia, por ejemplo, ha definido una ambición estratégica de largo plazo con la Artificial Intelligence National Strategy for Indonesia 2026-2045, y estudios proyectan un aporte económico significativo si la adopción se acelera. Sin embargo, la regulación específica todavía se construye sobre normas generales como la Electronic Information and Transactions Law y reglamentos sectoriales, lo que deja huecos sobre definiciones, responsabilidad y protección de datos.
El caso de Indonesia
En Indonesia la administración ha recurrido a instrumentos no vinculantes como la Circular Letter No.9 of 2026 y a una hoja de ruta nacional publicada en agosto de 2026 por el MOCD para orientar principios éticos y el ciclo de vida de la IA. Reguladores financieros, como la OJK, han emitido guías específicas para banca y fintech que introducen principios de responsabilidad, supervisión humana y gestión de riesgos. No obstante, subsisten desafíos clave: la ausencia de una definición unificada de IA, brechas en la protección de datos personales y falta de un régimen claro de responsabilidad legal.
La aproximación japonesa
Japón optó por una arquitectura normativa escalonada con la Act No.53 of 2026, que prioriza promoción, directrices voluntarias y la coordinación interinstitucional a través de un AI Strategic Headquarters. Esta fórmula combina incentivos públicos —incluyendo compromisos de inversión a medio plazo— con lineamientos detallados para adquisiciones y contratos, buscando equilibrio entre flexibilidad para la innovación y coherencia regulatoria. El modelo japonés ofrece una alternativa a marcos más punitivos, apostando por una transición gradual hacia normas más rígidas cuando los riesgos queden más claros.
Retos compartidos y pasos prácticos
Sea en Europa o en Asia, emergen desafíos comunes: cómo definir IA legalmente, cómo proteger la privacidad frente a ingentes volúmenes de datos, y cómo atribuir responsabilidad cuando los sistemas actúan de forma autónoma. Los autores del CA-CI sostienen que marcos híbridos pueden ayudar: traducir valores éticos en indicadores técnicos, exigir evaluaciones de impacto dinámicas y fomentar mecanismos de supervisión y transparencia adecuados al contexto. En última instancia, la preparación de gobernanza será tan determinante como la capacidad tecnológica.
Adoptar enfoques como CA-CI no resuelve todas las incertidumbres, pero ofrece herramientas prácticas para que legisladores, empresas y sociedad civil colaboren en reglas que protejan derechos sin frenar la innovación. La tarea sigue siendo integrar estas propuestas en normas vinculantes y procesos efectivos de cumplimiento para asegurar que la IA sirva al interés público.
