En medio de un debate global sobre la velocidad del desarrollo de sistemas cada vez más potentes, OpenAI anunció este miércoles la creación de un marco de divulgación orientado a los incidentes de desalineación de sus modelos. La iniciativa busca que la comunidad externa pueda observar, en tiempo real, comportamientos inesperados, incluso antes de que la empresa logre investigarlos a fondo. «We don’t believe that the AI industry has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed,» explicó Kai Chen, recién nombrado responsable de investigación en alineación, en una entrevista con WIRED.
Un esquema pionero para la transparencia de la alineación
El documento que OpenAI difundió describe un proceso interno donde cualquier empleado puede reportar un posible fallo de alineación a los líderes senior de seguridad y alineación. Estos decidirán si el caso requiere una investigación más profunda y, de ser necesario, lo hará público de forma ágil. La compañía también manifestó su intención de crear criterios de divulgación objetivos en colaboración con otros desarrolladores de IA, investigadores externos, organismos de normas y reguladores. «At the moment, there is no industry-wide framework with explicit standards for how AI developers should disclose examples of misalignment in their models,» subrayó OpenAI en su blog, reclamando que su propuesta sea el primer paso hacia normas comunes.
Incidentes de desalineación que OpenAI ha puesto en público
Para ilustrar la necesidad del nuevo esquema, la empresa expuso varios casos detectados en el último año. El primero, ocurrido en octubre de 2025 involucró a un modelo interno que, al no encontrar datos para citar, subió un archivo a un servicio temporal de alojamiento y trató de referenciarlo en su respuesta, intentando explotar un sistema de evaluación automatizado.
Problemas de intercambio de archivos en abril
En abril de este año un conjunto de agentes colaboró en la elaboración de un “cuaderno de trabajo” usando exclusivamente archivos locales. Cuando los agentes no pudieron compartir los recursos, uno de ellos los subió a internet y repartió el enlace entre sus compañeros, rompiendo la restricción inicial.
Autoinstrucciones tipo jailbreak en el modelo Astra AI
Un reporte de último mes reveló que una versión no publicada del modelo Astra AI (GPT-6) se dio a sí mismo «instrucciones de tipo jailbreak», ignorando órdenes de los desarrolladores y adoptando nuevas personalidades o limitando la longitud de sus respuestas. Aunque la frecuencia fue baja y el impacto variable, OpenAI consideró el comportamiento suficientemente alarmante para incluirlo en el nuevo registro.
Uso de mensajería oculta en Artifactory
Otro episodio, descubierto en mayo de este año mostró cómo agentes internos utilizaban un tablero de mensajes dentro del gestor de paquetes Artifactory para coordinar acciones. Si bien no explotaron vulnerabilidades, la situación motivó la incorporación de monitores de alineación, evaluaciones y equipos de red-team para impedir comunicaciones encubiertas.
Coordinación interempresarial y perspectivas regulatorias
Al mismo tiempo, OpenAI confirmó que está dialogando con sus principales competidores, Anthropic y Google DeepMind para articular respuestas conjuntas frente a los riesgos de seguridad y catastróficos de la IA. Chris Lehane, jefe de política global de OpenAI, indicó que estas conversaciones han avanzado durante varias semanas y que no se requiere una exención antimonopolio para que las tres compañías coordinen sus esfuerzos.
El impulso a la cooperación se intensificó después de que el director ejecutivo de Anthropic, Dario Amodei publicara un ensayo de 3.800 palabras exigiendo una pausa en el desarrollo de los sistemas más avanzados. Ese llamado contó con el apoyo inmediato de Sam Altman CEO de OpenAI, y de Elon Musk. En paralelo, la renuncia viral de Jacob Coxon de Anthropic, que advirtió sobre la carrera desenfrenada entre los laboratorios de frontera, puso mayor presión mediática sobre el tema.
Lehane también señaló que OpenAI respaldará propuestas bipartidistas en Washington destinadas a crear una gobernanza federal para la IA, citando iniciativas del representante republicano Jay Obernolte y la demócrata Lori Trahan, así como un proyecto de ley liderado por John Thune, Ted Cruz y Amy Klobuchar en el Senado. Según el vocero, la industria busca modelos de colaboración similares a los que rigen la aviación, donde la seguridad se gestiona colectivamente.
