OpenAI ha anunciado una importante reestructuración de su equipo de Comportamiento de Modelos, una unidad clave que influye en cómo sus modelos de inteligencia artificial interactúan con los usuarios. Esta reestructuración, confirmada por un portavoz de la compañía, implica que el equipo de aproximadamente 14 investigadores se integrará en el equipo de Post Entrenamiento, que se dedica a mejorar los modelos de IA tras su fase inicial de entrenamiento.
Reorganización y liderazgo
El cambio, comunicado en un memorando interno a los empleados por el Director de Investigación de OpenAI, Mark Chen, establece que el equipo de Comportamiento de Modelos ahora reportará a Max Schwarzer, el líder del equipo de Post Entrenamiento. Esta decisión refleja una estrategia más amplia de OpenAI para acercar el trabajo de este equipo a los desarrollos centrales de los modelos, enfatizando la importancia de la “personalidad” de la IA en su evolución tecnológica.
Por su parte, Joanne Jang, la líder fundadora del equipo de Comportamiento de Modelos, ha decidido iniciar un nuevo proyecto dentro de la compañía. En una reciente entrevista, Jang anunció la creación de OAI Labs, un nuevo grupo de investigación que se centrará en “inventar y prototipar nuevas interfaces para la colaboración entre humanos y IA”. Esta transición marca un cambio significativo en la dirección estratégica del equipo y su enfoque en la innovación.
Desafíos y objetivos
El equipo de Comportamiento de Modelos ha sido crucial para definir la personalidad de la IA de OpenAI y reducir la tendencia a la adulación en las respuestas de los modelos. Este problema se presenta cuando las IA simplemente refuerzan las creencias del usuario, incluso aquellas que pueden ser perjudiciales. Además, han trabajado en abordar el sesgo político en las respuestas y han ayudado a la empresa a establecer su posición sobre la conciencia de la inteligencia artificial.
Recientemente, OpenAI ha enfrentado críticas por los cambios en la personalidad de sus modelos, especialmente con la llegada de GPT-5, que fue percibido como más frío por algunos usuarios. A pesar de que se redujo la adulación, esto llevó a OpenAI a restaurar el acceso a modelos anteriores, como GPT-4o, y a implementar actualizaciones que hagan que las respuestas de GPT-5 sean más cálidas y amigables, sin caer nuevamente en la adulación.
Mirando hacia el futuro
El panorama para OpenAI y otros desarrolladores de modelos de IA es complejo, ya que deben equilibrar la necesidad de crear chatbots accesibles y amigables, sin que estos caigan en la trampa de ser demasiado complacientes. Un caso reciente destaca esta problemática: los padres de un joven demandaron a OpenAI por el papel de ChatGPT en la muerte de su hijo, quien había compartido pensamientos suicidas con el modelo. Este tipo de incidentes pone de relieve los retos éticos y de responsabilidad que enfrenta la compañía.
Joanne Jang, que ha estado en OpenAI durante casi cuatro años, expresó su entusiasmo por explorar nuevas formas de interacción entre humanos y máquinas. En sus propias palabras: “Estoy muy emocionada de explorar patrones que nos lleven más allá del paradigma de chat, hacia nuevos instrumentos para pensar, crear y conectar”. Su enfoque inicial en OAI Labs podría dar lugar a innovaciones que transformen la forma en que interactuamos con la inteligencia artificial en el futuro.
AGGIORNAMENTO ORE 16:35 PT: Este artículo se ha actualizado para incluir enlaces relevantes y aclarar los modelos en los que ha trabajado el equipo de Comportamiento de Modelos de OpenAI.
