Las grandes empresas de inteligencia artificial habían anticipado que 2026 sería el año de los agentes de IA. Sin embargo, hasta ahora, hemos sido testigos de numerosas discusiones y promesas que se han postergado hacia 2026 o incluso más allá. Esta situación nos lleva a cuestionarnos: ¿cuándo experimentaremos la automatización total de nuestras vidas a través de robots generativos que realicen nuestras tareas y gestionen el mundo? La respuesta podría no ser tan optimista como se esperaba.
Un estudio poco destacado en medio de la efervescencia por la IA agentiva ofrece una perspectiva diferente. Titulado “Estaciones de alucinación: sobre algunas limitaciones básicas de los modelos de lenguaje basados en transformadores”, el documento sostiene que existen límites matemáticos que impiden a los modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés) ejecutar tareas complejas de manera efectiva. Aunque la ciencia detrás de estas afirmaciones puede ser densa, los autores, un ex-CTO de SAP y su hijo prodigio, presentan una crítica contundente a la visión idealista del futuro.
Limitaciones de los modelos de lenguaje
Vishal Sikka, uno de los autores mencionados y ex-CEO de Infosys, comparte su perspectiva sobre la fiabilidad de estos modelos. A pesar de su amplia trayectoria en la industria, él es claro: “No hay forma de que sean confiables”. Esta afirmación provoca una reflexión: ¿podemos confiar en que los agentes de IA manejen sistemas tan críticos como las plantas nucleares? Sikka responde: “Exactamente”.
Aunque podrían ser útiles para tareas administrativas simples, la posibilidad de cometer errores es elevada.
Los avances y las promesas de la industria
A pesar de esta realidad, el sector de la IA sigue defendiendo su progreso. Un área en la que los agentes de IA han demostrado resultados positivos es en la programación, que ha experimentado un auge significativo recientemente. En un evento reciente en Davos, Demis Hassabis, líder de IA de Google, destacó los avances en la reducción de las alucinaciones en estos modelos.
Además, tanto grandes empresas como startups están promoviendo el potencial de los agentes de IA.
Un ejemplo de esto es Harmonic, una startup que ha reportado avances en la codificación impulsados por fundamentos matemáticos. Co-fundada por Vlad Tenev, CEO de Robinhood, y Tudor Achim, un matemático formado en Stanford, Harmonic ha desarrollado un producto llamado Aristóteles, que busca garantizar la fiabilidad de los sistemas de IA. Achim plantea la preocupación sobre un futuro donde la IA solo produzca resultados inexactos, lo que sería inaceptable en su opinión.
La búsqueda de la inteligencia matemática
La propuesta de Harmonic se basa en la utilización de métodos formales de razonamiento matemático para validar la salida de un LLM. Esto se realiza mediante la codificación de resultados en el lenguaje de programación Lean, conocido por su capacidad de verificación. Sin embargo, por el momento, el enfoque de Harmonic se centra en un ámbito reducido, dado que su misión principal es alcanzar una superinteligencia matemática, enfocada principalmente en la codificación.
La opinión sobre el comportamiento de los agentes
A pesar de las limitaciones, Achim no considera que la fiabilidad del comportamiento agentivo sea tan problemática como algunos críticos sugieren. Según él, “la mayoría de los modelos actuales poseen el nivel de inteligencia necesaria para planificar un itinerario de viaje”. Esto sugiere que, aunque existen desafíos, hay potencial en el desarrollo de capacidades más avanzadas en el futuro.
Es crucial reconocer que tanto los escépticos como los optimistas tienen puntos válidos. La comunidad científica, incluida OpenAI, ha admitido que las alucinaciones siguen siendo un obstáculo significativo en el campo de la IA. Un estudio reciente reveló que tres modelos, incluido ChatGPT, fabricaron títulos falsos al intentar identificar la disertación de un autor. En el blog relacionado, OpenAI concluyó que “la precisión nunca alcanzará el 100 por ciento”. Esta es una realidad que todos, desde desarrolladores hasta usuarios finales, deben aceptar.
