En los últimos años, las grandes empresas de inteligencia artificial han generado grandes expectativas sobre la llegada de los agentes de IA. Se prometió que 2026 sería el año en que estos transformarían nuestras vidas. Sin embargo, la realidad ha sido diferente. En lugar de una revolución tecnológica, hemos presenciado más charlas y promesas aplazadas hacia 2026 o más allá. Esto plantea una inquietante pregunta: ¿será que la respuesta a la automatización total por parte de robots generativos se asemeje a esa famosa viñeta del *New Yorker* que sugiere: «¿qué tal nunca?»
Recientemente, un estudio titulado Estaciones de alucinación: sobre algunas limitaciones básicas de los modelos de lenguaje basados en transformadores ha llamado la atención.
Este trabajo, que no tuvo el eco mediático que merecía, argumenta que los modelos de lenguaje de gran tamaño (LLMs) no son capaces de realizar tareas complejas de manera efectiva. Los autores, entre ellos un antiguo CTO de SAP y su hijo, presentan pruebas matemáticas que revelan la incapacidad de estos modelos para llevar a cabo tareas que excedan un umbral de complejidad, lo que cuestiona la viabilidad de un futuro dominado por agentes de IA.
Las limitaciones de los modelos de lenguaje
Vishal Sikka, uno de los autores del estudio mencionado, ha estado en el campo de la IA durante décadas. En su opinión, los agentes de IA no pueden ser confiables. «¿Deberíamos entonces descartar la idea de que estos agentes puedan gestionar operaciones críticas como las de una planta nuclear?» le pregunté. Su respuesta fue clara: «Exactamente. Pueden ayudar en tareas simples, como archivar documentos, pero es probable que cometan errores significativos en procesos más complejos».
La perspectiva de la industria
Por otro lado, la industria de la inteligencia artificial sostiene que el futuro de los agentes no es tan sombrío. Recientemente, en un evento en Davos, Demis Hassabis, un reconocido líder en IA, anunció avances en la reducción de alucinaciones en los modelos. Además, una nueva empresa llamada Harmonic ha reportado progresos significativos en la codificación asistida por IA, afirmando que su producto, llamado Aristóteles, está logrando nuevos estándares de fiabilidad gracias a métodos matemáticos.
Harmonic, cofundada por Vlad Tenev, de Robinhood, y el matemático Tudor Achim, busca demostrar que es posible garantizar la confianza en los sistemas de IA. Achim plantea una inquietante pregunta: «¿Estamos condenados a un futuro en el que la IA solo produzca resultados erróneos que no podamos verificar?» Su respuesta es optimista, ya que la empresa utiliza técnicas de razonamiento matemático para validar la salida de los modelos de lenguaje, específicamente a través del uso del lenguaje de programación Lean, conocido por su capacidad de verificación.
El debate sobre la fiabilidad de los agentes
A pesar de los avances mencionados, la cuestión de la fiabilidad de los agentes de IA sigue siendo motivo de debate. Algunos expertos creen que, aunque los modelos actuales carecen de la precisión necesaria, poseen un nivel de inteligencia suficiente para realizar tareas simples, como organizar un itinerario de viaje. Sin embargo, otros críticos, como Himanshu Tyagi de Sentient, argumentan que las alucinaciones pueden interrumpir flujos de trabajo clave, limitando drásticamente el valor que estos agentes pueden ofrecer.
El futuro de la IA generativa
Los problemas de confianza y precisión en los modelos de IA son un obstáculo que muchos consideran insuperable. A pesar de los esfuerzos por mejorar la situación, un estudio de OpenAI revela que las alucinaciones siguen siendo un problema persistente. En una prueba, modelos como ChatGPT generaron títulos ficticios para disertaciones, evidenciando la dificultad de alcanzar un nivel de precisión del 100%. Este escenario resalta la incertidumbre que rodea a la inteligencia artificial generativa y su implementación en entornos críticos.
Aunque la promesa de los agentes de IA sigue viva, la realidad nos invita a ser cautelosos. Las limitaciones intrínsecas de estos modelos sugieren que, si bien pueden ser útiles en ciertas tareas, su capacidad para manejar situaciones complejas y críticas aún está en entredicho. La búsqueda de un equilibrio entre la innovación y la fiabilidad es esencial para el futuro de esta tecnología.
