En el mundo de la inteligencia artificial (IA), 2026 se había establecido como un año clave para la llegada de los agentes de IA. Sin embargo, lo que parecía ser el umbral de una revolución tecnológica se ha convertido en un ciclo de debates y especulaciones que apuntan hacia un futuro incierto, donde la plena automatización por parte de robots generativos no es más que un sueño distante.
Un artículo que ha pasado desapercibido, titulado «Estaciones de alucinación: sobre algunas limitaciones básicas de los modelos de lenguaje basados en transformadores«, ofrece una nueva perspectiva sobre este tema.
Los autores, entre ellos un ex CTO de SAP y su hijo prodigio, argumentan que los modelos de lenguaje de última generación (LLMs) presentan limitaciones matemáticas que impiden que realicen tareas complejas de manera confiable.
Limitaciones matemáticas de la IA
Vishal Sikka, uno de los autores y una figura destacada en la industria de la IA, afirma que no hay forma de que estos modelos puedan operar de manera segura en tareas críticas.
En su opinión, aunque es posible que la IA pueda ayudar en tareas administrativas simples, como archivar documentos, cualquier intento de delegar responsabilidades significativas, como operar plantas nucleares, sería imprudente.
La visión optimista de la industria
A pesar de estas advertencias, la industria de la IA se muestra optimista. Recientemente, se han celebrado avances significativos en el ámbito de la codificación asistida por IA. Durante el evento de Davos, Demis Hassabis de Google destacó los progresos en la reducción de los problemas de alucinación en los modelos de IA, lo que ha llevado a que tanto grandes corporaciones como startups promuevan la narrativa de los ‘agentes de IA’.
Una de estas startups, Harmonic, que fue cofundada por Vlad Tenev, CEO de Robinhood, y Tudor Achim, un matemático formado en Stanford, ha presentado un nuevo enfoque para mejorar la fiabilidad de la codificación por IA. Su producto, llamado Aristóteles, utiliza métodos formales de razonamiento matemático para verificar la salida de los modelos de lenguaje.
El desafío de la veracidad en la IA
Achim sostiene que, contrariamente a lo que afirman algunos críticos, la capacidad de los modelos actuales para realizar tareas de razonamiento, como la planificación de itinerarios de viaje, es suficientemente avanzada.
Sin embargo, es crucial reconocer que los problemas de alucinación, donde la IA produce información incorrecta o inventada, siguen siendo un desafío persistente.
Estadísticas preocupantes
Un estudio reciente de OpenAI confirma esta problemática. A pesar de los avances en la tecnología, los investigadores encontraron que los modelos, incluyendo ChatGPT, son propensos a generar información incorrecta. En un experimento, se les pidió a tres modelos que proporcionaran el título de la tesis de un autor, y todos fallaron al crear títulos ficticios y al reportar incorrectamente el año de publicación. OpenAI concluyó que es poco probable que la exactitud de estos modelos alcance el 100% en un futuro cercano.
La disparidad entre capacidad y aplicación
OpenAI también ha señalado la importancia de cerrar la brecha entre las capacidades de la IA y su aplicación práctica en el mundo real. En su reciente informe, advirtieron que si no se integra adecuadamente la IA en los flujos de trabajo de empresas y gobiernos, podría haber un impacto negativo en el bienestar económico global. A pesar de la eficiencia que puede aportar la IA, su implementación efectiva aún enfrenta obstáculos significativos.
Una de las estadísticas preocupantes que se presentan es que, entre los usuarios de ChatGPT Enterprise, un 19% nunca ha utilizado las herramientas de análisis de datos. Esto pone de manifiesto que la adopción de la IA no siempre se traduce en un uso óptimo, ya que algunos usuarios pueden no necesitar estas funcionalidades en sus respectivos campos laborales.
El objetivo de OpenAI
Ante los retos financieros y la competencia en el sector, OpenAI busca convertirse en una entidad «demasiado grande para fracasar». Al establecer asociaciones con gobiernos y empresas, la compañía espera asegurar su posición y garantizar un acceso amplio a sus tecnologías. El programa «OpenAI for Countries» se centra en colaborar con naciones para implementar soluciones de IA en sectores críticos como la educación y la salud, lo que podría brindar un acceso más equitativo a la tecnología.
En resumen, mientras que la visión de un futuro dominado por agentes de IA parece atractiva, la realidad actual nos recuerda que aún queda un largo camino por recorrer. Las limitaciones matemáticas, los desafíos de veracidad y la disparidad entre capacidades y aplicaciones son solo algunas de las barreras que debemos superar antes de que esta tecnología pueda cumplir con su promesa de transformar nuestras vidas.
