En los últimos años, las grandes empresas de inteligencia artificial han pronosticado que 2026 sería el año en que los agentes de IA transformarían nuestras vidas. Sin embargo, a medida que nos acercamos a esa fecha, el enfoque parece haber cambiado, centrándose más en la discusión sobre estos agentes, lo que ha llevado a postergar su implementación para 2026 o más allá. Esto plantea una pregunta crucial: ¿cuándo, si es que alguna vez, veremos un mundo donde la IA automatice por completo nuestras tareas y gestione el entorno que nos rodea?
Un estudio reciente, que pasó desapercibido entre la abundante información sobre la IA, aborda esta cuestión.
Titulado “Estaciones de alucinación: sobre algunas limitaciones básicas de los modelos de lenguaje basados en transformadores”, el documento sostiene que los modelos de lenguaje de última generación presentan restricciones matemáticas que limitan su capacidad para realizar tareas complejas de manera efectiva.
Las limitaciones de la IA actual
Los autores del estudio, que incluyen a un ex-CTO de SAP y su hijo, un prodigio adolescente, han utilizado su conocimiento para demostrar que los modelos de lenguaje no pueden llevar a cabo tareas de razonamiento más allá de un cierto nivel de complejidad.
A pesar de los avances en la inteligencia artificial, como el desarrollo de modelos de razonamiento más sofisticados, sostienen que aún no se ha encontrado una solución que elimine estas limitaciones. “No hay forma de que sean fiables”, expresa Vishal Sikka, quien ha tenido una larga carrera en el sector de la tecnología.
Las preocupaciones sobre la automatización
Cuando se le pregunta sobre la posibilidad de que la IA gestione algo tan crítico como una planta de energía nuclear, Sikka es claro.
“Deberíamos olvidar la idea de que los agentes de IA puedan hacerse cargo de tareas tan complejas”, afirma. Aunque es posible que la IA pueda ayudar en tareas administrativas, es fundamental estar preparados para los errores que puedan surgir.
Optimismo en el sector de la IA
A pesar de estas preocupaciones, el sector de la inteligencia artificial sigue siendo optimista. Un área donde se ha visto un notable progreso es en la programación, que ha ganado impulso en el último año.
En un evento reciente en Davos, el director de IA de Google, Demis Hassabis, compartió avances en la reducción de los fenómenos de alucinación en los modelos de IA. Empresas de gran envergadura y nuevas startups están impulsando la narrativa sobre los agentes de IA.
Una de estas startups, Harmonic, ha presentado un avance en la programación de IA que, según ellos, también se basa en matemáticas. Co-fundada por Vlad Tenev, CEO de Robinhood, y Tudor Achim, un matemático formado en Stanford, Harmonic sostiene que su producto, denominado Aristóteles, es un claro ejemplo de que se pueden garantizar sistemas de IA confiables. “¿Estamos condenados a un mundo donde la IA solo produce resultados defectuosos y los humanos no pueden verificarlos?”, se pregunta Achim. Su solución se basa en métodos formales de razonamiento matemático para validar las salidas de los modelos de lenguaje.
El camino hacia la superinteligencia matemática
A pesar de su enfoque específico, que actualmente se limita a la programación, Achim no considera que el comportamiento confiable de los agentes de IA sea tan problemático como algunos críticos sugieren. “La mayoría de los modelos tienen el nivel de inteligencia necesario para gestionar tareas simples, como la planificación de un itinerario de viaje”, comenta.
Mientras ambas partes del debate continúan desarrollándose, hay un consenso sobre un aspecto crucial: los fenómenos de alucinación seguirán siendo un reto persistente. Un estudio de OpenAI publicado el año pasado enfatizó que, a pesar de los avances, estas alucinaciones permanecen como un problema en la generación de contenido por parte de modelos de IA. En un experimento, se pidió a tres modelos, incluido ChatGPT, que proporcionaran el título de una disertación; todos generaron títulos falsos y erróneos en cuanto a la fecha de publicación, lo que demuestra que la exactitud en la IA nunca alcanzará el 100 por ciento.
Aunque la promesa de la inteligencia artificial y los agentes autónomos es seductora, es fundamental ser realistas sobre sus limitaciones actuales y los desafíos que enfrentamos en el camino hacia su implementación efectiva.
