Introducción a la inteligencia artificial en Google I/O 2025
El evento anual Google I/O 2025 se centró en un tema primordial: la inteligencia artificial (IA). Durante casi dos horas, los líderes de Google presentaron diversas innovaciones, incluyendo una nueva herramienta de generación de videos llamada Flow y un plan de suscripción AI Ultra de $250. Sin embargo, a pesar de los avances, un término crítico no fue mencionado: «alucinaciones».
El problema de las alucinaciones en modelos de IA
Las alucinaciones se refieren a los hechos inventados y las inexactitudes que los modelos de lenguaje a gran escala pueden generar en sus respuestas. Según métricas de las principales marcas de IA, este problema está empeorando, con algunos modelos alucinando más del 40% del tiempo. A pesar de esto, durante la presentación, no se abordó este problema, lo que podría llevar a los espectadores a pensar que modelos como Gemini son infalibles.
La respuesta de Google ante las críticas
Google intentó tranquilizar a los usuarios recordando que su modelo de IA más reciente, Gemini 2.5 Pro, lidera muchas tablas de clasificación. Sin embargo, cuando se evalúa la veracidad y la capacidad para responder preguntas simples, los chatbots de IA son calificados de manera generosa. Por ejemplo, Gemini 2.5 Pro obtuvo solo un 52.9% en la prueba de referencia SimpleQA, que mide la capacidad de los modelos de lenguaje para responder preguntas breves y basadas en hechos.
¿Es posible resolver el problema de las alucinaciones?
A pesar de la falta de discusión sobre las alucinaciones, Google ha implementado enfoques novedosos en las capacidades de razonamiento del modelo para mejorar la factualidad. Esto incluye el uso de aprendizaje por refuerzo para recompensar al modelo por generar afirmaciones que son más propensas a ser precisas. Sin embargo, la comunidad de investigación sugiere que las alucinaciones en los modelos de lenguaje no son un problema que se pueda resolver fácilmente en este momento.
Conclusiones sobre el futuro de la IA
A medida que empresas como Google y OpenAI continúan avanzando en la era de la búsqueda de IA, es probable que enfrentemos un período lleno de errores y desinformación, a menos que se tomen medidas efectivas para abordar el problema de las alucinaciones. La confianza en estas herramientas parece estar desconectada de los resultados reales, lo que plantea preguntas sobre la dirección futura de la inteligencia artificial.
