Durante un reciente viaje a Italia, decidí aprovechar el potencial de la inteligencia artificial para mejorar mi experiencia. Como es habitual en esta era digital, consulté a GPT-5 para ayudarme a planificar mi itinerario, centrándome especialmente en opciones gastronómicas y lugares de interés. Una de las recomendaciones más destacadas fue un encantador restaurante ubicado en Via Margutta, en Roma. Este establecimiento se convirtió en un hito culinario de mi viaje, dejando una impresión duradera. Por curiosidad, más tarde pregunté cómo había llegado la IA a esta recomendación en particular, un secreto que dudo en revelar por temor a perder la oportunidad de cenar allí de nuevo. El restaurante, conocido como Babette, merece que se realicen reservaciones con antelación.
El razonamiento de la IA fue multifacético, abarcando diversos factores como reseñas locales, menciones en blogs gastronómicos reconocidos y la fusión única de la cocina romana tradicional con un toque contemporáneo. Por supuesto, la conveniencia de estar a poca distancia de mi hotel no estuvo de más. Sin embargo, esta experiencia requirió un salto de fe por mi parte: necesitaba confiar en que GPT-5 estaba presentando recomendaciones imparciales, en lugar de promocionar contenido patrocinado o recibir una comisión del restaurante.
La dualidad de la confianza en la IA y la comercialización
Mi gratificante experiencia con la recomendación de la IA planteó interrogantes sobre el futuro de estos sistemas. A medida que empresas como OpenAI continúan creciendo y buscan satisfacer a sus inversores, ¿podríamos ver una disminución en el valor de los servicios de IA? Esta preocupación es planteada por el escritor y analista tecnológico Cory Doctorow, quien describe un fenómeno que él denomina enshittification. Este concepto sugiere que las plataformas, inicialmente diseñadas para servir los intereses de los usuarios, comienzan a degradarse en calidad una vez que eliminan la competencia, priorizando finalmente las ganancias sobre la satisfacción del usuario.
Tras la publicación del perspicaz ensayo de Doctorow sobre este tema, el término enshittification ganó popularidad, resonando con lectores que reconocieron la validez de sus afirmaciones. De hecho, fue nombrada Palabra del Año 2023 por la American Dialect Society, subrayando su relevancia en las discusiones sobre tecnología. En su reciente libro sobre el tema, Doctorow señala esta tendencia como un tema recurrente en la industria tecnológica.
Las ramificaciones de la disminución de la integridad de la IA
Si los sistemas de IA siguieran el camino de la enshittification, las consecuencias podrían ser graves. Imagina una IA que, en lugar de proporcionar recomendaciones imparciales, prioriza aquellos negocios dispuestos a pagar por visibilidad en sus sugerencias. Aunque este escenario aún no es una realidad, las empresas de IA ya están explorando modelos publicitarios potenciales. En una conversación reciente, Sam Altman, CEO de OpenAI, sugirió que podrían surgir innovaciones publicitarias beneficiosas que mejorarían la experiencia del usuario. Sin embargo, una asociación con Walmart para permitir compras dentro de la aplicación ChatGPT plantea interrogantes sobre posibles conflictos de interés.
Mientras algunas plataformas, como Perplexity, han comenzado a implementar resultados patrocinados, aseguran a los usuarios que estos anuncios no comprometerán su compromiso de proporcionar respuestas confiables e imparciales. Sin embargo, ¿podemos realmente confiar en que estos límites se mantendrán intactos? Doctorow afirma que, una vez que una empresa tiene la capacidad de degradar sus ofertas, enfrenta una constante tentación de hacerlo.
La pendiente resbaladiza de la monetización
La publicidad dentro de las interacciones de IA no es la única vía para una posible degradación. Doctorow también cita casos en los que las empresas alteran sus modelos de negocio para extraer más valor tras dominar. Por ejemplo, la popular plataforma de desarrollo de videojuegos Unity introdujo una nueva estructura de tarifas que provocó una reacción negativa y, en última instancia, llevó a una reversión de la decisión. De manera similar, la evolución de servicios de streaming como Amazon Prime Video, de experiencias sin anuncios a contenido con publicidad, demuestra una tendencia creciente de monetización a expensas de la satisfacción del usuario.
A medida que las tecnologías de IA continúan evolucionando, los usuarios podrían enfrentarse a tarifas más altas o a un modelo de servicio escalonado que requiera pago por funciones premium, un ejemplo clásico de enshittification. Además, las empresas podrían cambiar sus políticas sobre los datos de los usuarios, utilizando potencialmente las interacciones para entrenar modelos futuros a pesar de las garantías previas en contrario.
Conversaciones con los críticos
Intrigado por la perspectiva de Doctorow sobre las posibles trampas de la IA, le contacté para conocer su opinión sobre si la IA está condenada a seguir la misma trayectoria. Sorprendentemente, expresó escepticismo sobre el estado actual de la IA, sugiriendo que incluso la fase de buena para los usuarios aún no se ha alcanzado. Señaló los desafíos inherentes en entender los mecanismos internos de los modelos de lenguaje grandes (LLMs), que podrían enmascarar su descenso hacia la enshittification. La preocupante economía de la IA puede llevar a las empresas a buscar beneficios rápidos, incluso antes de ofrecer un valor significativo a los usuarios.
Si bien aprecio los beneficios que obtuve de la IA al encontrar Babette, comparto preocupaciones sobre su susceptibilidad al proceso de enshittification que ha empañado otras tecnologías. Curiosamente, GPT-5 reflejó mis temores, reconociendo que el marco de enshittification de Doctorow se aplica inquietantemente bien a los sistemas de IA, especialmente cuando los incentivos no están controlados. La IA procedió a detallar estrategias potenciales para que las empresas exploten sus productos con fines de lucro, un pronóstico alarmante para el futuro de la IA.
