Durante un reciente viaje a Italia, busqué la experiencia gastronómica perfecta en Roma. Para enriquecer mi aventura, consulté a GPT-5 en busca de recomendaciones sobre atracciones y restaurantes. El algoritmo sugirió un encantador local situado a solo unos pasos de Via Margutta, que se convirtió en una de las comidas más memorables que he tenido. Al regresar a casa, me surgió la curiosidad por el proceso de selección de GPT-5 para este establecimiento, un secreto que ahora dudo en revelar por temor a perder la oportunidad de una futura reserva. El restaurante, conocido como Babette, es una visita obligada, así que asegúrate de reservar tu mesa con antelación.
Al indagar más, descubrí que los factores que influenciaron la elección de GPT-5 incluían reseñas positivas de los locales, menciones en diversos blogs gastronómicos y cobertura en la escena culinaria italiana. La combinación de sabores tradicionales romanos con un toque moderno definitivamente llamó mi atención, además de la conveniencia de estar a poca distancia de mi alojamiento.
La necesidad de confianza en las recomendaciones de IA
Sin embargo, mi dependencia de la IA vino con un requisito: la confianza. Tenía que creer que GPT-5 actuaba como un asesor imparcial, libre de sesgos que pudieran distorsionar sus recomendaciones. Si bien podría haber realizado mi propia investigación para validar la sugerencia—como consultar la página web del restaurante—el propósito de utilizar IA es, a menudo, eliminar tareas tediosas.
Esta experiencia no solo reforzó mi fe en las capacidades de la IA, sino que también despertó una reflexión más profunda sobre el futuro de estas tecnologías. A medida que organizaciones como OpenAI amplían su influencia, surge la preocupación: ¿experimentarán los sistemas de IA un declive en calidad similar al que observamos en muchas aplicaciones tecnológicas hoy en día?
El concepto de enshittification y su relevancia
El escritor y crítico tecnológico Cory Doctorow describe este declive en el valor como enshittification. Su teoría sostiene que plataformas como Google, Amazon y Facebook inicialmente buscan ofrecer excelentes experiencias a los usuarios. Sin embargo, una vez que eliminan la competencia, estas empresas a menudo reducen la calidad de sus servicios para maximizar ganancias. Tras la publicación del ensayo pionero de Doctorow sobre el tema en 2022, el término ganó popularidad y fue nombrado la Palabra del Año 2023 por la American Dialect Society, reflejando el reconocimiento generalizado de su precisión.
Si los sistemas de IA siguieran una trayectoria similar de enshittification, las consecuencias podrían ser más graves que la disminución de la utilidad de los motores de búsqueda o la saturación de anuncios en plataformas de comercio electrónico. La IA se está convirtiendo cada vez más en una parte integral de nuestras vidas, proporcionando respuestas rápidas a diversas consultas, ayudando a tomar decisiones informadas e incluso ofreciendo orientación en asuntos personales.
Posibles trampas en la evolución de la IA
Dado el inmenso costo asociado con el desarrollo de modelos de IA avanzados, se espera que solo un puñado de empresas domine este espacio. Muchas de ellas tienen planes ambiciosos para invertir miles de millones de dólares con el fin de mejorar sus tecnologías y alcanzar una audiencia más amplia. En este momento, se podría caracterizar a la IA como si estuviera en la fase inicial de entrega de valor a los usuarios, como sugiere Doctorow. Sin embargo, la presión por recuperar estas inversiones puede crear un ambiente donde los usuarios se vuelvan vulnerables a la explotación.
Los riesgos de la comercialización y la publicidad
El primer peligro que surge al imaginar la enshittification de la IA es la introducción de la publicidad. La preocupación es que los modelos de IA puedan comenzar a priorizar recomendaciones basadas en acuerdos financieros con empresas en lugar de en los verdaderos intereses de los usuarios. Aunque tales prácticas no son comunes en este momento, las empresas de IA están explorando activamente modelos publicitarios. En una reciente entrevista, el CEO de OpenAI, Sam Altman, insinuó la posibilidad de desarrollar “productos publicitarios innovadores” que podrían mejorar la experiencia del usuario y, al mismo tiempo, beneficiar su relación con ellos.
Además, OpenAI ha establecido recientemente una asociación con Walmart, lo que permite a los clientes comprar directamente a través de la aplicación ChatGPT. Esto plantea preguntas sobre posibles conflictos de interés. Mientras algunas plataformas de IA, como Perplexity, prometen transparencia en los resultados patrocinados, la preocupación persiste sobre cómo mantener un compromiso con un servicio imparcial.
Ejemplos históricos de enshittification
A medida que las empresas alcanzan el dominio del mercado, a menudo cambian sus estrategias comerciales para extraer más valor de los usuarios. Un ejemplo de esto es Unity, un proveedor líder de herramientas para el desarrollo de videojuegos, que enfrentó críticas tras introducir una controvertida nueva estructura de tarifas. Los usuarios se rebelaron, lo que llevó a una reversión de la política. De manera similar, servicios de streaming como Amazon Prime Video han pasado de ser experiencias libres de anuncios a plataformas saturadas de comerciales, obligando a los usuarios a pagar más para evitar interrupciones.
Al indagar más, descubrí que los factores que influenciaron la elección de GPT-5 incluían reseñas positivas de los locales, menciones en diversos blogs gastronómicos y cobertura en la escena culinaria italiana. La combinación de sabores tradicionales romanos con un toque moderno definitivamente llamó mi atención, además de la conveniencia de estar a poca distancia de mi alojamiento.0
Al indagar más, descubrí que los factores que influenciaron la elección de GPT-5 incluían reseñas positivas de los locales, menciones en diversos blogs gastronómicos y cobertura en la escena culinaria italiana. La combinación de sabores tradicionales romanos con un toque moderno definitivamente llamó mi atención, además de la conveniencia de estar a poca distancia de mi alojamiento.1
Al indagar más, descubrí que los factores que influenciaron la elección de GPT-5 incluían reseñas positivas de los locales, menciones en diversos blogs gastronómicos y cobertura en la escena culinaria italiana. La combinación de sabores tradicionales romanos con un toque moderno definitivamente llamó mi atención, además de la conveniencia de estar a poca distancia de mi alojamiento.2
