Durante mi reciente viaje a Italia, decidí aprovechar la inteligencia artificial para enriquecer mi experiencia turística. Con la ayuda de GPT-5, busqué recomendaciones sobre lugares para visitar y opciones gastronómicas. El resultado fue un hallazgo encantador: un restaurante llamado Babette, ubicado a pocos pasos en Via Margutta. Este plato se convirtió en uno de los mejores que he disfrutado. Al regresar a casa, la curiosidad me llevó a investigar cómo la IA había identificado este restaurante, que planeo mantener en secreto para futuras visitas. La respuesta de la IA fue compleja y perspicaz, considerando reseñas locales, menciones en blogs culinarios y la singular combinación de cocina romana tradicional y moderna del lugar, sin olvidar su conveniente ubicación.
Aunque la IA ofreció una recomendación excelente, también requería un cierto grado de confianza por mi parte. Tenía que creer que la IA actuaba de manera imparcial, sin promover un restaurante por razones comerciales. Si bien podría haber realizado una investigación más profunda (eché un vistazo a su sitio web), el propósito principal de utilizar la IA es simplificar el proceso de toma de decisiones y reducir el esfuerzo.
El panorama en evolución de la IA
Esta experiencia no solo reafirmó mi fe en la IA, sino que también suscitó una preocupación: a medida que organizaciones como OpenAI continúan evolucionando y buscando satisfacer a sus inversores, ¿podrían los sistemas de IA enfrentar el mismo deterioro en calidad que ha afectado a muchas aplicaciones tecnológicas hoy en día?
Comprendiendo la enshittificación
El término enshittification, acuñado por el escritor y analista tecnológico Cory Doctorow, describe una tendencia preocupante en la que plataformas como Google, Amazon, Facebook y TikTok comienzan con intenciones amigables para el usuario, pero, una vez que eliminan la competencia, degradan gradualmente su valor para maximizar ganancias. Este concepto cobró notoriedad tras la reimpresión de un artículo influyente de Doctorow en WIRED en 2022, lo que llevó a su reconocimiento como la Palabra del Año 2023 por la American Dialect Society. El término ha ganado popularidad, apareciendo en conversaciones en diversas plataformas que normalmente evitan tal lenguaje. El nuevo libro de Doctorow aborda este fenómeno y presenta una portada adornada con el emoji correspondiente.
La posible enshittificación de la IA podría resultar mucho más perjudicial que la degradación de Google Search o la proliferación de anuncios en Amazon. A medida que la IA se convierte en una parte integral de nuestras vidas, ofreciendo respuestas rápidas a nuestras consultas y ayudando en la toma de decisiones, es crucial considerar si esta tecnología también podría sucumbir a presiones similares.
El riesgo de la comercialización
Actualmente, nos encontramos en lo que Doctorow denomina la fase “buena para los usuarios” del desarrollo de la IA. Sin embargo, la enorme carga financiera asociada con la creación de modelos avanzados significa que solo un puñado de empresas probablemente prosperará en esta área. Estas empresas están preparadas para invertir miles de millones de dólares en los próximos años para mejorar sus modelos y ampliar su alcance. Sin embargo, la presión para recuperar estas enormes inversiones podría llevar a comportamientos que priorizan las ganancias sobre la satisfacción del usuario.
El papel de la publicidad
Al considerar la enshittificación de la IA, surge la preocupación inmediata sobre la incorporación de publicidad. El temor es que los sistemas de IA puedan empezar a priorizar recomendaciones basadas en incentivos financieros de los anunciantes. Aunque este no es un problema predominante hoy en día, las empresas de IA están explorando activamente el sector publicitario. En una reciente entrevista, el CEO de OpenAI, Sam Altman, sugirió que soluciones publicitarias innovadoras podrían mejorar la experiencia del usuario y fomentar relaciones positivas con ellos. Además, OpenAI ha anunciado una asociación con Walmart, permitiendo a los usuarios comprar directamente a través de la app de ChatGPT, un movimiento que plantea dudas sobre posibles conflictos de interés.
Algunas plataformas de IA, como Perplexity, han comenzado a incorporar contenido patrocinado, asegurando a los usuarios que estos anuncios no comprometerán su compromiso con respuestas imparciales. Sin embargo, la sostenibilidad de estas promesas sigue siendo incierta. Los representantes de estas empresas afirman que se mantienen vigilantes en el mantenimiento de enfoques centrados en el usuario, pero el escepticismo persiste. La doctrina de Doctorow advierte que, una vez que una empresa tiene la oportunidad de explotar a sus usuarios, la tentación de hacerlo se vuelve omnipresente.
Implicaciones futuras
Más allá de la publicidad, la IA podría ser enshittificada a través de alteraciones en modelos de negocio o estructuras de precios. Por ejemplo, Unity, un proveedor líder de herramientas de desarrollo de videojuegos, enfrentó críticas en 2023 cuando introdujo una controvertida “tarifa de ejecución”, forzando a la compañía a retractar su decisión. De manera similar, servicios de streaming como Amazon Prime Video, que alguna vez presumieron de una experiencia sin anuncios, ahora están inundados de comerciales que requieren un pago adicional para desactivarlos. Tales prácticas se están convirtiendo en la norma en la industria tecnológica, generando preocupaciones sobre la explotación del usuario.
El análisis de Doctorow no profundizó específicamente en la IA, lo que me llevó a contactarlo para conocer su perspectiva sobre el futuro de esta tecnología. Sorprendentemente, expresó escepticismo, sugiriendo que el sector de la IA aún no ha alcanzado la fase amigable para el usuario que describió anteriormente. Su opinión indica que las presiones económicas inherentes al campo de la IA pueden obligar a las empresas a priorizar el lucro sobre el valor del usuario antes de haber cumplido con sus promesas, llevando a un ciclo preocupante de enshittificación.
Aunque la IA ofreció una recomendación excelente, también requería un cierto grado de confianza por mi parte. Tenía que creer que la IA actuaba de manera imparcial, sin promover un restaurante por razones comerciales. Si bien podría haber realizado una investigación más profunda (eché un vistazo a su sitio web), el propósito principal de utilizar la IA es simplificar el proceso de toma de decisiones y reducir el esfuerzo.0
