Durante mi reciente viaje a Italia, decidí buscar la orientación de GPT-5 para planificar mi itinerario. La inteligencia artificial me sugirió un encantador restaurante a pocos pasos de nuestro hotel en Roma, que resultó ser una experiencia gastronómica inolvidable. Al regresar a casa, quise entender la lógica detrás de su recomendación. Aunque me resisto a revelar el nombre del restaurante, Babette, por temor a perder una futura reserva, me impresionó la compleja lógica de la sugerencia, que incluía reseñas locales, blogs gastronómicos y la singular fusión de cocina romana tradicional y contemporánea.
Sin embargo, para que esta experiencia impulsada por la IA fuera fructífera, tuve que depositar cierto grado de confianza en sus capacidades. Necesitaba creer que GPT-5 tomaba decisiones imparciales, libres de cualquier patrocinio o motivo oculto. Si bien podría haber realizado una investigación exhaustiva por mi cuenta, el atractivo de la IA radica en su promesa de simplificar estos procesos, eliminando la fricción que a menudo acompaña la planificación tradicional.
La dualidad del avance tecnológico
Mi experiencia en Italia me dejó tanto impresionado como reflexivo sobre el futuro de las tecnologías de IA. Los rápidos avances de empresas como OpenAI suscitan interrogantes sobre la posible erosión de valor inherente a muchas plataformas tecnológicas. El reconocido escritor y crítico tecnológico Cory Doctorow acuñó el término enshittification para describir la tendencia de plataformas como Google y Facebook a cambiar su enfoque de la satisfacción del usuario a la maximización de ganancias una vez que eliminan la competencia. Este fenómeno resonó entre muchos, llevando a que el término fuera reconocido como la Palabra del Año 2023 por la American Dialect Society.
En el contexto de la IA, las implicaciones de la enshittificación podrían ser graves. A diferencia de meras inconveniencias como un motor de búsqueda saturado o un feed de redes sociales abarrotado, la degradación de las capacidades de la IA podría alterar fundamentalmente nuestras interacciones con la tecnología. A medida que los sistemas de IA evolucionan para convertirse en compañeros indispensables en nuestras vidas diarias, ofreciendo respuestas rápidas a consultas y orientación sobre diversos temas, la posibilidad de que las empresas prioricen las ganancias sobre la experiencia del usuario se convierte en una preocupación urgente.
Entendiendo la trayectoria del desarrollo de la IA
Dada la inmensa inversión financiera requerida para desarrollar modelos de IA, es probable que solo unas pocas empresas dominen el mercado. Estas entidades están preparadas para invertir miles de millones en mejorar sus modelos y expandir la accesibilidad a sus servicios. Actualmente, nos encontramos en una fase donde los sistemas de IA parecen priorizar los beneficios para el usuario; sin embargo, como sugiere Doctorow, la presión por recuperar inversiones podría llevarlas a explotar su base de usuarios en busca de beneficios.
Al contemplar el potencial de la enshittificación dentro de la IA, la publicidad se presenta como una preocupación principal. El temor es que los modelos de IA comiencen a priorizar recomendaciones para empresas que han pagado por su colocación, comprometiendo su integridad. El CEO de OpenAI, Sam Altman, ha insinuado el desarrollo de productos publicitarios que podrían impactar positivamente en la experiencia del usuario, pero el escepticismo persiste. En una reciente colaboración con Walmart, los clientes ahora pueden comprar directamente a través de la plataforma de ChatGPT, lo que plantea interrogantes sobre posibles conflictos de interés.
Manteniendo la confianza en las interacciones de IA
¿Sobrevivirán los compromisos de los desarrolladores de IA para mantener servicios imparciales? Los representantes de las empresas nos aseguran que cumplirán con sus promesas. Jesse Dwyer, portavoz de Perplexity, enfatizó la importancia de la confianza en su plataforma, afirmando que no comprometerán la entrega de respuestas confiables. Sin embargo, Doctorow plantea un punto válido: una vez que una empresa encuentra la manera de priorizar las ganancias sobre la experiencia del usuario, la tentación de explotar a los usuarios para obtener beneficios financieros se convierte en un desafío constante.
Cambios potenciales en los modelos de negocio
La publicidad no es la única vía a través de la cual la IA podría experimentar enshittificación. Doctorow menciona ejemplos donde las empresas, tras alcanzar el dominio del mercado, cambian sus modelos de negocio de formas que frustran a los usuarios. Por ejemplo, Unity, un proveedor líder de herramientas para el desarrollo de videojuegos, enfrentó críticas cuando introdujo una nueva estructura de tarifas que los usuarios consideraron irrazonable. De manera similar, servicios de streaming como Amazon Prime Video han pasado de ser experiencias sin anuncios a plataformas que bombardean a los usuarios con comerciales, ilustrando aún más la tendencia de aumentar costos y disminuir valor.
En última instancia, el potencial de que la IA siga una trayectoria similar es preocupante. A medida que las empresas buscan monetizar sus servicios, los usuarios podrían enfrentarse a tarifas más altas o descubrir que sus datos se utilizan de maneras con las que no estaban de acuerdo inicialmente. En conversaciones con Doctorow, expresó escepticismo sobre el estado actual y la trayectoria futura de las tecnologías de IA, sugiriendo que las presiones económicas inherentes podrían conducir a la enshittificación antes de que se entregue un valor genuino a los usuarios.
A pesar de las diferentes opiniones sobre el valor de la IA, mi experiencia en Italia me ha dejado cauteloso respecto a las posibles trampas asociadas con estas tecnologías emergentes. Incluso GPT-5 reconoce los riesgos, indicando que el marco de enshittificación de Doctorow se aplica a los sistemas de IA si se deja sin control. A medida que nos adentramos en el mundo de la IA, es crucial mantenernos vigilantes y críticos respecto a las motivaciones que impulsan estas tecnologías.
