El reciente lanzamiento de la app Sora de OpenAI, diseñada para imitar plataformas como TikTok mediante un feed de videos generados por inteligencia artificial, ha generado una oleada de reacciones entre investigadores actuales y antiguos de la organización. Este debut plantea interrogantes significativos sobre cómo esta tecnología de consumo se alinea con el objetivo fundamental de OpenAI: desarrollar inteligencia artificial que beneficie a la humanidad. A medida que las discusiones se desarrollan en la plataforma social X, las opiniones varían desde el entusiasmo hasta la preocupación.\n\n
Reacciones encontradas
John Hallman, investigador en preentrenamiento de OpenAI, expresó una inquietud que comparten muchos de sus colegas. Al hablar sobre el lanzamiento de Sora 2, reconoció los riesgos potenciales asociados con los feeds impulsados por IA. Sin embargo, también destacó los esfuerzos del equipo por crear una experiencia de usuario positiva, subrayando su compromiso de asegurar que la inteligencia artificial cumpla una función beneficiosa en lugar de perjudicial.
Preocupaciones sobre los feeds de IA
Las inquietudes de Hallman resuenan en toda la comunidad de IA. La idea de los feeds alimentados por inteligencia artificial genera alarma en algunos sectores, sobre todo por su potencial para fomentar la adicción y la desinformación. Boaz Barak, otro investigador de OpenAI y profesor en Harvard, compartió sentimientos similares, reconociendo la brillantez técnica de Sora 2, pero advirtiendo sobre la necesidad de no celebrar prematuramente su seguridad en comparación con otras plataformas de redes sociales.
Rohan Pandey, ex investigador de OpenAI, ha aprovechado la ocasión para presentar su nueva iniciativa, Periodic Labs. Invitó a quienes deseen centrarse en la inteligencia artificial para el avance científico, en lugar de contribuir a lo que él denominó una “máquina de contenido sin fin similar a TikTok”, a unirse a su equipo. Esta declaración refleja una preocupación más amplia dentro de la comunidad de investigación en IA sobre la dirección que están tomando las aplicaciones dirigidas al consumidor.
La tensión entre beneficio y misión
El lanzamiento de Sora pone de manifiesto un dilema persistente para OpenAI, que se encuentra en la intersección del rápido crecimiento de la tecnología para consumidores y su misión sin fines de lucro. Algunos ex empleados sostienen que el sector consumidor puede, en última instancia, apoyar los objetivos de la organización al proporcionar financiamiento para la investigación y ampliar el acceso a la tecnología de IA. El CEO de OpenAI, Sam Altman, abordó esta cuestión en una publicación reciente en X, explicando que el capital generado por las aplicaciones para consumidores juega un papel crucial en el desarrollo de la inteligencia artificial para fines científicos.
Equilibrando la innovación con consideraciones éticas
Sam Altman reconoció las complejidades que surgen al navegar entre estos objetivos duales. Destacó la realidad matizada de la trayectoria de una empresa y la importancia de mostrar nuevas tecnologías para captar el interés de los usuarios. Sin embargo, esto plantea una pregunta crucial: ¿en qué momento la búsqueda de beneficios podría eclipsar la visión original sin fines de lucro de OpenAI? A medida que la compañía se prepara para nuevas inversiones y posibles ofertas públicas, el Fiscal General de California, Rob Bonta, ha expresado su preocupación por mantener el compromiso de OpenAI con la seguridad y los estándares éticos en sus operaciones.
Los críticos a menudo desestiman las afirmaciones de OpenAI sobre su carácter sin fines de lucro como meras tácticas de marketing para atraer talento proveniente de gigantes tecnológicos tradicionales. Sin embargo, muchos dentro de la organización aseguran que estos principios son fundamentales para su motivación al unirse a OpenAI.
Mirando hacia el futuro: El futuro de Sora
En la actualidad, Sora se encuentra en sus primeros pasos, habiendo sido lanzada apenas un día atrás. Sin embargo, su llegada marca un cambio significativo en la estrategia de OpenAI hacia el consumidor, al tiempo que expone a la empresa a los desafíos que históricamente han afectado a las redes sociales. A diferencia de su producto estrella, ChatGPT, que prioriza la utilidad, Sora busca ofrecer entretenimiento a través del intercambio de contenido generado por inteligencia artificial, asemejándose más a plataformas conocidas por su naturaleza adictiva.
OpenAI ha manifestado su intención de esquivar las trampas típicas de las redes sociales, tales como el doomscrolling y la soledad del usuario. En su anuncio, la compañía subrayó que su enfoque no es maximizar el tiempo de uso de la aplicación, sino potenciar la creatividad del usuario. Funciones como recordatorios para tomar descansos y la priorización de conexiones con contactos conocidos están diseñadas para promover un modelo de interacción más saludable.
A pesar de estas intenciones, el alineamiento a largo plazo de Sora con la misión de OpenAI sigue siendo incierto. Los usuarios ya han notado elementos en la aplicación que sugieren una optimización del compromiso, como los emojis dinámicos que reaccionan cuando se gustan los videos. Esto podría alimentar las respuestas impulsadas por la dopamina, características típicas de las redes sociales.
Como ha señalado Altman en ocasiones anteriores, existe una notable desalineación en la dinámica de las redes sociales. El verdadero desafío radica en si OpenAI podrá desarrollar Sora sin replicar los errores de sus predecesores en este ámbito, asegurando que la inteligencia artificial continúe cumpliendo un propósito constructivo.
