El pasado martes, OpenAI presentó una aplicación innovadora llamada Sora, que promete transformar nuestra percepción del contenido en video. Esta nueva plataforma aprovecha el poder de Sora 2, un modelo sofisticado capaz de generar videos con un impresionante realismo. La aplicación cuenta con una interfaz intuitiva similar a la de redes sociales como TikTok, mostrando un feed personalizado de videos generados por los usuarios. Actualmente, Sora está disponible exclusivamente para usuarios de iOS y requiere un código de invitación para comenzar.
Al iniciar esta experiencia creativa, los usuarios son recibidos con un mensaje que dice: «Estás a punto de entrar en un mundo creativo de contenido generado por IA.» Este aviso subraya que, si bien algunos videos pueden mostrar rostros familiares, los escenarios y eventos representados son completamente ficticios, brindando un contexto lúdico pero cauteloso.
Los hechos
OpenAI tiene la visión de que la creación y el intercambio de videos deepfake evolucionen hacia un medio de entretenimiento popular. Con Sora, los usuarios pueden generar videos que incluyen amigos, influencers o incluso desconocidos, presentando el concepto de deepfakes como una experiencia de desplazamiento entretenida. El feed principal ofrece un flujo continuo de clips breves generados por IA, a menudo con semejanzas humanas reconocibles.
Creando tu persona digital
Durante la fase de incorporación, los usuarios pueden diseñar una representación digital de sí mismos. Este proceso requiere vocalizar algunos números mientras giran la cabeza para permitir que la aplicación capture su imagen. Sam Altman, CEO de OpenAI, destacó en una publicación que se dedicó un gran esfuerzo a garantizar la consistencia en la representación de personajes a lo largo de la aplicación.
Los usuarios controlan quién tiene acceso a sus semejanzas digitales en los videos de Sora. Las configuraciones varían desde permitir que todos lo usen hasta restringir el acceso solo al usuario, personas aprobadas o conexiones mutuas. Es importante señalar que cada vez que alguien genera un video que utiliza tu semejanza, será visible en tu cuenta, incluso si solo existe en sus borradores.
Las consecuencias
Después de explorar la aplicación, muchos de los videos más populares compartidos en mi feed presentaban la imagen del propio Sam Altman. Un clip particularmente divertido mostraba al CEO de OpenAI intentando robar una unidad de procesamiento gráfico (GPU) de una tienda Target. Al ser atrapado, se escuchaba una voz generada por IA que se parecía a la de Altman, suplicando a un oficial de seguridad que le permitiera quedarse con la GPU para sus proyectos de IA.
Durante mi experiencia probando Sora, noté que, aunque algunos videos generados tenían pequeños fallos, la aplicación sobresale en la creación de deepfakes personalizados que a menudo parecen sorprendentemente auténticos. Los usuarios pueden incorporar fácilmente a otras personas en sus videos seleccionando sus rostros y agregándolos como cameos. Un simple aviso, como «una disputa de oficina sobre un artículo de WIRED,» es todo lo que necesita Sora para construir un video completo con guion, audio y visuales en cuestión de segundos.
Abordando preocupaciones éticas
En su entrada de blog, Altman reconoció el potencial de adicción que servicios como Sora podrían fomentar. Destacó los riesgos de abuso, particularmente en la creación de contenido dañino o de acoso. Por ello, OpenAI ha implementado diversas medidas de seguridad diseñadas para evitar que los usuarios exploten inapropiadamente la semejanza de alguien.
Estas medidas incluyen restricciones sobre ciertos tipos de contenido, como temas sexuales, violencia gráfica que involucre a personas reales, ideologías extremistas, materiales de odio y contenido que pudiera promover el auto-daño o comportamientos alimentarios poco saludables. Estas salvaguardias seguramente enfrentarán un escrutinio a medida que la base de usuarios se expanda.
Cuando intenté crear videos de mí misma en bikini o como un personaje de anime musculoso, ambas solicitudes fueron denegadas por potencialmente contener contenido sugestivo. Sin embargo, Sora permitió un video en el que aparecía fumando numerosos cigarrillos de marihuana en mi escritorio sin problema, pero se negó a generar un clip de mí usando crack, alineándose con sus políticas de contenido.
Comparando Sora con otras plataformas
Curiosamente, Sora parece tener limitaciones en cuanto a las semejanzas de celebridades y figuras públicas. Durante mis pruebas, los intentos de crear videos con personajes como Darth Vader o Taylor Swift fueron bloqueados debido a posibles infracciones de derechos de autor. Sin embargo, la aplicación generó fácilmente clips con personajes de Pokémon, ilustrando un enfoque matizado hacia los problemas de copyright.
Al iniciar esta experiencia creativa, los usuarios son recibidos con un mensaje que dice: «Estás a punto de entrar en un mundo creativo de contenido generado por IA.» Este aviso subraya que, si bien algunos videos pueden mostrar rostros familiares, los escenarios y eventos representados son completamente ficticios, brindando un contexto lúdico pero cauteloso. 0
Al iniciar esta experiencia creativa, los usuarios son recibidos con un mensaje que dice: «Estás a punto de entrar en un mundo creativo de contenido generado por IA.» Este aviso subraya que, si bien algunos videos pueden mostrar rostros familiares, los escenarios y eventos representados son completamente ficticios, brindando un contexto lúdico pero cauteloso. 1
Al iniciar esta experiencia creativa, los usuarios son recibidos con un mensaje que dice: «Estás a punto de entrar en un mundo creativo de contenido generado por IA.» Este aviso subraya que, si bien algunos videos pueden mostrar rostros familiares, los escenarios y eventos representados son completamente ficticios, brindando un contexto lúdico pero cauteloso. 2
Al iniciar esta experiencia creativa, los usuarios son recibidos con un mensaje que dice: «Estás a punto de entrar en un mundo creativo de contenido generado por IA.» Este aviso subraya que, si bien algunos videos pueden mostrar rostros familiares, los escenarios y eventos representados son completamente ficticios, brindando un contexto lúdico pero cauteloso. 3
