El martes, OpenAI presentó su más reciente creación, la aplicación Sora, diseñada para permitir a los usuarios sumergirse en un mundo de contenido de video generado por inteligencia artificial. Aprovechando las avanzadas capacidades del modelo de generación de video Sora 2, esta plataforma ofrece un feed dinámico similar a TikTok, repleto de clips atractivos generados por los usuarios. Aunque actualmente solo está disponible en iOS, el acceso requiere un código de invitación, lo que la convierte en una oferta exclusiva.
Al comenzar su experiencia en la aplicación, los usuarios son recibidos con un mensaje que dice: “Estás a punto de entrar en un mundo creativo de contenido generado por IA.” Esta advertencia destaca que algunos videos pueden presentar rostros familiares, aunque los escenarios representados son completamente ficticios.
Atractivo de los deepfakes generados por IA
OpenAI imagina un futuro donde la creación y el compartir de deepfakes de IA puedan transformarse en un medio de entretenimiento convencional. La aplicación Sora se posiciona como una salida divertida para que los usuarios generen videos deepfake con amigos, influencers o incluso personas al azar. El feed principal ofrece un flujo continuo de breves fragmentos de video generados por IA que muestran diversas semejanzas humanas.
Creando tu persona digital
Durante la configuración inicial, los usuarios tienen la opción de crear una versión digital de sí mismos. Al simplemente vocalizar números y rotar la cabeza, la aplicación captura su semejanza para futuras creaciones de video. Como mencionó Sam Altman, CEO de OpenAI, en una publicación de blog, el equipo dedicó un esfuerzo considerable para garantizar la consistencia de los personajes dentro de la aplicación.
Además, los usuarios pueden controlar quién tiene permiso para usar su semejanza digital en los videos de Sora. Las opciones varían desde permitir que todos puedan utilizarla hasta restringir el uso a contactos personales o conexiones mutuas. Independientemente de la configuración, las personas recibirán notificaciones cuando alguien genere un video utilizando su apariencia, incluso si se mantiene en los borradores del creador.
Experiencia única de generación de video
En mi primera exploración de la aplicación, muchos videos en tendencia mostraban prominentemente la semejanza de Altman. Un clip particularmente divertido mostraba al CEO de OpenAI intentando robar una unidad de procesamiento gráfico de una tienda minorista, solo para ser atrapado y suplicarle a un guardia de seguridad, todo en un tono cómico que imitaba la voz de Altman.
Al probar Sora, encontré varios videos que presentaban imperfecciones; sin embargo, la facilidad con la que los usuarios pueden producir deepfakes personalizados es sorprendente. Al tocar rostros en la página de generación, los usuarios pueden añadirlos como cameos en sus videos. Luego, un breve aviso, como “un debate acalorado sobre un artículo de WIRED,” permite que la aplicación genere un video completo de nueve segundos que incluye guion, audio y visuales.
Medidas de seguridad y restricciones de contenido
En su blog, Altman reconoció el potencial de adicción asociado con un servicio tan cautivador, así como los riesgos de uso indebido, particularmente en relación al acoso. Por lo tanto, OpenAI implementó numerosas características de seguridad dentro de la aplicación Sora para limitar el uso inapropiado de las semejanzas de las personas en videos deepfake. La compañía también ha establecido restricciones contra contenido que incluya material sexual, violencia gráfica, propaganda extremista, discursos de odio y contenido que promueva el auto-daño o trastornos alimentarios.
A medida que más usuarios comiencen a utilizar la aplicación, es probable que estas medidas de protección enfrenten desafíos. Por ejemplo, los intentos de generar videos con contenido sugerente o provocativo fueron inmediatamente bloqueados. También noté que, aunque se creó un video de mí disfrutando un día en la piscina, ambos estábamos vestidos, y las solicitudes para escenarios más extravagantes, como saltar de un puente sobre un dragón, fueron rápidamente denegadas debido a preocupaciones de auto-daño.
Explorando las limitaciones de contenido
Curiosamente, Sora parece restringir la creación de videos que representen figuras públicas o celebridades. Durante la prueba, las solicitudes para videos de personajes conocidos, como Darth Vader y Boss Baby, fueron rechazadas por potencialmente infringir las regulaciones de contenido de terceros. Sin embargo, la aplicación permitió videos de personajes reconocibles de Pokémon, indicando un enfoque matizado sobre las cuestiones de derechos de autor.
Al comenzar su experiencia en la aplicación, los usuarios son recibidos con un mensaje que dice: “Estás a punto de entrar en un mundo creativo de contenido generado por IA.” Esta advertencia destaca que algunos videos pueden presentar rostros familiares, aunque los escenarios representados son completamente ficticios.0
Al comenzar su experiencia en la aplicación, los usuarios son recibidos con un mensaje que dice: “Estás a punto de entrar en un mundo creativo de contenido generado por IA.” Esta advertencia destaca que algunos videos pueden presentar rostros familiares, aunque los escenarios representados son completamente ficticios.1
Al comenzar su experiencia en la aplicación, los usuarios son recibidos con un mensaje que dice: “Estás a punto de entrar en un mundo creativo de contenido generado por IA.” Esta advertencia destaca que algunos videos pueden presentar rostros familiares, aunque los escenarios representados son completamente ficticios.2
Al comenzar su experiencia en la aplicación, los usuarios son recibidos con un mensaje que dice: “Estás a punto de entrar en un mundo creativo de contenido generado por IA.” Esta advertencia destaca que algunos videos pueden presentar rostros familiares, aunque los escenarios representados son completamente ficticios.3
