En un mensaje conmovedor compartido en sus redes sociales, Zelda Williams, hija del querido actor fallecido Robin Williams, ha hecho un apasionado llamado a sus seguidores. Ella les pide que se abstengan de enviarle videos generados por IA de su padre, subrayando que tales creaciones no son una forma de honrar su memoria.
En su historia de Instagram, Zelda expresó su descontento, afirmando: «Por favor, dejen de enviarme videos de papá hechos con IA. Dejen de creer que quiero verlos o que lo entenderé. No lo quiero y no lo entenderé.» Su mensaje pone de manifiesto una creciente preocupación sobre las implicaciones éticas de la tecnología deepfake y su impacto en los recuerdos de quienes han partido.
El auge de la tecnología deepfake
Los recientes avances en inteligencia artificial han dado lugar a herramientas como Sora 2, que permiten a los usuarios crear representaciones en video altamente realistas de sí mismos e incluso de personas fallecidas. Este desarrollo ha generado un intenso debate sobre la idoneidad de utilizar esta tecnología para replicar la imagen de aquellos que ya no pueden expresar sus opiniones.
Con Sora 2, los individuos pueden generar videos no solo de personas vivas, sino también de figuras históricas y celebridades que han fallecido, como Robin Williams. Esta capacidad plantea importantes consideraciones éticas, especialmente en lo que respecta al consentimiento y la representación de legados.
Preocupaciones éticas en torno a figuras públicas fallecidas
Uno de los aspectos más preocupantes de esta tecnología es la ausencia de restricciones legales claras que impidan la creación de videos con personas fallecidas. Según el Centro de Leyes de Prensa Estudiantil, no es ilegal difamar a alguien que ha muerto. Esta laguna legal permite a los creadores producir contenido sin rendir cuentas, reduciendo así la memoria de personas reales a meras caricaturas digitales.
La frustración de Zelda es palpable mientras expresa la locura de ver cómo se trivializa el legado de su padre: «Ver cómo los legados de personas reales se reducen a ‘esto se parece y suena vagamente a ellos, así que es suficiente’, solo para que otros puedan crear contenido horrible en TikTok manipulando sus imágenes, es desesperante.» Sus palabras reflejan una profunda preocupación por cómo la tecnología puede distorsionar los recuerdos de quienes valoramos.
Las implicaciones del contenido generado por IA
El lanzamiento de Sora 2 ha provocado un aumento en la creación de contenido controvertido, incluyendo deepfakes de diversas figuras históricas y celebridades. Desde Martin Luther King, Jr. hasta John Lennon, la aplicación parece impulsar un enfoque despreocupado hacia la representación de personas fallecidas. Sin embargo, persisten interrogantes éticos: ¿deberíamos considerar la imagen de los difuntos como un mero entretenimiento?
A medida que la tecnología avanza, las fronteras entre la inteligencia artificial y nuestra comprensión de la memoria y el legado se desdibujan cada vez más. Los críticos de OpenAI han expresado su preocupación por la falta de precaución en la implementación de estos modelos de IA. El potencial de uso indebido es considerable, especialmente en lo que respecta a la creación de representaciones no autorizadas de figuras públicas.
Reacciones de la industria ante la tecnología de deepfake
La Asociación de Películas ha encendido las alarmas sobre el uso no autorizado de personajes protegidos por derechos de autor en contenido generado por inteligencia artificial. En un principio, el CEO de Sora, Sam Altman, sugirió que las entidades de Hollywood tendrían que optar activamente por excluir su propiedad intelectual de los videos generados por Sora. Sin embargo, tras la reacción negativa, la empresa ha mostrado disposición para reconsiderar su postura sobre este asunto.
A medida que nuevos actores ingresan al campo del contenido generado por IA, los riesgos asociados con la tecnología deepfake solo aumentan. Otras plataformas, como xAI, pueden carecer del mismo nivel de realismo, pero a menudo presentan aún menos salvaguardias, lo que facilita la creación de contenido inapropiado que involucra a personas reales. Las implicaciones de esta tecnología podrían llevarnos a un mundo donde se manipulan y mercantilizan los recuerdos de vivos y fallecidos.
El llamado a la acción de Zelda Williams es un recordatorio oportuno sobre la importancia del respeto y la integridad en la gestión de los legados de quienes han partido. A medida que la conversación sobre el contenido generado por inteligencia artificial continúa evolucionando, es fundamental que consideremos el elemento humano detrás de esta tecnología.
