Para celebrar el Día de los Caídos de Israel en 2021, la orquesta de las Fuerzas de Defensa de Israel se asoció con una empresa especializada en videos sintéticos (también conocidos como "deepfake") para dar vida a las fotos de la guerra árabe-israelí de 1948.
En el video, jóvenes cantantes vestidos con uniformes de época cantaron "Hareut", una canción icónica que conmemora a los soldados muertos en combate. Mientras cantan, los músicos miran las fotografías en blanco y negro descoloridas que tienen en sus manos. Los jóvenes soldados de las fotos antiguas parpadean y les sonríen gracias a la inteligencia artificial. ¿Moral? El pasado cobra vida.
El resultado es inquietante:
Negli ultimi anni, Nir Eisikovits y sus colegas del Centro de Ética Aplicada en UMass Boston han estudiado cómo el compromiso diario con la inteligencia artificial cambia la forma en que las personas piensan sobre sí mismas. Descubrieron que la IA tiene el poder de socavar la capacidad crítica de las personas o su sentido moral.
Hoy en día, la inteligencia artificial hace que sea más fácil que nunca revivir el pasado. ¿Cambiará esto también la forma en que entendemos la historia y, en consecuencia, a nosotros mismos?
Hay que pagar un alto precio moral
El deseo de revivir el pasado no es nuevo. Hay decenas y decenas de recreaciones y reconstrucciones históricas, tanto mediante la restauración de películas antiguas como mediante la creación de material audiovisual desde cero. Las recreaciones en vivo y las imágenes históricas cuidadosamente elaboradas son tareas costosas y que requieren mucho tiempo. Es por eso que la tecnología Deepfake democratiza estos esfuerzos, ofreciendo una herramienta barata y popular para animar fotografías antiguas o crear videos falsos convincentes desde cero.
Pero junto a las infinitas posibilidades de estas nuevas tecnologías, existe una seria cuestión moral.
El escritor y estadista del siglo XVIII Edmund Burke Dijo que la sociedad es una "asociación no sólo entre los que viven, sino entre los que viven, los que han muerto y los que van a nacer". Ser parte de una comunidad significa ser parte de un pacto moral entre generaciones, parte de una empresa común que conecta a los vivos, los muertos y los que vivirán en el futuro.
Porque es importante
La tecnología Deepfake ofrece una forma poderosa de conectar a las personas con el pasado y fortalecer el vínculo con nosotros que vivimos en el presente. Al "resucitar" el pasado, la tecnología recupera una cosa "muerta" y la vuelve presente y vívida nuevamente. Los deepfakes pueden aumentar la empatía hacia nuestras raíces y hacer que el pasado sea mucho más importante.
Pero esta habilidad conlleva riesgos. El primero, evidente, es la creación de episodios históricos falsos. Eventos imaginarios, mitificados y falsos pueden desencadenar guerras: ¿dos ejemplos? primero: una derrota histórica del siglo XIV en la batalla de Kosovo que todavía enciende los sentimientos serbios contra los musulmanes. Sin embargo, nadie sabe con certeza si la coalición serbia realmente perdió esa batalla contra los otomanos. Segundo: el ataque del Golfo de Tonkin a los buques de guerra estadounidenses el 4 de agosto de 1964 se utilizó para aumentar la participación de Estados Unidos en Vietnam. Después resultó que el ataque nunca ocurrió.
Consecuencias incalculables
En resumen, los deepfakes pueden desestabilizar gradualmente la idea misma de un "evento" histórico. A medida que esta tecnología se vuelva omnipresente, la gente se preguntará si lo que ven es real. ¿Llevará esto a una menor estabilidad política o más estabilidad (porque sin saber si algo es verdadero o falso, uno ya no actuará por impulso)? Es desconocido.
Y, francamente, esta no es la consecuencia moral que más me preocupa en este momento.
Trabajo en el campo de la creatividad. Lo que temo es que el uso excesivo de deepfakes lleve a atrofiar nuestra imaginación, proporcionándonos imágenes del pasado “ready-made” y parciales, que nos darán asociaciones inmediatas e inmutables. Sin investigación de los matices, los deepfakes pueden convertirse en los prácticos sustitutos de la historia, engañar a la gente para saber exactamente qué sucedió, alejados de cualquier reflexión profunda o crítica.
Todo más fácil, todo más difícil: ¿qué es la moraleja?
Todos tendemos a pensar que la tecnología nos facilita la vida. Pero muchos no se dan cuenta de que estas herramientas tecnológicas también provocan el deterioro de las habilidades existentes. Los teléfonos inteligentes nos permiten publicar fotos locas en línea: ¿cuántos disfrutan de una vista, qué tan ocupados están para capturar la imagen perfecta para publicar? Todavía estamos perdidos en la era del GPS, ¿dónde está la aventura? Pequeños ejemplos que sirven para entender una cosa: los deepfakes generados por IA no necesariamente mejorarán nuestra moral del pasado o nuestra comprensión del pasado.
Pero vendrán, y para bien o para mal revolucionarán nuestro vínculo con la historia.
