Se está volviendo extremadamente fácil (y no creo que sea solo bueno) alterar un video, y los últimos desarrollos en IA son realmente impresionantes.
Una colaboración entre gigantes (la Universidad de Stanford y Princeton más el Instituto Max Planck de Informática y Adobe) permite alterar el discurso en un video simplemente modificando la transcripción textual y sin crear el efecto de "doblaje".
En otras palabras el persona que es hablar en video cambiará literalmente la palabras de su habla modificando también los movimientos de los labios.
Para obtener este resultado un tanto inquietante, el algoritmo "aprende" los fonemas y su pronunciación por el sujeto en el video y crea un modelo 3D preciso de su rostro, capaz de replicar todos los sonidos y los movimientos: en ese momento, simplemente edite el texto del discurso y el algoritmo reemplazará la oración original.
Actualmente el algoritmo necesita al menos 40 minutos. de metraje "entrenar" para replicar a una persona en una película.
Aquí hay un video que muestra cómo funciona el sistema:
Enormes dudas éticas
Está claro que este mecanismo crea la posibilidad de que cualquiera pueda modificar un discurso (quizás de figuras políticas o públicas) insertando elementos de odio, o desinformación, y difundiéndolos. como originales y natural: esto sólo aumenta las preocupaciones sobre la propagación de sistemas basado en deepfake.
Por otro lado, hay algún lado positivo, y radica en el enorme ahorro que conseguirá la edición al evitarlo. girar escenas enteras de nuevo debido a pequeños errores de pronunciación.
Por lo demás, estoy seguro de que también se desarrollarán otros métodos "antifalsificación" para los vídeos: marcas de agua dinámicas o marcas de agua que hacen aún más El trabajo de la inteligencia artificial es complejo, en una competencia entre realidad y manipulación. que ya parece ser el caso pretende caracterizar el próximos años.