¿Qué es un Deepfake y cómo se hacen?

Es posible que haya visto un video de la cara de Nicholas Cage transpuesta a otro personaje haciendo rondas en Internet(rounds on the internet) recientemente. No, no nos referimos a un clip de la película Face/Off . Estas son escenas de varias películas en las que Nicholas Cage definitivamente no jugó, sin embargo, parecen muy convincentes. ¿Cómo lograron esto?

Bueno, la respuesta no(answer isn) es "brujería", sino una tecnología que ha sido denominada "deepfake" y está causando un gran revuelo en varias industrias y comunidades.

¿Qué es un “Deepfake”?

La palabra "deepfake" proviene del término "aprendizaje profundo" y, por supuesto, "falso". El aprendizaje profundo(Deep learning) es una rama especializada del aprendizaje automático(machine learning) , que nuevamente forma parte del área general de la Inteligencia Artificial(Artificial Intelligence) .

Con el aumento dramático en el poder de la computación y las formas recientemente descubiertas para que las computadoras procesen y analicen una cantidad masiva de datos del mundo real, las computadoras ahora pueden hacer cosas que la mayoría de nosotros nunca podríamos imaginar. Deepfakes aplica esta tecnología para sintetizar imágenes humanas, creando fotos o videos de cosas que esas personas nunca hicieron y nunca dijeron. 

¿Cómo funciona la tecnología Deepfake?

El aprendizaje profundo(Deep learning) , que sustenta los métodos deepfake, describe la aplicación moderna de la simulación de redes neuronales a conjuntos de datos masivos. Las redes neuronales no son un concepto o tecnología(concept or technology) nuevos , pero hasta los tiempos modernos han sido bastante rudimentarios.

Una red neuronal artificial simula el proceso de aprendizaje(learning process) que ocurre en los cerebros biológicos, al menos hasta cierto punto. Cuando aprendes o tratas con el mundo exterior, las conexiones entre las células de tu cerebro cambian.

Forman circuitos y estructuras lógicas, fortaleciendo algunas conexiones y debilitando otras. A medida que dominas algo, como aprender a conducir o jugar al tenis, esos circuitos cerebrales se vuelven rápidos y eficientes. Eventualmente eres tan bueno en algo que ni siquiera tienes que pensar en hacerlo.

Eso es esencialmente lo mismo que sucede con un sistema de aprendizaje(learning system) profundo . Mira montones de ejemplos de algo y luego se vuelve progresivamente mejor en "comprenderlo".

En el caso de los deepfakes, el software busca ejemplos de la cara que desea transponer, así como el video al que desea transponerlo. Con suficiente entrenamiento, eventualmente puede sintetizar una cara que coincida con los datos de entrenamiento y luego superponerla sin problemas en cualquier otra cara.

¿Qué software se usa para hacer deepfakes?

Hay una serie de aplicaciones que permiten a las personas hacer deepfakes. FakeApp fue la primera aplicación que conocemos destinada a brindar a las personas normales la oportunidad de crear contenido falso. El sitio web ya no existe y encontrar una copia no es nada fácil.

Los creadores de deepfakes ahora se han pasado en gran medida a una aplicación llamada DeepFaceLab , que está alojada en GitHub y ha generado un flujo interminable de tutoriales en lugares como Reddit .

Haciendo un Deepfake

Este artículo no pretende ser un tutorial, por lo que vamos a proporcionar una descripción general de cómo se hacen los deepfakes en la práctica, pero no proporcionaremos los pasos exactos sobre cómo hacer uno usted mismo.

Hay algunas razones para esto, pero la principal es que la legalidad de hacer deepfakes es muy polémica. Así como no le proporcionaremos los pasos exactos para ayudarlo a piratear software o realizar otras actividades ilegales, no le daremos instrucciones paso a paso para hacer deepfakes.

Además, el creador real de DeepFaceLab ha lanzado un video tutorial paso a paso(step-by-step video tutorial) para el software que cualquiera puede seguir, si desea asumir la responsabilidad de tal riesgo.

Para tener una idea de lo bueno que se ha vuelto este material, consulte este sitio web(check out this website) donde se genera una nueva fotografía de una persona que no existe cuando actualiza la página.

Nuestro objetivo es ayudarlo a comprender la tecnología, ya que seguramente la encontrará cada vez más a medida que pasa el tiempo. Dicho esto, estas son las fases generales de la creación de un deepfake con DeepFaceLab .

Después de descargar y descomprimir DeepFaceLab , se encuentra con una carpeta que contiene muchas otras carpetas y una serie de archivos por lotes.

Hay una carpeta llamada "área de trabajo" que contiene los modelos de entrenamiento, los videos fuente(source videos) y la salida. DeepFaceLab funciona con nombres y ubicaciones de archivos específicos, para que los archivos por lotes puedan funcionar. Por ejemplo, el archivo de origen(source file) siempre se denomina "data_src" y el destino se denomina "data_dst".

No hay una interfaz de software(software interface) como la mayoría de la gente la conoce. Solo una lista de archivos por lotes numerados que representan los pasos del proceso. Primero(First) , los videos de origen y destino(source and destination videos) tienen sus marcos extraídos como archivos de imagen.

Luego, se ejecutan varios pasos de análisis, seguidos de un entrenamiento basado en GPU, donde la red neuronal aprende lo que necesita sobre las caras en los dos videos para construir un modelo. Finalmente se produce un nuevo video compuesto.

Mal uso de deepfakes

Como mencionamos anteriormente, los deepfakes son muy controvertidos. Puede violar las leyes existentes en algunos países y se están trabajando nuevas leyes para tratar con la tecnología y sus aplicaciones.

Los deepfakes se pueden usar para crear engaños, como un video de un presidente diciendo locuras(video of a president saying crazy things) . Se puede usar para insertar personas en películas pornográficas con el propósito de acosarlas(purpose or harassing) o dañarlas.

Como probablemente pueda imaginar, podría causar mucho daño con un deepfake convincente y las consecuencias si lo atrapan pueden volverse mucho más graves en el futuro cercano.

Cuestionar todo

Ahora que esta tecnología existe y funciona tan bien como lo hace, significa que tenemos que ver los medios como los videos bajo una luz completamente nueva. Si alguien hace circular un video en las redes sociales de una persona famosa o un político diciendo o haciendo algo controvertido, primero deberá preguntar si el video es real.

La mayoría de los deepfakes mal hechos son obviamente falsos, una vez que sabes qué buscar y has visto algunos. Sin embargo, en algunos casos, incluso un ojo entrenado puede tener problemas para darse cuenta de que se está produciendo algún tipo de manipulación de CG(CG manipulation) y, a medida que la tecnología mejore, eventualmente se volverá imposible.



About the author

Soy un científico informático con más de 10 años de experiencia trabajando en el campo de los navegadores, Microsoft Office y OneDrive. Me especializo en desarrollo web, investigación de experiencia de usuario y desarrollo de aplicaciones a gran escala. Mis habilidades son utilizadas por algunas de las principales empresas del mundo, incluidas Google, Facebook y Apple.



Related posts