Deepfake: Qué es, cómo se crea, sus riesgos e impacto

En esta era condicionada por la tecnología y las incesantes innovaciones, surge el deepfake como una amenaza latente a la cual prestar atención. Estos medios sintéticos son capaces de manipular la realidad como la conocemos, lo que representa un gran peligro al que debemos estar atentos.

Conoce cómo funcionan, el riesgo que suponen y cómo detectarlos. 

Qué es el deepfake

El término surge de la combinación de los vocablos en inglés “deep” (proveniente de las tecnologías de deep learning) y “fake” que significa falso, haciendo alusión a algo creado de manera artificial por esta clase de tecnología de aprendizaje profundo.

También llamados “medios sintéticos”, son estas imágenes, vídeos o audios generados por inteligencia artificial que imitan la imagen física (apariencia) y sonido de personas reales, haciendo que el material producido parezca auténtico. 

Las aplicaciones más comunes de este tipo de contenido falso son la producción de vídeos manipulados, audios que recrean la voz de una persona, y filtros de realidad aumentada.

Aunque al hablar de deepfakes se hace advirtiendo los peligros que esta práctica conlleva, también existen usos de potencial positivo y divertido. Podemos mencionar algunos ejemplos como:

• Las aplicaciones de face swipe
• Las recreaciones de figuras históricas y entornos con propósitos educativos
• La creación de efectos especiales y visuales en la industria cinematográfica.

Tipos de deepfake

Existen principalmente dos variaciones del deepfake, que son: 

• Deepfaces: son aquellos que generan desde cero imágenes que lucen reales pero son totalmente falsas, para ser utilizadas en la creación de otros videos o animaciones. 
• Deepvoices: son aquellos que consisten en suplantar la voz de una persona en un audio, haciendo parecer que es su voz real.

Ambos tipos de deepfake usan el aprendizaje automático de la inteligencia artificial para crear material audiovisual que parezca legítimo, pero que en realidad es totalmente falsificado. 

Algunos ejemplos conocidos del uso de deepfake

Entre los ejemplos de deepfake más conocidos están:

• Video deepfake de Obama con la voz de Jordan Peele 

En 2018 fue publicado por BuzzFeed un video protagonizado por un falso Barack Obama y el comediante y director de cine Jordan Pelee, en el que se reprodujo la imagen y voz de Obama para simular un discurso y advertir sobre la facilidad y el riesgo que suponían las nuevas tecnologías para suplantar la identidad de una persona.

• This person does not exist 

Es el nombre de una web que utiliza redes generativas antagónicas (GAN), un tipo de algoritmos de IA, para generar rostros de personas muy convincentes pero inexistentes. Es el ejemplo perfecto de deepface.  

• Videos pornográficos falsos de celebridades 

A partir de 2018 se popularizó, gracias a un usuario de Reddit, el uso de deepfakes en escenas de películas para adultos, al insertar el rostro de celebridades como Emma Watson y Natalie Portman. 

Esta práctica se hizo popular debido a la facilidad de acceso a imágenes de personas famosas a través de las redes sociales, haciendo sencillo manipular y crear material erótico falso con rostros de estas celebridades internacionales.

• Museo Salvador Dalí 

En 2019 el Museo Salvador Dalí, ubicado en los Estados Unidos, usó tecnología deepfake para recrear y dar vida al artista Salvador Dalí a escala real. Esta recreación era capaz de saludar, entablar conversaciones, e incluso tomarse selfies con los visitantes. 

Estos son algunos de los más famosos, sin embargo, cada vez aparecen más casos con historias que rozan el borde de la legalidad y que, en algunos casos, implican grandes perdidas a nivel monetario. Tal es el caso de un hombre en Canadá, que dice haber invertido 11.000 dólares al ver un video deepfake del presidente Trudeau apoyando las operaciones de una plataforma que resultó ser falsa. 

Cómo funciona el deepfake

Un deepfake es elaborado a través de programas de inteligencia artificial llamados deepfake programs, o haciendo uso de algoritmos como el GAN, cuyas siglas en inglés significan redes neuronales degenerativas antagónicas.

Los deepfake programs usan un algoritmo conocido como codificador que ejecuta una acción en la cual se trabaja con miles de tomas y ángulos de la cara de la persona que se quiera utilizar para producir este contenido. 

Este algoritmo detecta las similitudes entre todas estas tomas y trabaja sobre la base de estas características comunes (expresiones faciales) por medio de un proceso en el cual se comprimen las imágenes, aprendiendo los patrones para luego reproducirlos y crear nuevo contenido falso.  Luego comienza la labor del algoritmo decodificador, encargado de recuperar las imágenes que han sido comprimidas. 

El intercambio de caras se produce cuando imágenes codificadas (del sujeto A) se introducen en el decodificador contrario (sujeto B) para que éste reconstruya la cara de la otra persona. Este intercambio permite que se cree la imagen de un sujeto con rasgos faciales y los movimientos del otro individuo, obteniendo un video falso. 

Otro método para realizar deepfakes es a través de redes neuronales degenerativas antagónicas (GAN). Las GAN contrastan dos tipos de algoritmos: uno generador y otro discriminador. 

El algoritmo generador se encarga de crear la imagen sintética que luego será agregada a la secuencia de imágenes reales, en donde actúa el algoritmo discriminador, encargado de que la imagen falsa se acople al flujo de imágenes originales.

Por lo general este tipo de algoritmos de inteligencia artificial requieren de la repetición del proceso para mayor exactitud.

El peligro de los deepfakes

El principal peligro de los deepfakes es que han llegado a ser sumamente convincentes, lo que confunde a las personas y hasta puede burlar  algoritmos, haciendo muy difícil distinguir entre lo real y lo falso.

La mayoría de los deepfakes suponen un gran peligro político, social y económico al perpetuar la desinformación: pueden manipular la información al crear fake news (noticias falsas), torciendo la realidad a conveniencia y pudiendo ocasionar, por ejemplo, la difamación de cualquier persona.

Esta tergiversación de la realidad también facilita el fraude en línea y la suplantación de identidad a través de biométricos, ya que los deepfake facilitan burlar los sistemas de verificación en línea que se basan en el reconocimiento facial o de voz.

Esto representa un riesgo para la seguridad personal al exponer a cualquier individuo a la falsificación, robos, engaños y estafas.

También pueden ser utilizados como forma de venganza a través de la creación de vídeos para adultos con el fin de ser usados como un método de extorsión, ciberacoso o bullying. 

Los deepfakes también son una gran amenaza al poner en tela de juicio la credibilidad necesaria en el mundo legal, pues, podrían ser fácilmente empleados para la manipulación o alteración de evidencia, valiéndose de la dificultad de comprobación.

A medida que avanza la tecnología, estas realidades y peligros se exacerban gracias al uso de las redes sociales, debido a la facilidad de acceso a la información y la rapidez con que se viralizan los contenidos.

Cómo detectar los deepfakes

Con la evolución de las técnicas de inteligencia artificial, cada vez se hace más complejo reconocer los deepfakes. Sin embargo, a continuación compartimos algunos factores y características que puedes tomar en cuenta para el reconocimiento de estas imágenes o videos falsos. 

• La cara y el cuello

Los deepfakes suelen estar enfocados en el rostro, ya que es mucho más sencillo que hacer una modificación de cuerpo entero. 

Observa bien si la cara coincide con el cuerpo de la persona. Compara la textura y el color de la piel del cuello y la cara, fíjate en las sombras alrededor de los ojos, y en si el vello facial se ve realista o no.

• El parpadeo

Presta atención a si es poco o excesivo. Los algoritmos de deep learning no son capaces de reproducir el parpadeo a la misma velocidad que lo hacen las personas reales.

• El interior de la boca

Los algoritmos de aprendizaje automático son incapaces de imitar con precisión la lengua, los dientes y el interior de la boca. 

Observa bien el color de los labios, los movimientos de la boca y fijate si hay desenfoque en el interior de la boca al momento de hablar.

• El sonido

La sincronización entre el audio y la imagen suele fallar. Examina si el sonido coincide con los movimientos de los labios.

• Fuente del video

Investigar acerca de quién compartió el archivo, en donde y en qué contexto fue publicado, puede ayudarte a identificar si es un deepfake.

• Longitud del video

En su mayoría los videos deepfake suelen durar unos pocos segundos, ya que producirlos lleva mucho tiempo, trabajo y dinero. 

Por lo tanto, si estamos ante un video de corta duración y con un contenido improbable o irracional, lo más seguro es que sea un deepfake. 

Riesgos e impacto del deepfake para las empresas

Este contenido sintético es en esencia una herramienta de suplantación que facilita cualquier forma de fraude. En el ámbito empresarial, tanto usuarios como consumidores, empleados y organizaciones pueden verse directamente afectados por esta nueva realidad.

La amenaza es alta debido a que los deepfakes son capaces de burlar medidas de verificación biométricas, por lo que son capaces de superar verificaciones de KYC. Esto significa que cualquiera podría ser víctima de espionaje, chantaje o estafa a nivel corporativo.

Ante este panorama, Zenpli se convierte en una garantía indispensable para las empresas, al brindar la protección necesaria con respecto a verificaciones de identidad. Y no solo eso, también añade un proceso de inspección y asesoramiento en profundidad que permite determinar el impacto de estos elementos maliciosos, de modo que no sean un obstáculo para alcanzar las metas de tu empresa.

Además, Zenpli puede detectar los intentos de fraude de identidad sintética (la creación de una identidad falsa con datos personales reales, los cuales son mucho más difíciles de emular que un documento y una selfie), en caso de darse una evasión de la validación de biométricos y el facematch contra el documento.

Con esto, refuerza la seguridad con respecto a la huella digital y profundiza añadiendo  indicadores ligados a comportamiento, lo que hace que tus defensas digitales sean mucho más difíciles de burlar.

Queda claro que ante tantas amenazas, la seguridad es un aspecto clave para los usuarios en la elección de servicios ligados a tecnología. 

Si quieres saber cómo robustecer los procesos de seguridad de tu empresa, contáctanos e invierte en seguridad, disminuyendo las amenazas de deepfake.