Deepfakes: ¿Qué es y cómo puedes reconocerlos?

Milthon Lujan Monja

Intercambio de caras en una obra de arte original usando Neural Net. Por Stephen Wolfram
Intercambio de caras en una obra de arte original usando Neural Net. Por: Stephen Wolfram

Deepfakes se ha convertido en un tema controvertido debido a su potencial para ser utilizado con fines ilegales. El contenido falso en la forma de imágenes y videos usando la manipulación digital con inteligencia artificial se ha diseminado durante los últimos años (Shahzad et al., 2022).

Desde la creación de vídeos falsos de celebridades hasta la alteración de los resultados de las elecciones, los deepfakes pueden ser peligrosos si se usan de manera indebida.

No obstante, también tiene una serie de interesantes aplicaciones en diferentes campos como las artes creativas, la publicidad, la producción cinematográfica y los videojuegos (Verdoliva, 2020).

Los deepfakes más conocidos, hasta ahora, han sido el video de Barack Obama llamar a Donald Trump “un completo imbécil”, o a Mark Zuckerberg alardear de tener “control total de los datos robados de miles de millones de personas” (Sample, 2020); y recientemente se vienen compartiendo simulaciones digitales de Elon Musk, Tom Cruise, entre otras celebridades, en publicidad digital (Coffee, 2022).

En este artículo, te explicaremos qué son los deepfakes, los riesgos potenciales y consejos sobre cómo protegerte de ellos.

¿Qué es deepfake?

Deepfakes es un acrónimo de deep (aprendizaje profundo) y fake (falso), y en español se traduce como “ultrafalso”. Los deepfakes pueden definirse como creaciones digitales (vídeos o imágenes) de personas que representan situaciones reales o imaginarias.

Aún cuando el acto de crear contenido falso no es nuevo, los deepfakes aprovechan poderosas técnicas de aprendizaje automático e inteligencia artificial para manipular o generar contenido visual y de audio que puede engañar más fácilmente.

García (2021) reporta que el término “deepfakes” apareció por primera vez en la red social Reddit en el año 2017, cuando un usuario con el seudónimo “deepfake” presentó “ultrafalsos” pornografícos de celebridades.

Por su parte, Nguyen et al., (2019) describen que en una definición restringida, los deepfakes se crean mediante técnicas que pueden superponer imágenes de la cara de una persona objetivo en un video de una persona fuente para hacer un video de la persona objetivo haciendo o diciendo cosas que la persona fuente lo hace.

Un “ultrafalso” se crea utilizando tecnologías de Inteligencia Artificial (IA) como el aprendizaje automático y los algoritmos de aprendizaje profundo. El contenido generado no se distingue del real, lo que dificulta detectar si el video o la imagen están manipulados o no.

Proceso de elaboración de un deepfake. Fuente: GAO
Proceso de elaboración de un deepfake. Fuente: GAO

¿Qué es la tecnología deepfake?

Los deepfakes se crean utilizando tecnología sofisticada que involucra el procesamiento de datos, algoritmos de aprendizaje automático y síntesis de imágenes.

Existen varios métodos para crear deepfakes, pero el más común se basa en el uso de redes neuronales profundas que involucran codificadores automáticos que emplean una técnica de intercambio de caras (Johnson, 2022).

Otro tipo de aprendizaje automatizado es el conocido como Generative Adversarial Networks – GAN (Red Adversarial Generativa – GAN).

Al entrenar una red adversarial generativa (GAN) en un conjunto de imágenes de origen, la tecnología deepfake puede crear imágenes o videos que no se pueden distinguir del contenido genuino.

Según Mirsky y Lee (2021), los algoritmos de aprendizaje profundo han progresado hasta un punto en el que es difícil distinguir entre lo que es real y lo que es falso. Por su parte, Nguyen et al., (2019) manifiesta que los métodos de deepfake requieren de una gran cantidad de datos de imágenes y videos para entrenar modelos para crear imágenes y videos realistas.

Fig. 01. Proceso de generación de deepfake utilizando un codificador-decodificador. Fuente: Mitra et al., (2021).
Fig. 01. Proceso de generación de deepfake utilizando un codificador-decodificador. Fuente: Mitra et al., (2021).

Clasificación de deepfakes

Vasist y Krishnan (2022) destacan tres factores que pueden estar contribuyendo al aumento preocupante en la cantidad de deepfakes que se están desarrollando:

  1. La creciente sofisticación del enfoque GAN ha significado que ahora es posible crear falsificaciones profundas cada vez más convincentes.
  2. El análisis forense digital se ha centrado en gran medida en la detección de alteraciones de bajo nivel en las imágenes, mientras que la investigación sobre la detección de la manipulación facial está creciendo pero aún es escasa.
  3. La disponibilidad generalizada de tecnologías de creación de deepfakes ha significado que es fácil producir “ultrafalsos” sin necesidad de la intervención de expertos.
READ  Potencial de la IA generativa para desarrollar antivirales y descubrir fármacos

En este sentido, Nguyen et al., (2019) clasifican los deepfakes en dos categorías principales:

Sincronización de labios (lip-sync)

Los deepfakes de sincronización de labios se refieren a videos que se modifican para hacer que los movimientos de la boca sean consistentes con una grabación de audio.

Titiritero (puppet-master)

Los deepfakes de titiritero incluyen videos de una persona objetivo (titire) que se anima siguiendo las expresiones faciales, los movimientos de los ojos y la cabeza de otra persona (maestro) sentada frente a una cámara.

Usos de los deepfakes

La gama de aplicaciones de la deepfake va desde expresar el guión de un actor en películas hasta crear personalidades generadas por la inteligencia artificial (IA) en plataformas de redes sociales.

El deepfake se utiliza en la restauración de voz de personas que han padecido enfermedades que los han dejado mudos, o en el arte y entretenimiento, y la investigación de la medicina para detectar potenciales tumores (Galiana, 2022).

Tabla 01. Motivaciones para elaborar y compartir deepfakes.

Motivaciones positivasMotivaciones negativasMotivaciones periféricas
Terapia personalizada
Educación
Entretenimiento educativo
Publicidad y campañas de marketing
Traducción de discursos
Modelado de simulación
Motivaciones políticas
Ataques de ciberseguridad
Intento de causar daño a la reputación
Crear malestar civil y cultural
Diseminar desinformación económica
Extorsión
Ciberbullying 
Crimen online contra niños
Testimonios falsos
Entretenimiento (por ejemplo: humor en línea)
Expresión creativa
Fuente: Vasist y Krishnan (2022)

Riesgos potenciales de los deepfakes

Los “ultrafalsos” se pueden utilizar para difundir información errónea y manipular la opinión pública, así como para dañar potencialmente la reputación de las personas en internet.

Amplificados por la velocidad y el alcance de las redes sociales, los deepfakes pueden llegar rápidamente a millones de personas y generar una amplia gama de engaños en el mercado (Mustak, et al., 20223).

Al respecto, Chesney y Citron (2018) puntualizan tres razones para la diseminación de deepfakes:

  1. “Cascada de información” donde las personas dejan de prestar atención a lo que reciben, asumen que es verdad, y lo comparten.
  2. Las personas son más receptivas a información negativa y exhiben intenciones para compartirla.
  3. Las “burbujas de filtro” nos aíslan de la información contraria a nuestras creencias y actúan como refuerzos que eventualmente nos llevan a compartir deepfakes.

Es esencial que los usuarios sean conscientes de los impactos potenciales de los deepfakes antes de decidir verlas o utilizarlas de alguna manera.

Al respecto, Verdoliva (2020) reporta que los deepfakes pueden utilizarse para manipular la opinión pública durante las elecciones, cometer fraude, desacreditar o chantajear a las personas.

Por su parte, Hancock y Bailenson (2021) reportan que los deepfakes de video también tienen consecuencias interpersonales, al modificar nuestros recuerdos e incluso implantar recuerdos falsos, y también pueden modificar las actitudes de una persona.

Un deepfake también representa una seria amenaza para la privacidad, es un escenario en el que se incrementan los riesgos derivados de las suplantaciones de identidad (García, 2021).

READ  Eficiencia de la innovación y la competencia entre compañías

Los deepfakes no solo son peligrosos para las personas, sino también para las empresas. Al respecto, la investigación de Mustak et al., (2023) concluye que los principales riesgos para las empresas incluyen daños a la imagen, la reputación y la confiabilidad, y la rápida obsolescencia de las tecnologías existentes.

¿Cómo identificar un deepfake?

Para evitar ser engañado por los deepfakes, es importante que aprendas a detectarlos.

Actualmente algunos investigadores vienen “entrenando” a las computadoras con ejemplos de videos reales y de video deepfake para que puedan detectarlos. Por otro lado, la investigación de Groh et al., (2021) demostró que los seres humanos pueden ser entrenados para la detección de deepfake.

Una forma de identificar si un vídeo o una imagen es una falsificación profunda es buscar signos reveladores, como movimientos no naturales, parpadeo o calidad de imagen borrosa, y otras irregularidades que indiquen que el contenido fue manipulado.

Otros indicadores de los deepfake incluyen el diálogo inusual en vídeos.

También es importante pensar críticamente sobre el contexto de los medios, ya sea que sea cierto o no, e investigar cualquier tema relacionado para obtener más información.

El proyecto “Detect DeepFakes” del Massachusetts Institute of Technology (MIT) recomienda las siguientes preguntas para ayudar a guiar a las personas a detectar DeepFakes:

  • Presta atención a la cara. Las manipulaciones de DeepFake de gama alta son casi siempre transformaciones faciales.
  • Presta atención a las mejillas y la frente. ¿La piel parece demasiado suave o demasiado arrugada? ¿El envejecimiento de la piel es similar al envejecimiento del cabello y los ojos? Deepfakes puede ser incongruente en algunas dimensiones.
  • Presta atención a los ojos y las cejas. ¿Aparecen sombras en lugares que esperarías? Deepfake puede no representar completamente la física natural de una escena.
  • Presta atención a las gafas. ¿Hay algún deslumbramiento? ¿Hay demasiado deslumbramiento? ¿Cambia el ángulo del resplandor cuando la persona se mueve? Una vez más, Deepfake puede no representar completamente la física natural de la iluminación.
  • Presta atención al vello facial o a la falta del mismo. ¿Este vello facial parece real? Deepfake puede agregar o quitar bigote, patillas o barba. Pero, Deepfakes no puede lograr que las transformaciones del vello facial sean completamente naturales.
  • Presta atención a los lunares faciales. ¿El lunar parece real?
  • Presta atención al parpadeo. ¿La persona parpadea lo suficiente o demasiado?
  • Presta atención a los movimientos de los labios. Algunos deepfakes se basan en la sincronización de labios. ¿Los movimientos de los labios se ven naturales?

Puedes practicar tratando de detectar DeepFakes en Detect Fakes, o contratar los servicios de empresas como Sensity o Intel.

Por su parte, Jung et al., (2020) desarrollaron un algoritmo llamado DeepVision para analizar un cambio significativo en el patrón de parpadeo, que es una acción voluntaria y espontánea que no requiere esfuerzo consciente; y reportan una tasa de precisión en la detección del 87.5%.

Algunas recomendaciones para identificar deepfakes. Fuente: GAO
Algunas recomendaciones para identificar deepfakes. Fuente: GAO

Cómo protegerte de las estafas deepfake

Para protegerte de las estafas de los deepfakes, es importante que tengas cuidado cuando usas internet y limita la cantidad de información personal que compartes en las redes sociales u otras plataformas digitales.

García (2021) destaca que existen cuatro formas de combatir los deepfake: la legislación y la regulación; la concienciación de las políticas corporativas, la educación y capacitación; y la tecnología antideepfakes.

Finalmente, asegúrate de tener cuidado cuando pinchas en los enlaces que te envían por correo electrónico o en las redes sociales, debido a que podrían conducir a sitios peligrosos que contienen falsificaciones profundas.

Deepfakes App

De acuerdo con Verdoliva (2020) los paquetes de software disponibles gratuitamente en la web permiten a cualquier individuo, sin habilidades especiales, crear imágenes y videos falsos muy realistas.

READ  BITOUR: Herramienta de inteligencia de negocios para el sector turístico

Existen varias aplicaciones para generar de forma fácil deepfakes, como Wombo, DeepFace Lab, FaceApp, Face Swap o páginas webs como deepfakesweb, Hoodem, o Synthesia.

Una gran cantidad de softwares deepfake puede ser encontrada en GitHub.

Conclusión

En un mundo cada vez más digital, el surgimiento de los deepfakes representan una amenaza para la seguridad. En la actualidad existen muchas applicaciones de acceso libre y de pago para elaborar los “ultrafalsos”; no obstante, también hay una tendencia creciente entre los investigadores para desarrollar aplicaciones y software para identificar deepfake.

A pesar de su mala reputación, los “ultrafalsos” también pueden tener aplicaciones en la educación, marketing, industria, entre otros sectores.

Referencias bibliográficas

Chesney, R., & Citron, D. (2019). Deepfakes and the new disinformation war: The coming age of posttruth geopolitics. Foreign Affairs; New York Tomo 98, N.º 1, (Jan/Feb 2019): 147.

Coffee Patrick. 2022. ‘Deepfakes’ of Celebrities Have Begun Appearing in Ads, With or Without Their Permission. The Wall Street Journal.

Galiana Patricia. 2022. ¿Qué son los Deepfakes y cómo detectarlos? IEBS

GARCÍA-ULL, F. J. (2021). «Deepfakes: el próximo reto en la detección de noticias falsas». Anàlisi: Quaderns de Comunicació i Cultura, 64, 103-120. DOI: https://doi.org/10.5565/rev/analisi.3378

Groh Matthew, Ziv Epstein, Chaz Firestone, and Rosalind Picard. 2021. Deepfake detection by human crowds, machines, and machine-informed crowds. PSYCHOLOGICAL AND COGNITIVE SCIENCES. 119 (1) e2110013119 https://doi.org/10.1073/pnas.2110013119

Hancock Jeffrey T. and Jeremy N. Bailenson. 2021. The Social Impact of Deepfakes. Cyberpsychology, Behavior, and Social Networking.Mar 2021.149-152. http://doi.org/10.1089/cyber.2021.29208.jth

Johnson Dave. 2022. What is a deepfake? Everything you need to know about the AI-powered fake media. Businees Insider.

Jung T., S. Kim and K. Kim, “DeepVision: Deepfakes Detection Using Human Eye Blinking Pattern,” in IEEE Access, vol. 8, pp. 83144-83154, 2020, doi: 10.1109/ACCESS.2020.2988660.

Mirsky Yisroel and Wenke Lee. 2021. The Creation and Detection of Deepfakes: A Survey. ACM Comput. Surv. 54, 1, Article 7 (January 2022), 41 pages. https://doi.org/10.1145/3425780

Mitra, A., Mohanty, S.P., Corcoran, P. et al. A Machine Learning Based Approach for Deepfake Detection in Social Media Through Key Video Frame Extraction. SN COMPUT. SCI. 2, 98 (2021). https://doi.org/10.1007/s42979-021-00495-x

Mustak Mekhail, Joni Salminen, Matti Mäntymäki, Arafat Rahman, Yogesh K. Dwivedi. 2023. Deepfakes: Deceptions, mitigations, and opportunities, Journal of Business Research, Volume 154, 2023, 113368, ISSN 0148-2963, https://doi.org/10.1016/j.jbusres.2022.113368.

Nguyen, Thanh & Nguyen, Cuong M. & Nguyen, Tien & Duc, Thanh & Nahavandi, Saeid. (2019). Deep Learning for Deepfakes Creation and Detection: A Survey.

Sample Ian. 2020. What are deepfakes – and how can you spot them? The Guardian

Shahzad, Hina Fatima, Furqan Rustam, Emmanuel Soriano Flores, Juan Luís Vidal Mazón, Isabel de la Torre Diez, and Imran Ashraf. 2022. “A Review of Image Processing Techniques for Deepfakes” Sensors 22, no. 12: 4556. https://doi.org/10.3390/s22124556

Vasist, P., & Krishnan, S. (2022). Deepfakes: An Integrative Review of the Literature and an Agenda for Future Research. Communications of the Association for Information Systems, 51, pp-pp. https://doi.org/10.17705/1CAIS.05126

Verdoliva L. 2020. “Media Forensics and DeepFakes: An Overview,” in IEEE Journal of Selected Topics in Signal Processing, vol. 14, no. 5, pp. 910-932, Aug. 2020, doi: 10.1109/JSTSP.2020.3002101.

Wikimedia. 2023. Deepfake

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.