Un deepfake es un vídeo hiperrealista, manipulado digitalmente, para representar a personas que dicen o hacen cosas que en realidad nunca sucedieron. Estas representaciones sintéticas, generada mediante técnicas computerizadas basadas en Inteligencia Artificial (IA), plantean serias amenazas para la privacidad, en un nuevo escenario en el que se incrementan los riesgos derivados de las suplantaciones de identidad.

Con la sofisticación de las técnicas para el desarrollo de deepfake, resulta cada vez más complicado detectar si las apariciones públicas o declaraciones de personajes influyentes responden a parámetros de realidad o, por el contrario, son resultado de representaciones ficticias. Deepfake de personalidades como Barack Obama, Donald Trump o Mark Zuckerberg han hecho ya saltar algunas alarmas, consiguiendo acaparar repercusión mediática internacional. De otro lado, populares actrices o periodistas han sido las primeras víctimas de estas representaciones manipuladas en las que su rostro es insertado en contenidos de carácter pornográfico. Así, el vídeo manipulado de una personalidad pública influyente (representantes políticos, directivos de grandes compañías, celebridades, etc.), podría declinar la balanza en los resultados de unas elecciones, servir de detonante en una revuelta o influir en el mercado de valores.

En la actualidad se están desarrollando herramientas para la detección automatizada de deepfakes. Los expertos en investigación digital forense han sugerido indicadores sutiles para detectar estas falsificaciones, basados en el análisis del contexto, aspectos técnicos de la grabación, así como indicadores biométricos. En este sentido, si bien cada vez es más difícil para las personas distinguir entre un video real y uno falso, la IA puede ser fundamental para detectar deepfakes.

Este estudio tiene como objetivo analizar los distintos métodos existentes para la detección de falsificaciones profundas. Se pretende, además, plantear el debate sobre la aplicación de una tecnología que podría alimentar el actual escenario de desinformación y de agotamiento del pensamiento crítico.