Deepfake

La inteligencia artificial tiene una influencia persuasiva innegable. Sus respuestas y avances en muchos campos están cambiando el mundo. La IA puede mejorar la productividad, abrir nuevas vías a la creatividad y cambiar por completo nuestra forma de trabajar y de vivir. Pero también existe una gran posibilidad de que se abuse de estos increíbles avances.

La IA tiene el potencial de ser utilizada para el bien, pero también puede ser objeto de abusos para llevar a cabo acciones que comprometan la privacidad, la seguridad y la ética. El desarrollo y la difusión de deepfakes es uno de los casos más controvertidos y ampliamente debatidos del potencial de abuso de la IA.

Un deepfake es un tipo de medio sintético en el que potentes técnicas de aprendizaje automático (ML) e inteligencia artificial (IA) sustituyen el parecido de una persona en una imagen o vídeo existente por el de otra persona.

Debido a que el aprendizaje profundo es una rama del aprendizaje automático que hace uso de redes neuronales, por lo tanto, la frase «deepfake» combina los términos «aprendizaje profundo» y «falso», indicando la capacidad de la tecnología para producir información falsa que es notablemente realista.

Los deepfakes han suscitado serios interrogantes éticos y legales, aunque tienen usos válidos en la industria cinematográfica, la educación y el desarrollo de contenidos. Pueden utilizarse para producir contenidos engañosos o perjudiciales que violen derechos privados, dañen la reputación y manipulen la opinión pública.

Ejemplos de este tipo de contenidos son las noticias falsas, la desinformación política y los contenidos para adultos no consentidos. Por ello, la creación y aplicación de la tecnología deepfake son actualmente objeto de debate ético y análisis normativo.

Tecnología utilizada en la generación de deepfakes

La creación de un deepfake implica un sofisticado proceso que utiliza el aprendizaje profundo, un subconjunto del aprendizaje automático, en el que los algoritmos modelan patrones de alto nivel en los datos.

Aunque también pueden emplearse arquitecturas de redes neuronales alternativas, las redes generativas adversariales (GAN) son la tecnología más utilizada en los deepfakes. El proceso de elaboración de un deepfake puede dividirse en varios pasos clave:

Recopilación de datos

El primer paso consiste en recopilar un conjunto de datos considerable de fotografías o vídeos en los que aparezca la persona a la que desea imitar como objetivo. La cantidad y el calibre de este conjunto de datos están estrechamente correlacionados con el realismo y la calidad del deepfake.

El modelo de IA se entrena con estos datos para ver cómo aparece el sujeto en diversas condiciones de iluminación, desde diferentes perspectivas y con otras expresiones.

Entrenamiento del modelo

Dos redes neuronales, una generadora y otra discriminadora, se entrenan simultáneamente en el marco GAN utilizando los datos recopilados.

El discriminador evalúa la autenticidad de las imágenes o vídeos contrastándolos con los auténticos. El generador produce imágenes o vídeos que pretenden imitar la apariencia del individuo objetivo.

Los resultados del generador deben ser tan convincentes que al discriminador le resulte difícil distinguirlos de los datos reales.

Generador: Puede producir imágenes o vídeos falsos que imiten a la audiencia prevista. A través de la retroalimentación del discriminador, mejora con el tiempo.

Discriminador: Esta red distingue entre las fotos o vídeos producidos artificialmente y los auténticos. Su aportación permite al generador producir mejores resultados.

Mejora repetida

El generador mejora en la producción de imágenes o vídeos realistas utilizando un entrenamiento continuo, en el que el discriminador y el generador aprenden continuamente de la retroalimentación del otro.

Este enfoque continúa hasta que el generador genera salidas tan convincentemente realistas que el discriminador ya no puede identificarlas con fiabilidad como falsas.

Síntesis de audio (si procede)

Un procedimiento similar puede sintetizar audio para deepfakes, incluido el habla, haciendo coincidir la voz y la entonación de la persona objetivo. Con frecuencia, esto implica utilizar grabaciones de audio de la voz de la persona para enseñar un modelo diferente.

Perfeccionamiento y edición

Para garantizar que el deepfake se integra perfectamente en cualquier fondo o contexto previsto, las imágenes o vídeos generados pueden pulirse aún más utilizando herramientas de edición de vídeo para corregir cualquier fallo. Esto puede incluir ajustar la iluminación, difuminar los bordes y sincronizar el audio con los movimientos visuales.

¿Existen aplicaciones positivas del deepfake?

Aunque la tecnología deepfake se relaciona con frecuencia con actividades ilícitas, tiene muchos usos beneficiosos en muchas empresas. Ahora es más accesible para los no expertos, lo que permite diversos usos productivos y creativos.

Exposiciones interactivas de deepfake en el Museo Dalí

La tecnología Deepfake está siendo utilizada por museos, como el Museo Dalí de San Petersburgo (Florida), para crear exposiciones interactivas. La posibilidad de que los visitantes «conozcan» a Salvador Dalí e interactúen con su vida de una forma que antes no era concebible fomenta un vínculo más fuerte con sus obras de arte.

Revivir clásicos con tecnología

Esta técnica se emplea en campañas creativas de marketing y con fines comerciales, incluso para dar vida a obras de arte de renombre. Por ejemplo, hacer una película de la conocida obra de arte Mona Lisa que hable y se mueva.

Experiencia minorista mejorada con GAN

Las GAN (Redes Adversariales Generativas) pueden producir experiencias realistas en el sector minorista, permitiendo a los clientes examinar las cosas de forma genuina, como si estuvieran en la tienda.

Innovaciones en los medios de difusión mediante Deepfake

El impacto divergente de las falsificaciones profundas en la sociedad

Las consecuencias negativas de las falsificaciones profundas superan los beneficios potenciales. Aunque la tecnología puede tener usos constructivos, los efectos perjudiciales tienen un impacto más significativo y potencialmente duradero en la sociedad.

En un estudio reciente, John Twomey, experto en psicología aplicada del University College Cork (Irlanda), y su equipo profundizaron en el discurso que rodeaba a más de 1.200 tuits sobre la invasión rusa de Ucrania. Una parte notable de estos tuits destacaba la amenaza inminente de los contenidos deepfake que circulan por las plataformas de las redes sociales.

Twomey articula la naturaleza paradójica de los deepfakes, reconociendo su capacidad para erosionar la confianza del público en las fuentes mediáticas auténticas.

Postula que la normalización de los deepfakes puede llevar a los individuos a descartar la información genuina como fabricada, un fenómeno no muy diferente de la reapropiación del término «noticias falsas» por parte del ex presidente de Estados Unidos, Donald Trump, que sirvió para desacreditar la información basada en hechos.

¿Cómo detectar los deepfakes?

La complejidad de la tecnología utilizada para producir deepfakes dificulta su detección. Pero a medida que avanza la tecnología, también lo hacen las técnicas para detectar estas falsificaciones. A continuación le presentamos algunos métodos y estrategias esenciales para detectar las deepfakes:

Análisis visual y sonoro

Los deepfakes suelen mostrar pequeños defectos en sus componentes visuales y de audio, lo que los hace parecer artificiales. Los observadores pueden buscar expresiones faciales irregulares, patrones de parpadeo anormales e incompatibilidades entre los movimientos de los labios y las palabras pronunciadas.

Además, las diferencias en la textura de la piel o la forma en que la luz interactúa con el cuerpo podrían ser indicadores de alteración digital que el observador astuto puede captar.

IA y técnicas de aprendizaje automático

El desarrollo de los deepfakes, así como su detección, dependen en gran medida de la inteligencia artificial. Los modelos de aprendizaje profundo se entrenan con grandes conjuntos de datos de contenidos auténticos y fraudulentos para que estos sistemas de IA puedan reconocer detalles minúsculos que podrían ser invisibles para el ojo humano.

Otra capa de detección la proporciona el examen de las huellas digitales GAN, que son artefactos distintivos dejados por los modelos generativos.

Herramientas técnicas y software

Cada vez se desarrollan más las nuevas tecnologías de software destinadas a identificar las deepfakes. Estos programas utilizan algoritmos complejos para escanear películas y fotos en busca de indicios de manipulación.

Buscan anomalías e incoherencias que apunten a la falsedad de la información. Las tecnologías creadas para contrarrestar la tecnología deepfake también mejoran constantemente para preservar la integridad del material digital.

Herramientas para la generación de deepfakes

Con la creciente accesibilidad a la generación de deepfakes, se han desarrollado varias herramientas, cada una con características especiales para adaptarse a diferentes niveles de habilidad y objetivos. Estas técnicas permiten generar deepfakes para el estudio, el disfrute y, por desgracia, el engaño en algunas situaciones.

He aquí una visión general de algunas de las tecnologías de generación de deepfakes más conocidas, destacando sus características y los avances tecnológicos que aportan para crear medios que no son reales.

Reface

Reface es una popular aplicación que permite a los usuarios cambiar rápidamente las caras en GIF y películas en los teléfonos inteligentes. Superpone su rostro al físico de un famoso en un videoclip utilizando tecnología de inteligencia artificial (IA).

Reface inserta sin esfuerzo el rostro de un usuario en un vídeo o GIF utilizando una innovadora tecnología de intercambio de caras impulsada por la IA, dando la impresión de que el usuario forma parte del contenido original. Con la amplia colección de secuencias de películas conocidas, videoclips de famosos y GIF virales de la aplicación, los usuarios pueden visualizarse a sí mismos en papeles o situaciones destacadas.

Características de Reface

• Facilidad de uso: La aplicación está diseñada para la simplicidad, requiriendo sólo un selfie para crear contenido deepfake personalizado.
• Compartición social: Los usuarios pueden compartir fácilmente sus creaciones en las plataformas de las redes sociales, lo que contribuye a la difusión viral de la aplicación.
• Actualizaciones periódicas: Reface actualiza con frecuencia su biblioteca de contenidos, proporcionando a los usuarios clips nuevos y de tendencia para mantener fresca la experiencia de la aplicación.

FaceMagic

Con FaceMagic, los usuarios pueden elegir un rostro para superponerlo sobre un personaje de televisión, de película o de cualquier otro tipo de videoclip. Para ello, los usuarios deben subir una foto, seleccionar una película preferida de la biblioteca de contenidos de la aplicación o subir su vídeo.

El software utiliza algoritmos de aprendizaje profundo para crear un intercambio de caras realista analizando el vídeo seleccionado y la foto subida. La IA está entrenada para imitar los movimientos y las expresiones faciales con el fin de crear un vídeo final fluido.

¿Qué hace diferente a la aplicación?

• Biblioteca diversa: FaceMagic suele ofrecer una serie de clips preseleccionados de diversos medios, incluidas escenas icónicas de películas y momentos populares de programas de televisión.
• Cargas personalizadas: Los usuarios pueden subir vídeos personales para crear imitaciones profundas personalizadas, lo que añade un toque personal a la experiencia.
• Múltiples rostros: La aplicación permite a menudo intercambiar varias caras en un mismo vídeo, lo que permite realizar deepfakes en grupo con amigos o familiares.

DeepFaceLab

Diseñado tanto para investigadores como para aficionados, DeepFaceLab está considerado el estándar de la industria de software para deepfakes. Proporciona amplias herramientas para producir deepfakes de calidad superior con un mayor control sobre el producto final.

Para una edición y diseño precisos, ofrece funciones avanzadas y opciones de personalización. Se actualiza a menudo con los avances más recientes en aprendizaje profundo e inteligencia artificial.

Se trata de un caso típico de uso de DeepFaceLab, en el que el software se ha utilizado para mapear los rasgos faciales y las expresiones de una persona en otra, creando de forma efectiva un vídeo deepfake creíble en el que la persona objetivo parece ser otra.

Implicaciones éticas y sociales

La tecnología deepfake tiene consecuencias sociales y éticas complicadas y de gran alcance. Los deepfakes pueden manipular la realidad produciendo vídeos convincentes que muestran cosas que nunca sucedieron o hacen comentarios falsos, lo que puede difundir información incorrecta.

Puede utilizarse en campañas de difamación o para fabricar historias, lo que afecta al discurso político y a las elecciones y amenaza la democracia y la credibilidad institucional.

Se plantean importantes problemas de privacidad cuando se utiliza la imagen de alguien para producir contenidos deepfake sin el consentimiento de esa persona. También puede infringir los derechos de publicidad o dar lugar a acciones legales. Al presentar a una persona bajo una luz desfavorable o comprometida, los deepfakes pueden utilizarse para dañar la reputación de alguien.

El auge de los deep fakes puede provocar una falta general de confianza en los medios audiovisuales, lo que da lugar al «dividendo del mentiroso«, en el que las verdades reales pueden ser descartadas como deep fakes. A nivel social, los deepfakes pueden erosionar la confianza interpersonal si la gente duda de la autenticidad de sus interacciones y comunicaciones.

El futuro de los deepfakes

Las normas sociales en torno al permiso y la privacidad pueden cambiar si la tecnología deepfake se generaliza. Cada vez es más crucial crear normas morales para el uso de deepfakes en los medios sociales, el periodismo y el entretenimiento.

Se espera que las directrices legales sobre la creación y difusión de deepfakes evolucionen, haciendo hincapié en el permiso, la privacidad y el uso indebido. Para contrarrestar los problemas causados por las deepfakes, es necesario que aparezcan pronto nuevas normas y soluciones de autenticación de contenidos digitales.