¿Qué son los deepfakes y cómo Facebook pretende eliminarlos?

Innovación y Tecnología

Los deepfakes han llegado cuando nadie los esperaba. ¿O era simplemente una cuestión de tiempo que aparecieran por todos lados? ¿Qué son los deepfakes? No está mal realizar una reflexión sobre el modelo comunicativo para poder explicar completamente este nuevo fenómeno.

El siglo XXI ha traído la constatación de la fuerza del mensaje audiovisual, del canal audiovisual, de los medios audiovisuales. Y, como siempre, con aspectos positivos y negativos:

  • En su mejor versión hay ejemplos de documentales prodigiosos, vídeos virales que crean conciencia y solidaridad. O de informativos que te llevan al corazón de la noticia.
  • Por contra, en su peor versión, están los bulos, los fakes y, ahora también, los deepfakes.

Cambios a la hora de informar a los usuarios

qué son los deepfakes

Este mismo siglo XXI también ha conllevado que el ecosistema informativo ha cambiado. Que los canales de comunicación han cambiado. Y, por supuesto, que la audiencia puede, por primera vez, interactuar, compartir y crear.

Todo esto es realmente necesario para comprender el fenómeno y entender qué son los deepfakes. De igual forma, también lo hacen los clientes y los consumidores. Porque, igual que se gana dinero comunicando e informando, también hay demasiados casos de campañas de desinformación y de intoxicación. De manipulación completa en el peor de los casos. 

Es en este terreno lleno de fango y oscuridad donde han nacido los bulos, las noticias falsas, en su denominación anglosajona y, por supuesto, los deepfakes. Como no podía ser de otra manera, el formato audiovisual que ya es preponderante en este siglo XXI tenía que decir algo al respecto. Y lo está haciendo bajo el nuevo formato de estos deepfakes. 

Descubre qué son los deepfakes

Una primera aproximación para entender qué son los deepfakes es acercarse a la Wikipedia. En la entrada sobre deepfake se informa que es un acrónimo del inglés formado por las palabras «fake» (falso) y «deep learning» (aprendizaje profundo).​ 

Por tanto, para saber qué son los deepfakes hay que pensar que se trata de una forma de inteligencia artificial que consigue crear vídeos de personas con apariencia de realidad. Pero son falsos.

Para ello se utilizan algoritmos de aprendizaje no supervisados, conocidos en español como RGAs (Red Generativa Antagónica). También se pueden utilizar vídeos o imágenes ya existentes.​ El resultado final es un vídeo real que es mentira. No es que tenga apariencia de realidad, sino que a nuestros ojos es real. Pero es completamente falso.

Existen deepfakes positivos

Se puede entender perfectamente qué son los deepfakes con algunos ejemplos. Porque esta técnica también puede tener buenas aplicaciones. De hecho, se empezó a aplicar en una de las películas de la mítica serie «La Guerra de las galaxias«.

En efecto, el ejemplo más sonado se produjo en «Rogue One, una historia de Star Wars«. En esta película del año 2016 aparece la Princesa Leia con la cara de Carrie Fisher cuando era joven. Un papel que, en realidad, fue interpretado por la actriz noruega Ingvild Deila.

Carrie Fisher, aunque estaba a punto de cumplir los 60 años en el momento del rodaje, aparecía joven. Algo más adelante, Carrie Fisher falleció durante el rodaje y se volvieron a aplicar, de nuevo, las mismas técnicas. Como ves, esto es un uso de calidad de esta técnica. El problema aparece cuando se utiliza de forma fraudulenta.

Origen y evolución de los deepfakes

Hay que adentrarse en el mundo de la pornografía para acabar de entender qué son los deepfakes y cuál es su origen y evolución. La revista Muy Interesante ofrece una interesante documentación al respecto. Por un lado informa que los deepfakes comenzaron siendo simplemente vídeos pornos.

De hecho, está documentado que un usuario de Reddit, un espacio digital que promociona noticias a base de las recomendaciones de sus usuarios, se dedicaba a añadir caras de famosas a las actrices de las escenas de sexo. Un dato curioso es que el nombre en Reddit este usuario era, precisamente, «Deepfake«. Probablemente sea esta la razón por la que a este tipo de manipulación se le llama deepfake. 

Es curioso que el inventor de las deefakes no necesitó precisamente todo un laboratorio de investigación para lograr sus manipulaciones. Tan solo utilizó su propio ordenador personal. Eso sí, junto a un algoritmo de aprendizaje automático. Los resultados eran cuasi-profesionales. Y aún peor es resultaban creíbles y completamente realistas.

La mayor parte de los deepfakes son pornográficos

Se había abierto una puerta. Ahora que todo el mundo conocía qué son los deepfakes solo faltaba su popularización a través de una herramienta sencilla. Lo que, evidentemente, llegó de inmediato. Otro usuario, que esta vez se llamaba «Deepfakeapp«, publicó una aplicación que permitía a cualquier novato informático manipular vídeos.

Se trataba de una herramienta diseñada especialmente para lo que se ha dado en llamar porno-venganzas. Es decir, la publicación no autorizada y malintencionada de imágenes comprometidas de amantes y ex-amantes.

Fue entonces cuando los deepfakes empezaron a aparecer por todos lados. Con todo, es importante saber que, según el último informe elaborado por los especialistas, el 96% de los vídeos falsos siguen siendo de carácter pornográfico.

La voz de alarma contra los deepfakes

Las alarmas saltaron en todo el mundo cuando Barack Obama llamó imbécil a Donald Trump. Era completamente falso. Y era una llamada de atención para que el gran público tomara conciencia de qué son los deepfakes. Así como para que se pudieran y se actuara contra ellos.

La historia no tiene precio. En el año 2018, un vídeo en el que un supuesto Barak Obama llamaba imbécil a  Trump dio la vuelta al mundo. Se trataba de una grabación falsa en la que el actor Jordan Peele y el CEO de Buzzfeed, Jonah Peretti, intentaban concienciar del peligro de la información no verificada y de los deepfakes.

Llegados a este punto, las redes sociales que tanto han hecho por permitir que se divulguen las fake news rápidamente pusieron freno a los deepfakes. Sobre todo cuando el fundador y dueño de Facebook, Mark Zuckerberg, fue uno de los protagonistas de uno de ellos. Fueron dos publicistas, Bill Posters y Daniel Howe, de la agencia de publicidad Canny, quienes generaron una secuencia manipulada.

El resultado fue que Instagram, red de fotografía de la que también es propietario, se inundó de su siniestro discurso falso. Todo debido a que la compañía decidió mantener su difusión al amparo de la libertad de expresión. Sin embargo, este fue un momento esencial para que las cosas comenzaran a cambiar radicalmente ahora que se conoce bien qué son los deepfakes.

La reacción de Facebook

Falso o real

Las grandes compañías de Internet han reaccionado contra los deepfakes. Amazon, Twitter, Microsoft y Facebook se han posicionado en contra de esta nueva forma de manipulación. De hecho, en general, todas las redes sociales, incluidas Linkedin o Instagram han adoptado una postura similar.

Facebook es una de las compañías que más se ha posicionado contra los deepfakes. De hecho anunció la prohibición de este tipo de videos falsos de apariencia real creados con inteligencia artificial y herramientas sofisticadas. Este anuncio de Facebook compromete a la compañía en sus esfuerzos contra la manipulación en Internet.

De hecho, Facebook ha cambiado sus normas con el objetivo de vetar los vídeos editados o sintetizados de formas no evidentes para el espectador medio, y que podrían engañar a una persona haciéndole creer que la persona aparecida en el vídeo dijo algo que en realidad nunca dijo.

En palabras de la vicepresidenta de gestión de política global de Facebook, Monika Bickert, «aunque estos vídeos siguen siendo poco comunes en internet, plantean un desafío significativo para nuestra industria y nuestra sociedad conforme aumenta su uso«.

Sin embargo, ha señalado que «las nuevas normas no afectarían a parodias o sátiras, ni a vídeos en los que solo se altere el orden de las palabras«. Las excepciones reflejan el desafío que afrontan los servicios de estas plataformas de redes sociales para combatir la desinformación y las noticias falsas sin vulnerar la libertad de expresión y evitando las acusaciones de censura.

Facebook mantiene los deepfakes identificándolos como falsos

identificar los vídeos falsos

La compañía estadounidense sigue analizando cómo gestionar el auge de los deepfakes. Y eso pese a ser criticados el año pasado por negarse a retirar un vídeo manipulado de la presidenta de la Cámara de Representantes de Estados Unidos, Nancy Pelosi, que la mostraba arrastrando las palabras.

El vídeo tiene más de tres millones de visualizaciones. El problema es que hasta Rudy Giuliani, ex-alcalde de Nueva York y abogado de Trump, compartía un segundo vídeo en el que Pelosi aparecía arrastrando las palabras, en lo que algunos usuarios interpretaron como un síntoma etílico.

Fue entonces, al calor de la polémica, cuando Facebook afirmó que cualquier vídeo que no cumpliera los requisitos para ser eliminado aún podría ser revisado por verificadores externos. Los que se consideraran falsos serían identificados como tal para cualquier usuario que intente verlos o compartirlos.

Algo que para Bickert es una mejor estrategia que simplemente borrarlos. «Si simplemente eliminamos como falsos todos los vídeos manipulados identificados por los verificadores, seguirían estando disponibles en Internet o en el ecosistema de medios sociales«, dijo Bickert. «Al mantenerlos y etiquetarlos como falsos, proporcionamos a la gente información y contexto importantes«.

Como ves, los deepfakes son una manera más de intentar ganar visibilidad pero de manera fraudulenta. ¿Necesitas que tus espacios digitales ganen en visibilidad. Prueba la plataforma de ROI Content Marketing de Coobis. Podrás conseguir qutu contenido sea más visible y aumentar la captación de leads.