Difícil de distinguir entre realidad y ficción, pero fácil de creer, ¿Lola Flores promocionando cerveza? Y no es que dude que, en su tiempo, La Faraona disfrutara de la refrescante bebida, pero el nuevo comercial de la cervecera malagueña Cruzcampo, sin lugar a dudas, demuestra que, a 25 años de su ausencia física, la bailaora continúa siendo la preferida de España y que la tecnología no conoce de límites.
Juan Pedro Moreno, director creativo del spot, expresó que se emplearon cinco mil imágenes de archivo de la artista y dos softwares para traerla a la vida. El efecto digital empleado se llama deepfake.
El término deviene de la unión de dos conceptos: el deep learning, como se conoce al aprendizaje profundo de sistemas de inteligencia artificial y la palabra fake, falso. Constituye una tecnología basada en la Inteligencia Artificial que consigue superponer el rostro de una persona en el de otra y falsificar sus gestos y discurso, obteniendo un resultado visual creíble.
Como hicimos referencia al inicio del artículo una de las ventajas del deepfake es “devolver a la vida” con fines artísticos, históricos, de entretenimiento e incluso para homenajear a figuras que no están presentes físicamente. También se pueden emplear en aplicaciones que permita probarse ropa o nuevos peinados en casa, y para la capacitación en varias profesiones.
En la medicina, la tecnología generativa se utiliza para crear escáneres cerebrales falsos basados en datos de pacientes, que permiten algoritmos para detectar tumores en imágenes reales.
En Internet circulan cientos y cientos de estos materiales. Artistas, deportistas, políticos y hasta los rostros de los cuadros más famosos cantan, conversan y gesticulan fuera de sí. En la plataforma YouTube existe un canal llamado ‘Ctrl Shift Face‘, que emplea una herramienta de código abierto llamada DeepFaceLab, para intercambiar caras en vídeos. Uno de los más populares recoge un fragmento de una entrevista televisiva del actor norteamericano Bill Hader, donde casi de forma imperceptible adquiere el rostro de Tom Cruise, antes de volver al suyo y así varias veces.
La práctica se viralizó en 2018 cuando internautas emplearon un software para superponer el semblante de actrices como Natalie Portman, Daisy Ridle, Jessica Alba y Emma Watson en videos pornográficos. Aunque en Estados Unidos se comenzó a penalizar la distribución de imágenes y videos pornográficos falsos desde julio de 2019, un artículo de Business Insider que recoge un estudio realizado por Deeptrace, afirman que en ese año existían alrededor de 15.000 vídeos deepfake en la red y un 96% de estos eran vídeos pornográficos.
Al margen de ello, la tecnología en torno al deepfake avanza en busca de resultados cada vez más reales; y aunque no presentan contenido sexual, suplantan identidades famosas diciendo o haciendo cosas que jamás harían.
Un artículo del diario La Vanguardia expresa que esta técnica “difumina los límites entre la realidad y la ficción al transformar con gran realismo la apariencia y la voz de las personas, lo que plantea cuestiones importantes sobre la veracidad de lo que se está viendo, siendo capaz de dañar la imagen de aquellos a los que ha suplantado”.
Para el investigador mexicano Jacob Bañuelos Capistrán este fenómeno despierta preocupaciones de tipo ético, político, legal y tecnológico, que se fundan en el hecho de que estos montajes minan la credibilidad de los documentos audiovisuales, principalmente videos, como medios de información o certificación de hechos, poniendo en entredicho su veracidad o generando riesgos de desinformación, difamación o chantaje:
“(…) es la punta del iceberg de lo que pasará con la imagen y cualquier otro soporte de contenidos en el universo digital y, sobre todo, en la lógica de la construcción de discursos falsos y mal intencionados en la laberíntica trama de las prácticas de la posverdad”.
Bañuelos Capistrán añade que los deepfake pertenecen a una familia que empieza a ser numerosa, identificada por los adjetivos –deep- y –fake-: fake news, cheapfakes, fake nudes, shallow fakes, deep learning, deep web, deepnude, etc. “Estirando un poco más esta lógica, podríamos hablar de una sociedad deep y fake, en donde las verdades han quedado, como siempre, en lo profundo y entredicho”, sentencia.
En el verano de 2020, la Policía Europea (Europol) manifestó preocupaciones en torno al auge y viralización de esta práctica. En su último informe junto al Instituto Interregional de Investigación sobre Justicia y Crimen de las Naciones Unidas y la empresa Trend Micro urge a las instituciones a actuar para prevenir los posibles peligros de la inteligencia artificial y en concreto de los deepfakes.
“Los deepfakes son actualmente el uso más conocido de la inteligencia artificial como vector de ataque», avisa Europol en el texto, donde también advierte de la necesidad de la creación de una tecnología de detección para mitigar en el futuro el riesgo de estos y su posible uso para desinformar o extorsionar.
En cambio, Jacob Bañuelos Capistrán contrapone que estos no deben ser entendidos como la causa de la desinformación, sino como el síntoma de una sociedad que suma los desarrollos tecnológicos a prácticas delictivas que han existido siempre. Se deberán combatir los delitos, no los deepfakes.
Según el investigador “la problemática sobre la autenticidad de cualquier documento aumenta en la medida en que avanza el uso de la inteligencia artificial en la construcción de un orden material, científico y cultural.
“Los riesgos de la desinformación aumentan debido a la velocidad y alcance de propagación de contenidos falsos en las redes sociales, al uso de metadatos y contenidos digitales que la propia ciudadanía comparte en la red y debido a competencias de lectura sobre contenidos mediáticos heredadas del régimen mediático electrónico”.
El debate en torno a los riesgos del deepfake coincide en gran medida como otros fenómenos del Internet y las nuevas Tecnologías de la Información y la Comunicación (TICs), en la necesidad de crear mecanismos y regulaciones que protejan la identidad de los usuarios, particularmente en este caso, a los famosos.
Por ejemplo, con 166 mil seguidores en la plataforma Tik Tok, en la cuenta @deeptomcruise un internauta aplicando esta tecnología suplanta al actor Tom Cruise con videos donde supuestamente cuenta chistes, realiza un truco de magia con una moneda o te invita a acompañarlo a una tienda.
Aunque el contenido es de puro entretenimiento no deja de ser un truco visual que puede llegar a un engaño total para los seguidores del verdadero protagonista de Misión Imposible. De ahí que hay expertos que señalan que toda figura pública debería poseer una cuenta verificada, aunque no suba contenido. Lo que permitiría denunciar al suplantador en caso de ser subido algún material que vaya en detrimento de su imagen y obra.
No obstante, insisto que la solución no es satanizar Internet, ni las redes sociales ni la tecnología. La alfabetización digital es también una tarea vigente, en pos de una mayor cultura digital por parte de los usuarios.
Porque hace falta más que una cerveza para invocar a La Faraona.
