Tecnología para desenmascarar los deepfakes

Los deepfakes han dejado de ser un juego inocente y para el entretenimiento y se están convirtiendo en una auténtica amenaza.

Este tipo de vídeos se usan para desinformar, con fines pornográficos, para dañar la imagen de una marca o de una persona…  Pero los ciberdelincuentes están dando un paso más allá y ya estamos viendo nuevas aplicaciones que amenazan la seguridad.

Esta misma semana, el FBI ha emitido un aviso informando acerca del uso de datos personales robados y deepfakes por parte de ciberdelincuentes, con el fin de presentarse como candidatos viables a puestos de trabajo en remoto. El objetivo no es otro que ser contratados y así poder robar datos financieros o patentes de la empresa, acceder a credenciales de clientes y a las bases de datos de la compañía, etc.

Aunque los deepfakes todavía presentan anomalías que pueden ayudar a detectarlos, la calidad que han alcanzado hace que sea difícil descubrirlos si no estamos prevenidos. Por eso, es fundamental contar con herramientas tecnológicas que ayuden a desenmascararlos automáticamente.

Por ejemplo, Microsoft lanzó en 2020 su Microsoft Video Authenticator, una plataforma inteligente para la detección de deepfakes en fotos y vídeos. Amnistía Internacional también pone a disposición de todos los usuarios una herramienta de análisis inverso de vídeos que permite detectar si las imágenes de un vídeo han sido utilizadas antes. Y disponemos de otras herramientas, como InVID, extensión de navegación especializada en analizar los vídeos; Montage, que permite analizar y etiquetar vídeos de YouTube; o Truepic, una plataforma de verificación de fotos y vídeos.

A todas estas iniciativas viene a sumarse ahora un nuevo proyecto, desarrollado por investigadores del grupo K-riptography and Information Security for Open Networks (KISON) y del Communication Networks & Social Change (CNSC), pertenecientes al Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya (UOC). Se trata de la iniciativa DISSIMILAR, fruto de la colaboración de la UOC con la Universidad Tecnológica de Varsovia (Polonia) y la Universidad de Okayama (Japón).

Este proyecto persigue el desarrollo de herramientas tecnológicas que ayuden a los usuarios a distinguir de automáticamente entre contenido multimedia original y alterado, usando para ello técnicas de ocultación de datos e inteligencia artificial.

“El proyecto tiene un objetivo doble. Por un lado, proporcionar a los creadores de contenido herramientas para identificar con marcas de agua sus creaciones, con lo que se consigue que cualquier modificación sea fácilmente detectable. Por otro, dotar a los usuarios de las redes sociales de herramientas basadas en procesamiento de señales de última generación y métodos de aprendizaje automático para detectar contenido digital falso”, detalla David Megías, investigador líder de KISON y director del IN3.

Desde la UOC se explica que las marcas de agua digitales son un conjunto de técnicas, de la rama de la ocultación de datos, que consisten en incrustar información imperceptible en el archivo original para poder verificar fácil y automáticamente un documento multimedia. “Pueden servir para indicar la legitimidad de un contenido, por ejemplo, verificar que un vídeo o una fotografía ha sido distribuido por una agencia de noticias oficial. También se pueden utilizar como marca de autentificación, que se eliminaría en caso de modificación del contenido, o para trazar el origen de los datos. Es decir, para saber si una fuente de información —por ejemplo, una cuenta de Twitter— está distribuyendo contenido falso”, especifica Megías.

DISSIMILAR también empleará técnicas de análisis forense de contenidos digitales. El objetivo es utilizar la tecnología de procesamiento de señales para detectar distorsiones intrínsecas producidas por los dispositivos y programas que se utilizan al crear o modificar cualquier documento audiovisual. Dichas manipulaciones producen alteraciones, como ruidos del sensor o distorsiones ópticas, que se pueden identificar con modelos de aprendizaje automático.

“La idea es que la combinación de todas estas herramientas mejore los resultados en comparación con el uso de soluciones de un solo tipo”, puntualiza el investigador.

David Ramos

Soy periodista freelance especializado en información económica, gestión empresarial y tecnología. Yo no elegí esta especialidad. Fue ella la que me escogió a mí.

Recent Posts

Fabricantes de microchips: De la escasez al exceso de stock

El ajuste en la demanda de chips obedece a una contarcción en el mercado de…

5 horas ago

Apple lanza parches para iOS y macOS

La compañía publica macOS Monterrey 12.5.1, iOS 15.6.1 y iPadOS 15.6.1 para atajar fallos de…

8 horas ago

TSMC comienza en breve la producción de la nueva generación de microchips de 3 nanómetros

Apple e Intel serían las primera empresas en recibir los futuros chips de 3 nanómetros…

8 horas ago

Tesla también quiere convertirse en una empresa de suministro de electricidad

Tesla Energy Ventures es el nombre de la filial con la que Tesla iniciará, de…

9 horas ago

Un 40 % de los inversores en criptomonedas creen que se encuentran reguladas

El inversor en criptoactivos suele ser un hombre de 40 años con estudios universitarios e…

9 horas ago

Samsung Electronics invertirá 15.000 millones de dólares en un nuevo centro de I+D para semiconductores

Este centro se ubicará en Giheung, donde el gigante tecnológico ya cuenta con un campus…

10 horas ago