Los deep fakes son una amenaza creciente en el mundo digital y la gente necesita estar informada sobre cómo protegerse. En este artículo te contaremos de forma detallada cuáles son los puntos clave para entender esta tecnología e implementarla.
Qué es la Deep Fake Detection
Los deep fakes son un tipo de contenido sintético creado mediante inteligencia artificial que reemplaza una persona en un vídeo o audio con otra.
¿Cómo funciona este proceso?
En primer lugar, se lleva a cabo una recopilación de datos. Para ello, se necesita una gran cantidad de imágenes o vídeos de la persona que se pretende reemplazar, así como de la persona que se quiere imitar.
Después, empieza el entrenamiento de la IA. Esta información alimenta a una red neuronal, una especie de algoritmo de aprendizaje automático diseñado para reconocer patrones. Esta red «aprende» las características faciales, expresiones y movimientos de las dos personas.
A continuación, se genera el deep fake. Una vez entrenada la red neuronal, ésta puede generar nuevos vídeos o audios en los que el rostro o la voz de una persona son reemplazados por los de la otra. Esto se logra manipulando los píxeles de las imágenes o las ondas de sonido para que coincidan con las de la nueva persona.
¿Qué tecnologías están involucradas?
- Redes neuronales generativas adversarias (GAN): Son el tipo más común de redes neuronales utilizadas para crear deepfakes. Es como si dos redes neuronales compitieran entre sí: una genera las imágenes falsas y la otra intenta distinguirlas de las reales.
- Aprendizaje profundo: Esta vertiente de la inteligencia artificial permite a las redes neuronales aprender las características más complejas de los datos, como sutilezas en expresiones faciales.
Riesgos asociados a los deep fakes
Los deep fakes, a pesar de su increíble realismo, conllevan una serie de riesgos que pueden tener consecuencias graves. Aquí te presento algunos de los principales:
- Posibilidad de difamación: Uno de los usos más comunes es la difamación, es decir, al superponer el rostro de alguien en un vídeo comprometedor, se puede incluso arruinar la reputación de esa persona y causar daños irreparables a su vida tanto personal y profesional.
- Fraude: Los deep fakes pueden utilizarse para cometer delitos financieros. Imagina que, por ejemplo, pueden suplantar al CEO de una empresa sea suplantado en un vídeo para autorizar una transacción fraudulenta.
- Desinformación: La propagación de noticias falsas a través de deep fakes puede manipular la opinión pública, incitar al odio y socavar la confianza en las instituciones.
- Interferir en procesos electorales: También pueden ser utilizados para crear vídeos falsos de candidatos políticos y manipular el resultado de las elecciones.
- Extorsión: Las personas también pueden ser extorsionadas mostrándolas falsamente en situaciones comprometedoras, y bajo la amenaza de hacerlo público si no se paga una cantidad de dinero.
- Robo de identidad: Falseando la identidad de una persona, se puede acceder a cuentas bancarias, redes sociales y otros lugares a los que habitualmente se accede mediante identificaciones poco seguras.
Por supuesto, para las personas que sufren estas suplantaciones hay consecuencias psicológicas, como depresión, estrés postraumático o ansiedad.
¿Por qué puede llegar a ser tan peligrosa?
Por ejemplo, por el realismo. Los deep fakes son cada vez más realistas, lo que hace cada vez más difícil distinguirlos de los vídeos auténticos. Además, es fácil acceder a las herramientas necesarias para crearlas, lo que lleva a que puedan acceder a crearlas con poca experiencia técnica.
Otro de los peligros es la facilidad de difusión por redes sociales y otros canales online, llegando a muchas personas en poco tiempo.
¿Cómo podemos protegernos?
- Verificación de fuentes: Siempre se debe verificar la fuente de la información antes de compartirla.
- Educación digital: Es fundamental educar al público general sobre los deep fakes y cómo identificarlos.
- Desarrollo de tecnologías de detección: Se están desarrollando herramientas y técnicas para detectar deep fakes, pero es una carrera constante contra los creadores de estos contenidos.
- Legislación: Es necesario establecer marcos legales adecuados para combatir la creación y difusión de deep fakes.
Herramientas para detectar deep fakes
La detección de deep fakes es un campo en constante evolución, y cada vez surgen más herramientas para combatir esta amenaza. Vamos a repasar las más interesantes.
Servicios de verificación de imágenes y videos
- Google Reverse Image Search: Una de las herramientas más conocidas y accesibles. Permite buscar una imagen en línea para encontrar coincidencias o versiones similares, lo que puede ayudar a determinar su origen y autenticidad.
- TinEye: Similar a Google Reverse Image Search, pero especializado en buscar imágenes duplicadas o modificadas en la web.
- InVID WeVerify: Una plataforma gratuita que ofrece una serie de herramientas para analizar videos, incluyendo la búsqueda de versiones anteriores, la verificación de metadatos y la detección de anomalías.
Software de análisis forense digital
- Adobe Photoshop: Aunque es un software de edición de imágenes, Adobe Photoshop incluye herramientas forenses que pueden utilizarse para analizar imágenes y videos en busca de signos de manipulación.
- AMFE (Automated Media Forensics Examiner): Una herramienta de código abierto diseñada para analizar videos y detectar manipulación digital.
- Forensicate: Otra herramienta de código abierto que proporciona una amplia gama de funciones para el análisis forense de imágenes y videos.
Extensiones de navegador especializadas
- FactCheck Browser: Una extensión de navegador que permite a los usuarios verificar la autenticidad de las imágenes y videos directamente desde la página web.
- Chrome River: Esta extensión ofrece una variedad de herramientas para analizar contenido en línea, incluyendo la detección de deep fakes.
Plataformas especializadas en detección de deep fakes
- Sensity: Una plataforma utilizada por gobiernos y empresas para detectarlos y otros tipos de desinformación visual en tiempo real.
- Sentinel: Una solución basada en la nube que ofrece detección en tiempo real con alta precisión.
- Atestigua: Esta plataforma permite a los usuarios analizar videos o enlaces sociales a videos en busca de contenido deep fake.
Si sospechas que un video o una imagen pueden ser un deepfake, es recomendable consultar a expertos en el tema o buscar la opinión de varias fuentes confiables.
Detectar un deepfake requiere un ojo entrenado y la observación de ciertos detalles que pueden revelar su naturaleza falsa. Aunque la tecnología para crear deep fakes es cada vez más sofisticada, aún existen ciertas características que pueden delatarlos.
