- Análisis de la tecnología de inteligencia artificial generativa y su uso en la creación de contenidos sintéticos hiperrealistas.
- Técnicas manuales y herramientas tecnológicas avanzadas para diferenciar vídeos y audios falsos de los reales.
- Impacto de las identidades sintéticas y los deepfakes en el sector financiero y la seguridad corporativa.
- Evaluación de soluciones profesionales de verificación biométrica y estándares de conformidad internacional.
Seguramente te has cruzado con algún vídeo en redes sociales que te ha dejado boquiabierto, donde un famoso dice algo totalmente delirante o un político aparece en una situación comprometida. Pues bien, lo más probable es que estuvieras ante un deepfake, esas falsedades profundas creadas con inteligencia artificial que hoy en día son capaces de engañar hasta al ojo más entrenado. Ya no hablamos solo de filtros divertidos, sino de una tecnología que puede poner en jaque nuestra percepción de la realidad.
El problema es que estas herramientas han pasado de los laboratorios de computación a estar al alcance de cualquier persona con una conexión a internet. Esto ha abierto la puerta a que malhechores y estafadores monten trampas digitales sofisticadas para robarnos dinero o datos personales. Desde clonar la voz de un jefe en una llamada de Zoom hasta crear rostros inexistentes para abrir cuentas bancarias, el riesgo es real y está aquí mismo, así que es fundamental que sepamos cómo defendernos mediante una buena seguridad informática y buenas prácticas.
¿Qué narices son exactamente los deepfakes?
Para entenderlo fácil, el término viene de unir deep learning (aprendizaje profundo) y fake (falso). Básicamente, son archivos de audio, imagen o vídeo que han sido manipulados mediante algoritmos de IA para que parezcan totalmente auténticos. A diferencia de un montaje cutre de Photoshop, aquí el software aprende los rasgos, gestos y tonos de voz de una persona real para replicarlos con una precisión asombrosa.
Existen principalmente dos ramas: los Deepfaces, que se centran en sustituir o crear rostros en vídeos e imágenes, y los Deepvoices, que clonan la voz humana. Lo más peligroso de esto es que utilizan redes neuronales que imitan el cerebro humano, aprovechando nuestros sesgos cognitivos para que creamos lo que estamos viendo sin cuestionarlo.
En el mundo del engaño también existen los llamados shallowfakes. Estos son mucho más sencillos, ya que no usan IA avanzada sino técnicas de edición tradicionales, como recortar un vídeo o cambiar la velocidad para que alguien parezca decir otra cosa. Aunque son menos realistas, siguen siendo peligrosos para difundir desinformación rápidamente.
Cómo se fabrican estas falsificaciones
El proceso suele basarse en alimentar al algoritmo con miles de fotografías o audios de la víctima. Un codificador analiza las similitudes y las reduce a características compartidas. Luego, se utilizan redes generativas antagónicas (GAN), donde dos IA pelean entre sí: una crea la imagen falsa y la otra intenta detectar el error. Este ciclo se repite millones de veces hasta que el resultado es prácticamente indistinguible de la realidad.
Hoy en día, herramientas como Midjourney o ChatGPT han democratizado el acceso a la IA generativa. Esto significa que un atacante no necesita ser un ingeniero informático para crear un vídeo convincente; basta con tener material audiovisual público de la persona que quiere suplantar, lo que hace que los personajes públicos sean los blancos más fáciles.
El peligro en el sector financiero y las identidades sintéticas
En la banca y las fintech, los deepfakes han provocado un salto cualitativo en el fraude. Ya no basta con robar una tarjeta; ahora se crean identidades sintéticas. Esto consiste en mezclar datos reales (como un DNI filtrado) con datos inventados y un rostro generado por IA para superar los procesos de onboarding digital o KYC (conocer al cliente).
Un caso impactante ocurrió en Hong Kong, donde un empleado transfirió 25 millones de dólares tras una videoconferencia con sus colegas y su jefe. Lo increíble es que todos los participantes eran deepfakes creados a partir de vídeos públicos. Esto demuestra que confiar ciegamente en la biometría facial ya no es suficiente, ya que los atacantes pueden inyectar contenido sintético directamente en la transmisión de la API.
Trucos prácticos para detectar un vídeo falso
Aunque la IA mejore, todavía deja algunas pistas que podemos aprovechar si nos fijamos bien. Primero, el parpadeo es clave; muchas veces la IA no logra replicar la frecuencia natural del ojo humano. También conviene mirar el interior de la boca, ya que los dientes y la lengua suelen verse borrosos o extrañamente deformados al hablar.
- Sincronización labial: Fíjate si el sonido encaja perfectamente con el movimiento de los labios.
- Bordes y piel: Busca zonas borrosas alrededor de la cara o una piel demasiado lisa, casi como de plástico.
- Iluminación: A veces la luz de la cara no coincide con el fondo del vídeo.
- Duración: Muchos deepfakes son cortos porque mantener la coherencia en vídeos largos es mucho más costoso técnicamente.
Además, el sentido común es nuestra mejor arma. Si un famoso te ofrece un sorteo de criptomonedas o una oferta demasiado buena para ser cierta, probablemente sea un engaño. Contrastar la fuente original y verificar la cuenta que publica el vídeo es un paso obligatorio hoy en día.
Herramientas profesionales y estándares de seguridad
Las empresas no pueden depender solo de la vista humana y utilizan software especializado. El estándar más exigente es la conformidad iBeta Nivel 3 (ISO/IEC 30107-3), que garantiza que un sistema es resistente a ataques de inyección y máscaras físicas. Plataformas como Shufti, AU10TIX o iProov implementan estas capas de detección de vitalidad para asegurar que quien está delante de la cámara es una persona real y no un vídeo pregrabado.
Un enfoque moderno es la orquestación de señales. En lugar de mirar solo la cara, el sistema analiza la geolocalización, el comportamiento del usuario, el dispositivo utilizado y la integridad del hardware. Si el rostro parece real pero el dispositivo muestra señales de emulación, el sistema lanza una alerta de fraude inmediatamente.
Para los equipos legales, existen soluciones de análisis forense como Sensity AI, que generan informes detallados aptos para presentar en tribunales, analizando la firma digital del archivo para encontrar huellas de manipulación que son invisibles para nosotros.
La lucha contra el fraude digital requiere un esfuerzo conjunto entre gobiernos, que ya están legislando con la Ley de IA de la UE para obligar al etiquetado de contenidos sintéticos, y los usuarios. Al final, la clave está en mantener un espíritu crítico y no dar por hecho que lo que vemos en una pantalla es la verdad absoluta, ya que la tecnología avanza más rápido que nuestra capacidad de asombro.
