Un deepfake del CFO robó $25 millones en una videollamada. ¿Es usted el siguiente?

El problema

En febrero de 2024, un empleado de la firma global de ingeniería Arup se unió a una videollamada con el CFO de la empresa y varios altos ejecutivos. Cada rostro parecía real. Cada voz sonaba auténtica. El CFO ordenó 15 transferencias bancarias a cinco cuentas bancarias distintas. El empleado cumplió. Pérdida total: $25,6 millones de dólares.

Aquí está la parte más inquietante. Ninguna de esas personas era real. Cada ejecutivo en esa llamada era un deepfake generado por IA: una réplica sintética creada a partir de videos de YouTube y grabaciones de conferencias de acceso público. Los atacantes pasaron meses recopilando video y audio de líderes reales de Arup. Entrenaron modelos de IA para replicar no solo rostros, sino patrones de habla específicos y microexpresiones. El resultado fue un elenco de «gemelos sintéticos de alta fidelidad» lo suficientemente convincentes como para engañar a un profesional de finanzas cualificado en una reunión en directo.

No se utilizó malware. No se robaron contraseñas. No se vulneró ninguna base de datos. La infraestructura digital de Arup permaneció totalmente intacta durante todo el incidente. Los atacantes no hackearon los sistemas de la empresa: hackearon la confianza del empleado en lo que veía y oía. El fraude solo se descubrió cuando el empleado se puso en contacto más tarde con la oficina del verdadero CFO en Londres. Dicha reunión nunca había tenido lugar.

Esto no fue un fallo de sus cortafuegos. Fue un fallo de la premisa de que ver es creer.

Por qué esto le importa a su empresa

La pérdida de $25,6 millones de dólares en Arup es dramática, pero la verdadera amenaza es estructural. Es probable que su organización dependa a diario de videollamadas para confirmar identidades y autorizar decisiones de alto valor. Esa premisa ahora está rota.

Las cifras ilustran una amenaza que escala con rapidez:

• Ataques de inyección —donde los atacantes introducen video falso directamente en el software de conferencias como Zoom o Teams— aumentaron un 255% en 2023.
• Ataques de intercambio de rostros (face-swap) —donde la transmisión en directo de la cámara web del atacante se sustituye fotograma a fotograma por un deepfake— aumentaron un 704% en el mismo periodo.
• El coste de generar un deepfake convincente ha caído a aproximadamente $15 y 45 minutos de esfuerzo.

Más allá del impacto financiero directo, sus directivos afrontan una creciente exposición personal. Los CIO y CTO se enfrentan ahora a un estándar más estricto de deber fiduciario de diligencia en lo relativo a controles con reconocimiento de deepfakes. La falta de implementación de procedimientos de seguridad razonables podría derivar en responsabilidad personal si los accionistas o clientes demandan por negligencia. Los tribunales aplican cada vez más la «Regla del Impostor» (Impostor Rule), que traslada las pérdidas a la parte que estaba en mejor posición para haber evitado el fraude.

Sus obligaciones de cumplimiento también se están ampliando. La Ley de IA de la UE (EU AI Act), el Marco de Gestión de Riesgos de IA del NIST y normas como ISO/IEC 30107-3 para la detección de ataques biométricos exigen ahora a las organizaciones defenderse contra las amenazas de medios sintéticos. Si sus procesos de verificación siguen considerando una videollamada como prueba de identidad, tiene una brecha que los reguladores y los abogados demandantes encontrarán.

Esto no es un problema tecnológico para su equipo de TI. Es un problema de controles financieros para su consejo de administración.

Qué está ocurriendo realmente bajo el capó

Para comprender por qué funcionó este ataque, imagínelo como un billete falso perfecto. Un falsificador no necesita robar la fábrica de moneda: solo necesita producir un billete lo bastante bueno como para que el cajero lo acepte. Los atacantes de Arup hicieron exactamente lo mismo con rostros y voces humanas.

Utilizaron dos tipos de modelos de IA trabajando juntos. Las redes generativas antagónicas (GAN) —sistemas donde dos modelos de IA compiten para crear y detectar falsificaciones— se encargaron del intercambio de rostros en tiempo real. Un modelo genera un rostro falso; el otro intenta detectarlo. Tras millones de rondas, el generador produce rostros que ni siquiera el detector puede distinguir de los reales. Los modelos de difusión —IA que aprende a construir imágenes nítidas a partir de ruido aleatorio— garantizaron que el rostro del deepfake no parpadeara ni se distorsionara durante el movimiento. Esta «consistencia temporal» es fundamental porque el ojo humano es sumamente sensible a los fallos visuales.

El detalle técnico más importante es cómo llegó el video falso a la llamada. Los atacantes no sostuvieron una pantalla frente a una cámara. Utilizaron un «ataque de inyección de video», introduciendo paquetes de video sintético directamente en el flujo de datos del software de conferencias. La aplicación trató esta transmisión digital como si procediera de una cámara real. Las comprobaciones estándar de prueba de vida (liveness checks) —aquellas que buscan profundidad y bordes físicos— no pueden detectar este método porque no existe ningún artefacto físico que analizar.

Este es el modo de fallo específico: sus herramientas de videoconferencia confían en cualquier flujo de video que reciben. No tienen forma de verificar si ese flujo proviene de una cámara real apuntando a una persona real.

Qué funciona (y qué no)

Comencemos con tres enfoques que no resuelven este problema:

Autenticación multifactor estándar. Los atacantes de Arup eludieron la MFA por completo porque el ataque no apuntaba a las credenciales de inicio de sesión. Apuntaron al juicio humano en una llamada en directo. Su MFA protege sus cuentas, no sus ojos.

Chatbots genéricos de IA creados sobre API públicas. Estas herramientas tipo «AI wrapper» —capas finas de software que envían sus datos a la nube de un tercero para su procesamiento— son puramente probabilísticas. Predicen la siguiente palabra más probable en lugar de verificar hechos contrastándolos con sus registros reales. No pueden detectar deepfakes e introducen nuevos riesgos al enviar sus datos financieros confidenciales fuera de su red.

Formación tradicional contra el phishing. La mayoría de los programas de formación preparan a los empleados para correos electrónicos sospechosos, no para videollamadas en directo con réplicas convincentes de su jefe y cinco compañeros. El empleado de Arup desconfió inicialmente del correo de phishing. La videollamada fue diseñada específicamente para vencer esa desconfianza.

Esto es lo que realmente funciona: una defensa en capas que verifica la identidad mediante señales que la IA aún no puede falsificar:

1. Verificación de entrada — Biometría conductual como guardián silencioso. Antes de cualquier transacción de alto valor, su sistema debe analizar de forma continua cómo interactúa la persona con su tecnología. La velocidad de tecleo, los patrones de movimiento del ratón y la presión sobre la pantalla táctil crean un perfil conductual único para cada ejecutivo. Estos patrones neurobiológicos son casi imposibles de falsificar. Si el «CFO» en su llamada solicita una transferencia de $25 millones mientras su comportamiento de tecleo se desvía de su perfil histórico, su sistema debe marcar la interacción automáticamente.

2. Procesamiento — Confirmación fuera de banda a través de un canal independiente. Las videollamadas ya no pueden constituir la última palabra sobre la identidad para transacciones financieras. Cada instrucción de alto valor debe requerir una verificación independiente a través de un número de teléfono previamente verificado, una plataforma de mensajería cifrada como Signal o un código de verificación acordado previamente y compartido mediante un canal no digital. Exija un segundo aprobador que no haya participado en la videollamada original.

3. Salida — Procedencia criptográfica y verificación fisiológica. El estándar C2PA incrusta metadatos criptográficos en el momento de la captura de video, creando una cadena de custodia a prueba de manipulaciones para cada fotograma. Si una transmisión de video en una llamada de Teams o Zoom carece de estas credenciales, trátela con la misma sospecha que dedicaría a un contrato sin firmar. Combine esto con el análisis de señales fisiológicas: tecnología que monitoriza los cambios en el color facial inducidos por los latidos del corazón, invisibles para el ojo humano. El video sintético carece de estas señales biológicas.

La ventaja fundamental para sus equipos de cumplimiento y auditoría: esta arquitectura en capas genera un rastro verificable en cada paso. Su práctica de evaluación y fortalecimiento de la seguridad puede mapear estos controles directamente con el proceso de cuatro pasos del Marco de Gestión de Riesgos de IA del NIST —Gobernar, Mapear, Medir, Gestionar— y con los requisitos de certificación de la norma ISO/IEC 30107-3 para la detección de ataques biométricos.

Para las organizaciones de servicios financieros, esta arquitectura también se conecta directamente con sus obligaciones existentes de riesgo regulatorio y preparación para litigios . Cada evento de verificación queda registrado. Cada anulación se documenta. Cuando los auditores o reguladores pregunten cómo se protege contra el fraude de medios sintéticos, podrá mostrarles el rastro lógico en lugar de señalar una presentación de diapositivas de formación.

Puede leer el análisis técnico completo para conocer la especificación arquitectónica completa, o explorar la versión interactiva para realizar un recorrido visual por el marco de defensa.