Deepfakes de IA roban $25 millones en una sola llamada

El problema

Un clon de voz deepfake de un CFO robó 25 millones de dólares en una sola llamada telefónica en directo. La voz clonada era lo bastante convincente para seguir instrucciones en tiempo real, de ida y vuelta. Eludió múltiples puntos de control humanos porque el responsable financiero al otro lado de la línea escuchó lo que sonaba exactamente como su jefe. Esto no fue ciencia ficción: ocurrió en una empresa energética europea a principios de 2025.

Este ataque funcionó porque la clonación de voz moderna solo necesita entre tres y cinco minutos de audio grabado para crear una réplica convincente. La materia prima está en todas partes: llamadas de resultados, seminarios web, pódcasts, incluso clips en redes sociales. Los atacantes tomaron una muestra de la voz del ejecutivo y la convirtieron en un arma.

Y el fraude de voz es solo una pieza del rompecabezas. Solo el primer trimestre de 2025 registró 179 incidentes de deepfake documentados, superando ya en un 19% el total de todo 2024. Mientras tanto, los ataques de vishing —phishing de voz con voces clonadas— se dispararon más de un 1,600% a principios de 2025 en comparación con finales de 2024.

Su equipo de seguridad se creó para un mundo donde lo falso era obvio. Ese mundo ya no existe. Si depende de que los empleados «escuchen» algo sospechoso, su modelo de defensa tiene una brecha crítica.

Por qué esto importa para su empresa

El daño financiero se acelera en todos los canales. Estas son las cifras que deberían aparecer en su próxima presentación ante el consejo:

• $2.77 mil millones — pérdidas totales por fraude de correo electrónico empresarial (BEC, por sus siglas en inglés) reportadas al FBI solo en 2024. El BEC sigue siendo la forma de fraude cibernético financieramente más destructiva.
• $16.6 mil millones — pérdidas totales por fraude cibernético reportadas al IC3 del FBI en 2024, lo que representa el 83% de todas las pérdidas declaradas.
• $4.88 millones — coste promedio de una filtración de datos que comienza con un correo de phishing. Para las organizaciones norteamericanas, esa cifra sube hasta $10.22 millones.
• 54% — la tasa de clics de los correos de phishing generados por IA, casi cinco veces la línea base del 12% de las campañas tradicionales.

Estas cifras golpean su cuenta de resultados de varias maneras:

• Pérdidas directas por fraude derivadas de transferencias no autorizadas y BEC.
• Exposición regulatoria bajo el Reglamento de IA de la UE, que puede imponer multas de hasta €35 millones o el 7% de la facturación global por sistemas de IA no conformes.
• Costes de respuesta a incidentes — el BEC representó el 27% de todas las intervenciones de respuesta a incidentes de ciberseguridad en 2024, solo por detrás del ransomware.
• Daño reputacional cuando sus clientes, socios o reguladores se enteran de que una voz clonada movió millones desde sus cuentas.

Si su organización maneja datos sensibles o transacciones de alto valor, estas amenazas no son abstractas. Atacan la confianza sobre la que funciona su negocio: la suposición de que la persona al teléfono es quien dice ser.

Lo que realmente ocurre bajo el capó

La mayoría de las empresas que adoptaron la IA rápidamente lo hicieron mediante lo que la industria llama «wrappers». Piense en un wrapper como alquilar un coche de un servicio que usted no controla. Escribe su pregunta en una interfaz agradable, pero sus datos —cada prompt, cada fragmento de documento, cada detalle confidencial— viajan por internet pública a servidores ajenos para ser procesados.

Esto crea tres problemas concretos.

Primero, sus datos salen de su edificio. Incluso los niveles de API empresariales que prometen «retención cero de datos» suelen conservar sus datos hasta 30 días para monitorizar abusos. Para empresas sanitarias, de defensa o financieras, esa ventana de 30 días es un pasivo.

Segundo, pierde soberanía legal. La mayoría de los grandes proveedores de IA tienen sede en EE. UU. y están sujetos a la CLOUD Act estadounidense. Esa ley permite a las autoridades de EE. UU. exigir acceso a sus datos aunque estén en servidores de Europa o Asia. Esto choca directamente con el RGPD y las leyes locales de residencia de datos.

Tercero, la IA realmente no conoce su negocio. Los wrappers son fundamentalmente sin estado. Les cuesta manejar grandes conjuntos de documentos internos y producen tasas de error altas —llamadas alucinaciones— cuando se les pregunta por sus datos propietarios. Cuando las herramientas oficiales se quedan cortas, los empleados las sortean. Después de que ingenieros de Samsung filtraran accidentalmente código fuente de semiconductores a ChatGPT en 2023, los investigadores hallaron un aumento del 485% en el pegado de código fuente en herramientas de IA públicas. El 72% de ese uso se produjo a través de cuentas personales que su equipo de TI no puede ver.

Esto se llama el problema de la «IA en la sombra» (Shadow AI). Y significa que sus datos más sensibles podrían estar fluyendo ya hacia sistemas que usted no controla.

Lo que funciona (y lo que no)

Empecemos por lo que falla.

Filtros de correo tradicionales: dependen del reconocimiento de patrones. El phishing generado por IA crea variaciones únicas para cada destinatario de una lista objetivo. Ningún par de correos comparte una firma que bloquear. Más del 90% de los ataques polimórficos pasan.

Solo formación en conciencia de seguridad: ayuda a establecer una línea base. Pero cuando el 82.6% de los correos de phishing contienen ahora contenido generado por IA que imita el tono corporativo legítimo, incluso los empleados formados hacen clic a ritmos alarmantes.

Herramientas de seguridad de IA basadas en wrappers: envían sus datos a infraestructura de terceros, introducen riesgos de soberanía y no pueden comprender profundamente su contexto interno. Está defendiendo su casa con el sistema de alarma de otra persona: uno que no puede inspeccionar.

Esto es lo que sí funciona. El principio central es el despliegue soberano: su IA se ejecuta dentro de su propio entorno, en su propia infraestructura, entrenada con sus propios datos.

1. Infraestructura privada sin salida de datos. Su IA se ejecuta en hardware GPU dedicado dentro de su propio entorno de nube o en sus instalaciones. Cada prompt y respuesta permanece detrás de su cortafuegos. Ningún dato cruza internet pública. Usted controla las claves.

2. Modelos ajustados (fine-tuned) que conocen su negocio. En lugar de alquilar un modelo de propósito general, entrena un modelo de pesos abiertos —uno del que posee los archivos del modelo— con los documentos, la terminología y los estándares específicos de su organización. La investigación muestra que los modelos ajustados logran una consistencia de salida del 98–99.5%, frente al 85–90% de los enfoques con wrappers. También reducen los costes por solicitud entre un 50–90% a escala, porque el modelo ya «conoce» el contexto.

3. Recuperación consciente de permisos y guardrails en tiempo de ejecución. Su IA se conecta a sus documentos internos mediante una técnica llamada Generación Aumentada por Recuperación (RAG), donde alimenta a la IA con documentos fuente reales en lugar de dejarla adivinar. Pero la adición crítica es vincular esto a sus controles de acceso existentes. Si un empleado no puede ver un documento en su sistema de archivos, la IA tampoco puede recuperarlo. Además, los guardrails en tiempo de ejecución examinan cada entrada y salida en tiempo real, bloqueando intentos de inyección de prompts, censurando datos personales sensibles antes de que lleguen al modelo y manteniendo la IA enfocada en tareas autorizadas.

La ventaja de la pista de auditoría es lo que remata la argumentación para sus equipos de cumplimiento y legales. Cada prompt y cada respuesta quedan registrados en registros inmutables. Cuando su regulador o auditor pregunte cómo se tomó una decisión, puede mostrarle los datos exactos que usó la IA, la salida exacta que produjo y las comprobaciones de guardrail exactas que superó. Este no es un beneficio teórico: el Reglamento de IA de la UE exige específicamente este nivel de documentación y trazabilidad para sistemas de IA de alto riesgo en industrias reguladas.

Para las transacciones de alto valor, la capa final es la procedencia criptográfica. Los ejecutivos pueden firmar digitalmente autorizaciones de vídeo o voz usando credenciales de identidad verificadas. Un atacante puede clonar una voz, pero no puede falsificar la firma criptográfica vinculada a la identidad verificada del ejecutivo. Esto elimina la vulnerabilidad exacta que costó a la empresa energética europea $25 millones.

Si su organización está evaluando opciones de despliegue de IA, la cuestión no es si necesita IA. Es si su configuración actual le da la infraestructura soberana y el control para desplegarla de forma segura. Y si su postura de seguridad ha sido puesta a prueba contra las amenazas que realmente existen en 2025.

Para la arquitectura técnica completa y los datos detallados de amenazas, lea el análisis técnico completo o explore la versión interactiva.