Deepfakes com IA roubaram US$ 25 milhões em uma única ligação

O problema

Um clone de voz deepfake de um CFO roubou US$ 25 milhões em uma única ligação telefônica ao vivo. A voz clonada era convincente o suficiente para conduzir instruções em tempo real, com idas e vindas. Ela contornou múltiplos pontos de verificação humanos porque o responsável financeiro do outro lado da linha ouviu o que soava exatamente como o chefe dele. Isso não era ficção científica. Ocorreu em uma empresa europeia de energia no início de 2025.

Esse ataque funcionou porque a clonagem de voz moderna precisa de apenas três a cinco minutos de áudio gravado para criar uma réplica convincente. A matéria-prima está por toda parte — calls de resultados, webinars, podcasts e até clipes em redes sociais. Os atacantes captaram uma amostra da voz do executivo e a transformaram em uma arma.

E a fraude por voz é apenas uma peça do quebra-cabeça. Só o primeiro trimestre de 2025 registrou 179 incidentes documentados de deepfake — um número que já superava em 19% o total de todo o ano de 2024. Enquanto isso, os ataques de vishing — phishing por voz usando vozes clonadas — cresceram mais de 1.600% no início de 2025 em comparação com o fim de 2024.

Sua equipe de segurança foi construída para um mundo em que falsidade significava algo óbvio. Esse mundo acabou. Se você depende de os funcionários "perceberem" algo suspeito, seu modelo de defesa tem uma lacuna crítica.

Por que isso importa para o seu negócio

O dano financeiro está acelerando em todos os canais. Aqui estão os números que devem entrar no próximo slide para o conselho:

• US$ 2,77 bilhões — perdas totais com Business Email Compromise (BEC) reportadas ao FBI somente em 2024. O BEC continua sendo a forma mais devastadora de fraude cibernética em termos financeiros.
• US$ 16,6 bilhões — perdas totais com fraudes cibernéticas reportadas ao IC3 do FBI em 2024, o equivalente a 83% de todas as perdas relatadas.
• US$ 4,88 milhões — o custo médio de uma violação de dados que começa com um e-mail de phishing. Para organizações norte-americanas, esse número sobe para US$ 10,22 milhões.
• 54% — a taxa de cliques em e-mails de phishing gerados por IA, quase cinco vezes a linha de base de 12% das campanhas tradicionais.

Esses números afetam seu P&L de várias maneiras:

• Perdas diretas com fraude decorrentes de transferências não autorizadas e de BEC.
• Exposição regulatória sob o AI Act da União Europeia, que pode impor multas de até € 35 milhões ou 7% do faturamento global para sistemas de IA fora de conformidade.
• Custos de resposta a incidentes — o BEC representou 27% de todos os trabalhos de resposta a incidentes de segurança cibernética em 2024, perdendo apenas para ransomware.
• Danos à reputação quando seus clientes, parceiros ou reguladores descobrem que uma voz clonada movimentou milhões das suas contas.

Se a sua organização lida com dados sensíveis ou transações de alto valor, essas ameaças não são abstratas. Elas atacam a confiança de que o seu negócio depende — a premissa de que a pessoa na ligação é quem diz ser.

O que realmente acontece nos bastidores

A maioria das empresas que adotou IA rapidamente o fez por meio dos chamados "wrappers", termo usado pelo próprio setor. Pense num wrapper como alugar um carro de um serviço que você não controla. Você digita sua pergunta em uma bela interface, mas seus dados — cada prompt, cada trecho de documento, cada detalhe confidencial — atravessam a internet pública até os servidores de outra empresa para processamento.

Isso cria três problemas específicos.

Primeiro, seus dados saem da sua empresa. Até mesmo camadas empresariais de API que prometem "retenção zero de dados" costumam manter seus dados por até 30 dias para monitoramento de abusos. Para empresas de saúde, defesa ou finanças, essa janela de 30 dias é um passivo.

Segundo, você perde soberania jurídica. A maioria dos grandes provedores de IA tem sede nos Estados Unidos e está sujeita ao CLOUD Act americano. Essa lei permite que as autoridades policiais americanas exijam acesso aos seus dados mesmo que eles estejam em servidores na Europa ou na Ásia. Isso conflita diretamente com o GDPR e com as leis locais de residência de dados.

Terceiro, a IA não conhece de fato o seu negócio. Wrappers são fundamentalmente sem estado (stateless). Eles têm dificuldade com grandes conjuntos de documentos internos e apresentam altas taxas de erro — chamadas alucinações — quando questionados sobre seus dados proprietários. Quando as ferramentas oficiais ficam aquém, os funcionários as contornam. Depois que engenheiros da Samsung vazaram acidentalmente código-fonte de semicondutores para o ChatGPT em 2023, pesquisadores constataram um aumento de 485% na colagem de código-fonte em ferramentas públicas de IA. Setenta e dois por cento desse uso ocorreram por meio de contas pessoais que sua equipe de TI não consegue enxergar.

Isso se chama problema da "IA sombra" (Shadow AI). E significa que seus dados mais sensíveis podem já estar fluindo para sistemas que você não controla.

O que funciona (e o que não funciona)

Comecemos pelo que falha.

Filtros tradicionais de e-mail: eles dependem de correspondência de padrões. O phishing gerado por IA cria variações únicas para cada destinatário individual de uma lista-alvo. Dois e-mails nunca compartilham a mesma assinatura bloqueável. Mais de 90% dos ataques polimórficos passam despercebidos.

Somente treinamento de conscientização de segurança: ele ajuda a estabelecer uma linha de base. Mas, quando 82,6% dos e-mails de phishing agora contêm conteúdo gerado por IA que imita o tom corporativo legítimo, até funcionários treinados clicam em taxas alarmantes.

Ferramentas de segurança de IA baseadas em wrappers: elas enviam seus dados para infraestrutura de terceiros, introduzem riscos de soberania e não conseguem compreender profundamente seu contexto interno. Você defende sua casa com um sistema de alarme de outra pessoa — um sistema que você não pode inspecionar.

Veja o que realmente funciona. O princípio central é a implantação soberã: sua IA roda dentro do seu próprio ambiente, na sua própria infraestrutura, treinada com os seus próprios dados.

1. Infraestrutura privada com zero saída de dados. Sua IA roda em hardware dedicado de GPU dentro do seu próprio ambiente de nuvem ou on-premises. Cada prompt e resposta fica atrás do seu firewall. Nenhum dado atravessa a internet pública. Você controla as chaves.

2. Modelos ajustados (fine-tuned) que conhecem o seu negócio. Em vez de alugar um modelo de propósito geral, você treina um modelo de pesos abertos — aquele cujos arquivos do modelo pertencem a você — usando os documentos, a terminologia e os padrões específicos da sua organização. Pesquisas mostram que modelos fine-tuned alcançam 98–99,5% de consistência de saída, contra 85–90% nas abordagens baseadas em wrappers. Eles também reduzem os custos por solicitação em 50–90% em escala, porque o modelo já "conhece" o contexto.

3. Recuperação ciente de permissões e guardrails em tempo de execução. Sua IA se conecta aos seus documentos internos por meio de uma técnica chamada Geração Aumentada por Recuperação (RAG) — na qual você fornece à IA os documentos-fonte reais em vez de deixá-la adivinhar. Mas a adição crítica é vincular isso aos seus controles de acesso existentes. Se um funcionário não pode visualizar um documento no seu sistema de arquivos, a IA também não pode recuperá-lo. Além disso, os guardrails em tempo de execução analisam todas as entradas e saídas em tempo real, bloqueando tentativas de injeção de prompt, ocultando dados pessoais sensíveis antes que cheguem ao modelo e mantendo a IA focada em tarefas autorizadas.

A vantagem do trilho de auditoria é o que fecha o argumento para suas equipes de conformidade e jurídica. Cada prompt e cada resposta são registrados em registros imutáveis. Quando seu regulador ou auditor perguntar como uma decisão foi tomada, você pode mostrar exatamente quais dados a IA usou, qual saída ela produziu e quais verificações de guardrails ela passou. Este não é um benefício teórico — o AI Act da União Europeia exige especificamente esse nível de documentação e rastreabilidade para sistemas de IA de alto risco em setores regulados.

Para transações de alto valor, a última camada é a proveniência criptográfica. Executivos podem assinar digitalmente autorizações em vídeo ou voz usando credenciais de identidade verificadas. Um atacante pode clonar uma voz, mas não pode falsificar a assinatura criptográfica vinculada à identidade verificada do executivo. Isso elimina exatamente a vulnerabilidade que custou US$ 25 milhões à empresa europeia de energia.

Se a sua organização está avaliando opções de implantação de IA, a questão não é se você precisa de IA. É se a sua configuração atual lhe dá a infraestrutura e o controle soberãos para implantá-la com segurança. E se a sua postura de segurança foi testada contra as ameaças que realmente existem em 2025.

Para conhecer a arquitetura técnica completa e os dados detalhados sobre ameaças, leia a análise técnica completa ou explore a versão interativa.