O Problema
Em maio de 2023, engenheiros da divisão de semicondutores da Samsung colaram código-fonte proprietário no ChatGPT para depurá-lo. Eles enviaram dados de rendimento de chips — entre os segredos mais bem guardados da indústria de semicondutores. Um terceiro funcionário inseriu uma gravação de uma reunião interna na ferramenta para gerar atas. Nenhum deles tinha intenção de causar dano. Eram engenheiros de alto desempenho tentando "depurar seu trabalho" e "aumentar a produtividade e a eficiência dos funcionários". Tratavam o ChatGPT como uma calculadora — digite algo, receba uma resposta, siga em frente. Eles não sabiam que os termos de serviço da OpenAI permitiam que o provedor retivesse suas entradas para treinamento do modelo.
A Samsung respondeu com uma proibição de IA generativa em toda a empresa e ameaças de demissão. Mas o dano já estava feito. Sua lógica de fabricação proprietária, seu código de detecção de erros e suas discussões estratégicas confidenciais já estavam nos servidores de terceiros.
Essa história não é exclusiva da Samsung. É o resultado previsível de uma política que diz "não" aos funcionários sem oferecer uma alternativa segura. Sua força de trabalho enfrenta a mesma pressão. Quando as pessoas enxergam as políticas de segurança como obstáculos ao próprio trabalho, elas encontram formas de contorná-las. A questão não é se seus funcionários usam ferramentas de IA. É se você consegue ver o que eles estão enviando.
Por que isso importa para o seu negócio
Os números contam uma história que deve preocupar todo executivo responsável por risco, conformidade ou desempenho financeiro.
- 50% dos trabalhadores do conhecimento já usam ferramentas de IA no trabalho. Metade da sua força de trabalho opera fora da governança de TI, com ferramentas não avaliadas.
- 46% dos funcionários dizem que continuarão usando IA mesmo que sua organização proíba. Sua política é inaplicável.
- 38% dos funcionários admitem compartilhar dados de trabalho sensíveis — propriedade intelectual, informações pessoalmente identificáveis, dados financeiros — com ferramentas de IA, sem contar para o empregador.
- 72% do uso corporativo de IA acontece por meio de contas pessoais. Sua organização tem visibilidade zero dos termos de retenção de dados que esses funcionários aceitaram.
- O volume de dados enviados a aplicativos de IA generativa aumentou 30 vezes ano após ano. O código-fonte colado nessas ferramentas cresceu 485%.
Considere o que isso significa para o seu balanço. Um único vazamento de dados envolvendo segredos comerciais pode eliminar vantagens competitivas construídas ao longo de anos. Multas regulatórias sob o GDPR ou regras setoriais específicas podem chegar às dezenas de milhões. E se seus dados estiverem em servidores sediados nos EUA — mesmo por meio de uma API — o US CLOUD Act permite que autoridades policiais americanas exijam acesso a esses dados, independentemente de onde o servidor esteja fisicamente localizado. Para qualquer organização com operações europeias, isso cria um conflito direto com o GDPR.
Você não pode gerenciar um risco que não consegue ver. Shadow AI — funcionários usando ferramentas de IA não sancionadas — é a nova violação de dados, só que neste caso são as próprias pessoas da sua empresa entregando os dados voluntariamente.
O que realmente acontece nos bastidores
A maioria das organizações responde ao risco de IA de uma de duas maneiras. Bloqueiam tudo completamente ou compram um "wrapper de IA" — uma fina camada de software sobreposta a um serviço público de IA, como a API da OpenAI. Nenhuma das abordagens resolve o problema central.
O bloqueio falha porque seus funcionários carregam smartphones pessoais com conexões 5G independentes. Um filtro de rede corporativa não alcança um dispositivo pessoal sobre a mesa do seu funcionário. O "air gap" entre o notebook corporativo e o celular pessoal é rompido toda vez que alguém digita ou fotografa dados e cola em uma ferramenta pública de IA. E não existem apenas três ou quatro aplicativos de IA para bloquear. A empresa de segurança Netskope rastreia mais de 317 aplicativos distintos de IA generativa em uso corporativo. Bloqueie os grandes nomes, e suas pessoas simplesmente migram para startups menores e menos seguras, com políticas de privacidade de dados piores.
Os wrappers falham por outro motivo. Pense em um wrapper de IA como a interface de marca própria de um caixa eletrônico em um banco estrangeiro. A tela parece diferente, mas seu dinheiro ainda passa pelo sistema de outra pessoa. Um wrapper de IA recebe o prompt do seu funcionário, talvez adiciona uma instrução oculta ("Você é um assistente jurídico prestativo") e o envia direto para os servidores do provedor de API. Seus dados ainda saem da sua rede. O problema de soberania — quem controla os dados e sob qual jurisdição legal — permanece completamente sem solução. Você está apenas pagando por uma versão mais bonita do mesmo risco.
A falha de raiz é arquitetural. Quando seus dados saem do seu perímetro e entram em uma nuvem de terceiros, você perde o controle técnico. Até mesmo camadas de API "enterprise" que prometem retenção zero de dados costumam mantê-los por até 30 dias para monitoramento de abuso. Isso é uma janela de 30 dias em que suas informações mais sensíveis ficam no armazenamento de outra pessoa.
O que funciona (e o que não funciona)
Três abordagens comuns que falham:
Proibir a IA completamente: Seus funcionários ignoram a proibição. 46% dizem isso abertamente. O uso vai para a clandestinidade, criando mais risco, não menos.
Bloquear domínios com firewalls: Os funcionários contornam isso com dispositivos pessoais e hotspots móveis. Existem mais de 317 aplicativos de IA — você não consegue bloquear todos.
Comprar um wrapper de API: Seus dados ainda viajam para uma nuvem de terceiros para processamento. Você ganha uma interface melhor, mas a mesma exposição de dados. O US CLOUD Act continua se aplicando.
O que funciona é implantar um LLM empresarial privado — um grande modelo de linguagem que roda inteiramente dentro da sua própria infraestrutura. Veja como essa arquitetura funciona em três passos:
A entrada permanece dentro dos seus muros. Quando um desenvolvedor envia um prompt com código proprietário, esse código viaja do notebook dele para um servidor de GPU dentro da sua própria Virtual Private Cloud (VPC) — sua seção privada e protegida da nuvem. Ele nunca cruza a internet pública. Nunca toca em um servidor de terceiros.
O processamento acontece em hardware que você controla. Modelos de pesos abertos como o Llama 3 da Meta podem rodar na sua própria infraestrutura de GPU. A versão de 70 bilhões de parâmetros entrega qualidade de raciocínio comparável à do GPT-4. Você baixa os pesos do modelo uma única vez e os executa localmente. Você não aluga inteligência por meio de uma API. Você é dono da capacidade.
A saída é governada pelas suas regras, não pelas de um fornecedor. Você envolve o modelo com guardrails — essencialmente um firewall para prompts de IA. Ferramentas como o NVIDIA NeMo Guardrails examinam cada entrada em busca de informações pessoalmente identificáveis antes que ela chegue ao modelo. Elas bloqueiam solicitações fora de escopo. Detectam tentativas de jailbreak. E, crucialmente, o sistema respeita seus controles de acesso existentes. Se um funcionário não tem permissão para ver um documento no SharePoint, a IA não o recuperará para responder à pergunta dele.
A vantagem da trilha de auditoria é o que torna isso real para suas equipes de conformidade e jurídica. Você controla todos os logs. Pode ver exatamente quem perguntou o quê, quando, e o que a IA retornou. Você pode executar verificações de procedência e rastreabilidade de dados em todas as interações. Seu conselheiro-geral pode provar aos reguladores que dados sensíveis nunca saíram do seu ambiente — não por meio de uma promessa contratual de um fornecedor, mas por meio de uma arquitetura técnica que eles podem verificar.
A economia também vira a seu favor em escala. Uma empresa de médio porte que processa um bilhão de tokens por mês pode pagar de $5.000 a $15.000 mensais por uma API da classe do GPT-4. A mesma carga de trabalho em um Llama 3 auto-hospedado rodando em duas GPUs A100 custa cerca de $2.000 a $4.000 por mês — uma redução de 50 a 70 por cento. E a privacidade vem inclusa, sem custo adicional.
Segurança na era da IA não se trata mais da sua capacidade de dizer "Não." Trata-se da capacidade arquitetural de dizer "Sim, com segurança." Seus funcionários já disseram que querem IA. A questão é se você lhes oferece uma implantação segura e soberana ou deixa que continuem alimentando seus segredos no sistema de outra pessoa.
As organizações que prosperarão não serão as que baniram a IA com mais rigor. Serão as que possuíram a infraestrutura e controlaram os dados.
Principais conclusões
- Metade da sua força de trabalho já usa ferramentas de IA sem supervisão de TI, e 46% dizem que desobedecerão qualquer proibição imposta.
- Bloquear domínios de IA com firewalls é teatro de segurança — os funcionários contornam com dispositivos pessoais, e há mais de 317 aplicativos de IA para monitorar.
- Wrappers de API não resolvem a soberania de dados porque seus dados ainda saem da sua rede e ficam em servidores de terceiros sujeitos ao US CLOUD Act.
- LLMs empresariais privados rodando dentro da sua própria infraestrutura de nuvem mantêm os dados atrás do seu firewall e podem cortar os custos de computação de IA em 50-70% em escala.
- O incidente da Samsung provou que a maior ameaça à segurança de IA não são os hackers — são funcionários bem-intencionados que carecem de ferramentas seguras.
Conclusão
Proibir a IA não impede que seus funcionários a usem — apenas torna o uso invisível para você. Implantar um LLM privado dentro da sua própria infraestrutura resolve o problema de soberania de dados na raiz, reduzindo custos em escala. Pergunte ao seu fornecedor de IA: nossos dados saem algum dia da nossa rede para processamento, e você consegue provar isso com arquitetura — não apenas com um contrato?