Prohibir ChatGPT falló — ahora sus datos se están filtrando

El problema

En mayo de 2023, ingenieros de la división de semiconductores de Samsung pegaron código fuente propietario en ChatGPT para depurarlo. Cargaron datos de rendimiento de fabricación de chips —uno de los secretos mejor guardados de la industria de los semiconductores—. Un tercer empleado introdujo una grabación de una reunión interna en la herramienta para generar actas. Ninguno de ellos tenía intención de causar daño. Eran ingenieros de alto rendimiento que intentaban "depurar su trabajo" y "mejorar la productividad y la eficiencia de los empleados". Trataban ChatGPT como una calculadora: escribir algo, obtener una respuesta y seguir adelante. No sabían que los términos de servicio de OpenAI permitían al proveedor retener sus entradas para entrenar el modelo.

Samsung respondió con una prohibición de la IA generativa en toda la empresa y amenazas de despido. Pero el daño ya estaba hecho. Su lógica de fabricación propietaria, su código de detección de errores y sus discusiones estratégicas confidenciales habían acabado todos en los servidores de un tercero.

Esta historia no es exclusiva de Samsung. Es el resultado predecible de una política que dice "no" a los empleados sin ofrecerles una alternativa segura. Su plantilla afronta la misma presión. Cuando la gente ve las políticas de seguridad como obstáculos para hacer su trabajo, las sortea. La cuestión no es si sus empleados usan herramientas de IA. Es si usted puede ver qué están enviando.

Por qué esto importa para su empresa

Las cifras cuentan una historia que debería preocupar a todo directivo responsable del riesgo, el cumplimiento o el rendimiento financiero.

• El 50% de los trabajadores del conocimiento ya usa herramientas de IA en el trabajo. La mitad de su plantilla opera fuera de la gobernanza de TI con herramientas no verificadas.
• El 46% de los empleados afirma que seguirá usando IA incluso si su organización la prohíbe. Su política es inaplicable.
• El 38% de los empleados admite compartir datos laborales confidenciales —propiedad intelectual, información de identificación personal, datos financieros— con herramientas de IA, sin informar a su empleador.
• El 72% del uso empresarial de IA ocurre a través de cuentas personales. Su organización tiene visibilidad cero de los términos de retención de datos que esos empleados aceptaron.
• El volumen de datos enviados a aplicaciones de IA generativa aumentó 30x interanualmente. El código fuente pegado en estas herramientas se disparó un 485%.

Considere lo que esto significa para su balance. Una única brecha de datos que comprometa secretos comerciales puede arrasar ventajas competitivas construidas durante años. Las multas regulatorias bajo el RGPD o normativas sectoriales pueden alcanzar decenas de millones. Y si sus datos están en servidores ubicados en EE. UU. —incluso a través de una API—, la ley CLOUD de EE. UU. permite a las agencias policiales estadounidenses exigir el acceso a esos datos, independientemente de dónde esté físicamente el servidor. Para cualquier organización con operaciones europeas, esto crea un conflicto directo con el RGPD.

No se puede gestionar un riesgo que no se puede ver. La IA en la sombra (shadow AI) —empleados que usan herramientas de IA no autorizadas— es la nueva brecha de datos, solo que en este caso son sus propios empleados quienes entregan los datos voluntariamente.

Lo que ocurre realmente bajo el capó

La mayoría de las organizaciones responde al riesgo de la IA de una de dos maneras: la bloquean por completo o compran un "envoltorio de IA" —una fina capa de software que se sitúa sobre un servicio público de IA como la API de OpenAI—. Ninguno de los dos enfoques resuelve el problema de fondo.

El bloqueo falla porque sus empleados llevan teléfonos inteligentes personales con conexiones 5G independientes. Un filtro de red corporativo no alcanza a un dispositivo personal sobre el escritorio de su empleado. El "air gap" (aislamiento físico) entre el portátil corporativo y el teléfono personal se puentea cada vez que alguien teclea o fotografía datos y los pega en una herramienta pública de IA. Y no hay solo tres o cuatro aplicaciones de IA que bloquear. La empresa de seguridad Netskope rastrea más de 317 aplicaciones distintas de IA generativa en uso empresarial. Bloquee las grandes marcas y su gente simplemente se mudará a startups más pequeñas y menos seguras, con peores políticas de privacidad de datos.

Los envoltorios fallan por otra razón. Piense en un envoltorio de IA como en la interfaz de marca de un cajero automático en un banco extranjero: la pantalla se ve diferente, pero su dinero sigue pasando por el sistema de otro. Un envoltorio de IA toma el prompt de su empleado, quizá añade una instrucción oculta ("Eres un asistente legal útil") y lo envía directamente a los servidores del proveedor de la API. Sus datos igualmente salen de su red. El problema de soberanía —quién controla los datos y bajo qué jurisdicción legal— sigue completamente sin resolver. Solo está pagando por una versión más bonita del mismo riesgo.

El fallo de raíz es arquitectónico. Cuando sus datos salen de su perímetro y entran en una nube de terceros, usted pierde el control técnico. Incluso los niveles de API "empresariales" que prometen retención cero de datos suelen conservar los datos hasta 30 días para monitorización de abusos. Esa es una ventana de 30 días en la que su información más sensible reposa en el almacenamiento de otro.

Lo que funciona (y lo que no)

Tres enfoques comunes que fallan:

Prohibir la IA por completo: sus empleados ignoran la prohibición. El 46% lo dice abiertamente. El uso pasa a la clandestinidad, creando más riesgo, no menos.

Bloquear dominios con cortafuegos: los empleados los sortean con dispositivos personales y puntos de acceso móviles. Existen más de 317 aplicaciones de IA —no puede bloquearlas todas.

Comprar un envoltorio de API: sus datos siguen viajando a una nube de terceros para procesarse. Obtiene una interfaz más bonita, pero la misma exposición de datos. La ley CLOUD de EE. UU. sigue aplicando.

Lo que sí funciona es desplegar un LLM Empresarial Privado —un modelo de lenguaje grande que se ejecuta enteramente dentro de su propia infraestructura—. Así funciona la arquitectura en tres pasos:

1. La entrada permanece dentro de su perímetro. Cuando un desarrollador envía un prompt con código propietario, ese código viaja desde su portátil hasta un servidor GPU dentro de su propia Nube Virtual Privada (VPC) —su sección privada y asegurada de la nube—. Nunca cruza el Internet público. Nunca toca un servidor de terceros.

2. El procesamiento ocurre en hardware que usted controla. Los modelos de pesos abiertos como Llama 3 de Meta pueden ejecutarse en su propia infraestructura de GPU. La versión de 70 mil millones de parámetros ofrece una calidad de razonamiento comparable a la de GPT-4. Descarga los pesos del modelo una vez y los ejecuta localmente. No está alquilando inteligencia mediante una API. Usted es dueño de la capacidad.

3. La salida se rige por sus reglas, no por las de un proveedor. Usted envuelve el modelo con guardrails —esencialmente un cortafuegos para prompts de IA—. Herramientas como NVIDIA NeMo Guardrails escanean cada entrada en busca de información de identificación personal antes de que llegue al modelo. Bloquean solicitudes fuera de tema. Detectan intentos de jailbreak. Y, lo más crítico, el sistema respeta sus controles de acceso existentes. Si un empleado no tiene permiso para ver un documento en SharePoint, la IA no lo recuperará para responder a su pregunta.

La ventaja del registro de auditoría es lo que hace real todo esto para sus equipos de cumplimiento y legales. Usted controla cada registro. Puede ver exactamente quién preguntó qué, cuándo y qué devolvió la IA. Puede ejecutar comprobaciones de procedencia y trazabilidad de los datos en cada interacción. Su director jurídico puede demostrar ante los reguladores que los datos confidenciales nunca salieron de su entorno —no mediante una promesa contractual de un proveedor, sino mediante una arquitectura técnica que pueden verificar—.

La economía también juega a su favor a escala. Una empresa mediana que procesa mil millones de tokens al mes podría pagar entre 5.000 y 15.000 USD mensuales por una API de clase GPT-4. La misma carga de trabajo sobre un Llama 3 autoalojado ejecutándose en dos GPUs A100 cuesta aproximadamente entre 2.000 y 4.000 USD al mes —una reducción del 50 al 70 por ciento—. Y la privacidad viene incluida sin coste adicional.

La seguridad en la era de la IA ya no consiste en poder decir "No". Consiste en la capacidad arquitectónica de decir "Sí, de forma segura". Sus empleados ya le han dicho que quieren IA. La cuestión es si usted les da una implementación segura y soberana o si deja que sigan entregando sus secretos al sistema de otro.

Las organizaciones que prosperen no serán las que prohibieron la IA con más dureza. Serán las que fueron dueñas de la infraestructura y controlaron los datos.