Interdire ChatGPT a échoué — vos données fuient désormais

Le problème

En mai 2023, des ingénieurs de la division semi-conducteurs de Samsung ont collé du code source propriétaire dans ChatGPT pour le déboguer. Ils ont téléversé des données de rendement de puces — parmi les secrets les mieux gardés de l’industrie des semi-conducteurs. Un troisième employé a soumis à l’outil un enregistrement d’une réunion interne pour en générer le compte rendu. Aucun d’eux ne nourrissait d’intention malveillante. C’étaient des ingénieurs très performants qui cherchaient à « déboguer leur travail » et à « améliorer la productivité et l’efficacité des employés ». Ils traitaient ChatGPT comme une calculatrice — on saisit quelque chose, on obtient une réponse, on passe à la suite. Ils ignoraient que les conditions d’utilisation d’OpenAI autorisaient le fournisseur à conserver leurs saisies pour entraîner ses modèles.

Samsung a répondu par une interdiction de l’IA générative dans toute l’entreprise et par des menaces de licenciement. Mais le mal était déjà fait. Leur logique de fabrication propriétaire, leur code de détection d’erreurs et leurs discussions stratégiques confidentielles avaient tous atterri sur les serveurs d’un tiers.

Cette histoire n’est pas propre à Samsung. C’est l’issue prévisible d’une politique qui dit « non » aux employés sans leur offrir d’alternative sécurisée. Votre personnel subit la même pression. Quand les gens perçoivent les politiques de sécurité comme des obstacles à l’accomplissement de leur travail, ils les contournent. La question n’est pas de savoir si vos employés utilisent des outils d’IA. Elle est de savoir si vous pouvez voir ce qu’ils envoient.

Pourquoi cela importe pour votre entreprise

Les chiffres racontent une histoire qui devrait inquiéter tout dirigeant responsable des risques, de la conformité ou de la performance financière.

• 50 % des travailleurs du savoir utilisent désormais des outils d’IA au travail. La moitié de votre effectif opère en dehors de la gouvernance informatique, avec des outils non vérifiés.
• 46 % des employés déclarent qu’ils continueront d’utiliser l’IA même si leur organisation l’interdit. Votre politique est inapplicable.
• 38 % des employés admettent partager des données professionnelles sensibles — propriété intellectuelle, informations personnellement identifiables, données financières — avec des outils d’IA, sans en informer leur employeur.
• 72 % de l’utilisation de l’IA en entreprise passe par des comptes personnels. Votre organisation n’a aucune visibilité sur les conditions de conservation des données que ces employés ont acceptées.
• Le volume de données envoyées aux applications d’IA générative a été multiplié par 30 en un an. Le code source collé dans ces outils a bondi de 485 %.

Mesurez ce que cela signifie pour votre bilan. Une seule fuite de données impliquant des secrets d’affaires peut anéantir des avantages concurrentiels bâtis sur des années. Les amendes prévues par le RGPD ou par des règles sectorielles peuvent se chiffrer en dizaines de millions. Et si vos données résident sur des serveurs situés aux États-Unis — ne serait-ce que via une API — le CLOUD Act américain permet aux forces de l’ordre américaines d’exiger l’accès à ces données, quel que soit l’endroit où se trouve physiquement le serveur. Pour toute organisation ayant des activités en Europe, cela crée un conflit direct avec le RGPD.

On ne peut pas gérer un risque qu’on ne voit pas. L’IA fantôme (shadow AI) — les employés qui utilisent des outils d’IA non autorisés — est la nouvelle fuite de données, sauf que dans ce cas, ce sont vos propres collaborateurs qui remettent les données volontairement.

Ce qui se passe réellement sous le capot

La plupart des organisations réagissent au risque lié à l’IA de l’une de deux manières. Elles l’interdisent totalement, ou elles achètent un « wrapper IA » — une fine couche logicielle posée au-dessus d’un service d’IA public comme l’API d’OpenAI. Aucune de ces approches ne résout le problème de fond.

Le blocage échoue parce que vos employés portent des smartphones personnels dotés de connexions 5G indépendantes. Un filtre réseau d’entreprise n’atteint pas un appareil personnel posé sur le bureau de votre employé. L’« air gap » entre l’ordinateur portable professionnel et le téléphone personnel est franchi chaque fois que quelqu’un saisit ou photographie des données et les colle dans un outil d’IA public. Et il n’y a pas que trois ou quatre applications d’IA à bloquer. Le cabinet de sécurité Netskope recense plus de 317 applications distinctes d’IA générative utilisées en entreprise. Bloquez les grands noms, et vos collaborateurs se rabattent simplement sur des startups plus petites, moins sécurisées, aux politiques de confidentialité des données encore moins protectrices.

Les wrappers échouent pour une autre raison. Imaginez un wrapper IA comme une interface de distributeur automatique de billets aux couleurs d’une marque, dans une banque étrangère. L’écran paraît différent, mais votre argent transite toujours par le système de quelqu’un d’autre. Un wrapper IA prend le prompt de votre employé, ajoute peut-être une instruction cachée (« Vous êtes un assistant juridique utile »), et l’envoie directement aux serveurs du fournisseur d’API. Vos données quittent malgré tout votre réseau. Le problème de souveraineté — qui contrôle les données et sous quelle juridiction — reste totalement irrésolu. Vous payez simplement une version plus esthétique du même risque.

L’échec fondamental est architectural. Lorsque vos données quittent votre périmètre pour entrer dans un cloud tiers, vous perdez la maîtrise technique. Même les offres d’API « entreprise » qui promettent une conservation nulle des données les conservent souvent jusqu’à 30 jours pour surveiller les abus. C’est une fenêtre de 30 jours durant laquelle vos informations les plus sensibles se trouvent sur le stockage de quelqu’un d’autre.

Ce qui fonctionne (et ce qui ne fonctionne pas)

Trois approches courantes qui échouent :

Interdire totalement l’IA : Vos employés ignorent l’interdiction. 46 % le disent ouvertement. L’usage passe dans la clandestinité, ce qui crée plus de risques, pas moins.

Bloquer des domaines avec des pare-feu : Les employés les contournent avec des appareils personnels et des partages de connexion mobiles. Plus de 317 applications d’IA existent — impossible de toutes les bloquer.

Acheter un wrapper d’API : Vos données continuent de voyager vers un cloud tiers pour y être traitées. Vous obtenez une interface plus soignée, mais la même exposition des données. Le CLOUD Act américain continue de s’appliquer.

Ce qui fonctionne, c’est le déploiement d’un LLM d’entreprise privé — un grand modèle de langage qui s’exécute entièrement au cœur de votre propre infrastructure. Voici comment cette architecture fonctionne, en trois étapes :

1. L’entrée reste à l’intérieur de vos murs. Lorsqu’un développeur envoie un prompt contenant du code propriétaire, ce code voyage de son ordinateur portable vers un serveur GPU situé dans votre propre cloud privé virtuel (VPC) — votre section privée et sécurisée du cloud. Il ne traverse jamais l’internet public. Il ne touche jamais un serveur tiers.

2. Le traitement s’exécute sur du matériel que vous contrôlez. Les modèles à poids ouverts comme Llama 3 de Meta peuvent tourner sur votre propre infrastructure GPU. La version à 70 milliards de paramètres offre une qualité de raisonnement comparable à celle de GPT-4. Vous téléchargez les poids du modèle une seule fois et vous les exécutez localement. Vous ne louez pas l’intelligence via une API. Vous possédez la capacité.

3. La sortie est régie par vos règles, pas par celles d’un fournisseur. Vous enveloppez le modèle de guardrails — essentiellement un pare-feu pour les prompts d’IA. Des outils comme NVIDIA NeMo Guardrails analysent chaque entrée à la recherche d’informations personnellement identifiables avant qu’elle n’atteigne le modèle. Ils bloquent les requêtes hors sujet. Ils détectent les tentatives de jailbreak. Et fait crucial, le système respecte vos contrôles d’accès existants. Si un employé n’a pas le droit de consulter un document dans SharePoint, l’IA ne le récupérera pas pour répondre à sa question.

L’avantage de la piste d’audit, c’est ce qui rend tout cela concret pour vos équipes de conformité et vos services juridiques. Vous contrôlez chaque journal. Vous voyez exactement qui a demandé quoi, quand, et ce que l’IA a renvoyé. Vous pouvez exécuter des vérifications de provenance et de traçabilité des données sur chaque interaction. Votre directeur juridique peut prouver aux régulateurs que les données sensibles n’ont jamais quitté votre environnement — non pas au moyen d’une promesse contractuelle d’un fournisseur, mais grâce à une architecture technique qu’ils peuvent vérifier.

Sur le plan économique aussi, l’équilibre penche en votre faveur à grande échelle. Une entreprise de taille intermédiaire traitant un milliard de jetons par mois peut payer entre $5,000 et $15,000 par mois pour une API de classe GPT-4. La même charge de travail sur un Llama 3 auto-hébergé tournant sur deux GPU A100 coûte entre $2,000 et $4,000 par mois environ — soit une réduction de 50 à 70 %. Et la confidentialité est incluse sans frais supplémentaires.

La sécurité à l’ère de l’IA ne consiste plus à pouvoir dire « Non ». Elle consiste à avoir la capacité architecturale de dire « Oui, en toute sécurité ». Vos employés vous ont déjà fait savoir qu’ils voulaient l’IA. La question est de savoir si vous leur donnez un déploiement sécurisé et souverain ou si vous les laissez continuer à livrer vos secrets au système de quelqu’un d’autre.

Les organisations qui prospéreront ne seront pas celles qui auront le plus sévèrement interdit l’IA. Ce seront celles qui auront possédé l’infrastructure et contrôlé les données.