Données clients et LLM : protéger, vérifier, choisir où tourne l'inférence
La protection des données commence dès qu'on code le système qui les traite. On reste conforme avec un modèle performant si ce que fait le LLM est vérifiable ; un proxy centralise coûts, anonymisation et clés.
- Catégorie
- Note
- Publié
- Temps de lecture
- 5 min de lecture
- Sujets
- Ingénierie logicielle
- Étiquettes
- #security#privacy#compliance#freelance#llm
Un client m'ouvre l'accès à son dépôt, et la tentation est de lancer Claude Code dans la minute. Souvent, il fournit son infrastructure. Sinon, ses contraintes peuvent imposer une stack d'inférence plus élaborée.
Pendant le développement, l'agent voit ce que voit le développeur : le dump de base récupéré pour reproduire un bug, le .env de préproduction, les journaux copiés depuis la production. Rien n'est en production, mais tout part déjà dans le contexte du modèle, et le contrat n'en parle presque jamais. Le client attend de la vitesse et de la conformité : l'une ne doit pas coûter l'autre.
Travailler sur des données privées avec un modèle performant tout en restant conforme est possible, si ce que fait le LLM est vérifiable, par un vérificateur lui-même vérifiable.
Deux conformités : celle du client et la mienneLien vers cette section
Si le code ou les données transmis au LLM contiennent des données personnelles, le client est responsable du traitement, le freelance est son sous-traitant, et le fournisseur du LLM devient un sous-traitant ultérieur : l'article 28 du RGPD exige alors l'autorisation écrite préalable du client. Sans données personnelles, les conditions d'utilisation du fournisseur s'ajoutent quand même aux engagements de confidentialité. Et rien ne doit déborder d'un projet à l'autre, side-projects compris : c'est le rôle de l'isolation décrite dans le billet précédent.
Au quotidien, j'utilise Claude, pour son abonnement. C'est une offre grand public : l'entraînement sur les sessions doit être désactivé, sinon elles peuvent y servir et être conservées cinq ans. Si le client exige un contrat de sous-traitance (DPA), il faut une offre commerciale ou l'API. Je ne passe sur une plateforme d'IA européenne que s'il exige que ses données restent dans l'Union.
Un proxy entre l'agent et le LLMLien vers cette section
Faire passer les requêtes par un proxy donne un point de contrôle unique. On y suit et plafonne les coûts par projet, on y anonymise le prompt sur un serveur plutôt que sur chaque poste, et on y filtre les injections de prompt avant l'inférence, ce qui réduit le risque sans le supprimer. Les clés du fournisseur y restent, rangées par projet ; l'agent ne reçoit qu'une clé du proxy, limitée et révocable. Le proxy suppose un accès par API : avec l'abonnement, Claude Code parle directement au fournisseur.
Un vérificateur lui-même vérifiableLien vers cette section
Reste à prouver ce que le proxy a fait. Un journal reste la parole de celui qui le tient : une trace ne fait foi que si son tiers est vérifiable.
C'est le rôle d'une TEE, une zone matérielle isolée que même l'hébergeur ne peut pas lire, dont l'attestation à distance prouve quel code tourne. On y place le proxy, sous forme de code figé, qui journalise le prompt et la réponse, puis signe le tout. Phala Network en fait un service : une clé de signature naît dans la TEE, et chaque réponse est signée.
La garantie est élevée, pas absolue : en 2025, l'attaque TEE.Fail a extrait des clés d'attestation, GPU NVIDIA compris, grâce à un accès physique au serveur. Une TEE ne dispense pas de choisir un hébergeur de confiance.
Quatre façons de faire tourner l'inférenceLien vers cette section
Un modèle local, sans Internet et sans mémoire. Pour résumer un CV ou trier des documents RH, Ollama sur une machine coupée du réseau suffit. Moins brillant, mais rien ne sort.
Des données anonymisées, envoyées à un service attesté. Le proxy remplace noms, adresses et numéros par des marqueurs, puis restaure les vraies valeurs dans la réponse. La limite : les services en TEE proposent surtout des modèles ouverts, pas les plus avancés.
Un modèle hébergé, par le freelance ou par le client, dans une VM vérifiable. Le modèle tourne dans une VM confidentielle, sur des GPU qui proposent une TEE, à partir d'une image reproductible. L'inférence devient vérifiable, et l'hébergeur n'a pas accès aux données du client, sauf attaque matérielle.
Un modèle propriétaire, comme Claude. L'inférence n'est pas privée : le fournisseur voit ce qu'on lui envoie. C'est mon usage quotidien, sans proxy, donc sans preuve : je le réserve au code sans données personnelles, avec l'accord du client. Quand l'enjeu le justifie, chaque appel peut passer par l'API et le proxy en TEE, qui le journalise, le signe et en publie une empreinte salée, horodatée par un tiers comme OpenTimestamps et stockée sur IPFS par exemple. En cas de réponse aberrante, l'entreprise prouve ce qu'elle a demandé et reçu, sans exposer les données de l'utilisateur.
Le chiffrement homomorphe, qui calcule sur des données chiffrées sans les voir en clair, ira plus loin, mais reste pour l'instant bien trop lent.
Ce que je mets en place pour un clientLien vers cette section
Pendant le développement : des données synthétiques ou anonymisées, des secrets hors de portée de l'agent, des accès limités à la tâche, et l'entraînement désactivé sur un abonnement grand public. Dans le contrat, une phrase qui dit quel LLM touche au code : « j'utilise Claude Code sur la base de code de mes clients ».
Quand le client passe par l'API, un proxy open source comme LiteLLM couvre l'anonymisation avec Presidio en quelques lignes :
guardrails:
- guardrail_name: "presidio-pii"
litellm_params:
guardrail: presidio
mode: "pre_call"
Chaque projet reçoit ensuite sa propre clé virtuelle, avec un budget plafonné ; OmniRoute propose l'équivalent.
Quand tout ce qui concerne le client vit dans son conteneur, une clause de destruction ou de restitution en fin de mission se respecte en quelques minutes : archiver, rendre, supprimer. Ce qui a été envoyé à un fournisseur de LLM suit, lui, sa propre durée de conservation.
Prochain billet : choisir le bon modèle pour chaque rôle de la boucle de développement.