Pourquoi maintenant
Un modèle ne distingue pas une donnée d’un ordre.
C’est la faille fondatrice des applications génératives : tout ce que le modèle lit peut devenir une instruction. Un document, un e-mail, une page web, un ticket. Corriger après la mise en production coûte cher, retarde les projets — et laisse souvent la faille en place.
- Un RAG mal cloisonné répond à chacun avec les documents de tous.
- Un agent doté de trop de permissions exécute ce qu’on lui glisse.
- Des secrets et clés d’API finissent dans les prompts ou les journaux.
- Sans journalisation des appels d’outils, un incident est impossible à reconstituer.
Vous repartez avec
Des livrables concrets,
pas seulement un rapport
01
Threat model
Les menaces propres à votre système, cartographiées avec OWASP LLM Top 10 et MITRE ATLAS.
02
Architecture cible
Trust boundaries, flux de données et points de contrôle documentés.
03
Contrôle des accès
Qui — humain ou agent — peut lire, écrire, appeler quoi.
04
Données & secrets
Cloisonnement, minimisation, gestion des clés et des identités de service.
05
Sécurité RAG
Filtrage des sources, droits documentaires, empoisonnement, embeddings.
06
Outils & agents
Permissions minimales, validations humaines, bornes d’action.
07
Guardrails & journalisation
Filtres d’entrée et de sortie, traces exploitables, monitoring.
08
Scénarios d’attaque
Les tests à passer avant la mise en production.
Périmètre
Nous travaillons notamment sur
Objectif : construire une IA sécurisée par conception, et pas seulement corrigée après son déploiement.
Threat modeling
Architecture et trust boundariesContrôle des accèsDonnées et secretsSécurité des prompts
Sécurité RAG
Sécurité des outils et agents
GuardrailsJournalisationMonitoringScénarios d’attaqueMulti-modèles
Référentiels mobilisés : OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST AI RMF et son profil IA générative.
Déroulé
Une mission courte, un cadre clair
01
Comprendre
Cas d’usage, données, utilisateurs, fournisseurs de modèles.
Atelier
02
Modéliser
Threat model, trust boundaries, scénarios d’attaque.
Analyse
03
Concevoir
Architecture cible et contrôles, arbitrés avec vos équipes.
Conception
04
Valider
Critères de sécurité et tests avant mise en production.
Security gate
Questions fréquentes
Avant de vous lancer
Intervenez-vous sur des projets déjà en production ?
Oui. Nous réalisons alors une revue d’architecture et un threat model de l’existant, puis priorisons les corrections selon leur impact.
Êtes-vous liés à un fournisseur de modèles ou de guardrails ?
Nos recommandations partent de votre architecture et de vos contraintes. Nous comparons les options et documentons les compromis ; le choix vous appartient.
Travaillez-vous avec nos développeurs ?
Systématiquement. La sécurité by design se décide dans les ateliers de conception, avec ceux qui construisent le système.
Commencez par GenAI Security by Design.
Un premier échange de 30 minutes, puis une proposition chiffrée sous 48 h ouvrées.
