Les modèles peuvent être volés,empoisonnés, trompés.
Les modèles IA sont de nouveaux actifs intellectuels massifs — et de nouvelles surfaces d’attaque. Extraction de poids, prompt injection, adversarial attacks, data poisoning : la sécurité de l’IA n’est pas encore un standard de marché. L’AI Act impose que ce le soit.
Une nouvelle surface d’attaque que peu savent auditer
Ce que Quarkslab apporte
QREDTEAM
ADVERSARY SIMULATION
- Red team agents LLM — prompt injection, jailbreak, manipulation de décisions autonomes
- Simulation model extraction via API probing sur modèles en production
- Test de robustesse adversariale — manipulation d’inputs pour forcer des erreurs
- Pentest infrastructure ML — serveurs d’inférence, APIs, pipelines de données
- Red team supply chain ML — contamination datasets, backdoors dans dépendances
QLAB
DEEP SECURITY RESEARCH
- Recherche vulnérabilités frameworks ML (PyTorch, TensorFlow, ONNX, Triton)
- Audit pipelines données d’entraînement — détection de data poisoning et backdoors
- Analyse robustesse des modèles embarqués (edge ML, firmware avec inférence locale)
- Audit APIs d’inférence — exposition des poids, extraction d’informations architecturales
- Reverse engineering modèles compilés (ONNX, TensorRT, CoreML) pour conformité AI Act
QSHIELD
SOFTWARE PROTECTION
- Protection des poids de modèles ML contre l’extraction et le clonage concurrentiel
- Anti-reverse engineering des modèles embarqués sur edge devices et firmware
- Obfuscation des architectures de modèles pour protéger l’IP adverse
- Protection des pipelines d’inférence dans applications mobiles ou IoT
- Anti-clonage pour éditeurs de modèles déployés dans des environnements non maîtrisés
DIFFÉRENCIATEUR QUARKSLAB
Les prestataires traditionnels testent le périmètre réseau autour de l’infrastructure ML — pas le modèle lui-même. Quarkslab audite ce qui tourne dans le modèle : les poids, les architectures, les pipelines d’inférence embarqués. Nous publions des recherches sur les vulnérabilités des frameworks ML et proposons QShield pour protéger les poids de modèles — une première en Europe.
Ce que nous nous dirions en face à face
Combien vaut votre modèle IA — et combien de temps pour qu’un concurrent en extraie les paramètres via votre API ?
Un modèle entraîné sur vos données propriétaires représente des millions de dollars en compute et années d’expertise. Il peut être extrait via votre API par des techniques de model stealing bien documentées — sans aucun accès à votre infrastructure.