Taxonomies & Referentiels

Des « cartes » de risques reconnues, que vous pouvez citer dans vos rapports et memoires.

MIT AI Risk Repository

Base vivante de risques, reliee a des incidents, a des categories reglementaires et a des mesures de mitigation.

• Navigation par type de risque (donnees, modele, systeme, societe).
• Liens entre risques, incidents connus et normes emergentes.

Ref : ECCWS

OWASP pour l'IA (LLM & GenAI)

OWASP Top 10 for LLM Applications

Categories de risques specifiques aux applications LLM :

• Prompt injection
• Data leakage
• Model denial of service
• Insecure plugins / tools

OWASP GenAI / Agentic AI Top 10

Extension aux agents IA et chaines d'outils (tool calling, browsing, actions).

Ref : Giskard, Koi.ai

MITRE ATLAS (AI threat matrix)

L'equivalent de MITRE ATT&CK pour les systemes d'IA : tactiques (Recon, Poisoning, Evasion, Exfiltration, etc.) et techniques detaillees.

• Cartographier les etapes d'une attaque sur un systeme IA.
• Construire des exercices de red teaming IA.

Ref : Case study

Cadres de gestion des risques (NIST, IEEE)

NIST AI Risk Management Framework (AI RMF)

Approche structuree en quatre fonctions :

Fonction	Description
Gouverner	Etablir les politiques et la gouvernance du risque IA
Cartographier	Identifier et categoriser les risques
Mesurer	Evaluer et quantifier les risques identifies
Gerer	Traiter, attenuer et monitorer les risques

IEEE P3396

Projet pour formaliser l'evaluation de risques IA de haut niveau.

Ref : arxiv 2504.00091

Vision francaise & europeenne

ANSSI

Vue d'ensemble des enjeux IA, axes de travail, recommandations de securite pour IA generative et integration dans les SI.

• Guides sur la gouvernance, l'architecture, la maitrise des donnees et la supervision.

Ref : iPACS

OCDE

Typologie de risques et travaux sur un cadre de remontee d'incidents IA.