Base d'incidents & cas d'etude

Les risques IA ne sont pas theoriques. Cette page oriente vers des bases d'incidents documentees.

AI Incident Database & trackers

MIT AI Incident Tracker

Exploration par type d'incident, secteur et technologie. Lie au MIT AI Risk Repository.

Lien : https://airisk.mit.edu/ai-incident-tracker

Suivi OCDE

Rapports et suivi des incidents IA au niveau international.

Lien : OCDE - AI risks and incidents

Interet pedagogique

Pour chaque incident, l'analyse peut suivre cette grille :

ElementQuestions a se poser
ContexteQuel systeme IA ? Quel secteur ? Quelle echelle ?
VulnerabiliteQuelle faille a ete exploitee (donnees, modele, API, agent) ?
Vecteur d'attaqueComment l'attaque s'est-elle materialisee ?
ImpactsConsequences techniques, financieres, reputationnelles ?
Mesures correctivesQuelles remediations ont ete appliquees ?

Ref : arxiv 2211.10384

Exercice recommande : Prenez un incident dans le MIT AI Incident Tracker et reliez-le a une categorie OWASP LLM Top 10 ou a une technique MITRE ATLAS.