EU AI Act — Systèmes IA Haut Risque : Quels Outils Sont Concernés ?

L'EU AI Act distingue quatre niveaux de risque: interdit, haut risque, risque limité et risque minimal. Pour les PME et ETI, le sujet le plus concret est le haut risque, car il vise les outils qui influencent une décision sensible: recruter, noter, accorder un crédit, filtrer un dossier, surveiller une frontière ou orienter une procédure.

Si votre organisation utilise déjà un moteur de tri de CV, un score de solvabilité, une aide au dispatch dans un réseau critique ou un outil d'évaluation en formation, vous devez qualifier le système, vérifier les preuves de conformité du fournisseur et organiser vos propres contrôles comme déployeur. L'Annexe III est la meilleure porte d'entrée pour cet exercice.

1. Les 8 domaines de l'Annexe III: la liste à connaître

L'Annexe III vise des cas d'usage, pas des technologies abstraites. Un même modèle peut donc être anodin dans un contexte et haut risque dans un autre.

1. Biométrie: identification, vérification ou catégorisation biométrique dans des contextes sensibles. Exemple: contrôle d'identité automatisé, analyse biométrique couplée à un filtrage d'accès.
2. Infrastructures critiques: systèmes utilisés dans l'exploitation d'infrastructures dont une défaillance peut créer un risque matériel important. Exemple: IA qui pilote la distribution d'énergie, l'eau, la circulation ou l'accès à un réseau critique.
3. Éducation et formation professionnelle: outils qui évaluent des personnes ou influencent leur accès à un parcours. Exemple: correction automatisée d'examens, classement d'étudiants, orientation algorithmique.
4. Emploi, gestion des travailleurs et accès à l'auto-emploi: c'est le cas le plus fréquent en entreprise. Exemple: tri de CV, matching, scoring de candidats, affectation de tâches, notation de performance ou recommandation de promotion. Si vous êtes concerné, consultez aussi notre page dédiée à la conformité IA RH.
5. Accès aux services essentiels privés ou publics: en pratique, la finance est ici en première ligne. Exemple: scoring crédit, évaluation de solvabilité, priorisation d'un dossier de prêt, accès à certaines prestations ou tarification conditionnée par une recommandation algorithmique. Si votre usage touche la banque, le crédit ou l'assurance, voir également notre analyse conformité IA finance.
6. Application de la loi: outils d'appui aux autorités pour analyser des faits, hiérarchiser des alertes ou apprécier certains risques. Exemple: priorisation d'enquêtes ou analyse prédictive dans un cadre pénal.
7. Migration, asile et contrôle aux frontières: exemple typique, l'aide à l'examen de documents, à l'évaluation d'un risque ou au contrôle aux frontières.
8. Administration de la justice et processus démocratiques: outils qui assistent un juge, une administration ou une autorité dans l'analyse de dossiers ou l'organisation d'un processus démocratique. Exemple: aide à la priorisation de contentieux, outil d'assistance à la décision juridictionnelle ou système influençant l'accès à l'information politique.

Point important: le diagnostic médical assisté par IA est souvent lui aussi haut risque, mais le plus souvent via les règles applicables aux produits régulés, notamment les dispositifs médicaux, plutôt que par l'Annexe III.

2. Comment savoir si mon outil est haut risque ?

Le bon réflexe n'est pas de demander si l'outil « fait de l'IA », mais s'il influence une décision sensible. Voici un arbre de décision simplifié.

1. L'outil produit-il un score, une recommandation, une classification ou un tri automatique ? Si non, vous êtes peut-être dans un usage IA plus limité. Si oui, poursuivez.
2. La sortie peut-elle affecter un droit, un accès, une trajectoire professionnelle, un financement, une sécurité ou une procédure officielle ? Si non, le haut risque est moins probable. Si oui, alerte.
3. Le cas d'usage entre-t-il dans l'un des huit domaines de l'Annexe III ? Si oui, vous avez un signal fort de qualification haut risque.
4. Le système est-il embarqué dans un produit réglementé, comme un dispositif médical ou un produit de sécurité ? Si oui, il peut être haut risque via un autre canal réglementaire, même hors Annexe III.
5. Êtes-vous simple utilisateur, intégrateur avancé ou fournisseur ? Cette réponse ne change pas toujours la qualification, mais elle change beaucoup vos obligations.

Posez-vous une question simple: si le système se trompe, qui est concrètement lésé ? Un candidat écarté, un client refusé, un voyageur bloqué, un patient mal orienté, un justiciable défavorisé. Plus l'impact individuel est fort, plus l'analyse doit être formalisée. Si vous avez un doute sur le calendrier, consultez aussi notre calendrier AI Act.

3. Quelles obligations concrètes si le système est haut risque ?

Les articles 9 à 15 donnent la colonne vertébrale opérationnelle: preuves, rôles, contrôles.

• Article 9 - gestion des risques: vous devez identifier les scénarios de défaillance, documenter les impacts et prévoir des mesures de réduction des risques sur tout le cycle de vie du système.
• Article 10 - gouvernance des données: il faut vérifier la qualité, la pertinence et les limites des données d'entraînement, de validation et d'entrée. Pour un score crédit ou un tri de CV, cela implique une vigilance particulière sur les biais et variables proxy.
• Article 11 et Annexe IV - documentation technique: le fournisseur doit pouvoir produire un dossier solide sur la finalité, l'architecture, les données, les performances, les limites connues, la surveillance et les conditions d'usage. Côté déployeur, vous devez obtenir cette documentation, la lire et l'intégrer dans votre propre dossier de preuve.
• Article 12 - journalisation: les logs doivent permettre de retracer le fonctionnement du système, les alertes, les incidents et les interventions humaines.
• Article 13 - transparence et instructions: les utilisateurs professionnels doivent disposer d'instructions claires pour comprendre quand l'outil est fiable, quand il ne l'est pas et quand une revue humaine est obligatoire.
• Article 14 - supervision humaine: le contrôle humain ne peut pas être décoratif. Il faut une personne formée, capable d'interrompre, d'ignorer ou de corriger la recommandation du système.
• Article 15 - exactitude, robustesse et cybersécurité: vous devez connaître le niveau de performance attendu, surveiller les dérives et limiter les défaillances prévisibles.

Pour une DAF, un DPO ou un responsable conformité, la priorité est claire: cartographier les outils, qualifier chaque usage, demander les pièces au fournisseur, documenter les contrôles internes et organiser la supervision humaine.

4. Les pratiques interdites: ce qu'il faut arrêter, pas corriger

L'article 5 ne crée pas des obligations de mise en conformité progressive. Il pose des interdictions.

• Notation sociale: un système qui évalue des personnes sur la base de comportements ou de caractéristiques pour leur appliquer un traitement défavorable généralisé entre dans la zone interdite.
• Manipulation subliminale ou trompeuse causant un préjudice: si l'IA exploite de manière dissimulée des vulnérabilités ou pousse une personne vers une décision qu'elle n'aurait pas prise autrement, le sujet n'est pas un simple risque à encadrer.
• Reconnaissance faciale en temps réel dans l'espace public: l'usage par les autorités répressives est soumis à une interdiction de principe avec des exceptions très étroites. Pour une entreprise privée, ce seul signal doit suffire à déclencher une revue juridique immédiate.

D'autres pratiques prohibées existent aussi, notamment certaines formes d'exploitation de vulnérabilités, de déduction de caractéristiques sensibles à partir de données biométriques ou de constitution massive de bases de visages par collecte non ciblée. En interne, l'article 5 doit être traité comme une liste rouge.

5. Quelles amendes en cas de non-conformité ?

Le règlement prévoit un barème différencié. Pour les pratiques interdites et certaines obligations les plus graves, l'exposition maximale peut atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial. Pour d'autres manquements, notamment relatifs aux obligations applicables aux systèmes à haut risque ou aux modèles d'IA à usage général, le plafond peut atteindre 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial. Enfin, la fourniture d'informations inexactes, incomplètes ou trompeuses aux autorités peut être sanctionnée jusqu'à 7,5 millions d'euros ou 1 % du chiffre d'affaires annuel mondial.

Pour une PME ou une ETI, ces montants donnent surtout le niveau d'exigence attendu en matière de preuve, de diligence fournisseur, de traçabilité et de gouvernance. L'objectif est de pouvoir démontrer, avant le 2 août 2026, que vous avez qualifié vos systèmes et mis en place un dispositif raisonnable.

Conclusion

Le vrai sujet du haut risque n'est pas la complexité du texte, mais la banalité des outils concernés. Un ATS enrichi à l'IA, un moteur de score crédit, un outil d'évaluation automatisée ou une aide à la décision publique sont déjà présents dans les organisations. La bonne méthode consiste à partir des usages réels, puis à documenter le raisonnement réglementaire plutôt qu'à se fier au discours marketing des éditeurs.

Classifiez vos systèmes IA gratuitement en 15 minutes → /audit