Reglement
Ce que dit vraiment le reglement pour le secteur public
Le secteur public ne se resume pas a trois mots-cles SEO. Il croise plusieurs points de l'Annexe III et surtout des obligations de deploiement concretes. Point important pour eviter les erreurs de qualification: l'application de la loi releve principalement du point 6, tandis que le point 8 vise la justice et les processus democratiques.
Annexe III, point 1
Biometrie
Les systemes de biometrie a distance, de categorisation biometrque sensible et de reconnaissance d'emotions sont expressement vises. Dans le service public, ce point concerne surtout la surveillance, le controle d'acces ou les usages securitaires.
Annexe III, point 2
Infrastructure critique
Le texte couvre les IA utilisees comme composants de securite pour gerer une infrastructure numerique critique, le trafic routier ou la fourniture d'eau, de gaz, de chauffage ou d'electricite. Beaucoup d'outils de pilotage urbain n'y entrent pas, mais certains oui tres clairement.
Annexe III, point 5(a)
Prestations et services publics essentiels
Les systemes utilises par des autorites publiques pour evaluer l'eligibilite a des aides, puis les accorder, les reduire, les retirer ou les reclamer, sont haut risque. C'est le coeur du sujet pour les collectivites, CAF locales, departements, CCAS ou operateurs sociaux.
Annexe III, point 6
Application de la loi
Point de vigilance important: juridiquement, les usages de law enforcement relevent surtout du point 6, et non du point 8. Cela vise les outils utilises par ou pour les autorites de poursuite, d'enquete, d'evaluation de preuves ou de profilage dans un cadre repressif.
Annexe III, point 8
Justice et processus democratiques
Le point 8 couvre l'assistance a la justice et certains systemes influencant les elections ou referendums. Il ne faut donc pas l'utiliser comme raccourci pour toute IA publique: le classement depend toujours de la mission precise du systeme.
Article 9
Gestion des risques
La gouvernance du risque doit etre continue, documentee et adaptee au contexte de service public. Dans une administration, cela impose de lier l'IA aux processus metier, au juridique, au DPO, aux marches publics et au controle interne.
Article 11
Documentation technique
Le fournisseur doit produire un dossier technique. Cote collectivite ou administration deployeur, vous devez obtenir ces preuves, comprendre les limites du systeme et pouvoir les rattacher a vos dossiers d'achat, de validation et de controle.
Article 13
Transparence
Les utilisateurs professionnels doivent disposer d'instructions d'usage, de limites et de signaux d'alerte. Pour les personnes physiques concernees par une decision assistee, il faut aussi gerer l'information, la lisibilite du dispositif et l'articulation avec le RGPD et le droit administratif.
Article 14
Supervision humaine
La supervision ne peut pas etre purement formelle. L'agent ou le service responsable doit comprendre quand suivre la sortie, quand la contester, quand suspendre le systeme et comment documenter l'arbitrage humain.
Article 15
Exactitude, robustesse, cybersecurite
La personne publique doit verifier que le systeme reste fiable dans le temps, sur les bonnes populations et avec des donnees d'entree de qualite. Une IA faible sur des publics vulnerables ou en mode degrade ne peut pas etre defendue en controle.
Obligations specifiques deployeur public
Le texte ne traite pas la personne publique comme un simple utilisateur final. Le deployeur public doit verifier l'enregistrement du systeme dans la base de l'UE, enregistrer son propre usage pour les systemes Annexe III concernes, conduire une evaluation d'impact sur les droits fondamentaux lorsque l'article 27 s'applique, notifier l'autorite de surveillance du resultat de cette evaluation et ne pas mettre en service un systeme non conforme ou non documente.
L'administration doit aussi garder la main sur l'organisation de la supervision humaine, la qualite des donnees d'entree, la conservation des logs sous son controle, l'information des personnes concernees dans les cas prevus, et l'escalade en cas de risque ou d'incident grave. C'est la raison pour laquelle le sujet ne peut pas etre traite seulement par le DSI ou seulement par l'acheteur public.