Système d’IA à haut risque
Un système d’IA à haut risque est, selon le Règlement européen sur l’IA, un système susceptible de nuire de façon importante à la santé, à la sécurité ou aux droits fondamentaux des personnes — comme l’IA utilisée en recrutement, en crédit, en éducation ou dans les infrastructures critiques — et il est donc soumis aux obligations les plus strictes de la loi.
Selon le Règlement européen sur l’IA, les systèmes à haut risque se répartissent en deux catégories : l’IA qui constitue une composante de sécurité de produits réglementés (par exemple, dispositifs médicaux, machines) et l’IA utilisée dans les domaines sensibles énumérés à l’annexe III — comme l’emploi, l’accès aux services essentiels, l’application de la loi, la migration et l’administration de la justice.
Les systèmes à haut risque doivent respecter des obligations comme la gestion des risques, une gouvernance des données de haute qualité, une documentation technique, la journalisation, la supervision humaine, l’exactitude et la robustesse, et (pour certains déployeurs) une analyse d’impact sur les droits fondamentaux avant l’utilisation.
La classification dépend du contexte : une même technique peut être à risque minimal dans un usage et à haut risque dans un autre. Consultez le cadre réglementaire de la Commission européenne pour les catégories de l’annexe III.
