Notation, orientation et parcours d'apprentissage
Les systèmes d'IA en education sont classes haut risque par l'Annexe III, point 3 du règlement. Cela inclut la notation automatisée, la détection de plagiat, les parcours adaptatifs, l'orientation professionnelle et la surveillance d'examens. L'impact sur l'avenir des apprenants justifie un niveau de protection élève.
Explicitement haut risque (Annexe III, point 3)
Tout système determinant l'accès a l'education, evaluant les apprenants ou orientant leur parcours est haut risque.
Un enseignant ou evaluateur humain doit pouvoir reviser et contester toute note ou orientation générée par l'IA.
Les apprenants et leurs parents doivent être informes de l'utilisation de l'IA dans le processus educatif.
Correction automatique de copies, scoring d'examens, évaluation de compétences. Supervision humaine obligatoire pour toute note impactant le parcours de l'apprenant.
Systèmes suggerant des orientations scolaires ou professionnelles. Impact direct sur l'avenir des apprenants. Tests de biais socio-economiques obligatoires.
Surveillance à distance par IA. Attention aux formes de reconnaissance emotionnelle interdites par l'Art. 5.
Un LMS qui distribue du contenu sans IA décisionnelle n'est pas concerne. Si le LMS utilise l'IA pour adapter les parcours ou évaluer les apprenants, il est potentiellement haut risque.
Identifiez vos systèmes d'IA, leur niveau de risque et les actions prioritaires spécifiques à votre secteur.
Diagnostic gratuit - 5 minutes