Les progrès technologiques de ces dernières années, surtout en intelligence artificielle, montrent à quel point l’IA peut transformer de nombreux secteurs, y compris l’éducation.
Mais ces usages doivent être encadrés. Il faut garantir une utilisation éthique, protéger des droits fondamentaux comme la vie privée, et éviter les pratiques discriminatoires, ainsi que d’autres risques.
En Europe, la loi sur l’intelligence artificielle (AI Act) fixe ce cadre. Les solutions de surveillance d’examens en ligne qui intègrent de l’IA, comme SMOWL, doivent donc respecter ses exigences.
Qu’est-ce que la loi européenne sur l’intelligence artificielle ?
La réglementation européenne sur l’IA, entrée en vigueur en 2024 et pleinement applicable en 2026, est le premier cadre complet au monde consacré à l’intelligence artificielle. Son objectif est de réduire les risques liés à l’IA afin d’encourager un usage plus sûr et plus fiable en Europe.
Comme le souligne la Commission européenne, la plupart des systèmes d’IA présentent un risque limité et peuvent aider à répondre à de nombreux enjeux. Mais leurs risques doivent être pris en compte pour éviter des effets négatifs, comme des décisions injustes.
La loi classe les systèmes d’IA selon quatre niveaux de risque :
- Inacceptable
- Élevé
- Limité
- Minimal
En fonction de ce niveau, elle fixe des exigences et des obligations différentes.
Loi européenne sur l’IA : origine
Dans le cadre de sa stratégie numérique, l’Union européenne a proposé d’encadrer l’usage de l’intelligence artificielle dès 2021. En avril de la même année, la Commission européenne a présenté une première proposition de règlement, fondée sur une logique de niveaux de risque.
Plus un système est considéré comme risqué, plus les exigences imposées sont élevées.
Entrée en vigueur de la loi européenne sur l’IA
Le Conseil de l’Union européenne a adopté le texte en mai 2024. Le règlement sur l’IA n’est toutefois pas devenu pleinement applicable immédiatement : l’application complète est prévue 24 mois après l’entrée en vigueur, avec certaines dispositions qui s’appliquent plus tôt.
En plus, les obligations liées aux systèmes d’IA à haut risque ont été prévues en deux temps. La majorité s’applique au bout de 24 mois, tandis que celles concernant des systèmes intégrés à certains produits déjà encadrés par des règles spécifiques s’appliquent au bout de 36 mois.
Les 4 niveaux de risque dans la loi européenne sur l’IA
Comme indiqué plus haut, la loi européenne sur l’IA distingue quatre niveaux de risque. Voici le premier.
Risque inaceptable
Les systèmes d’IA considérés comme présentant un risque inacceptable sont interdits dans l’Union européenne. Cela concerne notamment :
- Des systèmes qui manipulent le comportement de personnes, ou de groupes vulnérables, par exemple des jouets à commande vocale qui encouragent des comportements dangereux chez les enfants.
- Des systèmes de « notation sociale » qui classent les individus selon leur statut socio-économique, leur comportement ou des caractéristiques personnelles.
- L’identification biométrique à distance en temps réel, comme la reconnaissance faciale dans l’espace public, dans les cas interdits par le règlement.
- La reconnaissance des émotions sur le lieu de travail ou dans les établissements d’enseignement.
- La collecte massive et non ciblée d’images sur Internet ou via des caméras de surveillance pour créer ou élargir des bases de données de reconnaissance faciale.
- Des systèmes qui évaluent ou prédisent le risque qu’une personne commette une infraction pénale.
Risque élevé
Les systèmes d’IA qui peuvent porter atteinte aux droits fondamentaux ou à la sécurité sont classés comme « à haut risque ». Ils se répartissent en deux grandes catégories :
- Les systèmes d’IA intégrés à des produits déjà soumis à des règles européennes de sécurité (par exemple l’automobile, l’aviation, les dispositifs médicaux, certains jouets ou les ascenseurs).
- Les systèmes d’IA utilisés dans des domaines considérés comme sensibles. On retrouve notamment :
- Éducation et formation professionnelle.
- Identification biométrique et catégorisation des personnes.
- Gestion et exploitation d’infrastructures critiques.
- Emploi, gestion des travailleurs et accès au travail indépendant.
- Application de la loi.
- Aide à l’interprétation juridique et à l’application du droit.
- Accès à des services essentiels privés, ainsi qu’à certains services et prestations publics.
- Gestion des migrations, de l’asile et du contrôle aux frontières.
Les systèmes classés « à haut risque » doivent respecter des obligations spécifiques avant de pouvoir être mis sur le marché.
Risque limité
Cette catégorie concerne surtout les systèmes d’IA dits « à risque limité », notamment l’IA générative comme ChatGPT. Ils doivent respecter des exigences de transparence prévues par la loi européenne sur l’IA, applicables à partir d’août 2026.
L’idée est simple : les utilisateurs doivent être clairement informés. Par exemple, lorsqu’une personne échange avec un chatbot, elle doit savoir qu’elle interagit avec un système automatisé.
Et ce n’est pas tout. Les fournisseurs d’IA générative doivent aussi faire en sorte que les contenus produits soient identifiables comme générés par IA. Dans certains cas, la réglementation impose même un étiquetage explicite de ces contenus.
La loi européenne sur l’IA prévoit aussi que certains modèles très puissants, susceptibles de créer un risque « systémique », doivent passer des contrôles renforcés. Les fournisseurs doivent également signaler à la Commission tout incident jugé grave.
Sur le droit d’auteur, les développeurs doivent mettre en place des garde-fous pour limiter la génération de contenus illégaux. Ils doivent aussi publier un résumé des contenus protégés utilisés pour l’entraînement.
Risque minimal (ou nul)
Pour cette catégorie, la loi européenne sur l’IA ne prévoit pas d’exigences particulières. Comme ces systèmes ne présentent pas de risque important pour la sécurité, la santé ou les droits fondamentaux, ils peuvent être utilisés et commercialisés librement au sein de l’Union européenne.
On y trouve, par exemple, des jeux vidéo, des filtres anti-spam pour les e-mails, ou encore des systèmes de recommandation de films et de musique.
Conformité à la loi européenne sur l’IA
Chaque État membre doit désigner une ou plusieurs autorités chargées de la surveillance du marché. Elles ont pour mission d’appliquer la réglementation, de la contrôler et de faire respecter ses exigences. Si plusieurs autorités sont nommées, l’État doit aussi définir un point de contact unique.
Ces autorités peuvent contrôler à distance et demander l’accès à des éléments clés, comme la documentation, certains jeux de données ou, dans des conditions encadrées, des informations techniques permettant d’évaluer le système. Elles peuvent aussi intervenir si un système d’IA présente des risques ou ne respecte pas les règles.
Elles doivent agir de manière indépendante et impartiale. Elles ont aussi l’obligation d’informer la Commission et les autres États membres des mesures prises, ainsi que des résultats des évaluations de risques.
Enfin, en lien avec la Commission, ces autorités peuvent lancer des enquêtes, exiger des mesures correctives et imposer des sanctions en cas de non-respect de la loi européenne sur l’IA.
Sanctions prévues par la loi européenne sur l’IA
Les sanctions varient selon la gravité de l’infraction. Elles peuvent aller de pénalités limitées à des amendes très élevées, jusqu’à 35 millions d’euros dans les cas les plus sérieux :
- Infractions très graves, liées à des pratiques interdites : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial.
- Infractions graves, liées au non-respect des obligations par les fournisseurs, représentants, importateurs, distributeurs, etc. : jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial.
- Infractions plus légères, liées à la transmission d’informations incomplètes, inexactes ou trompeuses : jusqu’à 7,5 millions d’euros ou 1 % du chiffre d’affaires annuel mondial.
À noter : les plafonds prévus par la loi européenne sur l’IA sont plus élevés que ceux du RGPD, qui prévoit jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial.
SMOWL est-il conforme à la loi sur l’intelligence artificielle de l’Union européenne ?
Oui. En tant que solution européenne de proctoring intégrant de l’IA, SMOWL est conçue pour respecter les exigences applicables de la loi européenne sur l’intelligence artificielle.Pour en savoir plus, vous pouvez consulter notre politique de confidentialité. Et si vous avez une question sur le traitement des données ou sur les informations collectées, vous pouvez contacter notre équipe.
