Règlement sur l'IA — Article 5 : les huit pratiques d'IA interdites expliquées

Les huit interdictions

Article 5, paragraphe 1, point a) : techniques subliminales échappant à la conscience d'une personne, ou techniques délibérément manipulatrices ou trompeuses, ayant pour objectif ou pour effet de distordre matériellement le comportement, causant ou susceptibles de causer un préjudice significatif.

Article 5, paragraphe 1, point b) : exploitation des vulnérabilités liées à l'âge, au handicap ou à une situation sociale ou économique particulière, ayant pour objectif ou pour effet de distordre matériellement le comportement, causant un préjudice significatif.

Article 5, paragraphe 1, point c) : catégorisation biométrique de personnes physiques visant à déduire la race, les opinions politiques, l'appartenance syndicale, les convictions religieuses, la vie sexuelle ou l'orientation sexuelle.

Article 5, paragraphe 1, point d) : notation sociale par des autorités publiques ou en leur nom, conduisant à un traitement défavorable ou préjudiciable dans des contextes sans rapport avec la collecte des données, ou injustifié ou disproportionné.

Article 5, paragraphe 1, point e) : évaluation du risque présenté par des personnes physiques en vue de prédire la commission d'infractions pénales, fondée uniquement sur le profilage ou les traits de personnalité (police prédictive sans autre élément de preuve).

Article 5, paragraphe 1, point f) : collecte non ciblée d'images faciales sur internet ou via des systèmes de vidéosurveillance pour créer ou enrichir des bases de données de reconnaissance faciale.

Article 5, paragraphe 1, point g) : inférence des émotions sur le lieu de travail ou dans les établissements d'enseignement, sauf pour des raisons médicales ou de sécurité.

Article 5, paragraphe 1, point h) : identification biométrique à distance en temps réel dans des espaces accessibles au public par les autorités répressives, sauf dans des circonstances spécifiques et strictement limitées.

Quelles interdictions concernent le SaaS

La plupart des solutions SaaS ne déclencheront jamais les articles 5, paragraphe 1, points d), e), f) ou h) — ceux-ci s'appliquent principalement aux systèmes d'IA du secteur public. Les interdictions susceptibles de viser des solutions SaaS commerciales sont le point a) (manipulation), le point b) (exploitation des vulnérabilités), le point c) (catégorisation biométrique déduisant des attributs protégés) et le point g) (reconnaissance des émotions sur le lieu de travail ou dans les établissements scolaires).

Cas courants de proximité avec les interdictions pour le SaaS

Exemples courants de situations proches des interdictions de l'article 5 : moteurs de tarification dynamique apprenant à détecter les signaux d'achat impulsif et déclenchant des mécanismes d'urgence (territoire du point a)) ; algorithmes de ciblage publicitaire identifiant et exploitant les signaux de détresse financière (point b)) ; outils d'analyse vocale inférant l'émotion ou le sentiment à partir d'appels au service client sur le lieu de travail (point g)) ; outils RH classant les candidats selon des dimensions de personnalité déduites de caractéristiques biométriques telles que le ton de la voix (chevauchement des points c) et g)). Chacun de ces cas nécessite un examen approfondi de la conception.

Application et sanctions

Les interdictions de l'article 5 sont applicables depuis le 2 février 2025. Le plafond des sanctions au titre de l'article 99, paragraphe 3, est fixé à 35 M€ ou 7 % du chiffre d'affaires mondial, le montant le plus élevé étant retenu. Le principe de proportionnalité applicable aux PME s'applique, mais ramène rarement l'amende en dessous de 100 000 € pour des violations substantielles. Les autorités nationales peuvent également ordonner la cessation immédiate de la pratique interdite, le retrait du marché et une publicité corrective. La responsabilité pénale est possible dans certains États membres en cas de violations graves ou répétées.

Mise en conformité pratique

Pour les solutions SaaS, procédez à un examen formel au titre de l'article 5 une fois par an et après chaque modification majeure du produit. Documentez chaque fonctionnalité au regard de chaque interdiction en y joignant une justification écrite. Conservez le dossier de cet examen dans vos archives de conformité afin de pouvoir le présenter sur demande des autorités. Si une fonctionnalité se situe à proximité d'une interdiction, repensez-la ou ajoutez des mesures de sauvegarde (consentement explicite, contrôle de l'âge, détection des vulnérabilités). Si vous ne pouvez pas écarter la fonctionnalité de cette zone de proximité, consultez un expert externe en conformité — l'exposition aux sanctions est suffisamment grave pour justifier un avis juridique.

Frequently asked questions

Quand l'article 5 est-il entré en vigueur ?

Le 2 février 2025 — l'article 5 est déjà applicable.

Quelle est la sanction en cas de violation de l'article 5 ?

Jusqu'à 35 M€ ou 7 % du chiffre d'affaires mondial, le montant le plus élevé étant retenu. S'y ajoutent des ordonnances de cessation immédiate et un éventuel retrait du marché.

L'article 5 s'applique-t-il aux solutions SaaS commerciales ?

Oui — en particulier le point a) (manipulation), le point b) (exploitation des vulnérabilités), le point c) (catégorisation biométrique) et le point g) (reconnaissance des émotions sur le lieu de travail).

Existe-t-il des exceptions à l'article 5, paragraphe 1, point g) ?

Oui — les raisons médicales ou de sécurité sont exemptées. Un système de surveillance du stress au travail utilisé dans le cadre d'un programme de santé au travail peut être licite ; le même système utilisé pour évaluer les performances des salariés ne l'est pas.

Puis-je obtenir une dispense d'amende si je cesse la pratique interdite ?

La cessation réduit l'exposition future mais n'élimine pas les amendes pour les comportements passés. Les autorités nationales disposent d'un pouvoir discrétionnaire pour réduire les amendes en cas de coopération et de remédiation rapide.

Sources

• https://eur-lex.europa.eu/eli/reg/2024/1689/oj