EU AI Act Artikel 5: de acht verboden AI-praktijken toegelicht

De acht verboden

Artikel 5(1)(a): subliminale technieken die buiten het bewustzijn van een persoon vallen, of bewust manipulatieve of misleidende technieken, met als doel of gevolg dat gedrag wezenlijk wordt verstoord, waardoor significante schade wordt veroorzaakt of dreigt te worden veroorzaakt.

Artikel 5(1)(b): misbruik van kwetsbaarheden als gevolg van leeftijd, handicap of een specifieke sociale of economische situatie, met als doel of gevolg dat gedrag wezenlijk wordt verstoord en significante schade wordt veroorzaakt.

Artikel 5(1)(c): biometrische categorisering van natuurlijke personen om ras, politieke opvattingen, vakbondslidmaatschap, religieuze overtuigingen, seksleven of seksuele gerichtheid af te leiden.

Artikel 5(1)(d): sociale scoring door overheidsinstanties of namens hen, die leidt tot nadelige of ongunstige behandeling in contexten die geen verband houden met de gegevensverzameling, of die ongerechtvaard of onevenredig is.

Artikel 5(1)(e): risicobeoordeling van natuurlijke personen om strafbare feiten te voorspellen uitsluitend op basis van profilering of persoonlijkheidskenmerken (voorspellend politiewerk zonder overig bewijs).

Artikel 5(1)(f): niet-gericht scrapen van gezichtsafbeeldingen van internet of CCTV-beelden om gezichtsherkenningsdatabases aan te maken of uit te breiden.

Artikel 5(1)(g): het afleiden van emoties op werkplekken of in onderwijsinstellingen, behalve om medische of veiligheidsredenen.

Artikel 5(1)(h): realtime biometrische identificatie op afstand in openbaar toegankelijke ruimten door wetshandhavingsinstanties, behalve in specifieke, nauwkeurig omschreven omstandigheden.

Welke verboden gelden voor SaaS

De meeste SaaS-aanbieders zullen Artikelen 5(1)(d), (e), (f) of (h) nooit overtreden — deze zijn voornamelijk van toepassing op AI in de publieke sector. De verboden die voor commerciële SaaS relevant zijn, zijn 5(1)(a) (manipulatie), 5(1)(b) (misbruik van kwetsbaarheden), 5(1)(c) (biometrische categorisering waarbij beschermde kenmerken worden afgeleid) en 5(1)(g) (emotieherkenning op de werkplek of in het onderwijs).

Veelvoorkomende grensgevallen bij SaaS

Veelvoorkomende gevallen die dicht bij de verboden van Artikel 5 liggen: dynamische prijsalgoritmen die impulsaankoop-signalen leren herkennen en urgentiedruk opwekken (toepassingsgebied van 5(1)(a)); advertentie-targetingalgoritmen die signalen van financiële stress identificeren en exploiteren (5(1)(b)); stemanalysetools die emoties of gevoelens afleiden uit klantenservicegesprekken op de werkplek (5(1)(g)); HR-techtools die kandidaten classificeren op basis van persoonlijkheidsdimensies die worden afgeleid uit biometrische kenmerken zoals stemtoon (overlap van 5(1)(c) en 5(1)(g)). Elk geval vereist een zorgvuldige ontwerpbeoordeling.

Handhaving en sancties

De verboden van Artikel 5 worden gehandhaafd vanaf 2 februari 2025. De maximale boete op grond van Artikel 99(3) bedraagt €35M of 7% van de wereldwijde omzet, naargelang welk bedrag hoger is. KMO-proportionaliteit is van toepassing, maar brengt de boete bij materiële overtredingen zelden onder de €100.000. Nationale autoriteiten kunnen ook onmiddellijke stopzetting van de verboden praktijk, markterugtrekking en correctieve publiciteit gelasten. In sommige lidstaten is strafrechtelijke aansprakelijkheid mogelijk bij ernstige of herhaalde overtredingen.

Praktische naleving

Voer voor SaaS jaarlijks een formele Artikel 5-beoordeling uit en doe dit ook na elke belangrijke productwijziging. Documenteer elke functie ten opzichte van elk verbod met een schriftelijke motivering. Bewaar het beoordelingsdossier in uw nalevingsarchief voor eventuele inzage door de toezichthouder. Als een functie dicht bij een verbod ligt, herontwerp deze dan of voeg waarborgen toe (uitdrukkelijke opt-in, leeftijdsverificatie, detectie van kwetsbaarheden). Als u de functie niet buiten het toepassingsgebied kunt brengen, raadpleeg dan een externe nalevingsbeoordeling — de boeterisico's zijn ernstig genoeg om juridisch advies te rechtvaardigen.

Frequently asked questions

Wanneer is Artikel 5 in werking getreden?

2 februari 2025 — Artikel 5 wordt reeds gehandhaafd.

Wat is de sanctie voor overtredingen van Artikel 5?

Tot €35M of 7% van de wereldwijde omzet, naargelang welk bedrag hoger is. Daarnaast kunnen onmiddellijke stopzettingsbevelen en mogelijke markterugtrekking worden opgelegd.

Is Artikel 5 van toepassing op commerciële SaaS?

Ja — met name 5(1)(a) manipulatie, 5(1)(b) misbruik van kwetsbaarheden, 5(1)(c) biometrische categorisering en 5(1)(g) emotieherkenning op de werkplek.

Zijn er uitzonderingen op Artikel 5(1)(g)?

Ja — medische of veiligheidsredenen zijn vrijgesteld. Een systeem voor het monitoren van werkstress dat wordt ingezet als onderdeel van een bedrijfsgezondheidsprogramma kan rechtmatig zijn; hetzelfde systeem dat wordt gebruikt om de prestaties van werknemers te beoordelen, is dat niet.

Kan ik een boetevrijstelling krijgen als ik de verboden praktijk stopzet?

Stopzetting vermindert de voortdurende blootstelling, maar elimineert boetes voor eerder gedrag niet. Nationale autoriteiten hebben de discretionaire bevoegdheid om boetes te verlagen bij medewerking en snelle herstelmaatregelen.

Sources

• https://eur-lex.europa.eu/eli/reg/2024/1689/oj