EU AI Act Artikel 10: gegevensbeheer voor hoog-risico AI-systemen

Kerneisen van Artikel 10

Artikel 10, lid 2, vereist dat trainings-, validatie- en testdatasets onderworpen zijn aan praktijken inzake gegevensbeheer en -beheer. Deze praktijken moeten betrekking hebben op: ontwerpkeuzes en aannames, processen voor gegevensverzameling, operaties voor gegevensvoorbereiding (annotatie, labelling, opschoning, verrijking, aggregatie), onderzoek naar vooringenomenheid, identificatie van lacunes of tekortkomingen in de gegevens, en de formulering van mitigerende maatregelen. Artikel 10, lid 3, vereist dat datasets relevant, voldoende representatief, vrij van fouten en volledig zijn met het oog op het beoogde doel.

Het representativiteitsvereiste

Artikel 10, lid 3, vereist dat datasets voldoende representatief zijn. Voor SaaS-toepassingen die op de EU-markt worden aangeboden, betekent dit doorgaans: demografische representatie van de EU-bevolking voor systemen die natuurlijke personen treffen (leeftijd, geslacht, geografie, taal), domeinrepresentatie voor het specifieke toepassingsgeval, en evenwicht tussen de verschillende subgroepen die waarschijnlijk met het systeem zullen interageren. De precieze maatstaf is feitspecifiek — bij toepassingen met hogere inzet gelden strengere representativiteitseisen.

Onderzoek naar vooringenomenheid en mitigatie

Artikel 10, lid 2, onder f), vereist onderzoek naar mogelijke vormen van vooringenomenheid die waarschijnlijk gevolgen hebben voor de gezondheid, veiligheid of rechten van natuurlijke personen, waaronder vooringenomenheden die toekomstige verwerkingen kunnen versterken. Praktische biastests omvatten: demografische prestatieoverzichten (nauwkeurigheid, fout-positiefpercentage en fout-negatiefpercentage per beschermd kenmerk), causale analyse van vastgestelde vooringenomenheden, en gedocumenteerde mitigerende maatregelen. De diepgang van het onderzoek naar vooringenomenheid neemt toe naarmate de inzet van het toepassingsgeval hoger is.

Bijzondere categorieën persoonsgegevens

Artikel 10, lid 5, staat de verwerking toe van bijzondere categorieën persoonsgegevens (ras, etnische afkomst, politieke opvattingen enz. in de zin van Artikel 9 AVG) voor het monitoren en corrigeren van vooringenomenheid — maar uitsluitend voor zover strikt noodzakelijk. Dit betekent dat u demografische gegevens specifiek voor biastestdoeleinden kunt verzamelen zonder afzonderlijke toestemming op grond van Artikel 9 AVG, mits u de noodzakelijkheid documenteert, strenge beveiligingsmaatregelen treft en de gegevens verwijdert zodra het doel van de biastest is bereikt.

Praktische naleving voor SaaS

Stel het documentatiepakket voor Artikel 10 op als onderdeel van de bredere technische documentatie conform Artikel 11. Vereiste onderdelen: datasetdocumentatie (bron, licentie, omvang, samenstelling), procedures voor gegevensvoorbereiding, biastestmethodologie en -resultaten, representativiteitsanalyse, identificatie van lacunes en mitigerende maatregelen. Voeg voor systemen met continu leren een procesdocument toe waaruit blijkt hoe aan de eisen van Artikel 10 wordt voldaan naarmate de trainingsdata evolueert. Schakel een compliance-adviseur in voor systemen onder Bijlage III — de biastestmethodologie vereist zowel technische als juridische expertise.

Frequently asked questions

Wanneer treedt Artikel 10 in werking?

2 augustus 2026 voor hoog-risico AI-systemen.

Is Artikel 10 van toepassing op niet-hoog-risico AI?

Uitsluitend als goede praktijk — Artikel 10 is bindend voor hoog-risico AI op grond van Hoofdstuk III. Niet-hoog-risico-systemen profiteren van het volgen van de beginselen, maar zijn juridisch niet gebonden.

Mag ik demografische gegevens verzamelen voor biastests?

Ja — Artikel 10, lid 5, staat de verwerking van bijzondere categorieën persoonsgegevens specifiek toe voor het monitoren en corrigeren van vooringenomenheid, voor zover strikt noodzakelijk. Documenteer de noodzakelijkheid en tref strenge beveiligingsmaatregelen.

Wat is de sanctie bij overtreding van Artikel 10?

Tot € 15 miljoen of 3% van de wereldwijde jaaromzet op grond van Artikel 99, lid 4, bij niet-naleving door een hoog-risico-systeem.

Vereist Artikel 10 een externe audit?

Niet rechtstreeks. Artikel 10 stelt de eisen; de conformiteitsbeoordeling op grond van Artikel 43 verifieert deze (intern voor de meeste categorieën onder Bijlage III, extern via een aangemelde instantie voor biometrie).

Sources

• https://eur-lex.europa.eu/eli/reg/2024/1689/oj