Artikel 10 der EU-KI-Verordnung: die Anforderungen an die Daten-Governance

Aktualisiert am 31. Juli 2026 — Frist geändert. Der Digital Omnibus (angenommen vom Europäischen Parlament am 16. Juni 2026 und vom Rat am 29. Juni 2026) hat die Hochrisiko-Pflichten aus Anhang III vom 2. August 2026 auf den 2. Dezember 2027 verschoben. Die Transparenzpflichten des Artikels 50 wurden nicht verschoben und gelten weiterhin ab dem 2. August 2026. Dieser Artikel wurde entsprechend korrigiert. Ist Ihr KI-System nach der EU-KI-Verordnung als hochriskant eingestuft, ist Artikel 10 nicht verhandelbar. Er schreibt konkrete Praktiken der Daten-Governance für Trainings-, Validierungs- und Testdatensätze vor — und diese Pflichten gelten ab dem 2. Dezember 2027. Geldbußen können 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes erreichen, je nachdem, welcher Betrag höher ist.

Die meisten Teams gehen davon aus, dass „wir haben eine Datenherkunft“ gleichbedeutend mit Konformität sei. Das ist es nicht. Artikel 10 verlangt dokumentierte Entwurfsentscheidungen, Schritte zur Minderung von Verzerrungen und die statistischen Eigenschaften jedes Datensatzes, mit dem ein Hochrisikosystem trainiert oder validiert wird.

Dieser Leitfaden zeigt, was Artikel 10 tatsächlich verlangt, für welche Systeme er gilt und wie Sie die Konformität vor Ablauf der Frist dokumentieren.

Was Artikel 10 verlangt

Artikel 10 gilt für Hochrisiko-KI-Systeme nach Anhang III (etwa Werkzeuge zur Bewerbervorauswahl, Kreditscoring, biometrische Identifizierung, Verwaltung kritischer Infrastruktur). Er schreibt vor, dass Trainings-, Validierungs- und Testdaten bestimmte Qualitätskriterien erfüllen:

Anforderung	Was das bedeutet	Erforderliche Dokumentation
Relevant, repräsentativ, fehlerfrei	Die Daten müssen den realen Anwendungsfall ohne systematische Lücken abbilden	Bericht zur Zusammensetzung des Datensatzes mit demografischer und geografischer Abdeckung
Geeignete statistische Eigenschaften	Die Daten müssen für die Aufgabe hinreichenden Umfang, hinreichende Varianz und Ausgewogenheit aufweisen	Statistische Übersicht: Stichprobengröße, Klassenverteilung, Varianzkennzahlen
Prüfung auf Verzerrungen	Sie müssen aktiv nach Verzerrungen suchen und sie dokumentieren, wenn sie zu diskriminierenden Ergebnissen führen können	Prüfbericht zu Verzerrungen mit Minderungsschritten (etwa erneutes Stichprobenziehen, Fairnessbedingungen)
Daten-Governance und -Management	Formale Prozesse für Erhebung, Kennzeichnung, Speicherung und Versionierung von Daten	Dokument zur Daten-Governance-Richtlinie + Prüfpfad der Datensatzversionen

Artikel 10 schreibt keine bestimmten statistischen Tests oder Verzerrungskennzahlen vor. Das ist Absicht — die Verordnung ist technologieneutral. Sie verlangt aber, dass Sie Ihre Entscheidungen dokumentieren und erläutern, warum sie zum Risikoprofil Ihres Systems passen.

Für wen Artikel 10 gilt

Die Pflichten aus Artikel 10 treffen die Anbieter von Hochrisiko-KI-Systemen — also die Stelle, die das System entwickelt oder entwickeln lässt und unter ihrem Namen oder ihrer Marke auf dem EU-Markt in Verkehr bringt.

Sind Sie Betreiber (eine Organisation, die ein von anderen entwickeltes Hochrisikosystem einsetzt), liegt die Erfüllung des Artikels 10 beim Anbieter. Sie müssen jedoch überprüfen, dass der Anbieter sie erfüllt hat — besonders in einem regulierten Sektor (Finanzwesen, Gesundheit, öffentliche Dienste).

Sind Sie ein Start-up oder Scale-up, das eigene KI baut, sind Sie der Anbieter. Artikel 10 gilt in vollem Umfang.

Die fünf Daten-Governance-Praktiken, die Artikel 10 verlangt

1. Entwurfsentscheidungen zum Datensatz müssen dokumentiert sein

Warum haben Sie diesen Datensatz gewählt? Welche reale Population oder Situation bildet er ab? Welche Grenzen sind bekannt?

Beispiel: Bauen Sie ein KI-gestütztes Werkzeug zur Vorauswahl von Lebensläufen (Anhang III, Kategorie 4), müssen Ihre Trainingsdaten die Bewerberpopulation abbilden, der Sie tatsächlich begegnen. Besteht Ihr Datensatz zu 80 % aus Lebensläufen von Männern aus Technikberufen und setzen Sie das System zur Vorauswahl von Bewerbungen im Gesundheitswesen ein, ist Artikel 10 verletzt.

Was zu dokumentieren ist:

• Quelle und Erhebungsmethodik des Datensatzes
• Geografische, demografische und fachliche Abdeckung
• Bekannte Lücken oder unterrepräsentierte Gruppen
• Begründung der Datensatzauswahl

2. Die statistischen Eigenschaften müssen geeignet sein

„Geeignet“ heißt: ausreichend für Risikohöhe und Komplexität der Aufgabe. Ein hochriskantes Kreditscoring-Modell braucht eine strengere statistische Validierung als ein risikoarmer Empfehlungsdienst für Inhalte.

Was zu dokumentieren ist:

• Stichprobengröße und wie sie bestimmt wurde
• Klassenverteilung (etwa 60 % bewilligte Kredite, 40 % abgelehnte)
• Varianz- und Korrelationsanalyse der Merkmale
• Aufteilungsverhältnisse und -methodik für Training, Validierung und Test

Ist Ihr Datensatz unausgewogen (etwa 95 % negative Klasse), dokumentieren Sie, warum das die Realität abbildet, und welche Schritte Sie unternommen haben, damit das Modell die Minderheitsklasse nicht ignoriert (etwa geschichtete Stichproben, Klassengewichtung, SMOTE).

3. Die Prüfung auf Verzerrungen ist verpflichtend

Artikel 10 Absatz 3 verlangt ausdrücklich, Datensätze auf „mögliche Verzerrungen“ zu prüfen, die zu Diskriminierung aufgrund geschützter Merkmale führen können (ethnische Herkunft, Geschlecht, Alter, Behinderung usw.).

Das ist nicht optional. Sie müssen aktiv nach Verzerrungen suchen, Ihre Befunde dokumentieren und Ihre Minderungsstrategie erläutern.

Praktische Schritte:

• Zerlegen Sie Ihren Datensatz nach geschützten Merkmalen (soweit vorhanden) und messen Sie Leistungsunterschiede
• Nutzen Sie Fairnesskennzahlen (etwa demografische Parität, ausgeglichene Fehlerquoten, Kalibrierung), die zu Ihrem Anwendungsfall passen
• Dokumentieren Sie festgestellte Unterschiede und die ergriffenen Abhilfemaßnahmen (etwa Neuausbalancierung, Fairnessbedingungen, Nachbearbeitung)
• Fehlen geschützte Merkmale in Ihrem Datensatz, dokumentieren Sie eine Analyse über Stellvertretermerkmale (etwa Postleitzahl als Stellvertreter für ethnische Herkunft in US-Kreditdaten)

Beispiel: Eine mit historischen Daten trainierte Einstellungs-KI kann lernen, dass „Lücken im Lebenslauf“ mit Ablehnung korrelieren — haben Frauen wegen Elternzeit häufiger solche Lücken, kodiert das Modell eine Geschlechterverzerrung. Artikel 10 verlangt, dies zu erkennen und zu mindern.

4. Daten-Governance-Prozesse müssen formalisiert sein

Artikel 10 Absatz 4 verlangt „Praktiken der Daten-Governance und Datenverwaltung“ — keine guten Absichten, sondern dokumentierte Prozesse.

Mindestdokumentation:

• Richtlinie zur Datenerhebung (wer darf unter welchen Bedingungen Daten hinzufügen)
• Kennzeichnungsvorgaben und Qualitätssicherung (Übereinstimmungswerte zwischen Annotierenden, Prüfungen der Kennzeichnungen)
• Datenversionierung und -herkunft (welche Modellversion wurde mit welcher Datensatzversion trainiert)
• Zugriffskontrollen und Prüfprotokolle (wer hat wann und warum auf Trainingsdaten zugegriffen)

Trainieren Sie Ihr Modell mit neuen Daten nach, müssen Sie die Analyse nach Artikel 10 für den aktualisierten Datensatz wiederholen. Einmalige Konformität genügt nicht.

5. Testdaten müssen getrennt und repräsentativ sein

Artikel 10 Absatz 5 verlangt, dass Testdatensätze „geeignet, repräsentativ, fehlerfrei und vollständig“ und von den Trainingsdaten getrennt sind.

Das ist grundlegende ML-Hygiene, doch die EU-KI-Verordnung macht daraus eine Rechtspflicht. Bewerten Sie Ihr Modell mit denselben Daten, mit denen Sie es trainiert haben, verstoßen Sie gegen Artikel 10.

Was zu dokumentieren ist:

• Wie Sie die Unabhängigkeit der Testdaten sichergestellt haben (etwa zeitliche Trennung, geschichtete Rückhaltestichprobe)
• Warum Ihr Testdatensatz die realen Einsatzbedingungen abbildet
• Testergebnisse aufgeschlüsselt nach Untergruppen (um ungleiche Auswirkungen zu erkennen)

Häufige Konformitätslücken bei Artikel 10

Die meisten Teams, die Hochrisiko-KI bauen, haben einige Praktiken der Daten-Governance. Nur wenige haben die Dokumentation, die Artikel 10 verlangt. Das sind die häufigsten Lücken:

• Keine Dokumentation der Verzerrungsprüfung — Teams berechnen Fairnesskennzahlen, dokumentieren aber weder Befunde noch Minderungsschritte
• Keine Begründung des Datensatzentwurfs — Teams nutzen „die Daten, die da waren“, ohne zu dokumentieren, warum sie geeignet sind
• Keine Versionierung oder Herkunft — Teams trainieren Modelle nach, können aber nicht nachvollziehen, welche Datensatzversion welche Modellversion hervorgebracht hat
• Keine statistische Begründung — Teams dokumentieren nicht, warum Stichprobengröße, Klassenbalance oder Merkmalssatz für die Risikohöhe ausreichen
• Keine formale Governance-Richtlinie — Datenpraktiken bestehen informell, sind aber weder schriftlich festgehalten noch prüfbar

So dokumentieren Sie die Konformität mit Artikel 10

Die Konformität mit Artikel 10 wird über die technische Dokumentation (gefordert nach Artikel 11) nachgewiesen. Mindestens benötigen Sie:

1. Ein Datensatz-Spezifikationsdokument — für jeden Datensatz (Training, Validierung, Test):

   • Quelle, Erhebungsdatum und Methodik
   • Umfang, Struktur und statistische Eigenschaften
   • Bekannte Grenzen und Lücken
   • Ergebnisse der Verzerrungsprüfung und Minderungsschritte

2. Eine Daten-Governance-Richtlinie — organisationsweit:

   • Standards für Erhebung und Kennzeichnung von Daten
   • Verfolgung von Versionen und Herkunft
   • Zugriffskontrollen und Prüfverfahren
   • Auslöser für Nachtraining und Neubewertung

3. Eine Modellkarte oder technische Dokumentation — je Modell:

   • Welche Datensätze verwendet wurden (mit Versions-Hashes)
   • Warum diese Datensätze für den Anwendungsfall geeignet sind
   • Testergebnisse insgesamt und nach Untergruppen
   • Restrisiken und Überwachungsplan

Diese Dokumente müssen über den gesamten Lebenszyklus des Systems gepflegt und aktualisiert werden. Trainieren Sie nach, aktualisieren Sie die Dokumentation. Entdecken Sie eine neue Verzerrung, dokumentieren Sie sie und Ihre Reaktion darauf.

Artikel 10 und die Frist im Dezember 2027

Die Pflichten aus Artikel 10 werden für Hochrisiko-KI-Systeme am 2. Dezember 2027 durchsetzbar. Ist Ihr System bereits im Produktivbetrieb, haben Sie bis zu diesem Datum Zeit, Ihre Daten-Governance konform zu machen.

Bringen Sie nach dem 2. Dezember 2027 ein neues Hochrisikosystem auf den Markt, ist die Konformität mit Artikel 10 vor dem Inverkehrbringen erforderlich.

Maßgeblich ist der 2. Dezember 2027. Geldbußen für Verstöße gegen die Pflichten von Akteuren im Hochrisikobereich erreichen nach Artikel 99 Absatz 4 15 Millionen Euro oder 3 % des weltweiten Umsatzes — bei KMU der jeweils niedrigere Betrag. Die Stufe von 35 Millionen Euro / 7 % nach Artikel 99 Absatz 3 gilt nur für die verbotenen Praktiken des Artikels 5, was etwas völlig anderes ist.

Wie Vigilia bei der Konformität mit Artikel 10 hilft

Das EU-KI-Verordnungs-Audit von Vigilia enthält als Teil der Hochrisiko-Systembewertung eine Lückenanalyse zu Artikel 10. Der Bericht zeigt:

• ob Ihr System hochriskant ist (und damit Artikel 10 unterliegt)
• welche Dokumentation zur Daten-Governance fehlt
• konkrete Abhilfemaßnahmen, um die Lücken bei Artikel 10 zu schließen
• den geschätzten Aufwand und Zeitplan bis zur Konformität

Das Audit dauert 20 Minuten und kostet 499 € — gegenüber 5.000–40.000 € und 1 bis 3 Monaten für ein herkömmliches Konformitäts-Audit.

Erstellen Sie jetzt Ihren Konformitätsbericht zu Artikel 10: https://www.aivigilia.com

Wenn Sie noch nicht kaufen möchten, testen Sie den kostenlosen EU-KI-Verordnungs-Checker, um zu sehen, ob Ihr System als hochriskant eingestuft ist: https://www.aivigilia.com

---

Dieser Artikel dient ausschließlich der Information und stellt keine Rechtsberatung dar. Für auf Ihr System zugeschnittene Konformitätsauskünfte wenden Sie sich an eine im Recht der EU-KI-Verordnung qualifizierte Anwältin oder einen qualifizierten Anwalt.