Artikel 9 der EU-KI-Verordnung: Risikomanagement für Hochrisiko-KI-Systeme

Artikel 9 schreibt fortlaufendes Risikomanagement für Hochrisiko-KI vor. Erfahren Sie, welche Dokumentation, Prozesse und Tests Sie vor der Frist im Dezember 2027 brauchen.

Aktualisiert am 2. Oktober 2026 — Korrektur. Frühere Fassungen nannten für die Beobachtung nach dem Inverkehrbringen Artikel 61 (es ist Artikel 72), bezeichneten einen Verstoß gegen Artikel 9 als „schwerwiegenden Verstoß nach Artikel 71“ (Artikel 71 betrifft die EU-Datenbank; die Geldbußen legt Artikel 99 Absatz 4 fest), stellten Artikel 9 als Pflicht des Betreibers dar, zählten die menschliche Aufsicht zu den Maßnahmen, die Artikel 9 nennt, gaben für die Vorlage von Aufzeichnungen eine Frist von 30 Tagen an, die die Verordnung nicht vorsieht, und behaupteten ohne Quelle, öffentliche Auftraggeber verlangten einen Nachweis der Konformität mit Artikel 9. Der Leitfaden folgt jetzt Artikel 9 Absätze 2 bis 8, Artikel 21 sowie den Artikeln 79 und 99.

Aktualisiert am 31. Juli 2026 — Frist geändert. Der Digital Omnibus (angenommen vom Europäischen Parlament am 16. Juni 2026 und vom Rat am 29. Juni 2026) hat die Hochrisiko-Pflichten nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 verschoben. Die Transparenzpflichten des Artikels 50 wurden nicht verschoben und gelten weiterhin ab dem 2. August 2026. Dieser Artikel wurde entsprechend korrigiert.

Was Artikel 9 tatsächlich verlangt

Artikel 9 der EU-KI-Verordnung schafft den Rahmen für das Risikomanagement, den jeder Anbieter von Hochrisiko-KI-Systemen umsetzen muss. Es ist kein einmaliges Häkchen, sondern ein fortlaufender, dokumentierter Prozess, der vor dem Inverkehrbringen Ihres Systems stehen und über dessen gesamten Lebenszyklus gepflegt werden muss.

Wenn Sie ein KI-System anbieten, das unter Anhang III fällt (HR-Werkzeuge, Kreditscoring, Strafverfolgung, kritische Infrastruktur, Bildung usw.), gilt Artikel 9 für Sie. Der gesetzliche Höchstbetrag der Geldbuße liegt bei 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4); für KMU gilt der niedrigere Betrag (Art. 99 Abs. 6). Diese Pflichten gelten ab dem 2. Dezember 2027 (ab dem 2. August 2028 für Hochrisiko-KI in Produkten, die unter Anhang I fallen).

Das verlangt Artikel 9 in klarer Sprache:

Ein Risikomanagementsystem einrichten und dokumentieren, das fortlaufend und iterativ ist
Bekannte und vernünftigerweise vorhersehbare Risiken ermitteln und analysieren, die vom System für die Gesundheit, Sicherheit oder Grundrechte ausgehen können, wenn es entsprechend seiner Zweckbestimmung verwendet wird
Risiken abschätzen und bewerten, die entstehen können, wenn das System entsprechend seiner Zweckbestimmung und unter Bedingungen vernünftigerweise vorhersehbarer Fehlanwendung verwendet wird
Geeignete Risikomanagementmaßnahmen ergreifen, um ermittelte Risiken zu adressieren
Das System testen, um die Wirksamkeit der Risikomanagementmaßnahmen sicherzustellen
Andere Risiken bewerten, die sich aus den Daten der Beobachtung nach dem Inverkehrbringen ergeben (Artikel 72)
Den Risikomanagementprozess aktualisieren, und zwar über den gesamten Lebenszyklus des Systems

Das Schlüsselwort lautet fortlaufend. Sie können nicht im Januar 2026 eine Risikobewertung durchführen, sie ablegen und vergessen. Artikel 9 verlangt laufende Überwachung, Tests und Aktualisierungen der Dokumentation, während sich Ihr System weiterentwickelt.

Der fünfstufige Risikomanagementprozess

Artikel 9 schreibt keine bestimmte Methodik vor, zeichnet aber eine klare Abfolge. So strukturieren Sie Ihre Compliance:

Schritt 1: Risikoermittlung

Dokumentieren Sie jedes vernünftigerweise vorhersehbare Risiko Ihres KI-Systems. Dazu gehören:

Risiken für Gesundheit und Sicherheit
Risiken für die Grundrechte (Privatsphäre, Nichtdiskriminierung, Meinungsfreiheit)
Risiken aus der bestimmungsgemäßen Verwendung
Risiken aus vernünftigerweise vorhersehbarer Fehlanwendung

Konkretes Beispiel: Wenn Sie ein KI-gestütztes Recruiting-Werkzeug anbieten, zählen zu den vorhersehbaren Risiken diskriminierende Ergebnisse aufgrund geschützter Merkmale (Geschlecht, Alter, ethnische Herkunft), Verletzungen der Privatsphäre durch übermäßige Datenerhebung und Fehlanwendung durch Recruiting-Verantwortliche, die sich ohne menschliche Prüfung zu sehr auf das System verlassen.

Schritt 2: Risikoanalyse und -abschätzung

Schätzen Sie für jedes ermittelte Risiko:

Schwere: Wie groß ist der Schaden, wenn sich das Risiko verwirklicht?
Wahrscheinlichkeit: Wie wahrscheinlich ist es, dass das Risiko eintritt?
Betroffene Gruppen: Wer ist diesem Risiko ausgesetzt?

Dokumentieren Sie Ihre Methodik. Wenn Sie eine Risikomatrix verwenden (z. B. ein 5×5-Raster aus Eintrittswahrscheinlichkeit und Auswirkung), legen Sie Bewertungskriterien und Schwellenwerte fest.

Schritt 3: Risikobewertung

Bestimmen Sie, ob ein Risiko hinnehmbar ist oder gemindert werden muss. Artikel 8 Absatz 1 und Artikel 9 Absatz 2 verlangen, Risiken zu bewerten im Licht

der Zweckbestimmung des Systems,
vernünftigerweise vorhersehbarer Fehlanwendung,
des Stands der Technik bei der Risikominderung.

Überschreitet ein Risiko Ihre Akzeptanzschwelle, müssen Sie Kontrollen umsetzen. Artikel 9 Absatz 5 verlangt, dass das Restrisiko jeder Gefahr und das Gesamtrestrisiko des Systems als vertretbar beurteilt werden.

Schritt 4: Risikominderung

Ergreifen Sie Maßnahmen, um Risiken zu beseitigen oder auf ein hinnehmbares Maß zu senken. Artikel 9 verlangt:

Kontrollen in Entwurf und Entwicklung: Risiken, soweit technisch möglich, durch die Konzeption beseitigen oder verringern (Art. 9 Abs. 5 Buchst. a)
Minderungs- und Kontrollmaßnahmen: für Risiken, die sich nicht beseitigen lassen (Art. 9 Abs. 5 Buchst. b)
Informationen für Betreiber: die nach Artikel 13 erforderlichen Informationen und gegebenenfalls Schulungen bereitstellen (Art. 9 Abs. 5 Buchst. c)
Tests und Validierung: anhand vorab festgelegter Metriken und Schwellenwerte testen, in jedem Fall vor dem Inverkehrbringen des Systems (Art. 9 Abs. 6 bis 8)

Artikel 9 Absatz 4 verlangt außerdem, dass die Maßnahmen das Zusammenwirken der übrigen Anforderungen von Abschnitt 2 berücksichtigen — einschließlich der menschlichen Aufsicht (Artikel 14).

Dokumentieren Sie jede Minderungsmaßnahme und ordnen Sie sie dem konkreten Risiko zu, das sie adressiert.

Schritt 5: Fortlaufende Überwachung und Aktualisierung

Das Risikomanagement endet nicht mit der Inbetriebnahme. Artikel 9 verlangt von Ihnen:

Risiken zu bewerten, die sich aus Ihren Daten der Beobachtung nach dem Inverkehrbringen ergeben (Art. 9 Abs. 2 Buchst. c, Artikel 72),
Risikobewertungen zu aktualisieren, wenn Sie das System ändern oder von neuen Risiken erfahren,
Aufzeichnungen über alle Risikomanagementtätigkeiten zu führen.

Das bedeutet versionierte Dokumentation, Änderungsprotokolle und regelmäßige Überprüfungen — kein statisches PDF.

Dokumentationsanforderungen nach Artikel 9

Die EU-KI-Verordnung gibt keine Dokumentvorlage vor. Artikel 11 und Anhang IV verlangen, dass die technische Dokumentation eine detaillierte Beschreibung des Risikomanagementsystems enthält (Anhang IV Nummer 5), und Artikel 18 verlangt, sie zehn Jahre lang aufzubewahren. Weitere Dokumente nennt die Verordnung nicht; die folgende Zusammenstellung ist ein praktischer Weg, dem nachzukommen:

Dokument	Zweck	Aktualisierungsfrequenz
Risikomanagementplan	Beschreibt Ihren Gesamtprozess, die Methodik, Rollen und den Prüfrhythmus	Jährlich oder bei Prozessänderungen
Risikoregister	Listet alle ermittelten Risiken mit Schwere, Wahrscheinlichkeit und Status	Fortlaufend (lebendes Dokument)
Risikobewertungsbericht	Detaillierte Analyse jedes Risikos einschließlich Nachweisen und Bewertung	Je Systemversion oder wesentlicher Änderung
Spezifikation der Minderungskontrollen	Beschreibt jede Kontrolle, ihre Umsetzung und die Wirksamkeitsprüfung	Je Kontrolle; aktualisiert bei Änderungen
Test- und Validierungsaufzeichnungen	Nachweise, dass die Minderungen wirken (Testpläne, Ergebnisse, Bestehens-/Nichtbestehenskriterien)	Je Testzyklus
Überwachungs- und Vorfallprotokoll	Leistungsdaten aus dem Produktivbetrieb, Anomalien, Nutzerbeschwerden, Beinaheereignisse	Fortlaufend (nur anfügendes Protokoll)

Die gesamte Dokumentation muss erklärbar und prüfbar sein. Auf begründete Anfrage muss ein Anbieter einer zuständigen Behörde sämtliche Informationen und Dokumentation übermitteln, die erforderlich sind, um die Konformität nachzuweisen (Art. 21 Abs. 1); eine feste Zahl von Tagen legt die Verordnung nicht fest.

Häufige Lücken und Anti-Muster

Lücken bei Artikel 9 zeigen sich meist in vorhersehbaren Formen. Auf diese acht Anti-Muster sollten Sie achten:

Einmalige Risikobewertung: Risikomanagement als Checkliste vor dem Start behandeln statt als fortlaufenden Prozess
Keine Fehlanwendungsanalyse: Risiken der bestimmungsgemäßen Verwendung ermitteln, vorhersehbare Fehlanwendungsszenarien aber ignorieren
Undokumentierte Methodik: subjektive Risikoeinschätzungen ohne definierte Bewertungskriterien verwenden
Keine Nachvollziehbarkeit: Risiken und Kontrollen in getrennten Dokumenten führen, ohne klare Zuordnung
Fehlende Testnachweise: behaupten, Minderungen seien wirksam, ohne dokumentierte Validierung
Keine Überwachung im Produktivbetrieb: das System ausrollen und nie prüfen, ob die Risikoannahmen in der Praxis halten
Veraltete Dokumentation: Risikoregister, die seit über 12 Monaten nicht aktualisiert wurden
Keine Versionskontrolle: alte Risikobewertungen überschreiben, statt eine Änderungshistorie zu führen

Jede dieser Lücken würde es schwer machen, nachzuweisen, dass ein System Artikel 9 erfüllt. Bei Artikel 9 geht es nicht darum, irgendeine Dokumentation zu haben, sondern die richtige — aktuell gehalten und nachweislich für Entscheidungen genutzt.

Wie Artikel 9 mit anderen Anforderungen zusammenhängt

Artikel 9 ist das Fundament, steht aber nicht für sich. Ihr Risikomanagementsystem muss einfließen in:

Artikel 10 (Daten-Governance): Die Risikobewertung bestimmt, welche Trainingsdaten Sie brauchen und wie Sie sie validieren
Artikel 13 (Transparenz): Die ermittelten Risiken bestimmen, welche Informationen Sie Betreibern geben müssen
Artikel 14 (menschliche Aufsicht): Die Schwere der Risiken bestimmt das erforderliche Maß menschlicher Kontrolle
Artikel 15 (Genauigkeit, Robustheit, Cybersicherheit): Die Risikominderung treibt Ihre technischen Leistungsanforderungen
Artikel 72 (Beobachtung nach dem Inverkehrbringen): Fortlaufendes Risikomanagement erfordert eine ständige Leistungsverfolgung

Ist Ihr Prozess nach Artikel 9 schwach, wird jede nachgelagerte Pflicht schwerer zu erfüllen.

Praktische Umsetzungscheckliste

Hier ist ein 30-Tage-Fahrplan zum Aufbau der Konformität mit Artikel 9:

Woche 1: Abgrenzung und Methodik

Bestätigen Sie, dass Ihr System hochriskant ist (prüfen Sie Artikel 6 und Anhang III)
Definieren Sie Ihren Risikomanagementprozess (wer verantwortet ihn, Prüfrhythmus, Eskalationswege)
Wählen Sie eine Methodik zur Risikobewertung (ISO 31000, NIST AI RMF oder eine eigene)
Dokumentieren Sie Ihre Kriterien zur Risikobewertung (Schwereskala, Wahrscheinlichkeitsskala, Akzeptanzschwellen)

Woche 2: Risikoermittlung und -analyse

Führen Sie einen strukturierten Risiko-Workshop mit Engineering, Produkt, Recht und Compliance durch
Ermitteln Sie Risiken für Gesundheit, Sicherheit und Grundrechte
Analysieren Sie Szenarien vernünftigerweise vorhersehbarer Fehlanwendung
Befüllen Sie Ihr Risikoregister mit ersten Schätzungen zu Schwere und Wahrscheinlichkeit

Woche 3: Risikobewertung und Minderungsplanung

Bewerten Sie jedes Risiko anhand Ihrer Akzeptanzkriterien
Entwerfen Sie Minderungskontrollen für nicht hinnehmbare Risiken
Ordnen Sie jede Kontrolle dem konkreten Risiko zu, das sie adressiert
Definieren Sie Testpläne zur Validierung der Kontrollwirksamkeit

Woche 4: Tests, Dokumentation und Aufbau der Überwachung

Führen Sie Validierungstests für jede Minderungskontrolle durch
Dokumentieren Sie die Testergebnisse und aktualisieren Sie das Risikoregister um die Restrisikoniveaus
Richten Sie die Überwachung im Produktivbetrieb ein (Leistungskennzahlen, Anomalieerkennung, Feedbackkanäle für Nutzende)
Terminieren Sie Ihre erste vierteljährliche Risikomanagement-Überprüfung

Das ist keine Ein-Personen-Aufgabe. Konformität mit Artikel 9 verlangt bereichsübergreifende Zusammenarbeit und Rückhalt in der Geschäftsleitung.

Was passiert, wenn Sie nicht konform sind

Die Verordnung stuft einen Verstoß gegen Artikel 9 nicht gesondert ein: Ein Anbieter muss sicherstellen, dass sein Hochrisiko-System Artikel 9 erfüllt (Art. 16 Buchst. a), und ein Verstoß gegen diese Pflicht fällt in die Stufe des Artikels 99 Absatz 4. Nach Artikel 79 können nationale Marktüberwachungsbehörden:

Sie verpflichten, innerhalb einer von ihnen gesetzten Frist (höchstens 15 Arbeitstage) Korrekturmaßnahmen zu ergreifen, das System vom Markt zu nehmen oder zurückzurufen
die Bereitstellung Ihres KI-Systems auf ihrem nationalen Markt einschränken oder verbieten, wenn Sie dem nicht nachkommen
Geldbußen von bis zu 15 Millionen Euro oder 3 % des gesamten weltweiten Jahresumsatzes verhängen (Art. 99 Abs. 4); für KMU gilt der niedrigere Betrag

Über regulatorische Sanktionen hinaus setzt Sie unzureichendes Risikomanagement Folgendem aus:

Zivilrechtliche Haftung: Verursacht Ihr KI-System einen Schaden und können Sie kein angemessenes Risikomanagement belegen, drohen Klagen nach nationalem Produkthaftungsrecht
Reputationsschaden: Die Veröffentlichung von Durchsetzungsmaßnahmen kann das Kundenvertrauen zerstören

Die Kosten der Nichtkonformität übersteigen die Kosten, es richtig zu machen, bei Weitem.

Dieser Artikel liefert allgemeine Informationen zur EU-KI-Verordnung und stellt keine Rechtsberatung dar. Wenden Sie sich bei konkreten Compliance-Fragen an eine qualifizierte Rechtsberatung mit Expertise im europäischen KI-Recht.