Artikel 14 der EU-KI-Verordnung: Anforderungen an die menschliche Aufsicht

Aktualisiert am 4. August 2026 — Frist geändert. Der Digital Omnibus (angenommen vom Europäischen Parlament am 16. Juni 2026 und vom Rat am 29. Juni 2026) hat die Hochrisiko-Pflichten nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 verschoben. Die Transparenzpflichten des Artikels 50 wurden nicht verschoben und gelten seit dem 2. August 2026. Dieser Artikel wurde entsprechend korrigiert.

Wenn Ihr KI-System nach der EU-KI-Verordnung als Hochrisiko-System eingestuft ist, verlangt Artikel 14 von Ihnen, es so zu gestalten, dass Menschen seinen Betrieb wirksam beaufsichtigen können. Das ist keine Formsache, sondern eine grundlegende architektonische Anforderung, die beeinflusst, wie Sie Ihr System bauen, in Betrieb nehmen und überwachen.

Artikel 14 schreibt vor, dass Hochrisiko-KI-Systeme so konzipiert sein müssen, dass menschliche Aufsicht durch geeignete Maßnahmen möglich ist. Diese Maßnahmen müssen es Menschen erlauben, die Ausgaben des Systems zu verstehen, Ergebnisse zu interpretieren und bei Bedarf einzugreifen. Diese Pflichten gelten ab dem 2. Dezember 2027 — mit Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes nach Art. 99 Abs. 4, wobei für KMU der niedrigere der beiden Beträge gilt.

Dieser Leitfaden erklärt, was Artikel 14 verlangt, welche Aufsichtsmaßnahmen der Verordnung genügen und wie sich menschliche Aufsicht umsetzen lässt, die in der Praxis funktioniert.

Was Artikel 14 verlangt

Artikel 14 gilt für Anbieter von Hochrisiko-KI-Systemen (jene, die in Anhang III aufgeführt oder nach Artikel 6 eingestuft sind). Er verlangt, dass Systeme so konzipiert und entwickelt werden, dass sie während ihrer Verwendung von natürlichen Personen wirksam beaufsichtigt werden können.

Grundlegende Pflichten zur menschlichen Aufsicht

Die menschliche Aufsicht muss darauf abzielen, Risiken für Gesundheit, Sicherheit oder Grundrechte zu verhindern oder zu minimieren, die entstehen können, wenn ein Hochrisiko-KI-System entsprechend seiner Zweckbestimmung oder unter Bedingungen vernünftigerweise vorhersehbarer Fehlanwendung verwendet wird.

Aufsichtsmaßnahmen müssen es den betreffenden Personen ermöglichen,

1. die Fähigkeiten und Grenzen des Hochrisiko-KI-Systems vollständig zu verstehen
2. sich der möglichen Neigung bewusst zu bleiben, sich automatisch oder übermäßig auf die Ausgabe eines Hochrisiko-KI-Systems zu verlassen (Automatisierungsbias)
3. die Ausgabe des Systems korrekt zu interpretieren, unter Berücksichtigung der Merkmale des Systems sowie der verfügbaren Interpretationswerkzeuge und -methoden
4. zu entscheiden, das System nicht zu verwenden oder die Ausgabe in einer bestimmten Situation anderweitig zu ignorieren, zu übergehen oder rückgängig zu machen
5. in den Betrieb des Systems einzugreifen oder es über eine „Stopp“-Schaltfläche oder ein vergleichbares Verfahren zu unterbrechen

Darüber hinaus müssen die Aufsichtsmaßnahmen vor dem Inverkehrbringen vom Anbieter ermittelt und in das System eingebaut werden, oder sie müssen als geeignet für die Umsetzung durch den Betreiber ermittelt werden.

Die drei Arten menschlicher Aufsicht

Artikel 14 kennt je nach Risikoniveau und Einsatzkontext drei Aufsichtsmuster:

1. Human-in-the-Loop (HITL)

Das KI-System gibt eine Empfehlung ab, doch ein Mensch trifft die endgültige Entscheidung, bevor gehandelt wird.

Beispiel: Ein KI-System empfiehlt, einen Kreditantrag abzulehnen, doch ein menschlicher Kreditsachbearbeiter muss die Empfehlung prüfen und die Ablehnung genehmigen, bevor die antragstellende Person benachrichtigt wird.

Wann erforderlich: Bei folgenreichen Entscheidungen über Personen (Einstellung, Kredit, Anspruch auf Leistungen).

2. Human-on-the-Loop (HOTL)

Das KI-System arbeitet autonom, doch ein Mensch überwacht seinen Betrieb in Echtzeit und kann bei Bedarf eingreifen.

Beispiel: Ein autonomes Fahrzeug fährt selbst, doch ein Sicherheitsfahrer überwacht das System und kann jederzeit die Kontrolle übernehmen.

Wann erforderlich: Bei Echtzeitsystemen, bei denen Human-in-the-Loop eine nicht hinnehmbare Latenz verursachen würde, ein menschliches Eingreifen aber möglich bleiben muss.

3. Human-in-Command (HIC)

Ein Mensch beaufsichtigt den Gesamtbetrieb des KI-Systems, einschließlich der Möglichkeit, es zu deaktivieren oder abzuschalten.

Beispiel: Eine Krankenhausverwaltung kann ein KI-gestütztes Diagnosewerkzeug abschalten, wenn es beginnt, unzuverlässige Ergebnisse zu liefern.

Wann erforderlich: Bei allen Hochrisiko-Systemen (Mindeststandard). Menschen müssen stets die Möglichkeit behalten, das System zu stoppen.

Die meisten Hochrisiko-KI-Systeme erfordern mehrere Aufsichtsebenen — etwa Human-in-the-Loop für Einzelentscheidungen plus Human-in-Command für die Steuerung auf Systemebene.

Checkliste zur Konformität mit Artikel 14

Das müssen Sie umsetzen und dokumentieren:

Anforderung	Was Sie umsetzen müssen	Erforderliche Nachweise
Verständnis von Fähigkeiten und Grenzen	Schulungsunterlagen, Systemdokumentation, Offenlegung der Leistung	Benutzerhandbuch, Schulungsnachweise, Betriebsanleitung (Artikel 13)
Bewusstsein für Automatisierungsbias	Warnhinweise, Schulung zu Risiken übermäßigen Vertrauens, entscheidungserzwingende Funktionen	Warnhinweise in der Oberfläche, Schulungsunterlagen, Audit-Protokolle der Entscheidungen
Interpretationswerkzeuge	Erklärbarkeitsfunktionen, Konfidenzwerte, Merkmalswichtigkeit	Erklärbarkeitsberichte, Screenshots der Oberfläche, Interpretationsleitfaden
Möglichkeit, zu übergehen oder zu ignorieren	Übersteuerungs-Schaltfläche, manueller Prüfworkflow, Ablehnungsmechanismus	Design-Dokumente der Oberfläche, Übersteuerungsprotokolle, Ablaufdiagramme
Möglichkeit, einzugreifen oder zu stoppen	Not-Aus-Schaltfläche, Abschaltverfahren, Eskalationspfad	Technische Architektur, Gestaltung der Stopp-Schaltfläche, Notfallplan
Zuweisung der Aufsichtsrolle	Wer das System beaufsichtigt, erforderliche Qualifikationen, Eskalationshierarchie	Rollenbeschreibungen, RACI-Matrix, Schulungsanforderungen

Praxisbeispiel: ein KI-gestütztes Recruiting-Werkzeug

Angenommen, Sie bieten ein KI-System an, das Lebensläufe sichtet und Kandidatinnen und Kandidaten für Vorstellungsgespräche empfiehlt — ein Hochrisiko-System nach Anhang III Nummer 4 Buchstabe a.

Schritt 1: Erforderliche Aufsichtsart bestimmen

Ihr System trifft Entscheidungen, die den Zugang von Personen zu Beschäftigung erheblich beeinflussen. Sie benötigen Human-in-the-Loop-Aufsicht: Ein Mensch muss jede Einstellungsentscheidung prüfen und genehmigen, bevor die Bewerbenden benachrichtigt werden.

Schritt 2: Interpretationswerkzeuge gestalten

Sie implementieren Erklärbarkeitsfunktionen, damit Recruiting-Verantwortliche verstehen, warum das System eine Person empfohlen oder abgelehnt hat:

• Werte zur Merkmalswichtigkeit: „Diese Person wurde hoch bewertet aufgrund von: einschlägiger Berufserfahrung (35 %), Übereinstimmung der Ausbildung (28 %), Passung der Kompetenzen (22 %), weiteren Faktoren (15 %)“
• Konfidenzwert: „Konfidenz: 78 % (mittlere Konfidenz — manuelle Prüfung empfohlen)“
• Vergleichsansicht: Gegenüberstellung der besten Kandidatinnen und Kandidaten mit hervorgehobenen Unterscheidungsmerkmalen

Schritt 3: Übersteuerungsmechanismus einrichten

Sie bauen einen Workflow, in dem Recruiting-Verantwortliche

• die KI-Empfehlung annehmen können (die Person geht in die Gesprächsphase),
• die KI-Empfehlung ablehnen können (die Person wird von einer erfahrenen Recruiterin oder einem erfahrenen Recruiter manuell geprüft),
• zur Prüfung markieren können (der Fall geht an den Auswahlausschuss).

Jede Übersteuerung wird mit einem Begründungscode protokolliert (z. B. „KI hat einschlägige Erfahrung übersehen“, „Kandidat hat einen ungewöhnlichen Werdegang“, „Verdacht auf Verzerrung“).

Schritt 4: Automatisierungsbias abmildern

Sie ergänzen Warnhinweise in der Oberfläche, um übermäßiges Vertrauen zu verhindern:

• Entscheidungserzwingende Abfrage: „Haben Sie den vollständigen Lebenslauf geprüft, bevor Sie diese Empfehlung annehmen?“
• Zufällige manuelle Prüfung: 10 % der KI-Empfehlungen werden zur verpflichtenden manuellen Prüfung markiert, auch wenn die Recruiting-Verantwortlichen der KI zustimmen
• Schulungspflicht: Alle Recruiting-Verantwortlichen müssen vor der Nutzung des Systems eine 30-minütige Schulung zum Automatisierungsbias absolvieren

Schritt 5: Steuerung auf Systemebene vorsehen

Sie setzen Human-in-Command-Aufsicht um:

• Die Systemadministration (die Personalleitung) kann das KI-System jederzeit deaktivieren
• Ein Leistungs-Dashboard zeigt Genauigkeit, Verzerrungskennzahlen und Übersteuerungsquoten in Echtzeit
• Automatische Abschaltauslöser: Das System deaktiviert sich selbst, wenn die Genauigkeit unter 80 % fällt oder Verzerrungskennzahlen vorab festgelegte Schwellenwerte überschreiten

Schritt 6: Alles dokumentieren

Sie erstellen ein Aufsichtskonzept, das Folgendes enthält:

• Rollenbeschreibungen (wer beaufsichtigt was)
• Aufsichtsabläufe (Diagramme der Entscheidungswege)
• Interpretationswerkzeuge (Screenshots, Benutzerleitfaden)
• Übersteuerungsmechanismen (technische Gestaltung, Protokolle)
• Schulungsanforderungen (Curriculum, Nachverfolgung der Abschlüsse)
• Steuerung auf Systemebene (Abschaltverfahren, Eskalationspfade)

Dieses Dokument wird Teil Ihrer technischen Dokumentation nach Artikel 11 und fließt in Ihre Betriebsanleitung nach Artikel 13 ein.

Häufige Lücken und wie Sie sie schließen

Lücke 1: keine Erklärbarkeitsfunktionen

Problem: Ihr System liefert Empfehlungen, aber die Nutzenden können nicht nachvollziehen, warum.

Lösung: Setzen Sie Interpretationswerkzeuge ein:

• Konfidenzwerte (wie sicher ist sich das System?)
• Merkmalswichtigkeit (welche Faktoren haben diese Entscheidung bestimmt?)
• Kontrafaktische Erklärungen (was müsste sich für ein anderes Ergebnis ändern?)
• Vergleichsansichten (wie verhält sich dieser Fall zu ähnlichen Fällen?)

Lücke 2: Der Übersteuerungsmechanismus existiert, wird aber nicht genutzt

Problem: Nutzende können das System übersteuern, tun es in der Praxis aber fast nie (Automatisierungsbias).

Lösung: Setzen Sie entscheidungserzwingende Funktionen ein:

• Verlangen Sie, dass Nutzende Entscheidungen aktiv bestätigen (nicht bloß auf „Alle annehmen“ klicken)
• Wählen Sie verpflichtende manuelle Prüfungen zufällig aus
• Verfolgen Sie die Übersteuerungsquoten und gehen Sie zu niedrigen Werten nach
• Schulen Sie Nutzende darin, wann und wie sie übersteuern

Lücke 3: keine Abschaltmöglichkeit auf Systemebene

Problem: Einzelne Nutzende können Empfehlungen ablehnen, aber niemand kann das gesamte System stoppen, wenn es fehlerhaft zu arbeiten beginnt.

Lösung: Setzen Sie Human-in-Command-Kontrollen um:

• Benennen Sie eine systemverantwortliche Person mit Abschaltbefugnis
• Bauen Sie einen Not-Aus-Mechanismus (z. B. ein Admin-Dashboard mit der Schaltfläche „System deaktivieren“)
• Legen Sie automatische Abschaltauslöser fest (Genauigkeitsschwellen, Verzerrungsschwellen, Vorfallmeldungen)
• Dokumentieren Sie Eskalationsverfahren (wer wird benachrichtigt, wie schnell, was geschieht dann)

Lücke 4: Aufsichtsrollen sind nicht definiert

Problem: Es ist unklar, wer für die Aufsicht über das System zuständig ist, welche Qualifikationen erforderlich sind und was diese Personen tun sollen.

Lösung: Definieren Sie Aufsichtsrollen und -verantwortlichkeiten:

• Wer prüft Einzelentscheidungen? (z. B. Recruiting-Verantwortliche, Kreditsachbearbeitung)
• Wer überwacht die Leistung auf Systemebene? (z. B. Compliance-Leitung, ML-Engineering)
• Wer ist befugt, das System abzuschalten? (z. B. CTO, Leitung Compliance)
• Welche Qualifikationen sind erforderlich? (z. B. absolvierte Schulung, Fachkenntnis)
• Wie werden Aufsichtstätigkeiten protokolliert und geprüft?

Wie Artikel 14 mit anderen Artikeln zusammenhängt

Die Aufsichtsanforderungen des Artikels 14 greifen mit mehreren weiteren Pflichten ineinander:

• Artikel 9 (Risikomanagement): Die in Ihrer Risikobewertung nach Artikel 9 ermittelten Risiken bestimmen, welche Aufsichtsmaßnahmen nach Artikel 14 nötig sind.
• Artikel 13 (Transparenz): Die nach Artikel 14 umgesetzten Aufsichtsmaßnahmen müssen in Ihrer Betriebsanleitung nach Artikel 13 beschrieben werden.
• Artikel 29 (Pflichten der Betreiber): Betreiber müssen die Aufsicht Personen mit der erforderlichen Kompetenz, Schulung und Befugnis übertragen — was voraussetzt, dass Sie als Anbieter das System für wirksame Aufsicht ausgelegt haben.
• Artikel 72 (Recht auf Erläuterung): Personen, die von Entscheidungen eines Hochrisiko-KI-Systems betroffen sind, haben ein Recht auf Erläuterung — was voraussetzt, dass Ihre Aufsichtswerkzeuge Erklärbarkeitsfunktionen enthalten.

Worauf Aufsichtsbehörden achten werden

Wenn eine Marktüberwachungsbehörde Ihr Hochrisiko-KI-System prüft, wird sie fragen:

1. Zeigen Sie mir, wie Menschen dieses System beaufsichtigen. (Welche Abläufe, Werkzeuge und Kontrollen gibt es?)
2. Wie verstehen Nutzende, was das System tut? (Sind Erklärbarkeitsfunktionen eingebaut?)
3. Können Nutzende Systemausgaben übersteuern oder ablehnen? (Gibt es einen dokumentierten Übersteuerungsmechanismus?)
4. Wie verhindern Sie Automatisierungsbias? (Welche Schulungen, Warnhinweise oder entscheidungserzwingenden Funktionen gibt es?)
5. Wer kann das System bei Fehlfunktionen abschalten? (Gibt es eine benannte verantwortliche Person mit Abschaltbefugnis?)
6. Woher wissen Sie, dass die Aufsicht wirkt? (Werden Übersteuerungsquoten, Prüfzeiten und Vorfallmeldungen erfasst?)

Wenn Sie wirksame Aufsicht nicht mit Dokumenten und Protokollen belegen können, sind Sie nicht konform.

Zeitplan und Durchsetzung

Datum	Meilenstein
2. August 2025	Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und das Sanktionsregime gelten
2. August 2026	Die Transparenzpflichten des Artikels 50 gelten (nicht verschoben)
2. Dezember 2027	Die Pflichten des Artikels 14 gelten für Hochrisiko-KI-Systeme nach Anhang III
2. August 2028	Die Hochrisiko-Pflichten nach Anhang I gelten (KI in regulierten Produkten)

Wenn Ihr Hochrisiko-KI-System bereits im Einsatz ist, müssen Sie bis zum 2. Dezember 2027 konforme Aufsichtsmaßnahmen umsetzen. Wenn Sie ein neues System bauen, gilt Artikel 14 ab der Entwurfsphase.

Wie Vigilia hilft

Vigilias Audit zur EU-KI-Verordnung umfasst eine Lückenanalyse zu Artikel 14:

• Wir prüfen, ob Ihr System die von Artikel 14 geforderten Aufsichtsmaßnahmen enthält
• Wir ermitteln fehlende Fähigkeiten (Erklärbarkeitswerkzeuge, Übersteuerungsmechanismen, Abschaltkontrollen)
• Wir liefern einen Maßnahmenplan mit konkreten Designänderungen und Dokumentationsanforderungen

Das Audit dauert 20 Minuten und kostet 499 € — gegenüber 5.000–40.000 € für ein herkömmliches Compliance-Audit.

Bereit, Ihre Konformität mit Artikel 14 zu prüfen? Erstellen Sie Ihren auditfähigen Bericht auf www.aivigilia.com. Sie erhalten eine detaillierte Lückenanalyse zu den Artikeln 9, 10, 12, 13, 14 und 52 sowie einen Maßnahmenplan, den Sie an Ihre Engineering- und Compliance-Teams weitergeben können.

---

Dieser Artikel dient ausschließlich Informationszwecken und stellt keine Rechtsberatung dar. Wenden Sie sich für Fragen zu Ihrer konkreten Situation an eine qualifizierte Rechtsberatung.