Vigilia.
← Meldungen
31. Mai 2026EU-KI-Verordnung14 Min. Lesezeit

Abgelegt unter — EU AI Act · AI Code Assistants · Article 50 · Developer Tools · Compliance

Diese Quelle bei Google bevorzugen →

Die EU-KI-Verordnung und KI-Programmierassistenten: Leitfaden zur Konformität

KI-Programmierassistenten unterliegen Pflichten aus der EU-KI-Verordnung. Risikoeinstufung, Offenlegungspflichten nach Artikel 50 und die Schritte, die bereits heute gelten.

Die Depesche in zwei Minuten. Mit Ton; Stimme und Untertitel auf Englisch. Erstellt von Vigilias KI-Agent, von einem Menschen freigegeben.

Aktualisiert am 2. Oktober 2026 — Korrektur. Dieser Leitfaden bezeichnete einen Programmierassistenten als Hochrisiko-KI-System, wenn er beim Schreiben von Code für kritische Infrastruktur oder Medizinprodukte hilft, zitierte Artikel 50 Absatz 1 im Wortlaut des Entwurfs von 2021 und stellte eine Abschaltmöglichkeit, eine Klausel in den Nutzungsbedingungen und die Einwilligung der Nutzer als rechtliche Anforderungen dar. Jetzt legt er dar, dass das Schreiben von Code mit einem Assistenten diesen nicht zu einem Sicherheitsbauteil nach Anhang III Nummer 2 oder Artikel 6 Absatz 1 macht, zitiert Artikel 50 Absatz 1 in der angenommenen Fassung der Verordnung (EU) 2024/1689, kennzeichnet die Abschaltmöglichkeit und die Nutzungsbedingungen als bewährte Praxis, behandelt die Einwilligung als eine von sechs Rechtsgrundlagen und nennt keine Produkte mehr und trifft keine rechtlichen Feststellungen mehr.

KI-Programmierassistenten — Werkzeuge zur Autovervollständigung im Editor, KI-gestützte Code-Editoren, chatbasierte Programmieragenten und ähnliche Werkzeuge — sind heute in viele Entwickler-Workflows eingebettet. Sie vervollständigen Funktionen, erzeugen Standardcode, schlagen Refactorings vor und schreiben aus Anweisungen in natürlicher Sprache sogar ganze Module.

Aktualisiert am 4. August 2026 — korrigiert. Die Transparenzpflichten stehen in der verabschiedeten Verordnung (EU) 2024/1689 in Artikel 50; „Artikel 52“ war die Nummerierung des Entwurfs. Der Digital Omnibus (angenommen am 16. und 29. Juni 2026) hat die Hochrisiko-Pflichten aus Anhang III auf den 2. Dezember 2027 verschoben, Artikel 50 jedoch nicht — dieser gilt seit dem 2. August 2026. Dieser Artikel wurde entsprechend korrigiert.

Nach der EU-KI-Verordnung sind diese Werkzeuge aber nicht von der Regulierung ausgenommen. Je nachdem, wie sie eingesetzt und wofür sie verwendet werden, können sie die Transparenzpflichten des Artikels 50 auslösen — und in manchen Fällen eine Einstufung als Hochrisiko-KI-System nach Anhang III.

Die Transparenzpflichten des Artikels 50 gelten seit dem 2. August 2026 — sie sind heute in Kraft und wurden vom Digital Omnibus nicht verschoben. Ein Verstoß fällt in die Stufe des Artikels 99 Absatz 4: ein gesetzliches Höchstmaß von 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, bei KMU und Start-ups jeweils der niedrigere der beiden Beträge. Wenn Sie einen KI-Programmierassistenten in der EU entwickeln, betreiben oder verkaufen, müssen Sie wissen, wo Sie stehen.

Dieser Leitfaden erklärt, wie die EU-KI-Verordnung auf KI-Programmierassistenten anzuwenden ist, wie Konformität aussieht und welche Dokumentation Sie brauchen.

Sind KI-Programmierassistenten nach der EU-KI-Verordnung Hochrisiko-KI-Systeme?

Die erste Frage lautet: Fällt Ihr KI-Programmierassistent unter Anhang III, oder ist er ein Produkt oder Sicherheitsbauteil nach Anhang I?

Programmierassistenten für die alltägliche Entwicklung: kein hohes Risiko

Die meisten KI-Programmierassistenten sind Mehrzweckwerkzeuge, die Entwicklern helfen, schneller Code zu schreiben. Sie treffen keine folgenschweren Entscheidungen über Personen, sind keine Sicherheitsbauteile kritischer Infrastruktur und bestimmen nicht den Zugang zu wesentlichen Diensten.

Beispiele für solche Programmierassistenten:

  • Autovervollständigung und Codeerzeugung im Editor
  • KI-gestützte Code-Editoren
  • Plug-ins zur Codevervollständigung
  • Chatbasierte Programmierassistenten

Risikoeinstufung: kein Hochrisiko-KI-System nach Anhang III.

Pflichten: Artikel 50 (Transparenz und Offenlegung), DSGVO (bei Verarbeitung personenbezogener Daten). Stellen Sie auch das KI-Modell mit allgemeinem Verwendungszweck bereit, auf dem der Assistent läuft, gelten für Sie als dessen Anbieter die Pflichten für Modelle aus Kapitel V (Artikel 51 bis 56).

Wann ein Programmierassistent zum Hochrisiko-KI-System wird

Ein KI-Programmierassistent wird nur dann zum Hochrisiko-KI-System, wenn seine eigene bestimmungsgemäße Verwendung unter Anhang III fällt oder wenn er selbst ein Produkt oder das Sicherheitsbauteil eines Produkts nach den Rechtsvorschriften des Anhangs I ist (Artikel 6). Wofür der Code bestimmt ist, bei dessen Erstellung er hilft, genügt nicht:

  1. Code für kritische Infrastruktur (Anhang III Nummer 2) — aus diesem Grund kein hohes Risiko

    • Beispiel: ein Assistent, der einem Entwickler hilft, Code für die Steuerung von Stromnetzen, für Verkehrsleitsysteme oder für die Wasserversorgung zu schreiben oder zu ändern
    • Warum er nicht aufgeführt ist: Anhang III Nummer 2 erfasst KI, die als Sicherheitsbauteil im Rahmen der Verwaltung und des Betriebs der Infrastruktur verwendet wird. Ein Assistent, der beim Schreiben des Codes hilft, ist ein Entwicklungswerkzeug, nicht dieses Sicherheitsbauteil. Der von ihm erzeugte Code wird nach den Vorschriften geprüft, die für die Infrastruktur gelten.
  2. Code für sicherheitskritische Produkte (Artikel 6 Absatz 1 + Rechtsvorschriften des Anhangs I) — aus diesem Grund kein hohes Risiko

    • Beispiel: ein Assistent, der Code für Medizinprodukte, für Sicherheitssysteme in Fahrzeugen oder für Luftfahrtsoftware schreibt
    • Warum er nicht aufgeführt ist: Artikel 6 Absatz 1 erfasst KI, die selbst ein Produkt oder das Sicherheitsbauteil eines Produkts nach den Rechtsvorschriften des Anhangs I ist (Medizinprodukteverordnung, Maschinenrichtlinie usw.). Die Firmware ist Teil des Produkts und wird nach diesen Rechtsvorschriften bewertet; der Assistent, mit dem sie geschrieben wurde, ist weder das Produkt noch dessen Sicherheitsbauteil.
  3. Der Programmierassistent trifft beschäftigungsbezogene Entscheidungen (Anhang III Nummer 4) — hohes Risiko

    • Beispiel: ein KI-Werkzeug, das die Leistung von Entwicklern anhand von Codequalitätskennzahlen bewertet und Entscheidungen über Einstellung, Beförderung oder Kündigung beeinflusst
    • Warum das ein hohes Risiko ist: Anhang III Nummer 4 führt KI auf, die zur Bewertung von Bewerbern sowie zur Beobachtung und Bewertung der Leistung von Beschäftigten verwendet wird

Kernpunkt: Über die Risikoeinstufung entscheidet der Anwendungsfall, nicht das Werkzeug selbst. Ein Programmierassistent wird zum Hochrisiko-KI-System, wenn er selbst für eine Verwendung nach Anhang III eingesetzt wird, etwa zur Bewertung von Beschäftigten — nicht wegen des Codes, bei dessen Erstellung er hilft.

Artikel 50: Transparenzpflichten für KI-Programmierassistenten

Auch wenn Ihr Programmierassistent kein Hochrisiko-KI-System ist, unterliegt er sehr wahrscheinlich Artikel 50 — den Transparenz- und Offenlegungsanforderungen der EU-KI-Verordnung für KI-Systeme, die direkt mit Menschen interagieren oder Inhalte erzeugen.

Was Artikel 50 verlangt

Artikel 50 Absatz 1 bestimmt:

„Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich.“

Artikel 50 Absatz 5 ergänzt, dass die Information spätestens zum Zeitpunkt der ersten Interaktion in klarer und eindeutiger Weise bereitgestellt werden muss.

Gilt das für Programmierassistenten?

Sehr wahrscheinlich. KI-Programmierassistenten interagieren direkt mit Entwicklern (natürlichen Personen), indem sie Code vorschlagen, vervollständigen oder erzeugen. Sofern es für eine angemessen informierte, aufmerksame und verständige Entwicklerin oder einen ebensolchen Entwickler nicht offensichtlich ist, dass sie oder er mit einer KI interagiert, muss der Anbieter sicherstellen, dass sie oder er darüber informiert wird.

Wann ist es „offensichtlich“?

Die Verordnung definiert „offensichtlich“ nicht über diesen Maßstab der verständigen Person hinaus, und die Erwägungsgründe fügen keine Prüfliste hinzu. Nach Vigilias Lesart kann die Information als offensichtlich gelten, wenn

  • das Werkzeug ausdrücklich als KI-Assistent vermarktet wird,
  • die Oberfläche KI-erzeugte Vorschläge klar kennzeichnet (etwa ausgegrauter Text, Kennzeichnung „KI-Vorschlag“),
  • die Nutzerin oder der Nutzer die KI ausdrücklich aufgerufen hat (etwa durch Eingabe einer Anweisung oder einen Tastenkürzel).

Läuft die KI dagegen unbemerkt im Hintergrund (etwa indem sie Codeänderungen automatisch anwendet, ohne dass die Nutzerin oder der Nutzer davon weiß), lässt sich auf die Ausnahme kaum stützen.

So erfüllen Sie Artikel 50 bei einem Programmierassistenten

Die ersten beiden Zeilen zeigen, wie Artikel 50 Absatz 1 erfüllt wird; die letzten beiden sind bewährte Praxis, keine Anforderungen des Artikels 50.

Praxis Umsetzung Beispiel
Nutzer darüber informieren, dass sie mit KI interagieren (Artikel 50 Absatz 1) Beim ersten Gebrauch des Werkzeugs einen Hinweis anzeigen „Dieser Editor nutzt KI, um Codevervollständigungen vorzuschlagen. Mehr erfahren.“
KI-Vorschläge optisch abheben (Artikel 50 Absatz 1) Gestaltung nutzen (ausgegrauter Text, Symbole, Kennzeichnungen), um KI-Ausgaben von menschlich geschriebenem Code zu unterscheiden Ausgegrauter Vorschlagstext im Editor
Abschalt- oder Widerspruchsmöglichkeit anbieten (bewährte Praxis) Nutzern erlauben, KI-Vorschläge abzuschalten Schalter in den Einstellungen: „KI-Codevorschläge aktivieren“
KI-Einsatz in den Nutzungsbedingungen dokumentieren (bewährte Praxis) Erläutern, dass das Werkzeug KI nutzt, welche Daten es verarbeitet und wie Vorschläge entstehen „Unser Programmierassistent nutzt ein großes Sprachmodell, das auf öffentlichen Code-Repositorien trainiert wurde, um Vorschläge zu erzeugen.“

Ergebnis: Hinweistext für Nutzer, Anpassungen der Oberfläche zur Kennzeichnung von KI-Vorschlägen und, als bewährte Praxis, aktualisierte Nutzungsbedingungen.

Artikel 50 Absatz 2: Offenlegung KI-erzeugter Inhalte

Artikel 50 Absatz 2 verlangt von Anbietern von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherzustellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht gilt nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten nicht wesentlich verändert.

Gilt das für Programmierassistenten?

Möglicherweise. Wenn Ihr Programmierassistent ganze Funktionen, Module oder Dateien erzeugt (und nicht nur vervollständigt), kann der erzeugte Code als synthetischer Textinhalt gelten. Kurze Vervollständigungen, die nur die eigene Bearbeitung der Entwicklerin oder des Entwicklers unterstützen, können unter die Ausnahme für unterstützende Funktionen fallen.

So erfüllen Sie die Pflicht

Die technischen Lösungen müssen, soweit technisch möglich, wirksam, interoperabel, belastbar und zuverlässig sein (Artikel 50 Absatz 2). Mögliche Ansätze:

  • Metadaten in den erzeugten Code einbetten: Kommentare hinzufügen, die auf die KI-Erzeugung hinweisen

    # AI-generated by [Tool Name] on [Date]
    def calculate_total(items):
        return sum(item.price for item in items)
    
  • Eine maschinenlesbare Markierung bereitstellen: ein standardisiertes Format verwenden (etwa eine begleitende JSON-Datei, eine Codeannotation oder ein Wasserzeichen im Dateikopf)

  • KI-erzeugten Code in der Versionsverwaltung protokollieren: Wird der Code in ein Repository übernommen, Metadaten in die Commit-Nachricht oder die Dateihistorie aufnehmen

Ergebnis: ein Metadatenstandard für die Codeerzeugung, umgesetzt in der Ausgabe des Programmierassistenten.

DSGVO-Aspekte bei Programmierassistenten

KI-Programmierassistenten verarbeiten häufig personenbezogene Daten — entweder weil sie den Code der Entwicklerin oder des Entwicklers analysieren (der Namen, E-Mail-Adressen, API-Schlüssel oder andere personenbezogene Daten enthalten kann), oder weil sie Codeausschnitte zur Inferenz an ein Cloud-Modell senden.

Zentrale DSGVO-Pflichten

Pflicht Was sie verlangt So erfüllen Sie sie
Rechtsgrundlage (Artikel 6) Für die Verarbeitung personenbezogener Daten brauchen Sie eine Rechtsgrundlage (etwa Einwilligung, berechtigtes Interesse) Die Rechtsgrundlage wählen und dokumentieren, bevor Code an Cloud-Modelle geht — die Einwilligung ist eine von sechs Rechtsgrundlagen, nicht die einzige; wenn Sie sich auf ein berechtigtes Interesse stützen, die Abwägung dokumentieren
Datenminimierung (Artikel 5) Nur die für die Aufgabe erforderlichen Daten verarbeiten Senden Sie keine vollständigen Codebasen in die Cloud, sondern nur das relevante Kontextfenster
Transparenz (Artikel 13 und 14) Nutzer darüber informieren, welche Daten Sie wie verarbeiten Datenschutzerklärung: „Wir verarbeiten Codeausschnitte, um Vorschläge zu erzeugen. Die Daten sind bei der Übertragung verschlüsselt und werden nicht gespeichert.“
Datensicherheit (Artikel 32) Daten bei der Übertragung und im Ruhezustand schützen TLS für Cloud-API-Aufrufe nutzen; lokale Zwischenspeicher verschlüsseln; Zugriffskontrollen einrichten
Speicherbegrenzung (Artikel 5) Daten nicht länger als nötig aufbewahren Eine Aufbewahrungsfrist für Inferenzprotokolle festlegen und dokumentieren; Nutzercode nicht ohne Rechtsgrundlage und klare Information zum Training von Modellen weiterverwenden

Warnsignal: Nutzercode ohne dokumentierte Rechtsgrundlage, ohne Auftragsverarbeitungsvertrag und ohne klare Information der Nutzer an die API eines Drittanbieter-Modells zu senden, ist eine DSGVO-Lücke.

Ergebnis: DSGVO-konforme Datenschutzerklärung, Auftragsverarbeitungsvertrag (AVV) mit den Cloud-Anbietern, ein Nachweis der Rechtsgrundlage für jeden Verarbeitungszweck.

Wann ein Programmierassistent die Hochrisiko-Pflichten auslöst

Wird Ihr Programmierassistent selbst für eine Verwendung nach Anhang III eingesetzt (etwa zur Bewertung von Beschäftigten) oder ist er ein Produkt oder Sicherheitsbauteil nach den Rechtsvorschriften des Anhangs I, müssen Sie das vollständige Regime für Hochrisiko-KI-Systeme einhalten:

Pflicht Artikel Was sie verlangt
Risikomanagementsystem 9 Risiken erkennen und mindern (etwa unfaire Bewertungen von Beschäftigten)
Daten-Governance 10 Sicherstellen, dass Trainings-, Validierungs- und Testdaten relevant, hinreichend repräsentativ und auf Verzerrungen untersucht sind
Technische Dokumentation 11 Eine technische Dokumentation mit Modellarchitektur, Trainingsdaten und Testergebnissen führen
Aufzeichnungspflichten 12 Sicherstellen, dass das System technisch die automatische Aufzeichnung von Ereignissen (Protokollen) während seines gesamten Lebenszyklus ermöglicht
Transparenz 13 Den Betreibern eine Betriebsanleitung bereitstellen, einschließlich Genauigkeitskennzahlen und Grenzen des Systems
Menschliche Aufsicht 14 Das System so gestalten, dass natürliche Personen es während seiner Verwendung wirksam beaufsichtigen und eingreifen oder es anhalten können
Genauigkeit und Robustheit 15 Ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen
Konformitätsbewertung 43 Interne Kontrolle (Anhang VI) für Anhang III Nummern 2 bis 8; für die Biometrie (Nummer 1) kann eine notifizierte Stelle erforderlich sein; Produkte nach Anhang I folgen ihrem eigenen sektoralen Verfahren

Beispiel: Programmierassistent für Medizinproduktesoftware

Ein Programmierassistent, der Code für ein Medizinprodukt erzeugt (etwa die Firmware einer Insulinpumpe), ist wegen dieser Verwendung kein Hochrisiko-KI-System nach Artikel 6. Artikel 6 Absatz 1 erfasst KI, die selbst ein Produkt oder das Sicherheitsbauteil eines Produkts nach den Rechtsvorschriften des Anhangs I ist; der Assistent ist ein Entwicklungswerkzeug. Die Firmware ist Teil des Produkts, und der Hersteller des Produkts steht nach der Medizinprodukteverordnung dafür ein.

Was der Hersteller für den Code dennoch nachweisen muss:

  • Risikobewertung: Was passiert, wenn die KI fehlerhaften Code erzeugt? Könnte das Patienten schaden?
  • Tests: prüfen, ob KI-erzeugter Code die Standards für Medizinproduktesoftware erfüllt (IEC 62304)
  • Menschliche Aufsicht: menschliche Prüfung und Erprobung des gesamten KI-erzeugten Codes vor dem Einsatz vorschreiben
  • Dokumentation: Aufzeichnungen darüber führen, wie KI-erzeugter Code geprüft, getestet und validiert wurde
  • Konformitätsbewertung: das Produkt nach der Medizinprodukteverordnung bewerten

Ergebnis: Risikobewertungsbericht, Testdokumentation, Verfahrensanweisung für die menschliche Prüfung, Aufzeichnungen für die Konformitätsbewertung des Produkts.

Häufige Konformitätslücken bei Programmierassistenten

Lücke Risiko Behebung
Keine Offenlegung nach Artikel 50 Nutzer wissen nicht, dass sie mit KI interagieren; eine Lücke gegenüber Artikel 50 Absatz 1 Hinweis beim ersten Start ergänzen; KI-Vorschläge in der Oberfläche kennzeichnen
KI-erzeugter Code nicht markiert Erzeugte Inhalte sind nicht maschinenlesbar als KI-Ausgabe erkennbar; eine Lücke gegenüber Artikel 50 Absatz 2, wo er gilt Metadaten in den erzeugten Code einbetten (Kommentare, Dateiköpfe)
Code ohne dokumentierte Rechtsgrundlage in die Cloud gesendet Eine DSGVO-Lücke (Artikel 6) Die Rechtsgrundlage dokumentieren; Nutzer informieren; einen rein lokalen Modus anbieten
Keine menschliche Prüfung bei sicherheitskritischem Code KI-erzeugte Fehler gelangen ungeprüft in ein reguliertes Produkt Codeprüfung vor dem Einsatz vorschreiben; Prüfentscheidungen protokollieren
Kein Plan für die Reaktion auf Vorfälle Erzeugt die KI verwundbaren oder falschen Code, fehlt ein Verfahren zur Erkennung und Behebung Überwachung einrichten (etwa statische Analyse des KI-erzeugten Codes); Verfahren zur Reaktion auf Vorfälle festlegen

Zeitplan der Anwendbarkeit und Sanktionen

  • 2. Februar 2025: Die verbotenen Praktiken nach Artikel 5 und die KI-Kompetenzpflicht nach Artikel 4 wurden anwendbar
  • 2. August 2025: Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (Kapitel V) und das Sanktionsregime (Kapitel XII) wurden anwendbar
  • 2. August 2026: Die Transparenzpflichten nach Artikel 50 wurden anwendbar — diese wurden nicht verschoben
  • 2. Dezember 2027: Die Hochrisiko-Pflichten aus Anhang III (Artikel 9 bis 15) gelten; sie wurden durch den Digital Omnibus vom 2. August 2026 verschoben
  • 2. August 2028: Die Hochrisiko-Pflichten aus Anhang I gelten, für KI, die in Produkte eingebettet ist, die bereits dem EU-Produktrecht unterliegen
  • Geldbußen: gesetzliches Höchstmaß von 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für die Pflichten nach Artikel 50 und die Pflichten von Akteuren im Hochrisikobereich (Artikel 99 Absatz 4); 35 Millionen Euro oder 7 % gelten nur für die Verbote des Artikels 5 (Artikel 99 Absatz 3); 7,5 Millionen Euro oder 1 % für die Übermittlung irreführender Informationen (Artikel 99 Absatz 5). Bei KMU und Start-ups begrenzt Artikel 99 Absatz 6 jede Geldbuße auf den niedrigeren Betrag.

Wenn Sie einen KI-Programmierassistenten in der EU anbieten, gilt die Offenlegungspflicht nach Artikel 50 Absatz 1 für Sie seit dem 2. August 2026.

Konformität umsetzen: Schritt für Schritt

Schritt 1: Ihr System einstufen

  • Ist Ihr Programmierassistent ein allgemeines Entwicklungswerkzeug, oder wird er selbst für einen Zweck nach Anhang III eingesetzt (etwa zur Bewertung von Beschäftigten) oder ist er ein Produkt oder Sicherheitsbauteil nach Anhang I?
  • Allgemeines Entwicklungswerkzeug → Artikel 50 gilt
  • Hohes Risiko → Artikel 9 bis 15 und Artikel 50 gelten

Schritt 2: Offenlegungen nach Artikel 50 umsetzen

  • Einen Hinweis beim ersten Start ergänzen, der Nutzer über den KI-Einsatz informiert
  • KI-Vorschläge in der Oberfläche kennzeichnen (ausgegrauter Text, Symbole, Kennzeichnung „KI-Vorschlag“)
  • Als bewährte Praxis Abschaltmöglichkeiten anbieten (Schalter in den Einstellungen zum Deaktivieren der KI)
  • Als bewährte Praxis die Nutzungsbedingungen aktualisieren und den KI-Einsatz erläutern

Schritt 3: DSGVO-Konformität umsetzen

  • Eine Rechtsgrundlage wählen und dokumentieren, bevor Code an Cloud-Modelle geht
  • Datenminimierung umsetzen (nur den nötigen Kontext senden)
  • Daten bei der Übertragung und im Ruhezustand verschlüsseln
  • Eine Aufbewahrungsrichtlinie für Protokolle festlegen und dokumentieren

Schritt 4: Bei hohem Risiko die vollständige Konformität herstellen

  • Eine Risikobewertung durchführen (Artikel 9)
  • Trainingsdaten und Verzerrungstests dokumentieren (Artikel 10)
  • Technische Dokumentation führen (Artikel 11)
  • Menschliche Aufsicht umsetzen (Artikel 14): das System so gestalten, dass Menschen es beaufsichtigen und eingreifen können
  • Genauigkeit und Sicherheit testen (Artikel 15)
  • Eine Konformitätsbewertung durchlaufen (Artikel 43)

Schritt 5: Überwachen und aktualisieren

  • KI-Vorschläge, Annahmen und Ablehnungen durch Nutzer sowie Vorfälle protokollieren
  • Auf Codequalitätsprobleme, Sicherheitslücken und Verzerrungen achten
  • Richtlinien und Offenlegungen anpassen, während sich das Werkzeug weiterentwickelt

Dieser Artikel dient ausschließlich der Information und stellt keine Rechtsberatung dar. Für verbindliche Auskünfte zu Ihrem konkreten System wenden Sie sich an eine im Recht der EU-KI-Verordnung qualifizierte Anwältin oder einen qualifizierten Anwalt.

Verwandte Depeschen

Weitergeben

Senden Sie diese Meldung an jemanden, der sie lesen sollte.

An eine Redaktion, an Kolleginnen und Kollegen in der KI-Politik oder an alle, die Sie fragen, wohin die KI geht. Jede Aussage trägt ihre Quelle.

Diese Meldung senden