Die EU-KI-Verordnung und KI-Programmierassistenten: Leitfaden zur Konformität

KI-Programmierassistenten — GitHub Copilot, Cursor, Tabnine, Amazon CodeWhisperer und ähnliche Werkzeuge — sind heute in Millionen von Entwickler-Workflows eingebettet. Sie vervollständigen Funktionen, erzeugen Standardcode, schlagen Refactorings vor und schreiben aus Anweisungen in natürlicher Sprache sogar ganze Module.

Aktualisiert am 4. August 2026 — korrigiert. Die Transparenzpflichten stehen in der verabschiedeten Verordnung (EU) 2024/1689 in Artikel 50; „Artikel 52“ war die Nummerierung des Entwurfs. Der Digital Omnibus (angenommen am 16. und 29. Juni 2026) hat die Hochrisiko-Pflichten aus Anhang III auf den 2. Dezember 2027 verschoben, Artikel 50 jedoch nicht — dieser gilt seit dem 2. August 2026. Dieser Artikel wurde entsprechend korrigiert.

Nach der EU-KI-Verordnung sind diese Werkzeuge aber nicht von der Regulierung ausgenommen. Je nachdem, wie sie eingesetzt und wofür sie verwendet werden, können sie die Transparenzpflichten des Artikels 50 auslösen — und in manchen Fällen eine Einstufung als Hochrisiko-KI-System nach Anhang III.

Die Transparenzpflichten des Artikels 50 gelten seit dem 2. August 2026 — sie sind heute in Kraft und wurden vom Digital Omnibus nicht verschoben. Ein Verstoß fällt in die Stufe des Artikels 99 Absatz 4: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, bei KMU und Start-ups jeweils der niedrigere der beiden Beträge. Wenn Sie einen KI-Programmierassistenten in der EU entwickeln, betreiben oder verkaufen, müssen Sie wissen, wo Sie stehen.

Dieser Leitfaden erklärt, wie die EU-KI-Verordnung auf KI-Programmierassistenten anzuwenden ist, wie Konformität aussieht und welche Dokumentation Sie brauchen.

Sind KI-Programmierassistenten nach der EU-KI-Verordnung Hochrisiko-KI-Systeme?

Die erste Frage lautet: Fällt Ihr KI-Programmierassistent unter Anhang III?

Programmierassistenten mit allgemeinem Verwendungszweck: kein hohes Risiko

Die meisten KI-Programmierassistenten sind Werkzeuge mit allgemeinem Verwendungszweck, die Entwicklern helfen, schneller Code zu schreiben. Sie treffen keine folgenschweren Entscheidungen über Personen, steuern keine kritische Infrastruktur und bestimmen nicht den Zugang zu wesentlichen Diensten.

Beispiele für Programmierassistenten mit allgemeinem Verwendungszweck:

• GitHub Copilot (Autovervollständigung, Codeerzeugung)
• Cursor (KI-gestützter Code-Editor)
• Tabnine (Codevervollständigung)
• Amazon CodeWhisperer (Codevorschläge)

Risikoeinstufung: kein Hochrisiko-KI-System nach Anhang III.

Pflichten: Artikel 50 (Transparenz und Offenlegung), DSGVO (bei Verarbeitung personenbezogener Daten), allgemeine Produktsicherheitsanforderungen.

Wann ein Programmierassistent zum Hochrisiko-KI-System wird

Ein KI-Programmierassistent kann zum Hochrisiko-KI-System werden, wenn er in einem Hochrisikokontext nach Anhang III eingesetzt wird. Das ist der Fall, wenn:

1. der Programmierassistent zur Verwaltung kritischer Infrastruktur eingesetzt wird (Anhang III Nummer 2)

   • Beispiel: ein Assistent, der Code für die Steuerung von Stromnetzen, für Verkehrsleitsysteme oder für die Wasserversorgung erzeugt oder ändert
   • Warum das ein hohes Risiko ist: Fehler könnten Leben gefährden oder erhebliche wirtschaftliche Störungen verursachen

2. der Programmierassistent in der Entwicklung sicherheitskritischer Produkte eingesetzt wird (Artikel 6 + sektorale Rechtsvorschriften)

   • Beispiel: ein Assistent, der Code für Medizinprodukte, für Sicherheitssysteme in Fahrzeugen oder für Luftfahrtsoftware schreibt
   • Warum das ein hohes Risiko ist: Fehler könnten zu Produktausfällen führen, die unter EU-Sicherheitsvorschriften fallen (Medizinprodukteverordnung, Maschinenverordnung usw.)

3. der Programmierassistent beschäftigungsbezogene Entscheidungen trifft (Anhang III Nummer 4)

   • Beispiel: ein KI-Werkzeug, das die Leistung von Entwicklern anhand von Codequalitätskennzahlen bewertet und Entscheidungen über Einstellung, Beförderung oder Kündigung beeinflusst
   • Warum das ein hohes Risiko ist: Es wirkt sich auf den Zugang zu Beschäftigung aus

Kernpunkt: Über die Risikoeinstufung entscheidet der Anwendungsfall, nicht das Werkzeug selbst. Ein Programmierassistent mit allgemeinem Verwendungszweck wird zum Hochrisiko-KI-System, sobald er in einem Hochrisikokontext eingesetzt wird.

Artikel 50: Transparenzpflichten für KI-Programmierassistenten

Auch wenn Ihr Programmierassistent kein Hochrisiko-KI-System ist, unterliegt er mit ziemlicher Sicherheit Artikel 50 — den Transparenz- und Offenlegungsanforderungen der EU-KI-Verordnung für KI-Systeme, die mit Menschen interagieren oder Inhalte erzeugen.

Was Artikel 50 verlangt

Artikel 50 Absatz 1 bestimmt:

„Die Anbieter stellen sicher, dass KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus den Umständen und dem Kontext der Verwendung offensichtlich.“

Gilt das für Programmierassistenten?

Ja. KI-Programmierassistenten interagieren mit Entwicklern (natürlichen Personen), indem sie Code vorschlagen, vervollständigen oder erzeugen. Sofern es nicht „aus den Umständen offensichtlich“ ist, dass die Entwicklerin oder der Entwickler mit einer KI interagiert, müssen Sie darüber informieren.

Wann ist es „offensichtlich“?

Die Verordnung definiert „offensichtlich“ nicht, aber die Erwägungsgründe legen nahe: Wenn

• das Werkzeug ausdrücklich als KI-Assistent vermarktet wird (etwa „GitHub Copilot“, „Amazon CodeWhisperer“),
• die Oberfläche KI-erzeugte Vorschläge klar kennzeichnet (etwa ausgegrauter Text, Kennzeichnung „KI-Vorschlag“),
• die Nutzerin oder der Nutzer die KI ausdrücklich aufgerufen hat (etwa durch Eingabe einer Anweisung oder einen Tastenkürzel),

… dann kann die Information als offensichtlich gelten.

Läuft die KI dagegen unbemerkt im Hintergrund (etwa indem sie Codeänderungen automatisch anwendet, ohne dass die Nutzerin oder der Nutzer davon weiß), sind Sie wahrscheinlich nicht konform.

So erfüllen Sie Artikel 50 bei einem Programmierassistenten

Anforderung	Umsetzung	Beispiel
Nutzer darüber informieren, dass sie mit KI interagieren	Beim ersten Gebrauch des Werkzeugs einen Hinweis anzeigen	„Dieser Editor nutzt KI, um Codevervollständigungen vorzuschlagen. Mehr erfahren.“
KI-Vorschläge optisch abheben	Gestaltung nutzen (ausgegrauter Text, Symbole, Kennzeichnungen), um KI-Ausgaben von menschlich geschriebenem Code zu unterscheiden	Der ausgegraute Vorschlagstext von GitHub Copilot
Abschalt- oder Widerspruchsmöglichkeit anbieten	Nutzern erlauben, KI-Vorschläge abzuschalten	Schalter in den Einstellungen: „KI-Codevorschläge aktivieren“
KI-Einsatz in den Nutzungsbedingungen dokumentieren	Erläutern, dass das Werkzeug KI nutzt, welche Daten es verarbeitet und wie Vorschläge entstehen	„Unser Programmierassistent nutzt ein großes Sprachmodell, das auf öffentlichen Code-Repositorien trainiert wurde, um Vorschläge zu erzeugen.“

Ergebnis: Hinweistext für Nutzer, Anpassungen der Oberfläche zur Kennzeichnung von KI-Vorschlägen, aktualisierte Nutzungsbedingungen.

Artikel 50 Absatz 2: Offenlegung KI-erzeugter Inhalte

Artikel 50 Absatz 2 verlangt, dass KI-erzeugte Inhalte in einem maschinenlesbaren Format als solche gekennzeichnet werden, damit Nutzer sie von menschlich erstellten Inhalten unterscheiden können.

Gilt das für Programmierassistenten?

Möglicherweise. Wenn Ihr Programmierassistent ganze Funktionen, Module oder Dateien erzeugt (und nicht nur vervollständigt), kann der erzeugte Code als „KI-erzeugter Inhalt“ gelten.

So erfüllen Sie die Pflicht

• Metadaten in den erzeugten Code einbetten: Kommentare hinzufügen, die auf die KI-Erzeugung hinweisen

  # AI-generated by [Tool Name] on [Date]
  def calculate_total(items):
      return sum(item.price for item in items)
  

• Eine maschinenlesbare Markierung bereitstellen: ein standardisiertes Format verwenden (etwa eine begleitende JSON-Datei, eine Codeannotation oder ein Wasserzeichen im Dateikopf)

• KI-erzeugten Code in der Versionsverwaltung protokollieren: Wird der Code in ein Repository übernommen, Metadaten in die Commit-Nachricht oder die Dateihistorie aufnehmen

Ergebnis: ein Metadatenstandard für die Codeerzeugung, umgesetzt in der Ausgabe des Programmierassistenten.

DSGVO-Aspekte bei Programmierassistenten

KI-Programmierassistenten verarbeiten häufig personenbezogene Daten — entweder weil sie den Code der Entwicklerin oder des Entwicklers analysieren (der Namen, E-Mail-Adressen, API-Schlüssel oder andere personenbezogene Daten enthalten kann), oder weil sie Codeausschnitte zur Inferenz an ein Cloud-Modell senden.

Zentrale DSGVO-Pflichten

Pflicht	Was sie verlangt	So erfüllen Sie sie
Rechtsgrundlage (Artikel 6)	Für die Verarbeitung personenbezogener Daten brauchen Sie eine Rechtsgrundlage (etwa Einwilligung, berechtigtes Interesse)	Einwilligung einholen, bevor Code an Cloud-Modelle geht; die Abwägung des berechtigten Interesses dokumentieren
Datenminimierung (Artikel 5)	Nur die für die Aufgabe erforderlichen Daten verarbeiten	Senden Sie keine vollständigen Codebasen in die Cloud, sondern nur das relevante Kontextfenster
Transparenz (Artikel 13 und 14)	Nutzer darüber informieren, welche Daten Sie wie verarbeiten	Datenschutzerklärung: „Wir verarbeiten Codeausschnitte, um Vorschläge zu erzeugen. Die Daten sind bei der Übertragung verschlüsselt und werden nicht gespeichert.“
Datensicherheit (Artikel 32)	Daten bei der Übertragung und im Ruhezustand schützen	TLS für Cloud-API-Aufrufe nutzen; lokale Zwischenspeicher verschlüsseln; Zugriffskontrollen einrichten
Speicherbegrenzung (Artikel 5)	Daten nicht länger als nötig aufbewahren	Inferenzprotokolle nach 30 Tagen löschen; Modelle ohne ausdrückliche Einwilligung nicht mit Nutzercode trainieren

Warnsignal: Wenn Ihr Programmierassistent Nutzercode ohne Einwilligung an eine Drittanbieter-API sendet (etwa OpenAI, Anthropic), verstoßen Sie wahrscheinlich gegen die DSGVO.

Ergebnis: DSGVO-konforme Datenschutzerklärung, Auftragsverarbeitungsvertrag (AVV) mit den Cloud-Anbietern, Einwilligungsablauf für Nutzer.

Wann ein Programmierassistent die Hochrisiko-Pflichten auslöst

Wird Ihr Programmierassistent in einem Hochrisikokontext eingesetzt (kritische Infrastruktur, sicherheitskritische Systeme, Beschäftigungsentscheidungen), müssen Sie das vollständige Regime für Hochrisiko-KI-Systeme einhalten:

Pflicht	Artikel	Was sie verlangt
Risikomanagementsystem	9	Risiken erkennen und mindern (etwa Fehler bei der Codeerzeugung, die zu Sicherheitsausfällen führen können)
Daten-Governance	10	Sicherstellen, dass die Trainingsdaten hochwertig, repräsentativ und auf Verzerrungen geprüft sind
Technische Dokumentation	11	Eine technische Dokumentation mit Modellarchitektur, Trainingsdaten und Testergebnissen führen
Aufzeichnungspflichten	12	Alle Codevorschläge, Annahmen und Ablehnungen durch Nutzer sowie Vorfälle protokollieren
Transparenz	13	Betriebsanleitung, Leistungskennzahlen und Grenzen des Systems bereitstellen
Menschliche Aufsicht	14	Sicherstellen, dass Entwickler KI-erzeugten Code vor dem Einsatz prüfen
Genauigkeit und Robustheit	15	Auf Korrektheit des Codes, Sicherheitslücken und Robustheit gegen Angriffe testen
Konformitätsbewertung	43	Prüfung durch Dritte oder Selbstbewertung unter Aufsicht einer notifizierten Stelle

Beispiel: Programmierassistent für Medizinproduktesoftware

Ein Programmierassistent, der Code für ein Medizinprodukt erzeugt (etwa die Firmware einer Insulinpumpe), ist nach Artikel 6 ein Hochrisiko-KI-System (KI-Systeme, die als Sicherheitsbauteile von Produkten verwendet werden, die unter EU-Harmonisierungsrechtsvorschriften fallen).

Anforderungen:

• Risikobewertung: Was passiert, wenn die KI fehlerhaften Code erzeugt? Könnte das Patienten schaden?
• Tests: prüfen, ob KI-erzeugter Code die Sicherheitsstandards für Medizinprodukte erfüllt (IEC 62304)
• Menschliche Aufsicht: menschliche Prüfung und Erprobung des gesamten KI-erzeugten Codes vor dem Einsatz vorschreiben
• Dokumentation: eine technische Dokumentation führen, die zeigt, wie die KI trainiert, getestet und validiert wurde
• Konformitätsbewertung: Prüfung durch Dritte nach der Medizinprodukteverordnung durchlaufen

Ergebnis: Risikobewertungsbericht, Testdokumentation, Verfahrensanweisung für die menschliche Prüfung, Konformitätsbewertungsbescheinigung.

Häufige Konformitätslücken bei Programmierassistenten

Lücke	Risiko	Behebung
Keine Offenlegung nach Artikel 50	Nutzer wissen nicht, dass sie mit KI interagieren; Verstoß gegen die Transparenzanforderungen	Hinweis beim ersten Start ergänzen; KI-Vorschläge in der Oberfläche kennzeichnen
KI-erzeugter Code nicht gekennzeichnet	Nutzer können KI-Ausgaben nicht von menschlichem Code unterscheiden; Verstoß gegen Artikel 50 Absatz 2	Metadaten in den erzeugten Code einbetten (Kommentare, Dateiköpfe)
Code ohne Einwilligung in die Cloud gesendet	DSGVO-Verstoß (keine Rechtsgrundlage für die Verarbeitung)	Einwilligungsablauf einrichten; einen rein lokalen Modus anbieten
Keine menschliche Prüfung bei sicherheitskritischem Code	Wird der Assistent in Hochrisikokontexten eingesetzt, verstößt fehlende Aufsicht gegen Artikel 14	Codeprüfung vor dem Einsatz vorschreiben; Prüfentscheidungen protokollieren
Kein Plan für die Reaktion auf Vorfälle	Erzeugt die KI verwundbaren oder falschen Code, fehlt ein Verfahren zur Erkennung und Behebung	Überwachung einrichten (etwa statische Analyse des KI-erzeugten Codes); Verfahren zur Reaktion auf Vorfälle festlegen

Zeitplan der Anwendbarkeit und Sanktionen

• 2. Februar 2025: Die verbotenen Praktiken nach Artikel 5 und die KI-Kompetenzpflicht nach Artikel 4 wurden anwendbar
• 2. August 2025: Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (Kapitel V) und das Sanktionsregime (Kapitel XII) wurden anwendbar
• 2. August 2026: Die Transparenzpflichten nach Artikel 50 wurden anwendbar — diese wurden nicht verschoben
• 2. Dezember 2027: Die Hochrisiko-Pflichten aus Anhang III (Artikel 9 bis 15) gelten; sie wurden durch den Digital Omnibus vom 2. August 2026 verschoben
• 2. August 2028: Die Hochrisiko-Pflichten aus Anhang I gelten, für KI, die in Produkte eingebettet ist, die bereits dem EU-Produktrecht unterliegen
• Geldbußen: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes bei Verstößen gegen Artikel 50 und bei Verstößen von Akteuren im Hochrisikobereich (Artikel 99 Absatz 4); 35 Millionen Euro oder 7 % gelten nur für die Verbote des Artikels 5 (Artikel 99 Absatz 3); 7,5 Millionen Euro oder 1 % für die Übermittlung irreführender Informationen (Artikel 99 Absatz 5). Bei KMU und Start-ups begrenzt Artikel 99 Absatz 6 jede Geldbuße auf den niedrigeren Betrag.

Wenn Sie einen KI-Programmierassistenten in der EU entwickeln oder betreiben und die Offenlegungen nach Artikel 50 nicht umgesetzt haben, sind Sie bereits nicht konform.

Konformität umsetzen: Schritt für Schritt

Schritt 1: Ihr System einstufen

• Hat Ihr Programmierassistent einen allgemeinen Verwendungszweck, oder wird er in einem Hochrisikokontext eingesetzt (kritische Infrastruktur, sicherheitskritische Systeme, Beschäftigung)?
• Allgemeiner Verwendungszweck → Artikel 50 gilt
• Hohes Risiko → Artikel 9 bis 15 und Artikel 50 gelten

Schritt 2: Offenlegungen nach Artikel 50 umsetzen

• Einen Hinweis beim ersten Start ergänzen, der Nutzer über den KI-Einsatz informiert
• KI-Vorschläge in der Oberfläche kennzeichnen (ausgegrauter Text, Symbole, Kennzeichnung „KI-Vorschlag“)
• Abschaltmöglichkeiten anbieten (Schalter in den Einstellungen zum Deaktivieren der KI)
• Die Nutzungsbedingungen aktualisieren und den KI-Einsatz erläutern

Schritt 3: DSGVO-Konformität umsetzen

• Einwilligung der Nutzer einholen, bevor Code an Cloud-Modelle geht
• Datenminimierung umsetzen (nur den nötigen Kontext senden)
• Daten bei der Übertragung und im Ruhezustand verschlüsseln
• Eine Aufbewahrungsfrist festlegen (Protokolle nach 30 Tagen löschen)

Schritt 4: Bei hohem Risiko die vollständige Konformität herstellen

• Eine Risikobewertung durchführen (Artikel 9)
• Trainingsdaten und Verzerrungstests dokumentieren (Artikel 10)
• Technische Dokumentation führen (Artikel 11)
• Menschliche Aufsicht umsetzen (Artikel 14): Codeprüfung vor dem Einsatz vorschreiben
• Genauigkeit und Sicherheit testen (Artikel 15)
• Eine Konformitätsbewertung durchlaufen (Artikel 43)

Schritt 5: Überwachen und aktualisieren

• KI-Vorschläge, Annahmen und Ablehnungen durch Nutzer sowie Vorfälle protokollieren
• Auf Codequalitätsprobleme, Sicherheitslücken und Verzerrungen achten
• Richtlinien und Offenlegungen anpassen, während sich das Werkzeug weiterentwickelt

Was Vigilia leistet

Das EU-KI-Verordnungs-Audit von Vigilia prüft die Konformität Ihres KI-Programmierassistenten:

• bestimmt die Risikoeinstufung (allgemeiner Verwendungszweck oder hohes Risiko)
• weist auf fehlende Offenlegungen nach Artikel 50 hin
• ermittelt DSGVO-Lücken (Einwilligung, Datenminimierung, Aufbewahrung)
• liefert einen Maßnahmenplan mit priorisierten Schritten
• erstellt in 20 Minuten einen auditfähigen Konformitätsbericht

Kosten: 499 € (im Vergleich zu 5.000–40.000 € für ein herkömmliches Audit)
Dauer: 20 Minuten (im Vergleich zu 1 bis 3 Monaten für ein Beratungsmandat)

Prüfen Sie jetzt die Konformität Ihres KI-Programmierassistenten: www.aivigilia.com

---

Dieser Artikel dient ausschließlich der Information und stellt keine Rechtsberatung dar. Für verbindliche Auskünfte zu Ihrem konkreten System wenden Sie sich an eine im Recht der EU-KI-Verordnung qualifizierte Anwältin oder einen qualifizierten Anwalt.