Erster Auftrag und der Grund für eine GmbH: Mein Start in die Selbstständigkeit | Umair Zaffar
Umair Zaffar Oktober 21, 2026 0 Comments

EU AI Act Artikel 10: Daten und Daten-Governance technisch umgesetzt

EU AI Act Artikel 10 verlangt, dass Hochrisiko-Systeme auf Trainings-, Validierungs- und Testdaten mit belegter Herkunft, geprüfter Qualität und untersuchten Verzerrungen gebaut werden. Unsere Antwort: Jeder Datensatz bekommt einen versionierten Eintrag mit Herkunft, Zone und bekannten Lücken, und kein Modell sieht Daten, bevor sie pseudonymisiert und durch das Qualitätsgate sind.

Artikel 10 ist der Teil der KI-Verordnung, an dem die meisten produktiven Modelle in Banken und Versicherungen heute scheitern würden, wenn jemand nachfragt. Nicht weil die Modelle schlecht sind, sondern weil niemand belegen kann, woher die Trainingsdaten stammen, wer die Labels gesetzt hat und ob im Testdatensatz dieselben Personen stecken wie im Training. Der Artikel richtet sich an Anbieter von Hochrisiko-KI-Systemen; Art. 16 Buchst. a macht die Anforderungen aus Abschnitt 2 zu ihrer Pflicht. Ein Versicherer, der ein Modell auf eigenen Schadendaten trainiert oder feinjustiert, ist dabei in der Regel selbst Anbieter, nicht nur Betreiber.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 10 gehört zu diesen Hochrisiko-Pflichten. Der Omnibus hat Fristen verschoben, keine Pflicht gestrichen. Und Datenherkunft lässt sich 2027 nicht rückwirkend erfinden: Wer den Nachweis dann braucht, muss ihn beim nächsten Training schreiben. Den Rahmen beschreibe ich in EU AI Act in der Praxis.

Was EU AI Act Artikel 10 verlangt

Der Artikel, in deutschen Texten meist als Artikel 10 KI-Verordnung zitiert, nennt keine Grenzwerte. Er verlangt Verfahren und Eigenschaften, und er verlangt, dass du sie belegen kannst. Vereinfacht, nach Absätzen:

  • Art. 10 Abs. 1: Hochrisiko-Systeme, bei denen Modelle mit Daten trainiert werden, müssen auf Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die die Qualitätskriterien der Absätze 2 bis 4 erfüllen. Werden besondere Kategorien personenbezogener Daten genutzt, gilt zusätzlich Art. 4a Abs. 1.
  • Art. 10 Abs. 2: Für diese Datensätze braucht es Data-Governance- und Datenmanagementverfahren, die zur Zweckbestimmung passen. Sie müssen acht Punkte abdecken: (a) die wesentlichen Designentscheidungen, (b) Erhebung und Herkunft der Daten, bei personenbezogenen Daten auch den ursprünglichen Erhebungszweck, (c) die Aufbereitung, also Annotation, Labelling, Bereinigung, Aktualisierung, Anreicherung und Aggregation, (d) die Annahmen darüber, was die Daten messen und abbilden sollen, (e) eine Bewertung von Verfügbarkeit, Menge und Eignung, (f) die Prüfung auf Verzerrungen, die Gesundheit und Sicherheit oder Grundrechte beeinträchtigen oder zu verbotener Diskriminierung führen können, (g) Maßnahmen, um diese Verzerrungen zu erkennen, zu verhindern und abzuschwächen, und (h) das Erkennen und Beheben von Datenlücken und Mängeln, die der Einhaltung der Verordnung entgegenstehen.
  • Art. 10 Abs. 3: Die Datensätze müssen relevant, hinreichend repräsentativ und, so weit wie möglich, fehlerfrei und vollständig sein, gemessen an der Zweckbestimmung. Sie brauchen geeignete statistische Eigenschaften, auch bezogen auf die Personen und Gruppen, für die das System eingesetzt werden soll. Das darf auf Ebene einzelner Datensätze oder ihrer Kombination erfüllt werden.
  • Art. 10 Abs. 4: Die Datensätze müssen die geografische, kontextuelle, verhaltensbezogene oder funktionale Umgebung berücksichtigen, in der das System eingesetzt werden soll. Ein Modell, das auf Daten aus einem Land trainiert wurde, ist nicht automatisch für ein anderes geeignet.
  • Art. 10 Abs. 5 (alt) und Art. 4a: Hier stand bis zum Digital Omnibus die Ausnahme, die Anbietern erlaubt, besondere Kategorien personenbezogener Daten ausnahmsweise zur Bias-Erkennung und -Korrektur zu verarbeiten. Die Regel steht jetzt in Artikel 4a, inhaltlich mit denselben sechs Bedingungen: Es geht nicht mit anderen Daten, auch nicht mit synthetischen oder anonymisierten; technische Grenzen gegen Weiterverwendung und Pseudonymisierung; strikte Zugriffskontrolle und dokumentierte Zugriffe; keine Weitergabe an Dritte; Löschung, sobald die Verzerrung korrigiert ist oder die Aufbewahrungsfrist endet; und ein Eintrag im Verarbeitungsverzeichnis, der begründet, warum es nicht anders ging. Art. 4a Abs. 2 öffnet den Weg auch Betreibern und Anbietern anderer Systeme, verpflichtet aber niemanden zur Bias-Erkennung.
  • Art. 10 Abs. 6: Für Hochrisiko-Systeme, die keine Modelle trainieren, gelten die Absätze 2 bis 5 nur für die Testdatensätze. Wer ein fertiges Modell nur einsetzt, muss also mindestens seine Testdaten so behandeln.

Artikel 10 steht nicht allein. Anhang IV Nr. 2 Buchst. d verlangt in der technischen Dokumentation nach Art. 11 Datenblätter zu den Trainingsdaten: Herkunft, Umfang, Hauptmerkmale, Auswahl, Labelling, Bereinigung. Art. 17 Abs. 1 Buchst. f verlangt Datenmanagementverfahren im Qualitätsmanagementsystem. Und Art. 26 Abs. 4 verpflichtet Betreiber, ihre Eingabedaten relevant und hinreichend repräsentativ zu halten, soweit sie diese kontrollieren. Kurz: Du musst über jeden Datensatz Auskunft geben können, mit dem ein Modell gebaut oder geprüft wurde, und du musst nach Verzerrungen gesucht haben, bevor jemand anderes sie findet.

Das technische Beispiel: Schadenklassifizierung bei einem Versicherer

Ein Versicherer baut ein Modell, das eingehende Schadenmeldungen vorsortiert: automatische Regulierung, Sachbearbeitung, vertiefte Prüfung bei Betrugsverdacht oder Rückfrage an den Kunden. Das Modell entscheidet nicht über die Leistung, aber es entscheidet, wie schnell und wie kritisch ein Mensch den Fall ansieht. Trainiert wird auf historischen Schadenfällen: strukturierte Felder aus dem Schadensystem, Freitext aus Meldungen und Gutachten, gescannte Dokumente und als Label die tatsächliche Bearbeitungsentscheidung der letzten Jahre.

Ob ein solcher Klassifizierer Hochrisiko ist, ist eine Auslegungsfrage. Anhang III Nr. 5 Buchst. c nennt Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung, nicht die Schadenvorsortierung. Wir behandeln das System trotzdem so, als wäre es Hochrisiko: Es bereitet Entscheidungen über Menschen vor, dieselbe Datenpipeline speist später Modelle, die in Anhang III fallen, und die Datenarbeit ist dieselbe. Artikel 10 beißt an vier Stellen:

  • Die Labels sind alte Entscheidungen. Wenn Sachbearbeiter bestimmte Postleitzahlen oder Namen früher häufiger zur Betrugsprüfung geschickt haben, lernt das Modell genau das. Art. 10 Abs. 2 Buchst. f verlangt, dass wir das prüfen, bevor wir trainieren.
  • Der Freitext ist voll mit Personen. Namen, Adressen, Gesundheitsangaben, Kontonummern stehen in Schadenmeldungen. Art. 10 Abs. 2 Buchst. b verlangt den ursprünglichen Erhebungszweck, und der war Schadenregulierung, nicht Modelltraining.
  • Die Daten kommen aus drei Systemen mit drei Wahrheiten. Dubletten, geänderte Schadenarten, ein Prozesswechsel, nach dem die Labels nicht mehr vergleichbar sind. Das ist Abs. 2 Buchst. c und h.
  • Die Repräsentativität ist nicht gegeben, sondern herzustellen. Regionen, Vertriebskanäle, Schadenarten und Sprachen sind in den Daten anders verteilt als im künftigen Betrieb. Das sind Abs. 3 und 4.

So setzen wir es um

Wir bei SIFAMO behandeln Daten wie Modelle: registriert, mit Eigentümer, mit Ablaufdatum. Die Bausteine kommen aus unserem Governance Layer, der Rest ist Disziplin.

Drei Datenzonen und IDs statt Namen

Jede Quelle bekommt eine Zone. Rot sind Rohdaten mit Personenbezug: Kundenstamm, ungeschwärzte Schadenmeldungen, Gesundheitsangaben. Rote Daten erreichen nie eine Trainingsumgebung, und das Policy Gateway lehnt Aufrufe mit roter Payload ab, egal wer sie schickt. Grau sind pseudonymisierte Daten mit dokumentiertem Zweck, Zugriffskontrolle und protokolliertem Zugriff. Hier wird trainiert und evaluiert. Grün sind Daten ohne Personenbezug: Aggregate, Metriken, Datenblätter, synthetische Fälle. Nur grüne Artefakte verlassen das Projekt.

Der Weg von rot nach grau ist die Pseudonymisierung. Identifikatoren werden durch stabile IDs ersetzt, der Freitext wird von Namen, Adressen, Kontonummern und Gesundheitsangaben bereinigt, und die Zuordnungstabelle liegt in einem getrennten System, das weder Trainingsumgebung noch Modell erreichen. Die IDs sind pro Person stabil, denn nur so können wir später prüfen, dass niemand gleichzeitig im Trainings- und im Testdatensatz steckt. Wir prüfen die Pseudonymisierung mit Stichproben in den Daten, nicht durch Lesen der Richtlinie.

Ein Eintrag pro Datensatz: Herkunft, Version, Lücken

So wie jedes Modell einen Registereintrag hat, hat jeder Trainings-, Validierungs- und Testdatensatz einen Datensatzeintrag. Er ist das Datenblatt, das Anhang IV verlangt, und er ist versioniert, weil der Datensatz sich ändert. Vereinfacht:

{
  "dataset_id": "claims-train-2026-v7",
  "purpose": "Training Schadenklassifizierer (Routing, keine Leistungsentscheidung)",
  "owner": "Leitung Schaden, Sparte Kfz",
  "zone": "grau (pseudonymisiert, Zugriff protokolliert)",
  "sources": ["Schadensystem, Extrakt 2026-09-30", "Dokumentenarchiv, OCR-Text", "Bearbeitungsentscheidungen 2023-01 bis 2026-06"],
  "legal_basis": "Vertragsdurchfuehrung; Zweck der Erhebung: Schadenregulierung",
  "transformations": ["Pseudonymisierung v3", "Freitext-Scrubbing v5", "Labelregel LR-2026-02", "Dedup nach Schaden-ID"],
  "split": "nach Person, zeitlich: Test = letzte 6 Monate",
  "rows": {"train": 0, "validation": 0, "test": 0},
  "quality_gate": "bestanden 2026-10-05, Bericht QG-0412",
  "bias_report": "BR-0412, Gruppenmetriken und kontrafaktischer Test",
  "known_gaps": ["Postschaeden vor 2024 ohne OCR", "Sparte Reise unterrepraesentiert", "Labelregel vor 2024-03 abweichend"],
  "hash": "sha256:...",
  "expires": "2027-04-05"
}

Drei Felder tragen den Artikel: sources und transformations sind die Herkunft und Aufbereitung aus Abs. 2 Buchst. b und c, Schritt für Schritt und mit Version jeder Regel. known_gaps ist Abs. 2 Buchst. h: Lücken, die wir kennen und nicht geschlossen haben, offen hingeschrieben statt versteckt. Der Modell-Registereintrag verweist auf die Datensatzversion, mit der trainiert und getestet wurde. Dadurch lässt sich von jeder Entscheidung im Evidence Log über die Modellversion bis zu den Datensätzen zurückgehen.

Datenqualität als Gate, nicht als Bericht

Vor jedem Trainingslauf laufen die Qualitätsprüfungen, und ein Datensatz, der sie nicht besteht, wird nicht trainiert. Die Schwellen setzt der fachliche Eigentümer, nicht das Data-Science-Team, denn er muss später erklären, warum sie reichen. Geprüft wird:

  • Schema und Vollständigkeit. Pflichtfelder, Wertebereiche, Anteil fehlender Werte pro Feld und pro Quelle.
  • Dubletten und Leakage. Derselbe Schaden aus zwei Systemen, dieselbe Person in Training und Test, Labels, die erst nach der Entscheidung entstanden sind.
  • Labelqualität. Eine Stichprobe wird von zwei Sachbearbeitern neu gelabelt. Die Abweichungsrate wird dokumentiert, nicht wegdiskutiert. Fehlerfrei „so weit wie möglich“ heißt für uns: gemessen und offengelegt.
  • Repräsentativität. Verteilung von Schadenarten, Regionen, Kanälen und Zeiträumen im Datensatz gegen die Verteilung im laufenden Betrieb, mit Toleranzen, die der Eigentümer unterschreibt. Das ist unsere Lesart von „hinreichend repräsentativ“, weil die Verordnung keine Zahl nennt.
  • Zeitliche Brüche. Prozess- oder Regeländerungen, nach denen Labels eine andere Bedeutung haben. Alte Fälle werden umgelabelt oder ausgeschlossen, nie stillschweigend gemischt.

Bias-Prüfung und der Weg über Artikel 4a

Die Bias-Prüfung läuft zweistufig. Erstens kontrafaktisch: ansonsten identische Fälle, bei denen nur Vorname, Postleitzahl, Geburtsdatum oder Sprache des Freitexts variieren. Kippt die Zuordnung zur Betrugsprüfung, bleibt das Modell stehen. Zweitens mit Gruppenmetriken auf den Merkmalen, die der Versicherer rechtmäßig hält, etwa Alter und Region: Wie oft landet jede Gruppe in der vertieften Prüfung, und wie oft zu Unrecht, gemessen am späteren Ergebnis.

Für Merkmale wie Herkunft oder Religion hält ein Versicherer in der Regel keine Daten, und wir erheben sie nicht. Wo eine solche Prüfung ohne besondere Kategorien nicht geht und die Daten rechtmäßig vorhanden sind, nutzen wir den Weg über Artikel 4a, den früheren Art. 10 Abs. 5, mit allen sechs Bedingungen: Die Begründung, warum synthetische oder anonymisierte Daten nicht reichen, steht vor dem ersten Zugriff im Verarbeitungsverzeichnis. Die Merkmale liegen in einer abgeschotteten Analyseumgebung mit namentlicher Zugriffsliste und protokolliertem Zugriff. Sie werden ausschließlich zum Messen verwendet und nie zu Trainingsmerkmalen. Sie verlassen die Umgebung nicht, und sie haben ein Löschdatum, das der Eintrag im Datensatzregister trägt. Ich sage das bewusst deutlich: Die Ausnahme ist eine Erlaubnis zu messen, keine Erlaubnis zu sammeln.

Was der Prüfer sieht

Ein Prüfer bekommt keine Folien. Er bekommt den Datensatzeintrag mit Version, Quellen und bekannten Lücken, den Qualitätsbericht mit den Schwellen und wer sie gesetzt hat, den Bias-Bericht mit beiden Stufen, den Nachweis der Pseudonymisierung per Stichprobe, und den Modell-Registereintrag, der auf genau diese Versionen zeigt. Dazu die drei Unterschriften der Freigabe: Fachbereich für Zweck und Daten, Risiko für Klassifizierung und Bias-Ergebnis, IT für Zonen und Zugriffe. Das ist KI Governance, die man auslesen kann, statt sie zu erzählen.

Typische Fehler

  • Pseudonymisierung im Prompt, Rohdaten im Training. Das Gateway schützt den Laufzeitpfad, aber das Modell wurde auf ungeschwärzten Schadenmeldungen feinjustiert. Die Namen sind dann in den Gewichten, und die Modellversion wird stillgelegt, nicht geflickt.
  • Labels als Wahrheit. Historische Entscheidungen werden übernommen, ohne zu fragen, wer sie getroffen hat und mit welchen Mustern. Das Modell lernt die Praxis von damals und bekommt dafür ein Gütesiegel.
  • Zufälliger Split. Training und Test werden per Zufall getrennt, Personen tauchen auf beiden Seiten auf, und die Testgüte ist zu schön, um wahr zu sein.
  • „Wir haben keine geschützten Merkmale, also keinen Bias.“ Vorname, Postleitzahl und Sprache sind Stellvertreter. Wer sie nicht testet, hat nicht geprüft.
  • Das Datenblatt schreibt der Anbieter nachträglich. Es beschreibt dann, was man gern getan hätte. Herkunft entsteht beim Bauen oder gar nicht.

Checkliste Artikel 10

  • Jede Quelle hat eine Datenzone, und rote Daten erreichen technisch keine Trainingsumgebung.
  • Jeder Trainings-, Validierungs- und Testdatensatz hat einen versionierten Eintrag mit Eigentümer, Quellen, Rechtsgrundlage und ursprünglichem Erhebungszweck.
  • Jede Aufbereitungsregel (Pseudonymisierung, Bereinigung, Labelling) ist versioniert und im Eintrag referenziert.
  • Der Split ist nach Person und Zeit getrennt, und die Leakage-Prüfung ist Teil des Gates.
  • Repräsentativität ist gegen die Betriebsverteilung gemessen, mit Toleranzen, die der Fachbereich unterschrieben hat.
  • Die Bias-Prüfung umfasst kontrafaktische Tests auf Stellvertretermerkmale und Gruppenmetriken, mit dokumentiertem Ergebnis.
  • Jede Nutzung besonderer Kategorien zur Bias-Messung erfüllt die sechs Bedingungen aus Art. 4a und hat ein Löschdatum.
  • Bekannte Lücken stehen im Eintrag, und der Modell-Registereintrag verweist auf die Datensatzversionen.

Offene Fragen

  • Was heißt „hinreichend repräsentativ“ in Zahlen? Die Verordnung nennt keine, und bis harmonisierte Normen zur Datenqualität vorliegen und greifen, setzt jeder Anbieter eigene Toleranzen. Unsere Lesart ist der Vergleich mit der Betriebsverteilung. Ob eine Aufsicht das so sieht, wissen wir noch nicht.
  • Wie weit reicht Artikel 10 in ein Basismodell hinein? Wer einen Klassifizierer auf ein eingekauftes Sprachmodell aufsetzt, kontrolliert dessen Vortrainingsdaten nicht. Abs. 6 hilft, wenn gar nicht trainiert wird. Beim Feinjustieren bleibt offen, welche Nachweise über die eigenen Datensätze hinaus erwartet werden.
  • Wie beweist man, dass synthetische Daten nicht gereicht hätten? Art. 4a verlangt genau das als erste Bedingung. Eine belastbare Methode, die Grenze synthetischer Daten für die Bias-Messung zu zeigen, ist eine Forschungsfrage, keine gelöste Praxis.

Häufige Fragen

Gilt Artikel 10 auch für uns als Betreiber?

Direkt richtet sich Artikel 10 an Anbieter. Als Betreiber trifft dich Art. 26 Abs. 4: Eingabedaten relevant und hinreichend repräsentativ halten, soweit du sie kontrollierst. Sobald du ein Hochrisiko-System aber auf eigenen Daten trainierst, feinjustierst oder wesentlich veränderst, kannst du nach Art. 25 selbst zum Anbieter werden, und dann gilt Artikel 10 vollständig. Mehr dazu unter alle Artikel im Überblick.

Müssen Trainingsdaten fehlerfrei sein?

Nein. Abs. 3 sagt „so weit wie möglich“ fehlerfrei und vollständig, gemessen an der Zweckbestimmung. Was du brauchst, ist eine gemessene Fehlerrate, eine Begründung, warum sie für den Zweck reicht, und eine Liste der Lücken, die du kennst. Ein Datenblatt ohne bekannte Lücken ist für mich ein Warnsignal, kein Qualitätsmerkmal.

Dürfen wir Herkunft oder Religion erheben, um Bias zu messen?

Erheben ist das falsche Wort. Artikel 4a erlaubt ausnahmsweise die Verarbeitung besonderer Kategorien zur Bias-Erkennung und -Korrektur, wenn es nicht anders geht und alle sechs Bedingungen erfüllt sind. Er erzeugt keinen Freibrief, neue Merkmale zu sammeln, und keine Pflicht, es zu tun. Wo die Daten rechtmäßig da sind, nutzen wir sie in einer abgeschotteten Umgebung ausschließlich zum Messen und löschen sie danach.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment