EU AI Act Artikel 4a: Sensible Daten für Bias-Tests technisch umgesetzt
EU AI Act Artikel 4a erlaubt ausnahmsweise, besondere Kategorien personenbezogener Daten zu verarbeiten, um Verzerrungen in KI-Systemen zu erkennen und zu korrigieren, unter sechs Bedingungen. Unsere Antwort: eine abgeschottete Bias-Testumgebung mit rotem Speicher, Zweckbindung, pseudonymisiertem Join, Zugriffsprotokoll und Löschung nach dem Test, aus der nur das Ergebnisprotokoll in das Register wandert.
Artikel 4a löst ein Paradox, das jedes Fairness-Projekt in einer Bank oder Versicherung kennt. Art. 10 Abs. 2 Buchst. f verlangt, Hochrisiko-Systeme auf Verzerrungen zu prüfen, die zu verbotener Diskriminierung führen können. Um zu messen, ob ein Modell Menschen nach Herkunft, Gesundheitszustand oder Religion benachteiligt, braucht man genau die Daten, die Art. 9 DSGVO im Regelfall verbietet. Adressaten sind Anbieter von Hochrisiko-Systemen (Abs. 1) sowie Anbieter und Betreiber anderer KI-Systeme und Betreiber von Hochrisiko-Systemen (Abs. 2). Die Daten-Governance selbst steht im Beitrag zu Artikel 10; hier geht es nur um den Sonderfall der sensiblen Daten.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 4a steht in Kapitel I, wurde durch den Omnibus neu eingefügt und ersetzt den früheren Art. 10 Abs. 5; laut AI Act Explorer gilt er seit dem 27. Juli 2026, also vor den Hochrisiko-Pflichten, an die sein Absatz 1 anknüpft. Den Rahmen beschreibe ich in EU AI Act in der Praxis.
Was EU AI Act Artikel 4a verlangt
Genau genommen verlangt der Artikel nichts, er erlaubt. Artikel 4a KI-Verordnung ist eine Öffnungsklausel gegenüber dem Verbot aus Art. 9 DSGVO, und jede Öffnung hängt an Bedingungen, die alle zugleich erfüllt sein müssen:
Art. 4a Abs. 1, Grundregel: Anbieter von Hochrisiko-Systemen dürfen besondere Kategorien ausnahmsweise verarbeiten, soweit das für die Erkennung und Korrektur von Verzerrungen nach Art. 10 Abs. 2 Buchst. f und g unbedingt erforderlich ist. DSGVO, Verordnung (EU) 2018/1725 und Richtlinie (EU) 2016/680 gelten daneben weiter.
Buchst. a, Erforderlichkeit: Der Zweck lässt sich nicht wirksam mit anderen Daten erreichen, auch nicht mit synthetischen oder anonymisierten.
Buchst. b, technische Grenzen: Technische Beschränkungen gegen Weiterverwendung sowie Sicherheits- und Datenschutzmaßnahmen nach dem Stand der Technik, Pseudonymisierung eingeschlossen.
Buchst. c, Zugriff: Gesicherte Daten, streng kontrollierter und dokumentierter Zugriff, nur befugte Personen mit Vertraulichkeitspflichten.
Buchst. d, keine Weitergabe: Keine Übermittlung, keine Übertragung, kein Zugriff durch andere Parteien.
Buchst. e, Löschung: Sobald die Verzerrung korrigiert ist oder die Aufbewahrungsfrist endet, je nachdem, was zuerst eintritt.
Buchst. f, Verzeichnis: Das Verarbeitungsverzeichnis nennt die Gründe, warum die Verarbeitung unbedingt erforderlich war und warum andere Daten nicht gereicht hätten.
Art. 4a Abs. 2, Erweiterung: Anbieter und Betreiber anderer KI-Systeme und -Modelle sowie Betreiber von Hochrisiko-Systemen dürfen dasselbe, wenn (a) die Verarbeitung wegen Verzerrungen, die Gesundheit, Sicherheit, Grundrechte oder ein Diskriminierungsverbot berühren, unbedingt erforderlich ist, besonders wo Ausgaben künftige Eingaben beeinflussen, und (b) alle Bedingungen aus Abs. 1 gelten. Der letzte Satz: Absatz 2 begründet keine Pflicht zur Bias-Prüfung.
Die Prüfpflicht selbst steht für Anbieter in Art. 10 Abs. 2 Buchst. f und g, Artikel 4a liefert nur den Datenweg. Für Betreiber kommt der Druck aus Art. 26 Abs. 4 und, für Banken und Lebens- und Krankenversicherer unter Anhang III Nr. 5, aus der Grundrechte-Folgenabschätzung nach Art. 27.
Das technische Beispiel: Schaden-Triage und Kredit-Vorprüfung
Zwei Systeme, ein Problem. Ein Versicherer betreibt ein Modell, das Schadenmeldungen vorsortiert: automatische Regulierung, Sachbearbeitung oder vertiefte Prüfung. Eine Bank betreibt eine Kredit-Vorprüfung, die Anträge vor dem Beratergespräch in Ampelfarben einteilt. Beide entscheiden nicht endgültig, aber sie bestimmen, wer kritisch angesehen wird. Beide sind mit Stellvertretertests auf Vorname, Postleitzahl und Sprache geprüft. Was diese Tests nicht beantworten, ist die Frage des Vorstands: Landen Menschen mit bestimmter Herkunft, einer chronischen Erkrankung oder einer bestimmten Religion systematisch häufiger in der kritischen Spur?
Dafür braucht man pro Fall die Modellentscheidung und das geschützte Merkmal nebeneinander. Der Versicherer hält Gesundheitsdaten rechtmäßig, aber zur Leistungsprüfung, nicht zum Modelltest. Die Bank hält Gesundheitsdaten aus Restschuldversicherungen. Religion hält in der Regel keiner von beiden. Der gefährliche Moment ist der Join: Entscheidungen liegen pseudonymisiert im Evidence Log, Merkmale mit Klarnamen in Fachsystemen, und in einem Notebook zusammengelegt entsteht eine Tabelle, die niemand im Unternehmen haben darf. Hier beißt Artikel 4a mit allen sechs Bedingungen, und der Zusatz in Abs. 2 Buchst. a über Ausgaben, die künftige Eingaben beeinflussen, trifft beide Systeme: Die Triage-Entscheidung von heute ist das Trainingslabel von morgen.
So setzen wir es um
Wir bei SIFAMO behandeln den Bias-Test als eigenen, registrierten Vorgang mit Anfang, Ende und Löschdatum, nicht als Analyse am Rande des Projekts. Die Bausteine kommen aus unserem Governance Layer. Sechs Schritte, keiner wird übersprungen.
1. Rechtsgrundlage und Rolle klären
Vor dem ersten Zugriff steht fest, ob das Unternehmen Anbieter nach Abs. 1 oder Betreiber nach Abs. 2 ist. Datenschutzbeauftragter und Fachbereich prüfen, ob die Merkmale rechtmäßig vorhanden sind, für welchen ursprünglichen Zweck, und ob eine Datenschutz-Folgenabschätzung nötig ist; bei besonderen Kategorien ist sie das in der Regel. Wir erheben für Tests keine neuen Merkmale. Fehlt eines, sagt das Ergebnisprotokoll offen, dass diese Gruppe nicht gemessen werden konnte. Ich sage das bewusst deutlich: Artikel 4a erlaubt zu messen, nicht zu sammeln.
2. Der Erforderlichkeitstest, dokumentiert
Buchst. a verlangt, dass es nicht anders geht, Buchst. f verlangt die Begründung. Wir führen den Nachweis als Experiment, nicht als Textbaustein. Der Stellvertretertest zeigt, ob das Modell auf Signale reagiert, die mit Herkunft korrelieren, aber nicht, wie stark welche Gruppe betroffen ist. Synthetische Fälle prüfen konstruierte Variationen, nicht die reale Fehlerverteilung über reale Gruppen, und erben die Annahmen ihres Generators. Beim Gesundheitsstatus steckt das Merkmal zudem im Freitext, den das Modell liest; ob es daraus lernt, zeigen nur echte Fälle. Das Ergebnis dieser Vorstufen, mit Zahlen, ist der Erforderlichkeitsnachweis für das Verarbeitungsverzeichnis. Reicht der Stellvertretertest, wird Artikel 4a nicht gezogen.
Die Merkmale werden aus den Fachsystemen in einen eigenen roten Speicher extrahiert, der zu genau einem Bias-Test gehört. Das Policy Gateway kennt ihn unter einer Zweck-ID, nur der registrierte Testvorgang kann ihn anfragen, kein Trainingslauf und kein Feature Store hat eine Route dorthin. Das ist unsere Lesart von Buchst. b: keine Richtlinie, sondern eine fehlende Route. Das Löschdatum wird bei der Anlage gesetzt. Die Modellentscheidungen kommen aus dem Evidence Log mit pseudonymer ID, Modellversion und Ausgabe; die Merkmale erhalten vom Pseudonymisierungsdienst dieselben stabilen IDs, und zwar innerhalb der Testumgebung, sodass die Zuordnungstabelle sie nie verlässt. Die Umgebung hat keinen Netzausgang und keinen Export außer einem Ausgabegate für Aggregate ab einer vom Fachbereich festgelegten Mindestgruppengröße. Heraus kommt eine Tabelle mit Gruppenraten, keine Zeile mit Klarnamen.
4. Keine Weitergabe, auch nicht an uns
Buchst. d ist der Punkt, an dem Lieferantenmodelle scheitern. Der Modellanbieter bekommt die Merkmale nicht, der Cloud-Anbieter nicht, und wir als Dienstleister auch nicht. Wir bauen die Umgebung, definieren die Metriken und prüfen das Protokoll; den Test führen namentlich benannte Mitarbeitende des Unternehmens. Ein Bias-Test, den der Lieferant mit den sensiblen Daten des Kunden fährt, ist für mich kein Grenzfall, sondern ein Verstoß.
5. Jeder Zugriff im Protokoll, Löschung nach dem Test
Die Testumgebung schreibt in dasselbe Append-only-Muster wie das Evidence Log: wer, wann, welche Abfrage, wie viele Zeilen, welches Ergebnis exportiert. Der Datenschutzbeauftragte liest das Protokoll vor der Freigabe; aus Buchst. c machen wir eine Bedingung für die Unterschrift. Nach Korrektur und bestandenem Wiederholungstest wird die Umgebung mit dem roten Speicher gelöscht, das Löschprotokoll wird im Register referenziert. Buchst. e nennt zwei Auslöser, Korrektur oder Ende der Aufbewahrungsfrist, das frühere gilt. Der nächste Test, etwa nach einem Retraining, ist ein neuer Vorgang mit neuem Erforderlichkeitsnachweis. Das ist Aufwand, und er ist gewollt.
6. Das Ergebnisprotokoll geht ins Register, die Daten nicht
Was den Test überlebt, ist ein Protokoll ohne Personenbezug. Es hängt am Registereintrag des Modells im Feld für die Bias-Prüfung und ist Teil des Qualitätsgates vor dem Deployment. Vereinfacht:
{
"bias_test_id": "BT-2026-017",
"model_id": "DE-V-2026-0088 (Schaden-Triage), Version 2026-10-r1",
"legal_route": "Art. 4a Abs. 1 (Anbieter)",
"attributes": ["Gesundheitsstatus (Leistungsakte)", "Religion: nicht vorhanden, nicht gemessen"],
"necessity_record": "NR-2026-017 (Stellvertreter- und Synthetiktest: nicht ausreichend)",
"population": "Faelle 2026-04 bis 2026-09, pseudonymisiert, Mindestgruppengroesse 200",
"metrics": {"review_rate": "pro Gruppe", "false_review_rate": "pro Gruppe", "max_gap": "Schwelle vom Fachbereich"},
"finding": "Ueberschreitung in einer Gruppe, Ursache: Freitextmerkmal aus Gutachten",
"remediation": "Merkmal entfernt, Retraining, Wiederholungstest BT-2026-019 bestanden",
"access_log": "47 Zugriffe, 3 befugte Personen, vom DSB geprueft",
"deletion": "Umgebung geloescht 2026-10-21, Loeschprotokoll LP-2026-017",
"sign_off": ["Fachbereich", "Risiko und Datenschutz", "IT"]
}
Ein Prüfer sieht den Erforderlichkeitsnachweis, den Eintrag im Verarbeitungsverzeichnis, das Zugriffsprotokoll, das Löschprotokoll und dieses Ergebnis mit drei Unterschriften. Die sensiblen Daten sieht er nicht, und er braucht sie nicht. Weitere Beiträge der Reihe: alle Artikel im Überblick.
Typische Fehler
Das Merkmal landet im Feature Store. Für den Test wird Gesundheitsstatus an die Trainingstabelle gehängt, ein Jahr später ist er ein Modellmerkmal.
Der Erforderlichkeitsnachweis ist ein Textbaustein. „Synthetische Daten waren nicht ausreichend“ ohne Zahlen überzeugt keine Aufsicht.
Der Lieferant testet mit den Kundendaten. Bequem, und ein klarer Verstoß gegen Buchst. d.
Das Notebook überlebt den Test. CSV-Exporte auf Laufwerken sind der häufigste Grund, warum Buchst. e verletzt wird.
Checkliste Artikel 4a
Rolle geklärt: Anbieter nach Abs. 1 oder Betreiber nach Abs. 2.
Erforderlichkeitsnachweis mit Ergebnissen von Stellvertreter- und Synthetiktest, vor dem ersten Zugriff im Verarbeitungsverzeichnis.
Eigener roter Speicher je Testvorgang, mit Zweck-ID im Gateway und ohne Route zu Training oder Feature Store.
Join nur über pseudonyme IDs in einer Umgebung ohne Netzausgang, Export nur als Aggregat ab Mindestgruppengröße.
Namentliche Zugriffsliste, Append-only-Zugriffsprotokoll, keine Weitergabe an Lieferanten, Cloud-Anbieter oder Berater.
Löschdatum bei Anlage gesetzt, Löschprotokoll im Register referenziert.
Ergebnisprotokoll mit Gruppenmetriken, Befund und Korrektur am Registereintrag, ohne Personenbezug, mit drei Unterschriften.
Offene Fragen
Wie beweist man, dass synthetische oder anonymisierte Daten nicht reichen? Buchst. a macht das zur ersten Bedingung, eine anerkannte Methode fehlt. Unser Experiment ist Praxis, kein Standard.
Erlaubt Artikel 4a auch das Erheben neuer Merkmale? Der Text spricht von Verarbeitung, die im Datenschutzrecht das Erheben einschließt. Wir lesen ihn eng.
Wann ist eine Verzerrung „korrigiert“? Buchst. e knüpft die Löschung daran, Modelle werden aber nachtrainiert. Ob die Aufsicht getrennt registrierte Vorgänge akzeptiert oder eine Dauerverarbeitung erwartet, ist offen.
Häufige Fragen
Gilt Artikel 4a auch für uns als Betreiber?
Ja, über Abs. 2. Wer ein eingekauftes Hochrisiko-System betreibt oder ein anderes KI-System anbietet oder betreibt, darf besondere Kategorien unter denselben sechs Bedingungen für Bias-Tests verarbeiten. Eine Pflicht entsteht daraus nicht; für Banken und Versicherer unter Anhang III liefert Art. 27 trotzdem einen guten Grund.
Müssen wir Bias-Tests mit sensiblen Daten durchführen?
Nein. Anbieter von Hochrisiko-Systemen müssen Verzerrungen nach Art. 10 Abs. 2 Buchst. f prüfen, aber nicht zwingend mit besonderen Kategorien; der Weg über Artikel 4a steht nur offen, wenn es nicht anders geht. Für alle anderen sagt Abs. 2 ausdrücklich, dass keine Pflicht entsteht.
Dürfen wir die Daten für den nächsten Test behalten?
Nein. Buchst. e verlangt die Löschung, sobald die Verzerrung korrigiert ist oder die Aufbewahrungsfrist endet, je nachdem, was zuerst kommt. Der nächste Test ist ein neuer Vorgang; was bleibt, ist das Ergebnisprotokoll im Register.
EU AI Act Artikel 4a: Sensible Daten für Bias-Tests technisch umgesetzt
EU AI Act Artikel 4a erlaubt ausnahmsweise, besondere Kategorien personenbezogener Daten zu verarbeiten, um Verzerrungen in KI-Systemen zu erkennen und zu korrigieren, unter sechs Bedingungen. Unsere Antwort: eine abgeschottete Bias-Testumgebung mit rotem Speicher, Zweckbindung, pseudonymisiertem Join, Zugriffsprotokoll und Löschung nach dem Test, aus der nur das Ergebnisprotokoll in das Register wandert.
Artikel 4a löst ein Paradox, das jedes Fairness-Projekt in einer Bank oder Versicherung kennt. Art. 10 Abs. 2 Buchst. f verlangt, Hochrisiko-Systeme auf Verzerrungen zu prüfen, die zu verbotener Diskriminierung führen können. Um zu messen, ob ein Modell Menschen nach Herkunft, Gesundheitszustand oder Religion benachteiligt, braucht man genau die Daten, die Art. 9 DSGVO im Regelfall verbietet. Adressaten sind Anbieter von Hochrisiko-Systemen (Abs. 1) sowie Anbieter und Betreiber anderer KI-Systeme und Betreiber von Hochrisiko-Systemen (Abs. 2). Die Daten-Governance selbst steht im Beitrag zu Artikel 10; hier geht es nur um den Sonderfall der sensiblen Daten.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 4a steht in Kapitel I, wurde durch den Omnibus neu eingefügt und ersetzt den früheren Art. 10 Abs. 5; laut AI Act Explorer gilt er seit dem 27. Juli 2026, also vor den Hochrisiko-Pflichten, an die sein Absatz 1 anknüpft. Den Rahmen beschreibe ich in EU AI Act in der Praxis.
Was EU AI Act Artikel 4a verlangt
Genau genommen verlangt der Artikel nichts, er erlaubt. Artikel 4a KI-Verordnung ist eine Öffnungsklausel gegenüber dem Verbot aus Art. 9 DSGVO, und jede Öffnung hängt an Bedingungen, die alle zugleich erfüllt sein müssen:
Die Prüfpflicht selbst steht für Anbieter in Art. 10 Abs. 2 Buchst. f und g, Artikel 4a liefert nur den Datenweg. Für Betreiber kommt der Druck aus Art. 26 Abs. 4 und, für Banken und Lebens- und Krankenversicherer unter Anhang III Nr. 5, aus der Grundrechte-Folgenabschätzung nach Art. 27.
Das technische Beispiel: Schaden-Triage und Kredit-Vorprüfung
Zwei Systeme, ein Problem. Ein Versicherer betreibt ein Modell, das Schadenmeldungen vorsortiert: automatische Regulierung, Sachbearbeitung oder vertiefte Prüfung. Eine Bank betreibt eine Kredit-Vorprüfung, die Anträge vor dem Beratergespräch in Ampelfarben einteilt. Beide entscheiden nicht endgültig, aber sie bestimmen, wer kritisch angesehen wird. Beide sind mit Stellvertretertests auf Vorname, Postleitzahl und Sprache geprüft. Was diese Tests nicht beantworten, ist die Frage des Vorstands: Landen Menschen mit bestimmter Herkunft, einer chronischen Erkrankung oder einer bestimmten Religion systematisch häufiger in der kritischen Spur?
Dafür braucht man pro Fall die Modellentscheidung und das geschützte Merkmal nebeneinander. Der Versicherer hält Gesundheitsdaten rechtmäßig, aber zur Leistungsprüfung, nicht zum Modelltest. Die Bank hält Gesundheitsdaten aus Restschuldversicherungen. Religion hält in der Regel keiner von beiden. Der gefährliche Moment ist der Join: Entscheidungen liegen pseudonymisiert im Evidence Log, Merkmale mit Klarnamen in Fachsystemen, und in einem Notebook zusammengelegt entsteht eine Tabelle, die niemand im Unternehmen haben darf. Hier beißt Artikel 4a mit allen sechs Bedingungen, und der Zusatz in Abs. 2 Buchst. a über Ausgaben, die künftige Eingaben beeinflussen, trifft beide Systeme: Die Triage-Entscheidung von heute ist das Trainingslabel von morgen.
So setzen wir es um
Wir bei SIFAMO behandeln den Bias-Test als eigenen, registrierten Vorgang mit Anfang, Ende und Löschdatum, nicht als Analyse am Rande des Projekts. Die Bausteine kommen aus unserem Governance Layer. Sechs Schritte, keiner wird übersprungen.
1. Rechtsgrundlage und Rolle klären
Vor dem ersten Zugriff steht fest, ob das Unternehmen Anbieter nach Abs. 1 oder Betreiber nach Abs. 2 ist. Datenschutzbeauftragter und Fachbereich prüfen, ob die Merkmale rechtmäßig vorhanden sind, für welchen ursprünglichen Zweck, und ob eine Datenschutz-Folgenabschätzung nötig ist; bei besonderen Kategorien ist sie das in der Regel. Wir erheben für Tests keine neuen Merkmale. Fehlt eines, sagt das Ergebnisprotokoll offen, dass diese Gruppe nicht gemessen werden konnte. Ich sage das bewusst deutlich: Artikel 4a erlaubt zu messen, nicht zu sammeln.
2. Der Erforderlichkeitstest, dokumentiert
Buchst. a verlangt, dass es nicht anders geht, Buchst. f verlangt die Begründung. Wir führen den Nachweis als Experiment, nicht als Textbaustein. Der Stellvertretertest zeigt, ob das Modell auf Signale reagiert, die mit Herkunft korrelieren, aber nicht, wie stark welche Gruppe betroffen ist. Synthetische Fälle prüfen konstruierte Variationen, nicht die reale Fehlerverteilung über reale Gruppen, und erben die Annahmen ihres Generators. Beim Gesundheitsstatus steckt das Merkmal zudem im Freitext, den das Modell liest; ob es daraus lernt, zeigen nur echte Fälle. Das Ergebnis dieser Vorstufen, mit Zahlen, ist der Erforderlichkeitsnachweis für das Verarbeitungsverzeichnis. Reicht der Stellvertretertest, wird Artikel 4a nicht gezogen.
3. Roter Speicher, Zweckbindung, pseudonymisierter Join
Die Merkmale werden aus den Fachsystemen in einen eigenen roten Speicher extrahiert, der zu genau einem Bias-Test gehört. Das Policy Gateway kennt ihn unter einer Zweck-ID, nur der registrierte Testvorgang kann ihn anfragen, kein Trainingslauf und kein Feature Store hat eine Route dorthin. Das ist unsere Lesart von Buchst. b: keine Richtlinie, sondern eine fehlende Route. Das Löschdatum wird bei der Anlage gesetzt. Die Modellentscheidungen kommen aus dem Evidence Log mit pseudonymer ID, Modellversion und Ausgabe; die Merkmale erhalten vom Pseudonymisierungsdienst dieselben stabilen IDs, und zwar innerhalb der Testumgebung, sodass die Zuordnungstabelle sie nie verlässt. Die Umgebung hat keinen Netzausgang und keinen Export außer einem Ausgabegate für Aggregate ab einer vom Fachbereich festgelegten Mindestgruppengröße. Heraus kommt eine Tabelle mit Gruppenraten, keine Zeile mit Klarnamen.
4. Keine Weitergabe, auch nicht an uns
Buchst. d ist der Punkt, an dem Lieferantenmodelle scheitern. Der Modellanbieter bekommt die Merkmale nicht, der Cloud-Anbieter nicht, und wir als Dienstleister auch nicht. Wir bauen die Umgebung, definieren die Metriken und prüfen das Protokoll; den Test führen namentlich benannte Mitarbeitende des Unternehmens. Ein Bias-Test, den der Lieferant mit den sensiblen Daten des Kunden fährt, ist für mich kein Grenzfall, sondern ein Verstoß.
5. Jeder Zugriff im Protokoll, Löschung nach dem Test
Die Testumgebung schreibt in dasselbe Append-only-Muster wie das Evidence Log: wer, wann, welche Abfrage, wie viele Zeilen, welches Ergebnis exportiert. Der Datenschutzbeauftragte liest das Protokoll vor der Freigabe; aus Buchst. c machen wir eine Bedingung für die Unterschrift. Nach Korrektur und bestandenem Wiederholungstest wird die Umgebung mit dem roten Speicher gelöscht, das Löschprotokoll wird im Register referenziert. Buchst. e nennt zwei Auslöser, Korrektur oder Ende der Aufbewahrungsfrist, das frühere gilt. Der nächste Test, etwa nach einem Retraining, ist ein neuer Vorgang mit neuem Erforderlichkeitsnachweis. Das ist Aufwand, und er ist gewollt.
6. Das Ergebnisprotokoll geht ins Register, die Daten nicht
Was den Test überlebt, ist ein Protokoll ohne Personenbezug. Es hängt am Registereintrag des Modells im Feld für die Bias-Prüfung und ist Teil des Qualitätsgates vor dem Deployment. Vereinfacht:
Ein Prüfer sieht den Erforderlichkeitsnachweis, den Eintrag im Verarbeitungsverzeichnis, das Zugriffsprotokoll, das Löschprotokoll und dieses Ergebnis mit drei Unterschriften. Die sensiblen Daten sieht er nicht, und er braucht sie nicht. Weitere Beiträge der Reihe: alle Artikel im Überblick.
Typische Fehler
Checkliste Artikel 4a
Offene Fragen
Häufige Fragen
Gilt Artikel 4a auch für uns als Betreiber?
Ja, über Abs. 2. Wer ein eingekauftes Hochrisiko-System betreibt oder ein anderes KI-System anbietet oder betreibt, darf besondere Kategorien unter denselben sechs Bedingungen für Bias-Tests verarbeiten. Eine Pflicht entsteht daraus nicht; für Banken und Versicherer unter Anhang III liefert Art. 27 trotzdem einen guten Grund.
Müssen wir Bias-Tests mit sensiblen Daten durchführen?
Nein. Anbieter von Hochrisiko-Systemen müssen Verzerrungen nach Art. 10 Abs. 2 Buchst. f prüfen, aber nicht zwingend mit besonderen Kategorien; der Weg über Artikel 4a steht nur offen, wenn es nicht anders geht. Für alle anderen sagt Abs. 2 ausdrücklich, dass keine Pflicht entsteht.
Dürfen wir die Daten für den nächsten Test behalten?
Nein. Buchst. e verlangt die Löschung, sobald die Verzerrung korrigiert ist oder die Aufbewahrungsfrist endet, je nachdem, was zuerst kommt. Der nächste Test ist ein neuer Vorgang; was bleibt, ist das Ergebnisprotokoll im Register.
Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater
Recent Posts
Recent Comments