KI erfindet Daten: OpenAI gibt es zu, und warum wir ein KI-Register brauchen | Umair Zaffar
Umair Zaffar Oktober 31, 2026 0 Comments

EU AI Act Artikel 27: Grundrechte-Folgenabschätzung technisch umgesetzt

EU AI Act Artikel 27 verlangt von Behörden, Erbringern öffentlicher Dienste, Banken und Versicherern vor dem ersten Einsatz eines Hochrisiko-Systems eine Grundrechte-Folgenabschätzung, und wir bei SIFAMO führen sie als versionierten Datensatz im Registereintrag, der die Datenschutz-Folgenabschätzung referenziert statt sie zu kopieren und ohne den das Gateway keine Route freigibt.

Artikel 27 ist der einzige Artikel im Hochrisiko-Kapitel, der sich allein an den Betreiber richtet und ihm eine eigene Prüfung vor dem Einsatz auferlegt. Adressiert sind Behörden, private Erbringer öffentlicher Dienste und Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder zur Risikobewertung in der Lebens- und Krankenversicherung. Also genau die Organisationen, mit denen wir arbeiten. Ich bin Engineer, kein Jurist. Mich interessiert, wie aus der Abschätzung ein Artefakt wird, das zur Laufzeit zählt und das ein Prüfer später noch lesen kann. Grundlagen zu Fristen und Rollen: EU AI Act in der Praxis.

Zur Einordnung: Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 27 gehört zu den Anhang-III-Pflichten. Der Omnibus hat Fristen verschoben, keine Pflicht gestrichen.

Was Artikel 27 verlangt

Artikel 27 KI-Verordnung verlangt keine neue Risikoanalyse des Systems, die macht der Anbieter nach Artikel 9, sondern eine Prüfung des konkreten Einsatzes auf die Rechte der Betroffenen:

  • Art. 27 Abs. 1, wer: Vor der ersten Verwendung eines Hochrisiko-Systems nach Art. 6 Abs. 2 (Anhang III) müssen Einrichtungen des öffentlichen Rechts, private Erbringer öffentlicher Dienste sowie alle Betreiber von Systemen nach Anhang III Nr. 5 Buchstabe b (Kreditwürdigkeit) und c (Lebens- und Krankenversicherung) die Auswirkungen auf die Grundrechte abschätzen. Ausgenommen ist kritische Infrastruktur nach Anhang III Nr. 2.
  • Art. 27 Abs. 1 Buchstabe a bis f, was: (a) die Prozesse des Betreibers, in denen das System zweckbestimmungsgemäß verwendet wird; (b) Zeitraum und Häufigkeit der Verwendung; (c) die Kategorien von Personen und Gruppen, die voraussichtlich betroffen sind; (d) die spezifischen Schadensrisiken für diese Gruppen unter Berücksichtigung der Anbieterinformationen nach Art. 13; (e) die Umsetzung der menschlichen Aufsicht gemäß Betriebsanleitung; (f) die Maßnahmen für den Fall, dass Risiken eintreten, einschließlich interner Governance und Beschwerdemechanismen.
  • Art. 27 Abs. 2: Die Pflicht gilt für die erste Verwendung. In vergleichbaren Fällen darf der Betreiber auf frühere Abschätzungen zurückgreifen, auch auf solche des Anbieters. Ändert sich ein Element oder ist es nicht mehr aktuell, muss er es aktualisieren.
  • Art. 27 Abs. 3: Nach der Abschätzung meldet der Betreiber die Ergebnisse der Marktüberwachungsbehörde und reicht das ausgefüllte Muster nach Abs. 5 ein. Im Fall des Art. 46 Abs. 1 (Ausnahme vom Konformitätsbewertungsverfahren aus außergewöhnlichen Gründen) kann die Meldepflicht entfallen.
  • Art. 27 Abs. 4: Soweit eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO oder Art. 27 der Richtlinie (EU) 2016/680 Pflichten aus diesem Artikel bereits erfüllt, ergänzt die Grundrechte-Folgenabschätzung sie. Nach der Fassung des Digital Omnibus darf der Betreiber auf die DSFA verweisen oder ihre einschlägigen Teile übernehmen.
  • Art. 27 Abs. 5: Das KI-Büro der Kommission entwickelt ein Muster für einen Fragebogen, auch als automatisiertes Werkzeug, mit Querverweisen auf die DSFA. Das Muster wird derzeit vorbereitet; bis dahin arbeiten wir mit einer eigenen Struktur entlang der sechs Buchstaben.

Das technische Beispiel

Zwei Systeme, ein Governance Layer. Erstens: Eine Behörde führt für eine Sozialleistung ein System ein, das eingehende Anträge priorisiert, dringend, Standard oder Prüffall. Es entscheidet nicht über die Leistung, sondern liest den pseudonymisierten Antrag und seine Metadaten und schlägt eine Warteschlange vor. Das System stammt von einem Anbieter, die Behörde ist Betreiberin. Anhang III Nr. 5 Buchstabe a erfasst Systeme, mit denen Behörden den Anspruch auf öffentliche Leistungen bewerten. Eine Priorisierung bewertet formal keinen Anspruch, aber wer hinten in der Schlange landet, wartet auf Geld, das er zum Leben braucht. Wir legen die strengere Lesart zugrunde statt der Ausnahme in Art. 6 Abs. 3. Als Einrichtung des öffentlichen Rechts fällt die Behörde ohnehin unter Art. 27 Abs. 1.

Zweitens: Eine Bank betreibt im Privatkundenkredit eine Vorprüfung, die Anträge auf Schnellspur, Standardprüfung oder Spezialprüfung verteilt, Anhang III Nr. 5 Buchstabe b. Die Bank hat das Modell selbst gebaut, ist also Anbieterin und Betreiberin zugleich. Artikel 27 trifft sie in der Betreiberrolle.

Der Datenfluss ist in beiden Fällen derselbe: Die Fachanwendung ruft das Gateway mit einer Use-Case-ID, das Gateway prüft Registereintrag und Datenzone, pseudonymisiert mit IDs, ruft das Modell, schreibt das Evidence Log und legt Fälle je nach Aufsichtsstufe in die Prüfqueue. Artikel 27 beißt nicht beim Modell, sondern beim Prozess darum herum. Welche Gruppen stehen in dieser Schlange? Was passiert mit denen, die das Modell falsch einsortiert? An wen wendet sich ein Betroffener? Das kann nur die Behörde oder die Bank beantworten, nicht der Hersteller des Modells.

So setzen wir es um

Wir bei SIFAMO führen die Grundrechte-Folgenabschätzung nicht als Dokument neben dem System, sondern als eigenen, versionierten Block im Registereintrag, den der Governance Layer zur Laufzeit liest. Jedes Feld entspricht einem Buchstaben aus Art. 27 Abs. 1, dazu kommen die Referenz auf die DSFA, die Meldung und die Auslöser für eine Aktualisierung. Vereinfacht, für die Behörde:

{
  "model_id": "DE-P-2026-0062",
  "purpose": "Priorisierung von Anträgen auf eine Sozialleistung, keine Entscheidung über den Anspruch",
  "risk_class": "hoch (Anhang III Nr. 5 a), Stufe 3 (intern)",
  "fria": {
    "version": "benefit-priority-fria-v2", "status": "freigegeben",
    "a_process": "Posteingang Sozialleistung, Schritt 2 (Vorsortierung); Bescheid bleibt beim Sachbearbeiter",
    "b_period_frequency": "unbefristet, laufend, alle eingehenden Anträge",
    "c_affected_groups": ["Alleinerziehende", "Personen ohne deutsche Sprachkenntnisse", "Personen in akuter Notlage"],
    "d_harms": [
      {"id": "FR-01", "right": "Gleichbehandlung", "harm": "Herabstufung über Proxy-Merkmale (Haushaltsgröße, Wohnort)",
       "source": "Betriebsanleitung Anbieter", "mitigation": "Gateway-Regel G-14, Bias-Lauf je Version"},
      {"id": "FR-02", "right": "Zugang zu Leistungen", "harm": "Verzögerte Auszahlung bei falscher Einstufung",
       "mitigation": "Höchstwartezeit je Queue, Monitoring M-07, Hinweis im Bescheid, Beschwerdeweg B-02"}
    ],
    "e_oversight": "Prüffall: vollständige Prüfung; Standard: Stichprobe 5 % mit blinder Nachprüfung",
    "f_measures": {"kill_switch": "Amtsleitung", "complaints": "B-02, Antwort binnen 10 Arbeitstagen", "escalation": "Fachaufsicht, Datenschutzbeauftragte"},
    "dpia_ref": {"id": "DSFA-2026-011", "reused_sections": ["Verarbeitungsbeschreibung", "Datenkategorien", "TOM"]},
    "notification": {"authority": "zuständige Marktüberwachungsbehörde", "date": "2026-10-06", "format": "FRIA-Export v1, bis das Kommissionsmuster vorliegt"},
    "signed": ["Amtsleitung (Business Owner)", "Datenschutzbeauftragte", "IT-Betrieb"],
    "update_on": ["Prozess", "Antragsgruppe", "Modell- oder Prompt-Version", "Aufsichtsstufe", "Beschwerdemuster", "Ablauf 2026-12-15"]
  }
}

Sechs Buchstaben als Felder, nicht als Kapitel

Buchstabe a und b kommen aus dem Register: Zweck, Scope, Prozessschritt, dazu Zeitraum und Häufigkeit vom Business Owner, weil „Pilot für drei Monate“ und „unbefristet für alle Anträge“ zwei verschiedene Abschätzungen sind. Für Buchstabe c benennen wir Gruppen konkret. „Antragsteller“ ist keine Gruppe, sondern die Grundgesamtheit, und dieselben Gruppen landen als eigene Fälle im Evaluationsset. Für Buchstabe d bekommt jedes Schadensrisiko eine ID, das betroffene Recht, die Quelle (meist die Betriebsanleitung nach Art. 13) und eine Maßnahme, die als Gateway-Regel, Monitoring-Regel oder Aufsichtsstufe existiert. Buchstabe e ist nicht „ein Mensch prüft“, sondern die Aufsichtsstufe pro Route mit Stichprobe und blinder Nachprüfung. Buchstabe f heißt bei uns: Kill Switch mit Namen, Beschwerdeweg mit Frist, Eskalation mit Rolle. Ohne Beschwerdeweg ist f nicht erfüllt, auch wenn das Gateway perfekt arbeitet.

DSFA referenzieren, nicht kopieren

Art. 27 Abs. 4 ist die Einladung, die Datenschutz-Folgenabschätzung nicht noch einmal zu schreiben. Wir nehmen sie an. Verarbeitungsbeschreibung, Datenkategorien und technisch-organisatorische Maßnahmen stehen in der DSFA und werden per ID und Abschnitt referenziert. Die FRIA ergänzt, was die DSFA nicht fragt: Gleichbehandlung, Zugang zu Leistungen, wirksamer Rechtsbehelf. Die Datenschutzbeauftragte zeichnet mit. Zwei Dokumente über dieselbe Verarbeitung laufen nach der ersten Änderung auseinander, eine Referenz nicht.

Keine Abschätzung, keine Meldung, keine Route

Für Systeme im Anwendungsbereich von Artikel 27 trägt der Registereintrag ein Flag. Ohne freigegebene FRIA-Version und ohne Meldedatum setzt das Gateway keine Route für den produktiven Use Case. Das ist unsere Entscheidung, nicht der Wortlaut: Abs. 1 verlangt die Abschätzung vor dem Einsatz, Abs. 3 die Meldung danach. Wir machen daraus die feste Reihenfolge Abschätzung, Meldung, erste Verwendung. Bis das Kommissionsmuster vorliegt, exportieren wir den FRIA-Block entlang der sechs Buchstaben mit Querverweis auf die DSFA und legen die Eingangsbestätigung im Eintrag ab. Für die Bank ist nach Art. 74 Abs. 6 die Finanzaufsicht die Marktüberwachungsbehörde.

Wiederverwenden mit Delta

Rollt die Behörde das System für eine zweite Leistung aus, legt sie nach Art. 27 Abs. 2 keine neue FRIA an, sondern eine Version mit Delta: gleicher Anbieter, gleiche Aufsicht, andere Gruppen, anderer Prozess. Eine Abschätzung des Anbieters ist die Basis für Buchstabe d, nie der Ersatz für a, b, c und f. Die kennt nur der Betreiber.

Aktualisieren, wenn sich etwas ändert

Die FRIA-Version hängt an Modell-, Prompt- und Policy-Version im Registereintrag. Ändert sich eines davon, wird die FRIA zur Durchsicht aufgerufen. Dazu kommen Auslöser aus dem Betrieb: Stichprobenquote gesenkt (e), neue Antragsgruppe (c), Beschwerdemuster oder Prüferaktionen im Evidence Log, die zu keinem bekannten Schadensrisiko passen (d), Pilot wird Regelbetrieb (b). Das Ablaufdatum der Registrierung erzwingt die Durchsicht auch ohne Änderung. Wir führen die FRIA schon heute, vor Dezember 2027, weil die Fragen a bis f sowieso beantwortet sein müssen, bevor ein Modell Anträge von Menschen sortiert.

Was der Prüfer sieht: den versionierten FRIA-Block mit Gruppen, Schadensrisiken, Maßnahmen-IDs und Unterschriften, die DSFA-Referenz, das Meldedatum mit Bestätigung und die Versionshistorie mit Auslösern. Für die Behörde speist derselbe Eintrag die Registrierung in der EU-Datenbank nach Art. 49 Abs. 3. Mehr dazu unter KI Governance.

Typische Fehler

  • Die FRIA ist eine umbenannte DSFA. Sie sagt, welche Daten verarbeitet werden, aber nicht, wer benachteiligt wird und wohin er sich wendet.
  • Der Anbieter hat sie geschrieben. Seine Abschätzung kennt das System, aber nicht Prozess, Gruppen und Aufsicht des Betreibers. Art. 27 Abs. 2 erlaubt sie als Basis, nicht als Ersatz.
  • Betroffene Gruppe: „Kunden“. Ohne konkrete Gruppen gibt es keine spezifischen Schadensrisiken und keine Fälle im Evaluationsset.
  • Buchstabe f ohne Beschwerdeweg, Meldung nach dem Go-live oder gar nicht. Und nie aktualisiert, obwohl Stichprobenquote und Modellversion längst andere sind.

Checkliste EU AI Act Artikel 27

  • Jedes Hochrisiko-System im Anwendungsbereich von Art. 27 Abs. 1 hat einen versionierten FRIA-Block im Registereintrag, verknüpft mit Modell-, Prompt- und Policy-Version.
  • Prozess, Zeitraum und Häufigkeit sind vom Business Owner beschrieben und passen zur Zweckbestimmung des Anbieters.
  • Betroffene Gruppen sind konkret benannt und als eigene Fälle im Evaluationsset vertreten.
  • Jedes Schadensrisiko hat eine ID, das betroffene Recht, die Quelle aus den Art.-13-Informationen und eine durchgesetzte Maßnahme; die Aufsichtsstufe pro Route wird vom Gateway erzwungen.
  • Kill Switch, Beschwerdeweg mit Frist und Eskalation sind mit Namen und Rollen hinterlegt; die DSFA ist per ID und Abschnitt referenziert.
  • Die Meldung an die Marktüberwachungsbehörde ist vor der ersten Verwendung erfolgt und mit Bestätigung abgelegt; Auslöser für die Aktualisierung sind definiert.

Offene Fragen

  • Welche Behörde nimmt die Meldung entgegen? Für Banken verweist Art. 74 Abs. 6 auf die Finanzaufsicht. Für Behörden und private Erbringer öffentlicher Dienste entscheidet die nationale Zuständigkeitsregelung, und das Kommissionsmuster fehlt noch.
  • Was ist ein „vergleichbarer Fall“? Art. 27 Abs. 2 sagt nicht, ob eine zweite Sozialleistung mit anderem Antragstellerkreis noch vergleichbar ist. Wir begründen den Vergleich im Eintrag.
  • Wie misst man ein Schadensrisiko für ein Grundrecht? Für Diskriminierung gibt es Metriken, für wirksamen Rechtsbehelf nicht. Auch wann eine private Einrichtung „öffentliche Dienste erbringt“, ist nicht abschließend geklärt.

Häufige Fragen

Gilt das auch für uns als Betreiber?

Artikel 27 richtet sich ausschließlich an Betreiber, aber nur an die genannten Gruppen. Ein Industrieunternehmen mit einem Hochrisiko-System zur Bewerberauswahl hat die Betreiberpflichten nach Art. 26, aber keine Grundrechte-Folgenabschätzung. Bank, Lebensversicherer und Behörde haben sie immer.

Reicht unsere Datenschutz-Folgenabschätzung?

Nein. Art. 27 Abs. 4 erlaubt den Verweis auf sie, aber die FRIA ergänzt sie. Was meist fehlt: Gruppen, Schadensrisiken jenseits des Datenschutzes, konkrete Aufsicht, Beschwerdeweg.

Müssen wir die FRIA veröffentlichen?

Nein, Artikel 27 verlangt die Meldung an die Marktüberwachungsbehörde mit dem Muster nach Abs. 5. Behörden registrieren den Einsatz zusätzlich nach Art. 49 Abs. 3 in der EU-Datenbank. Was Betroffene erfahren, regeln Art. 26 Abs. 11 und Art. 86, bei uns der Hinweis im Bescheid.

Dieser Beitrag ist Teil der Serie zum EU AI Act Artikel für Artikel, alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment