Ein langweiliger Tag als Gründer: Calls, Partnertermin, Reifenpanne | Umair Zaffar
Umair Zaffar November 11, 2026 0 Comments

EU AI Act Artikel 86: Recht auf Erläuterung technisch umgesetzt

EU AI Act Artikel 86 gibt jeder Person, über die ein Betreiber auf Grundlage eines Hochrisiko-Systems entschieden hat, das Recht auf eine klare und aussagekräftige Erläuterung der Rolle der KI und der wesentlichen Elemente der Entscheidung. Wir erzeugen diese Erläuterung aus dem Evidence Log, nicht aus dem, was das Modell über sich selbst erzählt.

Artikel 86 ist neben dem Beschwerderecht in Art. 85 der einzige Artikel des AI Act, der einer betroffenen Person direkt einen Anspruch gegen den Betreiber gibt. Er adressiert den Betreiber, nicht den Anbieter. Für Banken, Versicherer und Personalabteilungen heißt das: Wer eine Entscheidung mit einem KI-System vorbereitet, muss sie hinterher erklären können, auch wenn ein Mensch den letzten Klick gemacht hat. Genau dieser Fall, Modell bereitet vor, Mensch entscheidet, ist die Lücke, die Artikel 86 KI-Verordnung schließt, denn Art. 22 DSGVO greift dort nicht.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Für Artikel 86 nennt Art. 113 den 2. August 2026 als Geltungsbeginn; praktisch greift das Recht erst, wenn eine Entscheidung auf einem Anhang-III-System beruht, das als Hochrisiko-System betrieben wird. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.

Was Artikel 86 verlangt

  • Art. 86 Abs. 1, Anwendungsbereich: Eine betroffene Person ist Gegenstand einer Entscheidung, die der Betreiber auf Grundlage der Ausgabe eines Hochrisiko-Systems nach Anhang III trifft, ausgenommen kritische Infrastruktur nach Anhang III Nr. 2. Die Entscheidung hat rechtliche Wirkung oder beeinträchtigt die Person ähnlich erheblich, und die Person hält sie für nachteilig für Gesundheit, Sicherheit oder Grundrechte. Diese Einschätzung trifft die Person selbst.
  • Art. 86 Abs. 1, Inhalt: Die Person hat das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zu erhalten, erstens zur Rolle des KI-Systems im Entscheidungsverfahren, zweitens zu den wesentlichen Elementen der getroffenen Entscheidung. Erwägungsgrund 171 nennt den Zweck: eine Grundlage, auf der die Person ihre Rechte ausüben kann.
  • Art. 86 Abs. 2: Das Recht gilt nicht für KI-Systeme, für die Ausnahmen oder Beschränkungen aus Unions- oder nationalem Recht folgen, sofern dieses Recht unionsrechtskonform ist, etwa Auskunftsbeschränkungen in der Geldwäscheprävention.
  • Art. 86 Abs. 3: Der Artikel gilt nur, soweit das Recht nicht bereits anderweitig im Unionsrecht vorgesehen ist. Für ausschließlich automatisierte Entscheidungen gehen Art. 22 und Art. 15 Abs. 1 Buchstabe h DSGVO vor, für Verbraucherkredite die Verbraucherkreditrichtlinie (EU) 2023/2225. Artikel 86 füllt den Rest, vor allem die Entscheidung mit Mensch im Verfahren.
  • Was fehlt: Keine Frist, keine Form, kein Detailgrad. Das muss der Betreiber selbst festlegen, bevor die erste Anfrage kommt.

Das technische Beispiel

Zwei Fälle, die wir in Projekten genau so sehen. Erstens: Eine Bank lehnt einen Konsumentenkredit ab. Der Antrag läuft über das Policy Gateway, das pseudonymisiert, Scope und Datenzone prüft und ein Pre-Check-Modell aufruft, ein Hochrisiko-System nach Anhang III Nr. 5 Buchstabe b, Kreditwürdigkeitsprüfung natürlicher Personen. Das Modell liefert Klasse, Score und die Merkmale mit dem größten Beitrag. Parallel läuft die Kreditrichtlinie als Regelwerk: Verschuldungsquote, Negativmerkmale, Mindesteinkommen. Ein Kreditsachbearbeiter sieht Antrag, Modellempfehlung und die Regeln, die griffen, und lehnt mit einem Begründungscode ab. Das Gateway schreibt den Nachweis.

Zweitens: Ein Unternehmen lehnt eine Bewerbung ab. Ein sprachmodellbasierter Assistent, Hochrisiko nach Anhang III Nr. 4 Buchstabe a, erhält den pseudonymisierten Lebenslauf, ruft per Retrieval das Stellenprofil in Version 3 und die Kriterienliste des Fachbereichs ab und erzeugt eine strukturierte Prüfung: Kriterium erfüllt oder nicht, mit Fundstelle im Lebenslauf, dazu eine Zusammenfassung. Ein Recruiter liest beides, prüft zwei Fundstellen nach und sagt ab.

Wo die Pflicht beißt: In beiden Fällen hat ein Mensch entschieden. Art. 22 DSGVO ist damit nicht einschlägig, Artikel 86 schon. Das Sprachmodell hat eine Begründung mitgeliefert, flüssig und überzeugend. Nur ist diese Begründung eine zweite Modellausgabe, kein Blick ins Innere, und niemand kann prüfen, ob sie beschreibt, was die Einschätzung getrieben hat. Eine plausible Erläuterung ist nicht dasselbe wie eine treue.

So setzen wir es um

Wir bei SIFAMO behandeln die Erläuterung nach Artikel 86 als Abfrage auf dem Evidence Log, nicht als Text, den jemand schreibt oder ein Modell generiert. Was nicht im Nachweis steht, steht auch nicht in der Erläuterung. Die Komponenten stehen im Governance Layer.

Der Entscheidungsdatensatz. Pro Entscheidung schreibt das Gateway: Eingabe-Hash und die Liste der verwendeten Felder, Modell-ID und Version aus dem Register, Policy-Version und die Regeln, die griffen, die abgerufenen Dokumente mit Version und Fundstellen, die Ausgabe, die Signale (Score, Konfidenz, Abweichung zwischen Modell und Regelwerk, Merkmalsbeiträge beim Scoring-Modell) und die Prüferaktion: Rolle, übernommen oder überschrieben, Begründungscode, Zeitstempel. Im Registereintrag steht zusätzlich eine Erläuterungssicht: welche dieser Felder in welcher Formulierung an Betroffene gehen dürfen. Der Business Owner unterschreibt sie mit dem Eintrag.

Die Vorlage. Die Erläuterung hat fünf feste Teile, die der Erläuterungsdienst aus dem Nachweis befüllt:

  • Entscheidung: Was entschieden wurde, wann, und welche Rolle im Haus entschieden hat.
  • Rolle des KI-Systems: Ein Satz aus dem Zweckfeld des Registereintrags („bereitet die Prüfung vor, entscheidet nicht“), ob die Empfehlung übernommen oder überschrieben wurde, und die Register-ID als Referenz.
  • Wesentliche Elemente: Welche Datenkategorien der Person eingingen; welche Regeln aus welcher Richtlinienversion griffen, in Worten; beim Scoring-Modell die Merkmale mit dem größten Beitrag und ihre Richtung; beim Sprachmodell die abgerufenen Dokumente mit Version und die als nicht erfüllt markierten Kriterien mit den Fundstellen, die der Mensch nachgeprüft hat.
  • Prüfung durch den Menschen: Was die Person geprüft, bestätigt oder geändert hat, aus der Prüferaktion.
  • Wege: Erneute Prüfung durch einen Menschen, Beschwerde nach Art. 85, Rechte nach der DSGVO.

Was nicht hinein darf. Daten anderer Personen, also keine Vergleichsgruppe und keine anderen Bewerber. Keine Modellgewichte, Prompts oder Systemanweisungen. Exakte Schwellenwerte, wenn sie Geschäftsgeheimnis sind: Dann nennen wir Kategorie und Richtung („Verschuldungsquote über der internen Grenze“), nicht die Zahl, und dokumentieren das im Registereintrag. Der EuGH hat zu Art. 15 DSGVO klargestellt, dass Geschäftsgeheimnisse die Erläuterung nicht pauschal sperren, sondern abgewogen werden. Und: kein Freitext des Modells. Die generierte Begründung bleibt im Nachweis für den Prüfer und geht nie an die Person.

Die Interpretierbarkeitslücke. Ich bin hier bewusst nüchtern. Bei einer Vorbereitung durch ein Sprachmodell sind die „wesentlichen Elemente“, die wir ehrlich nennen können, die abgerufenen Dokumente, die angewandten Regeln und die Fundstellen, die der Mensch bestätigt hat. Nicht, warum das Modell ein Kriterium so bewertet hat. Diese Grenze schreiben wir in die Erläuterung hinein. Beim Scoring-Modell sind Merkmalsbeiträge Näherungen; das Verfahren steht im Registereintrag, und das Quality Gate prüft vor dem Go-live, ob die Beiträge über ähnliche Fälle stabil sind. Mehr zu behaupten, als der Nachweis trägt, ist für mich ein Compliance-Risiko, kein Service.

DSGVO und Fristen. Abs. 3 heißt für uns: ein Prozess für beide Welten. Ist die Entscheidung ausschließlich automatisiert, läuft die Anfrage als Auskunft nach Art. 15 Abs. 1 Buchstabe h DSGVO, mit demselben Nachweis und derselben Vorlage, ergänzt um Logik, Tragweite und Auswirkungen. Hat ein Mensch entschieden, läuft sie nach Artikel 86. Weil der AI Act keine Frist nennt, übernehmen wir den Monat aus Art. 12 Abs. 3 DSGVO als Obergrenze. Das Ziel sind wenige Arbeitstage: Die Erläuterung ist eine Abfrage mit Freigabe durch den Fachbereich, keine Recherche.

Der Auditor sieht die Erläuterungssicht mit Version und Unterschrift, pro Anfrage Zeitstempel, Antwort und die Nachweis-ID, aus der sie erzeugt wurde. Mehr zur Einordnung in unsere KI Governance.

Typische Fehler

  • Das Modell nach dem Warum fragen. Die generierte Begründung wird zur Erläuterung. Sie klingt gut, ist aber nicht prüfbar und oft nicht das, was die Ausgabe getrieben hat.
  • „Ein Mensch hat entschieden, also müssen wir nichts erklären.“ Das stimmt für Art. 22 DSGVO und ist genau der Fall, für den Artikel 86 gemacht ist.
  • Rekonstruktion aus dem Gedächtnis. Monate später erklärt der Sachbearbeiter, was er vermutlich gesehen hat, weil im Log Policy-Version und abgerufene Dokumente fehlen.
  • Fremde Daten in der Erläuterung. Die Vergleichsgruppe oder der „bessere Bewerber“ taucht auf, und aus der Erläuterung wird ein Datenschutzvorfall.

Checkliste EU AI Act Artikel 86

  • Das Evidence Log enthält pro Entscheidung Feldliste, Modellversion, Policy-Version mit gegriffenen Regeln, abgerufene Dokumente mit Version, Ausgabe, Signale und Prüferaktion.
  • Eine Erläuterungssicht pro Registereintrag definiert, welche Felder in welcher Formulierung an Betroffene gehen; der Business Owner hat sie unterschrieben.
  • Die Vorlage benennt Rolle des Systems, wesentliche Elemente, menschliche Prüfung und die Wege zu Nachprüfung und Beschwerde nach Art. 85.
  • Ausschlussliste geprüft: keine Daten Dritter, keine Modellinterna, keine generierten Begründungstexte, Umgang mit Geschäftsgeheimnissen dokumentiert.
  • Prozess mit dem Datenschutz abgestimmt: ein Eingang für Art. 86 und Art. 15 DSGVO, Frist höchstens ein Monat, jede Anfrage als Ereignis im Nachweis.
  • Einmal geprobt: eine Erläuterung aus einem echten Nachweis erzeugt und vom Fachbereich gelesen, bevor die erste Anfrage kommt.

Offene Fragen

  • Wie detailliert „wesentliche Elemente“ sein müssen, ist nicht definiert und nicht normiert. Wir orientieren uns am Zweck aus Erwägungsgrund 171: Reicht die Erläuterung für einen begründeten Widerspruch?
  • Wo der Mensch die Empfehlung nur noch durchwinkt, ist die Entscheidung möglicherweise doch ausschließlich automatisiert und Art. 22 DSGVO gilt. Die verdeckten Nachprüfungen aus unserer Aufsicht sind dann der einzige Beleg, dass der Mensch wirklich entschieden hat.
  • Für Sprachmodelle gibt es kein Verfahren, das treu sagt, welcher Teil der Eingabe die Ausgabe getrieben hat. Bis dahin sind abgerufene Dokumente und angewandte Regeln die ehrliche Obergrenze dessen, was wir erklären können.

Häufige Fragen

Gilt das auch für uns als Betreiber, wenn bei uns immer ein Mensch entscheidet?

Ja, gerade dann. Art. 22 DSGVO erfasst nur ausschließlich automatisierte Entscheidungen. Artikel 86 verlangt nur, dass die Entscheidung des Betreibers auf der Ausgabe eines Anhang-III-Systems beruht, und das tut sie, wenn der Mensch die Modellempfehlung vor sich hatte.

Müssen wir unseren Score oder die Schwellenwerte offenlegen?

Verlangt sind die Rolle des Systems und die wesentlichen Elemente der Entscheidung, nicht die Modellparameter. Welche Merkmale und Regeln den Ausschlag gaben, gehört hinein; exakte Schwellen und Gewichte können Geschäftsgeheimnis sein, dann nennen wir Kategorie und Richtung.

Wie schnell müssen wir antworten?

Artikel 86 nennt keine Frist. Wir übernehmen den Monat aus Art. 12 Abs. 3 DSGVO als Obergrenze und messen uns in Arbeitstagen, weil die Erläuterung aus dem Nachweis erzeugt und nicht recherchiert wird. Die weiteren Artikel der Serie: alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment