Angst vor dem Risiko ist eine Bremse: Löse sie und fang einfach an | Umair Zaffar
Umair Zaffar Oktober 22, 2026 0 Comments

EU AI Act Artikel 12: Aufzeichnungspflichten technisch umgesetzt

EU AI Act Artikel 12 verlangt, dass ein Hochrisiko-KI-System Ereignisse über seine gesamte Lebensdauer automatisch protokollieren kann. Unsere Antwort ist ein Evidence Log, das pro Entscheidung vom Gateway geschrieben wird, append-only, und das ein Prüfer neun Monate später ohne den Entwickler lesen kann.

Artikel 12 ist einer der kürzesten Artikel in Kapitel III und der, an dem Audits am häufigsten scheitern. Fast jedes System loggt. Fast keines so, dass man eine einzelne Entscheidung hinterher rekonstruieren kann. Adressat ist der Anbieter: Er muss das System so bauen, dass es protokollieren kann. Was danach mit den Logs passiert, regeln Artikel 19 für Anbieter und Art. 26 Abs. 6 für Betreiber. Für Engineers ist Artikel 12 KI-Verordnung eine Designentscheidung für den ersten Tag, nicht für den Audit-Termin.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 12 gehört zu diesen Hochrisiko-Pflichten; der Omnibus hat Fristen verschoben, keine Pflicht gestrichen.

Was EU AI Act Artikel 12 verlangt

Drei Absätze, und nur der dritte enthält eine Feldliste, für eine einzige Systemklasse.

  • Art. 12 Abs. 1: Hochrisiko-KI-Systeme müssen technisch die automatische Aufzeichnung von Ereignissen (Logs) über die gesamte Lebensdauer des Systems ermöglichen. Die Pflicht richtet sich über Artikel 16 an den Anbieter, formuliert ist sie als Eigenschaft des Systems.
  • Art. 12 Abs. 2: Die Protokollierung muss eine Rückverfolgbarkeit sichern, die der Zweckbestimmung des Systems angemessen ist. Aufgezeichnet werden Ereignisse, die für drei Zwecke relevant sind: (a) das Erkennen von Situationen, in denen das System ein Risiko im Sinne von Art. 79 Abs. 1 darstellen könnte oder eine wesentliche Änderung vorliegt, (b) die Beobachtung nach dem Inverkehrbringen nach Artikel 72 und (c) die Überwachung des Betriebs durch den Betreiber nach Art. 26 Abs. 5.
  • Art. 12 Abs. 3: Für Systeme zur biometrischen Fernidentifizierung nach Anhang III Nr. 1 Buchst. a gilt ein Mindestinhalt: Beginn und Ende jeder Nutzung, die Referenzdatenbank, die Eingabedaten, die zu einem Treffer geführt haben, und die Identität der Personen, die das Ergebnis nach Art. 14 Abs. 5 überprüft haben.
  • Was fehlt: Für alle anderen Hochrisiko-Systeme nennt der Artikel keine Felder. Der Maßstab ist “angemessen zur Zweckbestimmung”, harmonisierte Normen dazu fehlen noch. Der Anbieter füllt die Lücke selbst und begründet das in der technischen Dokumentation nach Artikel 11.
  • Die Anschlussartikel: Artikel 19 verpflichtet Anbieter, die Logs aufzubewahren, soweit sie unter ihrer Kontrolle sind, für einen der Zweckbestimmung angemessenen Zeitraum von mindestens sechs Monaten, sofern Unions- oder nationales Recht, insbesondere Datenschutzrecht, nichts anderes vorsieht. Finanzinstitute führen sie als Teil ihrer Dokumentation nach dem Finanzdienstleistungsrecht. Art. 26 Abs. 6 legt dieselbe Pflicht dem Betreiber auf.

Artikel 12 verlangt nicht, dass irgendwo Logs liegen. Er verlangt Logs, die die drei Zwecke aus Absatz 2 erfüllen. Ein Webserver-Log erfüllt keinen davon.

Das technische Beispiel

Ein Kundenservice-Assistent bei einer Versicherung. Sachbearbeiter bekommen Fragen wie: Ist der Wasserschaden durch die geplatzte Waschmaschine in diesem Tarif gedeckt? Der Assistent bereitet eine Antwort vor, mit Belegstellen aus den Versicherungsbedingungen. Der Mensch verschickt, ändert oder verwirft sie.

Der Datenfluss: Die Frage kommt mit der Vertragsnummer aus dem CRM. Die Anwendung ruft das Policy Gateway mit einer Use-Case-ID, nie das Modell. Das Gateway löst die ID im Register auf, prüft die Datenzone, ersetzt Vertragsnummer und Namen durch Pseudonyme und bereinigt den Freitext. Die Suche läuft über die Bedingungswerke, mit Zugriffsrechten zur Abfragezeit und Herkunft pro Textabschnitt: Dokument, Version, Gültig ab, Gültig bis. Das Modell bekommt die Abschnitte und eine versionierte Prompt-Vorlage. Die Antwort durchläuft einen Zitatcheck, bekommt einen Support-Score, und das Gateway liefert zurück, enthält sich oder eskaliert.

Wo beißt Artikel 12? Ehrlich: Ein reiner Auskunfts-Assistent zu Bedingungsfragen ist nach meiner Lesung kein Hochrisiko-System nach Anhang III. Er wird es, wenn seine Antworten in Leistungsentscheidungen einfließen oder in Risikobewertung und Preisbildung der Lebens- und Krankenversicherung nach Anhang III Nr. 5 Buchst. c. Diese Grenze verschiebt sich in Projekten leise, weil der Assistent gut funktioniert und das nächste Team ihn für den nächsten Prozess will. Deshalb ist das Evidence Log bei uns Pflicht für jeden Anwendungsfall im Register, unabhängig von der Risikoklasse. Nachrüsten geht nicht: Die Entscheidungen von letztem Jahr sind weg.

Der Fall, an dem sich alles entscheidet: Neun Monate später beschwert sich ein Kunde. Der Service habe gesagt, der Schaden sei gedeckt, jetzt werde die Leistung verweigert. Welche Version der Bedingungen hat der Assistent gelesen? Welches Modell, welcher Prompt, welche Gateway-Regeln galten an dem Tag? Hat der Sachbearbeiter die Antwort verändert? Kann das System das nicht beantworten, ist Artikel 12 nicht erfüllt, egal wie viele Gigabyte Logs auf der Platte liegen.

So setzen wir es um

Bei SIFAMO ist das Evidence Log eine Komponente des Governance Layer, neben Register, Policy Gateway, gestufter Aufsicht und Monitoring. Vier Entscheidungen prägen das Design.

Das Gateway schreibt, nicht die Anwendung

Jeder Modellaufruf läuft durch das Gateway, also schreibt das Gateway den Nachweis. Die Fachanwendung kann das Logging nicht vergessen, nicht abschalten und nicht halb bauen. Es gibt ein Schema für alle Anwendungsfälle, und ein Fehler in der Anwendung beschädigt den Nachweis nicht.

Ein Datensatz pro Entscheidung

Wir protokollieren pro Entscheidung, nicht pro HTTP-Request. Eine Entscheidung ist hier: eine Frage, eine vorbereitete Antwort, eine Handlung des Menschen. Der Datensatz sieht vereinfacht so aus:

{
  "decision_id": "svc-rag-2026-11-19-00018231",
  "timestamp": "2026-11-19T10:14:52Z",
  "use_case_id": "DE-V-2026-0077",
  "registry_version": 6,
  "input_hash": "sha256:9f3c...",
  "payload_ref": "gray://svc-rag/2026/11/00018231",
  "model": {"provider": "hosted LLM", "version": "2026-09-r2"},
  "prompt_version": "service-policy-v9",
  "retrieval": [
    {"doc_id": "AVB-HR-2024", "version": "3.2", "chunk": 41,
     "hash": "sha256:1b7a...", "effective_from": "2024-07-01",
     "effective_to": null, "access_rule": "role:service-agent"}
  ],
  "policy_version": "gw-policy-2026-10-14",
  "output_hash": "sha256:c0de...",
  "output_ref": "gray://svc-rag/2026/11/00018231/out",
  "signals": {"support_score": 0.91, "citation_check": "passed",
              "abstain": false, "escalation": null},
  "reviewer": {"action": "edited", "role": "service-agent",
               "actor_ref": "pseud:ag-5531", "timestamp": "2026-11-19T10:15:40Z"},
  "prev_hash": "sha256:77e1..."
}

Input-Hash und Payload-Referenz trennen Beweis und Inhalt: Der Hash bleibt prüfbar, der pseudonymisierte Inhalt liegt in der grauen Datenzone und kann nach eigener Frist gelöscht werden. Modell- und Prompt-Version sagen, was an dem Tag lief, die Quellen mit Dokumentversion, welche Bedingungen gelesen wurden, die Policy-Version, welche Regel das Gateway angewandt hat. Die Signale bedienen Art. 12 Abs. 2 Buchst. a: Support-Score, Zitatcheck, Enthaltung, Eskalationsgrund, daraus liest das Monitoring Drift und Risiko. Die Reviewer-Aktion ist die Aufsicht nach Artikel 14, als Pseudonym mit Zeitstempel.

Append-only mit Manipulationsschutz

Das Log kennt nur eine Operation: anhängen. Jeder Datensatz trägt den Hash seines Vorgängers, pro Anwendungsfall entsteht eine Kette. Einmal am Tag wird der letzte Hash signiert und in einem System abgelegt, auf das Engineering keinen Schreibzugriff hat, in der Regel bei Risk oder Compliance. Der Speicher ist write-once konfiguriert, Löschrechte hat nur der Aufbewahrungsjob. Manipulation ist damit nicht unmöglich, aber nachweisbar.

Aufbewahrung nach Zweck, nicht nach Speicherkosten

Die Frist steht im Registereintrag, unterschrieben von Fachverantwortlichem, Risk und IT. Die sechs Monate aus Artikel 19 und Art. 26 Abs. 6 sind für uns Untergrenze, nicht Zielgröße. Bei Versicherern und Banken richten wir die Frist für den Entscheidungsdatensatz an der Aufbewahrung der zugehörigen Geschäftsunterlagen nach dem Finanzdienstleistungsrecht aus, wie Art. 19 Abs. 2 es für Finanzinstitute vorsieht. Der pseudonymisierte Inhalt folgt einer kürzeren Frist aus dem Datenschutz. Die getrennte Speicherung macht das möglich.

Der Test: neun Monate später

Vor dem Go-live ziehen wir zufällige Entscheidungs-IDs aus Staging und geben sie einer Person in der Prüferrolle, die das System nicht gebaut hat. Sie bekommt nur Lesezugriff auf Log und Dokumentenablage. Kann sie erklären, warum diese Antwort so herauskam, welche Quellen gelesen wurden und was der Mensch damit gemacht hat, ohne einen Engineer zu fragen? Wenn nein, ist das Log unvollständig und das Gate bleibt zu. Der Test gehört zu den Qualitätsgates und wird bei jeder wesentlichen Änderung wiederholt. Im Betrieb sieht der Prüfer eine Leseansicht pro Entscheidungs-ID mit Kettenprüfung und Verweis auf die damals gültige Registerversion.

Wo der Artikel Spielraum lässt, protokollieren wir auch die Fälle, in denen nichts passiert ist, also Enthaltungen und abgelehnte Anfragen, weil genau dort die Signale für Art. 79 Abs. 1 liegen, und jede Auflösung eines Pseudonyms als eigenes Ereignis. Wie wir das in Projekten einführen, steht unter KI Governance.

Typische Fehler

  • Die Anwendung loggt selbst. Jedes Team baut sein eigenes Format, die Logs liegen in der Anwendungsdatenbank und verschwinden bei der nächsten Migration.
  • Nur die Antwort wird gespeichert. Ohne die gelesenen Quellen mit Dokumentversion und ohne Prompt-Version lässt sich die Antwort nicht erklären. Man weiß, was gesagt wurde, aber nicht, warum.
  • Klartext im Log. Namen, Vertragsnummern und Gesundheitsangaben landen im Log, das Log wird zum größten Datenschutzproblem des Systems und wird deshalb gelöscht. Damit ist Artikel 12 verletzt.
  • Keine Versionen. Das Log sagt “Modell” und “Prompt”, nicht welche. Modelle wechseln alle paar Monate, Prompts jede Woche.

Checkliste Artikel 12

  • Jeder Anwendungsfall im Register hat ein definiertes Log-Schema und eine begründete Aufbewahrungsfrist.
  • Der Nachweis wird vom Gateway geschrieben, nicht von der Anwendung, und kann von dort nicht abgeschaltet werden.
  • Pro Entscheidung sind gespeichert: Input-Hash, Payload-Referenz, Modell- und Prompt-Version, Quellen mit Dokumentversion, Policy-Version, Ausgabe, Signale, Reviewer-Aktion.
  • Das Log enthält keine Klarnamen; Pseudonyme werden getrennt aufgelöst und jede Auflösung wird protokolliert.
  • Das Log ist append-only, mit Hash-Kette und einem Anker außerhalb des Engineering-Zugriffs.
  • Enthaltungen, Eskalationen und abgelehnte Anfragen werden als Ereignisse geführt und vom Monitoring gelesen.
  • Eine Person in der Prüferrolle hat vor dem Go-live zufällige Entscheidungen ohne Hilfe der Entwickler rekonstruiert.
  • Die Beschreibung der Logging-Fähigkeit steht in der technischen Dokumentation nach Artikel 11.

Offene Fragen

  • Was ist “angemessen”? Die harmonisierte Norm zu Protokollierung und Rückverfolgbarkeit ist noch nicht veröffentlicht. Bis dahin ist unser Schema eine begründete Setzung, keine Konformitätsvermutung.
  • Protokollierung gegen Datenminimierung. Die Rekonstruktion einer Entscheidung über eine Person ist selbst ein personenbezogener Vorgang. Hash und Pseudonym entschärfen das, lösen es aber nicht. Artikel 12 und Artikel 19 verweisen auf das Datenschutzrecht, ohne den Konflikt zu entscheiden.
  • Rekonstruieren heißt nicht Reproduzieren. Sprachmodelle sind nicht deterministisch, derselbe Input liefert nicht dieselbe Antwort. Unser Log erklärt, was passiert ist, nicht warum das Modell intern so entschieden hat. Ob Interpretierbarkeitsforschung das je in ein Log schreiben kann, ist offen.

Häufige Fragen

Gilt das auch für uns als Betreiber?

Artikel 12 adressiert den Anbieter, der das System baut. Als Betreiber trifft dich Art. 26 Abs. 6: Logs aufbewahren, soweit unter deiner Kontrolle, mindestens sechs Monate, und nach Art. 26 Abs. 5 den Betrieb damit überwachen. Wer ein System wesentlich ändert oder unter eigenem Namen einsetzt, kann nach Artikel 25 selbst zum Anbieter werden. Dann gilt Artikel 12 direkt.

Reicht das Logging des Modellanbieters?

Nein. Der Anbieter eines gehosteten Modells protokolliert seine API-Aufrufe, nicht deine Entscheidung. Er kennt weder die gelesenen Dokumentversionen noch die Policy noch die Reaktion des Menschen, und seine Logs liegen nicht unter deiner Kontrolle. Der Nachweis muss auf deiner Seite entstehen.

Wie lange müssen wir die Logs aufbewahren?

Mindestens sechs Monate nach Artikel 19 und Art. 26 Abs. 6, länger wenn Zweck oder anderes Recht es verlangen. Ich halte sechs Monate in regulierten Prozessen für zu kurz, weil Beschwerden und Prüfungen später kommen. Die Frist gehört begründet in den Registereintrag.

Dieser Beitrag gehört zu meiner Serie EU AI Act in der Praxis. Hier findest du alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment