Umair Zaffar, Gründer und CEO der sifamo GmbH
Umair Zaffar November 9, 2026 0 Comments

EU AI Act Artikel 72: Post-Market-Monitoring technisch umgesetzt

EU AI Act Artikel 72 verlangt vom Anbieter eines Hochrisiko-Systems, sein Modell nach dem Inverkehrbringen aktiv zu beobachten, nach einem dokumentierten Plan. Wir bei SIFAMO machen aus diesem Plan die Konfiguration der Monitoring-Komponente: Metriken pro Registereintrag, Schwellen, die Tickets öffnen oder das Modell anhalten, und ein Rückmeldeformat, das nur Pseudonyme transportiert.

Artikel 72 ist der Artikel, der nach der Konformitätsbewertung vergessen wird: Das Modell ist zertifiziert, läuft bei den Kunden, und der Anbieter sieht keine Entscheidung mehr. Genau das adressiert Artikel 72 KI-Verordnung. Er richtet sich an den Anbieter und ist das Gegenstück zu Art. 26 Abs. 5, der den Betreiber verpflichtet, den Betrieb zu überwachen und den Anbieter zu informieren. Artikel 72 regelt die Empfängerseite: was der Anbieter mit diesen Informationen tun muss, systematisch, nicht erst wenn sich jemand beschwert.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 72 gehört zu diesen Hochrisiko-Pflichten. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.

Was Artikel 72 verlangt

  • Art. 72 Abs. 1: Der Anbieter richtet ein System zur Beobachtung nach dem Inverkehrbringen ein und dokumentiert es, verhältnismäßig zur Art der KI-Technik und zu den Risiken des Systems.
  • Art. 72 Abs. 2: Das System sammelt, dokumentiert und analysiert aktiv und systematisch Daten zur Leistung über die gesamte Lebensdauer. Die Daten können von Betreibern oder aus anderen Quellen kommen. Ziel ist zu bewerten, ob das System die Anforderungen aus Kapitel III Abschnitt 2, also Artikel 8 bis 15, weiterhin erfüllt. Wo relevant, gehört die Interaktion mit anderen KI-Systemen dazu. Sensible Einsatzdaten von Strafverfolgungsbehörden sind ausgenommen.
  • Art. 72 Abs. 3: Grundlage ist ein Plan zur Beobachtung nach dem Inverkehrbringen, Teil der technischen Dokumentation nach Anhang IV. Die Kommission liefert eine Vorlage und die Liste der Pflichtelemente. Der ursprüngliche Text sah dafür einen Durchführungsrechtsakt bis zum 2. Februar 2026 vor, der konsolidierte Text nach dem Omnibus Leitlinien und eine Vorlage bis zum 2. September 2027.
  • Art. 72 Abs. 4: Anbieter von Produkten nach Anhang I Abschnitt A, deren Harmonisierungsrecht bereits eine Marktbeobachtung kennt, dürfen die Elemente aus Absatz 1 bis 3 dort integrieren, wenn das Schutzniveau gleichwertig bleibt. Dasselbe gilt für Systeme nach Anhang III Nr. 5, die Finanzinstitute unter den Governance-Regeln des Finanzdienstleistungsrechts in Verkehr bringen.

Dazu gehören Art. 17 Abs. 1 Buchstabe h (Marktbeobachtung als Teil des Qualitätsmanagements), Art. 9 Abs. 2 Buchstabe c (ihre Erkenntnisse im Risikomanagement), Art. 73 (schwerwiegender Vorfall) und Art. 20 (Korrekturmaßnahmen).

Das technische Beispiel

Ein Softwareanbieter liefert ein Modell zur Kreditvorprüfung an mehrere Banken. Es sortiert Anträge von Privatkunden in drei Routen: Schnellspur, Standardprüfung, Spezialprüfung. Es entscheidet nicht, aber es bestimmt, wie genau ein Mensch hinschaut, und fällt damit unter Anhang III Nr. 5 Buchstabe b. Der Softwareanbieter ist Anbieter nach Art. 3 Nr. 3, jede Bank ist Betreiber. Jede Bank betreibt das Modell hinter ihrem eigenen Policy Gateway, pseudonymisiert die Anträge, protokolliert die Entscheidungen und hält den Kill Switch.

Der Rückfluss: Die Betriebsanleitung nach Artikel 13 legt fest, welche Rückmeldungen die Bank nach Art. 26 Abs. 5 liefert, in welchem Format und Takt. Die Bank exportiert wöchentlich aggregierte Verteilungen und pseudonymisierte Entscheidungsdatensätze an den Rückmelde-Endpunkt des Anbieters, der alle Banken pro Modellversion zusammenführt.

Wo die Pflicht beißt: Der Anbieter muss ohne Zugriff auf die Daten belegen, dass das Modell Artikel 10, 14 und 15 weiterhin erfüllt, also nicht driftet, nicht diskriminiert und von den Prüfern wirklich kontrolliert wird. Und wenn bei einer Bank die Schnellspur-Quote steigt, bei einer anderen die Overrides: Ist das das Modell oder die Population der Bank?

So setzen wir es um

Wir bei SIFAMO schreiben den Plan nach Absatz 3 nicht als Dokument, sondern als Konfiguration der Monitoring-Komponente im Governance Layer. Er hängt am Registereintrag des Modells, ist versioniert, und das Dokument für Anhang IV wird daraus erzeugt. Vereinfacht:

{
  "model_id": "DE-P-2026-0007",
  "pmm_plan": {
    "version": "credit-precheck-pmm-v3",
    "reference": "Evaluationsset credit-2026Q2; Baseline pro Betreiber",
    "feedback": {"cadence": "wöchentlich", "from": ["bank-A", "bank-B", "bank-C"], "schema": "pmm-feedback-v2"},
    "metrics": [
      {"id": "M-01", "name": "input_drift", "how": "PSI je Merkmalsgruppe", "warn": 0.10, "critical": 0.25},
      {"id": "M-02", "name": "fast_lane_rate", "how": "Anteil Schnellspur je Segment", "warn": "5 Punkte neben Baseline", "critical": "10 Punkte"},
      {"id": "M-03", "name": "disagreement_rate", "how": "Modell gegen Regelwerk der Bank", "warn": "1,5-fache Baseline", "critical": "2-fache"},
      {"id": "M-04", "name": "abstention_rate", "how": "Anteil Enthaltungen", "warn": "über 8 %", "critical": "über 15 %"},
      {"id": "M-05", "name": "override_rate", "how": "Prüfer ändert Route", "warn": "über 12 % oder unter 1 %", "critical": "Grund Diskriminierung"},
      {"id": "M-06", "name": "complaints", "how": "je 1.000 Entscheidungen", "warn": "über 2", "critical": "Kandidat nach Art. 3 Nr. 49"}
    ],
    "actions": {
      "warn": "Ticket an Model Owner, 5 Arbeitstage",
      "critical": "Pause-Flag für den Betreiber, Risikoregister (Art. 9)",
      "serious_incident": "Prozess nach Art. 73"
    },
    "must_not_receive": ["Namen", "Kunden-/Kontonummern", "Adressen", "Freitext", "Rohwerte", "Re-Identifizierungsschlüssel"],
    "review": "quartalsweise und bei jeder Änderung"
  }
}

Metriken pro Registereintrag (Abs. 2)

Jede Metrik gehört zu einer Anforderung aus Abschnitt 2. Die Eingabedrift zeigt, ob die Anträge noch zu der Population passen, für die das Modell evaluiert wurde (Artikel 10). Die Schnellspur-Quote pro Segment ist das Frühwarnsignal für Verzerrungen, die Abweichung vom Regelwerk der Bank das stärkste unabhängige Signal, weil das Modell dort sicher und falsch sein kann. Die Enthaltungsquote zeigt, ob das Modell seine Grenzen kennt. Die Override-Quote misst Artikel 14 in beide Richtungen: zu viele heißt, das Modell taugt nicht, fast keine heißt, die Prüfer winken durch. Beschwerden sind das einzige Signal direkt von den Betroffenen.

Alles rechnen wir pro Betreiber und über alle. Driften alle drei Banken, liegt es am Modell oder an einem gemeinsamen Upstream-System, driftet eine, an ihrer Population oder ihrem Prozess. Die Interaktion mit anderen KI-Systemen aus Absatz 2 ist bei uns ein Feld im Rückmeldesatz: die Version des Dokumentenextraktionsmodells, das die Eingaben liefert. Mehr als einmal lag die Drift dort.

Schwellen, Tickets und Pause

Warn öffnet ein Ticket beim Model Owner des Anbieters, mit Frist. Critical setzt im Register des Anbieters ein Pause-Flag für diese Modellversion bei diesem Betreiber. Der Anbieter kann nicht in die Bank hineingreifen, also verlangt die Betriebsanleitung, dass das Gateway der Bank den Statusfeed liest und die Route anhält. Der Business Owner der Bank behält seinen eigenen Kill Switch. Wir halten an, bevor die Ursache klar ist: Ein paar Tage manuelles Routing kosten weniger als ein diskriminierendes Modell, das drei Monate weiterläuft.

Was die Bank liefert und was wir nicht bekommen

Das Rückmeldeschema steht in der Betriebsanleitung und ist für alle Banken gleich. Pro Entscheidung: Betreiber-ID, Modell- und Prompt-Version, Version des Upstream-Modells, Hash der Entscheidung, grobes Segment, Route, Konfidenz, Abweichung vom Regelwerk, Prüferaktion mit Grundkategorie, Ergebniskategorie, Beschwerde-Flag. Dazu wöchentlich Histogramme je Merkmalsgruppe für die Driftmessung, keine Einzelzeilen.

Nicht in den Rückfluss gehören Namen, Kunden- und Kontonummern, Adressen, Freitext, Rohwerte wie Einkommen und vor allem der Schlüssel, mit dem die Bank das Pseudonym auflöst. Der bleibt in der roten Zone der Bank. Absatz 2 verlangt einschlägige Daten, nicht alle, und der Anbieter hat für Rohdaten keine Rechtsgrundlage. Muss ein Fall aufgeklärt werden, löst die Bank das Pseudonym auf ihrer Seite auf und beantwortet unsere Fragen. Langsamer, aber der einzige Weg, bei dem die Bank überhaupt liefert.

Verbindung zu Artikel 9 und Artikel 73

Jedes Critical-Ereignis erzeugt einen Eintrag im Risikoregister des Modells, mit Ursache, Maßnahme und Restrisiko. Das ist Art. 9 Abs. 2 Buchstabe c in der Praxis. Der Plan wird quartalsweise und bei jeder Modell-, Prompt- oder Upstream-Änderung neu bewertet.

Für Artikel 73 definiert der Plan, wann ein Signal zum Kandidaten für einen schwerwiegenden Vorfall wird: ein Override mit Grund Diskriminierung oder eine Beschwerde, die auf einen Verstoß gegen Grundrechtspflichten nach Art. 3 Nr. 49 Buchstabe c hindeutet. Dann startet der Meldeprozess mit den Fristen aus Art. 73, und die Bank informiert uns nach Art. 26 Abs. 5 zuerst. Ich bin Ingenieur, kein Jurist, aber ob ein Fall meldepflichtig ist, entscheiden bei uns Compliance und Model Owner gemeinsam. Die Schwelle sorgt dafür, dass die Frage gestellt wird.

Vorlage der Kommission (Abs. 3) und Finanz-Ausnahme (Abs. 4)

Die Vorlage der Kommission liegt noch nicht vor. Wir halten den Plan deshalb maschinenlesbar und rendern das Anhang-IV-Dokument daraus. Kommt die Vorlage, wird sie ein weiteres Rendering, und ihre Pflichtelemente mappen wir auf unsere Felder. Verlangt sie mehr, ergänzen wir Felder, nicht Dokumente.

Die Ausnahme in Absatz 4 gilt für Finanzinstitute, die selbst Anbieter sind. Für den Softwareanbieter im Beispiel gilt sie nicht, auch wenn alle seine Kunden Banken sind. Baut eine Bank ihr Kreditmodell selbst, darf sie die Marktbeobachtung in ihre bestehende Modellvalidierung integrieren, etwa nach MaRisk. Wir verdrahten dann dieselben Metriken dort und dokumentieren im Plan, welches Element wo erfüllt wird. Gleichwertiges Schutzniveau muss man zeigen, nicht behaupten.

Der Auditor sieht die Planversion im Register, das erzeugte Anhang-IV-Dokument, den Rückmelde-Eingang pro Bank, die Tickets, die Pause-Ereignisse, die Einträge im Risikoregister und die Vorfallmeldungen. Keine dieser Spuren entsteht in einem Workshop.

Typische Fehler

  • Der Plan ist ein Word-Dokument. Ohne Schwellen und Aktionen ist er eine Absichtserklärung. Beim Audit fragt niemand nach dem Plan, sondern nach dem Ticket vom letzten Driftalarm.
  • Der Anbieter verlangt Rohdaten „zum Debuggen“. Die Bank liefert sie nicht, zu Recht, und am Ende fließt gar nichts zurück.
  • Nur Genauigkeit wird gemessen. Overrides, Enthaltungen und Beschwerden fehlen, und eine Override-Quote nahe null wird gefeiert statt untersucht.
  • Jede Bank meldet anders. Das Format stand nie in der Betriebsanleitung, und der Anbieter führt Excel-Dateien zusammen statt zu analysieren.

Checkliste EU AI Act Artikel 72

  • Plan als versionierte Konfiguration am Registereintrag; Anhang-IV-Dokument daraus erzeugt.
  • Jede Metrik einer Anforderung aus Artikel 8 bis 15 zugeordnet; Baseline pro Betreiber dokumentiert.
  • Zwei Schwellen pro Metrik mit Aktion, Verantwortlichem und Frist; Pause-Flag von den Gateways der Betreiber gelesen.
  • Rückmeldeschema in der Betriebsanleitung nach Artikel 13 festgelegt; nur Pseudonyme und Aggregate, ausgeschlossene Daten im Plan gelistet.
  • Version des Upstream-Systems im Rückmeldesatz, für die Interaktion mit anderen KI-Systemen nach Absatz 2.
  • Critical-Ereignisse erzeugen Einträge im Risikoregister nach Artikel 9; Kriterien für Kandidaten nach Artikel 73 definiert.
  • Mapping auf die Kommissionsvorlage vorbereitet; Finanz-Ausnahme nach Absatz 4 geprüft und begründet.

Offene Fragen

  • Welche Elemente die Vorlage der Kommission nach Absatz 3 verlangen wird, ist offen, und damit, ob Schwellenwerte und Aktionen Pflicht werden.
  • Art. 26 Abs. 5 verpflichtet den Betreiber, „wo relevant“ zu informieren. Wie viel Rückmeldung der Anbieter verlangen darf, regelt heute der Vertrag, nicht die Verordnung.
  • Verzerrungen aus pseudonymisierten Aggregaten zu erkennen, ohne geschützte Merkmale zu sehen, ist methodisch ungelöst. Art. 10 Abs. 5 erlaubt dem Anbieter besondere Kategorien zur Bias-Erkennung, im Betrieb hat er diese Daten aber nicht.

Häufige Fragen

Gilt das auch für uns als Betreiber?

Nein, Artikel 72 adressiert den Anbieter. Dich als Betreiber trifft Art. 26 Abs. 5: Du überwachst den Betrieb anhand der Betriebsanleitung und informierst den Anbieter. Wer das Modell wesentlich verändert oder unter eigenem Namen anbietet, wird nach Art. 25 selbst Anbieter. Mehr dazu unter KI Governance.

Dürfen wir dem Anbieter unsere Kundendaten für sein Monitoring schicken?

Pseudonymisiert und auf das Nötige reduziert, ja; roh, nein. Absatz 2 verlangt einschlägige Daten zur Leistung, keine Kundendatensätze. Behaltet den Schlüssel zur Re-Identifizierung bei euch und lasst den Datenschutz das Schema freigeben.

Was passiert, wenn die Kommissionsvorlage anders aussieht als unser Plan?

Dann wird gemappt, nicht neu gebaut. Wer den Plan als strukturierte Daten hält, erzeugt daraus jedes Format. Die weiteren Artikel der Serie: alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment