Übernimmt die KI alles? Unser CTO über Banken, EU AI Act und deutsche Qualität | Umair Zaffar
Umair Zaffar November 10, 2026 0 Comments

EU AI Act Artikel 73: Meldung schwerwiegender Vorfälle technisch umgesetzt

EU AI Act Artikel 73 verlangt, dass der Anbieter eines Hochrisiko-Systems schwerwiegende Vorfälle der Marktüberwachungsbehörde meldet, je nach Schwere binnen 15, 10 oder 2 Tagen. Wir machen daraus ein Runbook im Governance Layer: Signale aus Monitoring und Prüfung, Einstufung nach Art. 3 Nr. 49, Kill Switch, Meldeentwurf aus dem Evidence Log.

Ein Vorfall ist der Moment, in dem sich zeigt, ob Governance existiert oder nur beschrieben ist. Banken und Versicherer haben eingeübte Prozesse für IT-Störungen, aber kaum einer hat einen für den Fall „das Modell benachteiligt seit drei Wochen eine Gruppe von Menschen“. Genau den verlangt Artikel 73 KI-Verordnung. Adressiert ist der Anbieter, in Absatz 2 bis 5 auch der Betreiber, und über Art. 26 Abs. 5 jeder Betreiber eines Hochrisiko-Systems; Absatz 7, 8 und 11 richten sich an die Behörden.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 73 knüpft an Hochrisiko-Systeme an und folgt deren Zeitplan; der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.

Was Artikel 73 verlangt

Zuerst die Definition. Ein schwerwiegender Vorfall nach Art. 3 Nr. 49 ist ein Vorfall oder eine Fehlfunktion eines KI-Systems, die direkt oder indirekt zu einem von vier Ergebnissen führt: (a) Tod oder schwere Gesundheitsschädigung einer Person, (b) schwere und unumkehrbare Störung kritischer Infrastruktur, (c) Verletzung von Pflichten aus dem Unionsrecht zum Schutz der Grundrechte, (d) schwerer Schaden an Eigentum oder Umwelt. Buchstabe c greift im Finanzsektor am häufigsten: Gleichbehandlung und Datenschutz sind solche Pflichten.

  • Art. 73 Abs. 1: Anbieter von Hochrisiko-Systemen, die in der Union in Verkehr gebracht wurden, melden jeden schwerwiegenden Vorfall der Marktüberwachungsbehörde des Mitgliedstaats, in dem er eingetreten ist.
  • Art. 73 Abs. 2: Die Meldung erfolgt unmittelbar, nachdem der Anbieter einen ursächlichen Zusammenhang festgestellt hat oder dieser hinreichend wahrscheinlich ist, spätestens 15 Tage nach Kenntnis von Anbieter oder gegebenenfalls Betreiber. Die Schwere bestimmt die Frist.
  • Art. 73 Abs. 3: Bei einem weitverbreiteten Verstoß nach Art. 3 Nr. 61 oder einem Vorfall nach Buchstabe b, also kritischer Infrastruktur, unmittelbar und spätestens zwei Tage nach Kenntnis.
  • Art. 73 Abs. 4: Beim Tod einer Person unmittelbar nach Feststellung oder schon bei Verdacht eines Zusammenhangs, spätestens zehn Tage nach Kenntnis.
  • Art. 73 Abs. 5: Um fristgerecht zu melden, dürfen Anbieter oder Betreiber zunächst eine unvollständige Erstmeldung abgeben und die vollständige nachreichen.
  • Art. 73 Abs. 6: Nach der Meldung untersucht der Anbieter unverzüglich Vorfall und System, bewertet das Risiko, ergreift Korrekturmaßnahmen und arbeitet mit Behörden und gegebenenfalls notifizierter Stelle zusammen. Vor deren Information verändert er das System nicht so, dass die Ursachenbewertung leidet.
  • Art. 73 Abs. 7 und 8: Die Behörde informiert die Grundrechtsbehörden nach Art. 77 Abs. 1 und handelt binnen sieben Tagen nach Art. 19 der Verordnung (EU) 2019/1020; die Kommission erlässt Leitlinien.
  • Art. 73 Abs. 9 und 10: Für Anhang-III-Systeme von Anbietern unter Unionsrecht mit gleichwertigen Meldepflichten und für Medizinprodukte nach den Verordnungen (EU) 2017/745 und 2017/746 beschränkt sich die Meldung auf Buchstabe c.
  • Art. 73 Abs. 11: Die nationalen Behörden unterrichten die Kommission unverzüglich über jeden schwerwiegenden Vorfall.
  • Art. 26 Abs. 5 (Betreiber): Der Betreiber meldet einen schwerwiegenden Vorfall zuerst dem Anbieter, dann Einführer oder Händler und den Behörden. Ist der Anbieter nicht erreichbar, gilt Artikel 73 für den Betreiber entsprechend.

Das technische Beispiel

Ein Versicherer setzt ein eingekauftes Modell zur Schadentriage ein. Jede Leistungsrechnung bekommt eine Priorität und eine Route: automatisch erstatten, Sachbearbeitung, Leistungsprüfung. Der Versicherer ist Betreiber, der Hersteller Anbieter. Der Anbieter liefert ein Update, die Quality Gates laufen durch, das Evaluationsset der Fachseite zeigt nichts. Drei Wochen später melden zwei Prüferinnen aus der Blindstichprobe unabhängig voneinander dasselbe Muster: Rechnungen einer Gruppe, deren gemeinsames Merkmal mit dem Alter der Versicherten korreliert, landen systematisch in der niedrigsten Priorität. Das Monitoring hatte den Drift pro Gruppe gesehen, die Schwelle war aber auf Wochensicht gesetzt.

Wo die Pflicht beißt: Verzögerte Erstattungen für eine Altersgruppe sind möglicherweise eine Verletzung von Gleichbehandlungsrecht, also ein Vorfall nach Buchstabe c. Ob es rechtlich einer ist, entscheidet nicht der Ingenieur. Aber sobald die Prüferinnen das Muster bestätigen, läuft die Uhr aus Absatz 2: 15 Tage. Der Versicherer muss den Anbieter informieren, der Anbieter die Behörde. Und niemand darf das Modell jetzt still zurückdrehen und die Logs rotieren lassen.

Der zweite Fall ist eigenentwickelt, der Versicherer also Anbieter und Betreiber zugleich. Ein Agent bereitet Korrespondenz zu Leistungsfällen vor; seine Allow-List: Akte lesen, Schreiben entwerfen, Aufgabe anlegen. In einem Lauf ruft er „Schreiben versenden“ auf, das nicht auf der Liste steht. Das Gateway blockt, der Lauf stoppt. Kein Schaden, kein schwerwiegender Vorfall, aber ein Vorfall für die Beobachtung nach Art. 72. Hätte der Agent über ein zu weit berechtigtes Werkzeug tatsächlich Schreiben an falsche Empfänger geschickt, wäre neben Artikel 73 auch Art. 33 DSGVO mit seinen 72 Stunden im Spiel.

So setzen wir es um

Wir bei SIFAMO behandeln Artikel 73 als Runbook, nicht als Formular. Das Runbook ist Code im Governance Layer, liest Register, Monitoring und Evidence Log und schreibt in die Vorfallakte. Vereinfacht:

# Vorfall-Runbook, vereinfacht (Governance Layer, Modul incidents)
SIGNALS = {
  "monitoring": ["drift_per_group", "disagreement_rate", "blocked_tool_call", "budget_stop"],
  "reviewers":  ["overturn_on_protected_ground", "pattern_report"],
  "external":   ["complaint", "deployer_report_art26_5"],
}

def classify(inc):                                   # Art. 3 Nr. 49
    if inc.death or inc.serious_health_harm:          return "a"
    if inc.critical_infrastructure_disruption:        return "b"
    if inc.fundamental_rights_infringement:           return "c"   # Gleichbehandlung, Datenschutz
    if inc.serious_property_or_environment_harm:      return "d"
    return None            # Vorfall, aber nicht schwerwiegend: Art. 72, keine Meldung

def deadline(inc, cls):                              # Art. 73 Abs. 2 bis 4, ab Kenntnis
    if inc.death:                       return days(10)
    if inc.widespread or cls == "b":    return days(2)
    return days(15)                     # Schweregrad kann frueher verlangen

def report_chain(rec):                               # wer meldet an wen
    if rec.role == "deployer":                       # Art. 26 Abs. 5
        return ["provider", "importer_or_distributor", "market_surveillance_authority"]
    return ["market_surveillance_authority_of_incident_state"]       # Art. 73 Abs. 1
    # Anbieter nicht erreichbar: Betreiber meldet selbst, Art. 73 entsprechend

def on_incident(inc):
    rec = registry.get(inc.model_id)
    rec.kill_switch.set(by=rec.business_owner, reason=inc.id)   # Route weg, Fallback manuell
    freeze(rec.version, inc.evidence_range)                     # Art. 73 Abs. 6: nichts veraendern
    cls = classify(inc)
    if cls:
        due = inc.awareness_at + deadline(inc, cls)
        send(initial_report(inc, cls, incomplete=True), to=report_chain(rec), due=due)  # Abs. 5
    corrective_actions_art20(rec, inc)   # Rollback, Faelle neu bewerten, Betreiber informieren
    if rec.is_financial_entity:
        dora.evaluate(inc)               # eigener Pfad, eigene Fristen, dieselbe Akte
    return evidence_package(inc, rec)

def evidence_package(inc, rec):
    return {
      "registry_record": rec.snapshot(),
      "model_versions": [rec.version, rec.previous_version],
      "evidence_log": log.query(model=rec.id, range=inc.evidence_range),
      "monitoring": monitoring.export(inc.signals),
      "reviewer_actions": log.reviewer_actions(inc.evidence_range),
      "gate_report": gates.report(rec.version),
      "timeline": inc.timeline(), "reports_sent": inc.reports,
    }

Erkennung und Kenntnis

Drei Signalquellen münden in dieselbe Akte: Monitoring (Drift pro Gruppe, Disagreement-Rate, geblockte Tool-Aufrufe, Budgetstopps), Prüfer (überstimmter Fall auf einem geschützten Merkmal, Mustereintrag) und extern (Beschwerde, Meldung eines Betreibers nach Art. 26 Abs. 5). Als Kenntnis zählt die Bestätigung des Signals durch die Triage, spätestens der nächste Arbeitstag nach dem Signal; der Alarm selbst bleibt in der Akte.

Einstufung und Frist

Die Einstufung folgt den vier Buchstaben aus Art. 3 Nr. 49 und wird von Business Owner und Risikofunktion gesetzt. Bei Buchstabe c reicht uns ein begründeter Verdacht; die Rechtsabteilung prüft parallel, nicht vorher. Die Frist berechnet das System aus Kenntnis und Einstufung: zehn Tage bei Todesfällen, zwei bei kritischer Infrastruktur oder weitverbreitetem Verstoß, sonst 15. Im Beispiel: 15 Tage, Erstmeldung am dritten Tag. Absatz 5 ist für mich die wichtigste Zeile des Artikels, weil er das Argument „wir wissen noch nicht genug“ ausschließt.

Meldekette

Das Register kennt die Rolle pro System. Für das eingekaufte Modell meldet der Versicherer als Betreiber an den Vorfallskontakt des Anbieters aus dem Registereintrag und an die Behörde; der Anbieter meldet nach Art. 73 Abs. 1. Schweigt der Anbieter über die vertragliche Frist, meldet der Versicherer selbst (Art. 26 Abs. 5). Für den Agenten ist der Versicherer Anbieter und meldet direkt. Die zuständige Behörde steht im Registereintrag; für Finanzinstitute ist das nach Art. 74 Abs. 6 die Finanzaufsicht, soweit das System mit der Finanzdienstleistung verbunden ist.

Kill Switch und Korrektur nach Art. 20

Erste Aktion ist der Kill Switch: ein Register-Flag, das der Business Owner ohne Deployment setzt; das Gateway nimmt dem Modell die Route, die Rechnungen laufen manuell weiter. Zweite Aktion ist das Einfrieren von Modellversion, Prompt-Version, Index und Evidence Log des Zeitraums. Das ist Absatz 6 in Code. Erst danach beginnt Art. 20: Rollback über die Quality Gates, Neubewertung aller betroffenen Fälle aus dem Evidence Log, Information der Betroffenen und, über den Anbieter, der anderen Betreiber.

Nachweispaket und DORA

Das Nachweispaket entsteht aus dem, was ohnehin da ist: Registereintrag mit Versionen und Unterschriften, Evidence Log des Zeitraums, Monitoring-Export, Gate-Report des Releases, Zeitleiste und alle versandten Meldungen. Der Versicherer ist zugleich Finanzunternehmen unter DORA. Wir führen beide Regime aus derselben Akte, aber getrennt geprüft: Ein Modell, das eine Gruppe benachteiligt, ist meist kein IKT-Vorfall im Sinne von DORA, und ein Ausfall des Modells meist kein schwerwiegender Vorfall nach Art. 3 Nr. 49. Dass DORA eine gleichwertige Meldepflicht nach Absatz 9 ist, unterstellen wir nicht.

Der Auditor sieht die Akte: Signal, Kenntnis, Einstufung mit zwei Namen, Frist, Erstmeldung, Kill Switch mit Zeitstempel, eingefrorene Versionen, Korrekturmaßnahmen und die vollständige Meldung. Ich bin Ingenieur, kein Jurist. Aber wer das in einer Stunde vorlegen kann, hat Artikel 73 erfüllt, bevor die Frist knapp wird.

Typische Fehler

  • Vorfall heißt Ausfall. Der Incident-Prozess kennt Verfügbarkeit und Sicherheitslücken, aber keine Kategorie für „das Modell entscheidet falsch über Menschen“.
  • Erst Ursache, dann Meldung. Die Uhr läuft ab Kenntnis, nicht ab Root Cause. Absatz 5 erlaubt die unvollständige Erstmeldung genau dafür.
  • Erst fixen, dann fragen. Der Hotfix überschreibt die Version, die Logs rotieren, und die Ursachenbewertung nach Absatz 6 ist unmöglich. Einfrieren kommt vor Reparieren.
  • „Das macht der Anbieter.“ Art. 26 Abs. 5 verpflichtet den Betreiber zur Information des Anbieters und bei dessen Schweigen zur eigenen Meldung.
  • Kill Switch mit Change Request. Wenn Stoppen eine IT-Freigabe braucht, ist es kein Kill Switch, und die Frist läuft weiter.

Checkliste EU AI Act Artikel 73

  • Vier Buchstaben aus Art. 3 Nr. 49 als Vorfallkategorien im Incident-Prozess angelegt.
  • Signale aus Monitoring, Prüfung und externen Quellen laufen in eine Akte; Zeitpunkt der Kenntnis definiert und protokolliert.
  • Einstufung durch zwei benannte Rollen; Fristen 15, 10 und 2 Tage werden berechnet, nicht nachgeschlagen.
  • Rolle pro System im Register (Anbieter oder Betreiber), Vorfallskontakt des Anbieters und zuständige Behörde hinterlegt.
  • Kill Switch als Register-Flag für den Business Owner; Einfrieren von Version und Logs als erster Schritt nach dem Stopp.
  • Nachweispaket aus Register, Evidence Log, Monitoring und Gate-Report per Knopfdruck exportierbar.
  • Korrekturmaßnahmen nach Art. 20, Neubewertung betroffener Fälle sowie DORA- und DSGVO-Pfad im Runbook; einmal pro Jahr mit synthetischem Vorfall geprobt.

Offene Fragen

  • Wann „Kenntnis“ beginnt, ist nicht definiert: Alarm, Triage-Bestätigung oder Feststellung des Zusammenhangs. Wir nehmen die Triage und protokollieren den Alarm, bis die Leitlinien der Kommission das klären.
  • Ab welcher Schwelle eine statistisch messbare Benachteiligung eine Verletzung von Pflichten zum Schutz der Grundrechte nach Buchstabe c ist, hat niemand festgelegt. Wir melden im Zweifel.
  • Ob DORA als gleichwertig nach Absatz 9 gilt und welche Behörde im Einzelfall zuständig ist, muss sich zwischen Art. 74 Abs. 6, nationalem Recht und Aufsichtspraxis noch sortieren.

Häufige Fragen

Gilt das auch für uns als Betreiber, wenn wir das Modell nur eingekauft haben?

Ja, über Art. 26 Abs. 5. Du meldest einen schwerwiegenden Vorfall zuerst dem Anbieter, dann Einführer oder Händler und den Behörden. Ist der Anbieter nicht erreichbar, gilt Artikel 73 für dich entsprechend, mit denselben Fristen ab deiner Kenntnis. Mehr dazu unter KI Governance.

Müssen wir melden, bevor wir die Ursache kennen?

Ja. Die Frist beginnt mit der Kenntnis, und Absatz 2 verlangt die Meldung, sobald ein ursächlicher Zusammenhang festgestellt oder hinreichend wahrscheinlich ist. Absatz 5 erlaubt dafür eine unvollständige Erstmeldung mit Nachreichung.

Ersetzt unsere DORA-Meldung die Meldung nach Artikel 73?

Darauf würde ich mich nicht verlassen. Absatz 9 beschränkt die Meldepflicht unter gleichwertigen Unionsregimen auf Vorfälle nach Buchstabe c, hebt sie aber nicht auf. Und die Benachteiligung einer Gruppe ist genau ein Fall nach Buchstabe c, kein IKT-Vorfall. Die weiteren Artikel der Serie: alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment