Investieren in Dubai als Deutscher: warum wir über die Holding gehen | Umair Zaffar
Umair Zaffar Oktober 23, 2026 0 Comments

EU AI Act Artikel 13: Transparenz für Betreiber technisch umgesetzt

EU AI Act Artikel 13 verlangt, dass ein Hochrisiko-System für den Betreiber verständlich ist und mit einer Betriebsanleitung kommt, die seine Grenzen ehrlich benennt. Wir bei SIFAMO setzen diese Anleitung als maschinenlesbare Model Card um, die im Register liegt, mit jeder Version ausgeliefert wird und vom Register des Betreibers direkt eingelesen wird.

Artikel 13 verbindet die beiden Enden der Wertschöpfungskette. Der Anbieter weiß, was sein System kann und wo es versagt. Der Betreiber muss damit arbeiten, Menschen zur Aufsicht einteilen, Protokolle aufbewahren und im öffentlichen Sektor eine Grundrechte-Folgenabschätzung schreiben. Alles davon hängt an Wissen, das nur der Anbieter hat. Artikel 13 KI-Verordnung adressiert deshalb formal den Anbieter, der Nutznießer ist der Betreiber. Wer als Behörde, Bank oder Versicherer ein Hochrisiko-System einkauft, sollte diesen Artikel so gut kennen wie der Hersteller. Den Gesamtrahmen beschreibe ich in EU AI Act in der Praxis.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 13 gehört zu den Anforderungen an Hochrisiko-Systeme in Kapitel III Abschnitt 2 und folgt diesen Terminen.

Was Artikel 13 verlangt

Drei Absätze, eine Logik: Das System muss von sich aus verständlich sein, es kommt mit einer Anleitung, und die Anleitung hat einen Mindestinhalt.

  • Art. 13 Abs. 1: Hochrisiko-Systeme sind so zu konzipieren und zu entwickeln, dass ihr Betrieb hinreichend transparent ist, damit Betreiber die Ausgabe interpretieren und angemessen verwenden können. Der Maßstab sind die Pflichten von Anbieter und Betreiber nach Abschnitt 3 (Art. 16 bis 27). Das ist eine Designpflicht, keine Dokumentationspflicht.
  • Art. 13 Abs. 2: Dem System liegt eine Betriebsanleitung bei, digital oder auf andere Weise. Sie muss knapp, vollständig, richtig und klar sein, und für den Betreiber relevant, zugänglich und verständlich.
  • Art. 13 Abs. 3 Buchst. a: Identität und Kontaktdaten des Anbieters und gegebenenfalls seines Bevollmächtigten.
  • Art. 13 Abs. 3 Buchst. b: Merkmale, Fähigkeiten und Leistungsgrenzen: die Zweckbestimmung (i); Genauigkeit samt Metriken, Robustheit und Cybersicherheit nach Art. 15, gegen die getestet wurde und die erwartet werden darf, mit den Umständen, die dieses Niveau beeinflussen (ii); bekannte oder vorhersehbare Umstände, die bei bestimmungsgemäßer Verwendung oder vorhersehbarem Missbrauch zu Risiken nach Art. 9 Abs. 2 führen (iii); Fähigkeiten zur Erklärung der Ausgabe (iv); Leistung für bestimmte Personengruppen (v); Spezifikationen der Eingabedaten und Angaben zu Trainings-, Validierungs- und Testdaten (vi); Informationen zur Interpretation der Ausgabe (vii).
  • Art. 13 Abs. 3 Buchst. c: Änderungen am System und seiner Leistung, die der Anbieter bei der ersten Konformitätsbewertung vorab festgelegt hat.
  • Art. 13 Abs. 3 Buchst. d: Die Maßnahmen zur menschlichen Aufsicht nach Art. 14, einschließlich technischer Vorkehrungen, die dem Betreiber die Interpretation erleichtern.
  • Art. 13 Abs. 3 Buchst. e: Benötigte Rechen- und Hardwareressourcen, erwartete Lebensdauer, Wartung und Pflege einschließlich der Häufigkeit von Software-Updates.
  • Art. 13 Abs. 3 Buchst. f: Wo relevant, die Mechanismen, mit denen der Betreiber die Protokolle nach Art. 12 erfassen, speichern und auswerten kann.

Die Gegenstücke stehen in Art. 26: Betreiber verwenden das System gemäß der Betriebsanleitung (Abs. 1), überwachen den Betrieb auf ihrer Grundlage (Abs. 5) und brauchen sie für die Grundrechte-Folgenabschätzung nach Art. 27. Art. 11 mit Anhang IV verlangt dieselben Inhalte ausführlicher in der technischen Dokumentation. Ich lese Artikel 13 deshalb als den Teil der technischen Dokumentation, der das Haus des Herstellers verlassen muss.

Das technische Beispiel

Ein Softwareanbieter liefert ein Dokumentenklassifikationsmodell an mehrere Behörden. Es sortiert die eingehende Post der Leistungsverwaltung in sieben Klassen, darunter Antrag, Nachweis, Widerspruch und Sonstiges, und schlägt die zuständige Stelle vor. Sonstiges landet in einem Sammelkorb. Ein erkannter Widerspruch setzt Fristen in Gang.

Der Datenfluss ist kurz. Ein Scan trifft in der digitalen Poststelle ein, die OCR extrahiert den Text, Text und wenige Metadaten gehen pseudonymisiert an das Modell. Zurück kommen Klasse, Konfidenzwert, die drei wahrscheinlichsten Alternativen und die Textstellen, die die Klasse tragen. Die Fachanwendung routet oberhalb einer Schwelle automatisch, darunter an eine Sachbearbeiterin.

Ob das hochriskant ist, muss der Anbieter entscheiden und begründen. Anhang III Nummer 5 Buchstabe a erfasst Systeme, mit denen Behörden den Anspruch auf öffentliche Leistungen beurteilen. Reine Sortierung ist eine vorbereitende Aufgabe, für die Art. 6 Abs. 3 eine Ausnahme kennt. Wir behandeln das System trotzdem als Hochrisiko-System, weil die Klasse bestimmt, ob ein Antrag als Antrag behandelt wird und ob eine Frist läuft. Das wirkt auf Menschen, auch ohne Anspruchsprüfung.

Artikel 13 beißt an vier Stellen. Die Behörden haben unterschiedliche Posteingänge, viel Handschrift hier, saubere Portal-Uploads dort; der Betreiber muss wissen, wo das Modell schwach ist. Er muss die Routing-Schwelle setzen, und das geht nur mit Metriken pro Evaluationsset. Er muss die Aufsicht organisieren: Wer sieht die unsicheren Fälle, mit welchen Hilfen, was passiert mit der Korrektur. Und er muss wissen, wie lange die Version lebt und was zu tun ist, wenn ein Formular geändert wird und die Eingabeverteilung kippt.

So setzen wir es um

Unsere Antwort auf Artikel 13 ist die Model Card als Registereintrag. Kein PDF im Vertragsanhang, sondern ein strukturiertes, versioniertes Dokument, das zur Modellversion gehört wie der Hash zum Artefakt. Der Anbieter pflegt sie in seinem Register, signiert sie beim Release fachlich und technisch, und sie wird mit jeder Version ausgeliefert. Vereinfacht, mit Beispielwerten:

{
  "model_id": "DOC-CLS-2026-07", "version": "3.2.0", "card_hash": "sha256:9f3a...",
  "provider": {"name": "Anbieter GmbH", "contact": "ai-compliance@anbieter.example"},
  "intended_purpose": "Klassifikation eingehender Dokumente der Leistungsverwaltung in sieben Klassen plus Routing-Vorschlag. Keine Prüfung von Ansprüchen.",
  "out_of_scope": ["Anspruchsprüfung", "Betrugserkennung", "Post außerhalb der Leistungsverwaltung"],
  "known_limitations": ["Handschrift: deutlich geringere Genauigkeit", "Mehrere Dokumente in einem Scan gelten als eines", "Nur Deutsch evaluiert"],
  "metrics": [
    {"eval_set": "provider-reference-2026Q2", "n": 4800, "macro_f1": 0.94, "recall_widerspruch": 0.97},
    {"eval_set": "handwriting-subset-2026Q2", "n": 350, "macro_f1": 0.71},
    {"eval_set": "deployer-owned", "n": null, "macro_f1": null, "note": "vom Betreiber vor Freigabe zu füllen"}
  ],
  "input_requirements": {"formats": ["PDF", "TIFF", "JPEG"], "min_dpi": 200, "ocr_text": "erforderlich", "languages": ["de"]},
  "output": {"class": "eine von sieben", "confidence": "0 bis 1, kalibriert auf provider-reference-2026Q2", "alternatives": "Top 3", "evidence_spans": "tragende Textstellen"},
  "predetermined_changes": {"routing_threshold": [0.60, 0.95], "class_set": "fest", "fine_tuning": "nicht vorgesehen"},
  "human_oversight": {"mandatory_review": ["confidence unter Schwelle", "Klasse Widerspruch"], "reviewer_ui": "Alternativen und Textstellen anzeigen", "override": "Prüfer ändert Klasse, Signal geht an Anbieter"},
  "lifetime": {"released": "2026-03-02", "expected_lifetime_months": 18, "re_evaluation_due": "2026-12-01", "update_cadence": "quartalsweise"},
  "logging": {"schema": "evidence-log-v2", "fields": ["input_hash", "model_version", "card_hash", "class", "confidence", "reviewer_action"]}
}

Jedes Feld hat eine Adresse im Gesetz: provider ist Buchst. a, intended purpose bis output decken Buchst. b von (i) bis (vii), predetermined changes ist Buchst. c, human oversight Buchst. d, lifetime Buchst. e, logging Buchst. f. Wir haben das Schema entlang des Absatzes gebaut, damit ein Prüfer die Zuordnung ohne uns findet.

Drei Entscheidungen darin sind unsere Auslegung. Art. 13 Abs. 2 lässt das Format offen; wir haben uns für maschinenlesbar entschieden und rendern daraus die lesbare Fassung, weil eine Anleitung, die kein Gateway lesen kann, eine Anleitung ist, die niemand befolgt. Knapp und vollständig zugleich geht nur in Schichten; die Card ist die knappe Schicht und verlinkt auf die technische Dokumentation nach Anhang IV. Und Metriken ohne Evaluationsset nehmen wir nicht an; jede Zahl trägt Name und Größe ihres Sets, und die Card hat einen leeren Platz für das Set des Betreibers.

Der eigentliche Hebel liegt beim Betreiber. Das Register der Behörde hat einen Import für Model Cards. Es prüft die Signatur gegen den Schlüssel des Anbieters, legt den Eintrag für diese Modellversion an und markiert die Felder, die die Behörde selbst füllen muss: fachlicher Owner, Ergebnis auf dem eigenen Evaluationsset aus echter Post, gewählte Schwelle, Aufsichtsstufen, Datenzone und Ablaufdatum. Das Ablaufdatum ist das frühere von zwei Terminen, die Neubewertung des Anbieters aus der Card und die eigene Frist aus der Risikobewertung. Solange ein Pflichtfeld leer ist oder die Freigabe von Fachseite, Risiko und IT fehlt, gibt es im Gateway keine Route. Das Prinzip aus unserem Governance Layer gilt auch hier: keine Registrierung, keine Route.

Dann wird die Anleitung zur Konfiguration. Das Gateway setzt die Eingabeanforderungen durch: Ein Fax mit zu geringer Auflösung wird abgewiesen und als Out-of-Spec protokolliert, statt still falsch klassifiziert. Die Schwelle muss im vorab festgelegten Bereich liegen, sonst lehnt das Register den Eintrag ab. Die Pflichtprüfungen werden zur Eskalationsregel: Widerspruch und unsichere Fälle gehen in die Prüf-Queue, die Prüferin sieht Alternativen und Textstellen, ihre Korrektur landet im Evidence Log und geht als Signal an den Anbieter zurück. Pro Entscheidung speichert das Evidence Log den Hash der Card, die galt. Ein Prüfer sieht Monate später nicht nur, was das Modell tat, sondern unter welcher Anleitung.

Und wenn die Behörde das System verändert? Dann greift Art. 25. Nach Art. 25 Abs. 1 wird ein Betreiber selbst Anbieter, wenn er seinen Namen auf das System setzt (Buchst. a), es wesentlich verändert (Buchst. b) oder die Zweckbestimmung so ändert, dass es hochriskant wird (Buchst. c). Der ursprüngliche Anbieter muss dann nach Art. 25 Abs. 2 kooperieren und Informationen liefern. Im Beispiel: Die Schwelle im Bereich verschieben ist vorab festgelegt, die Behörde bleibt Betreiber. Auf eigenen Dokumenten nachtrainieren oder eine Klasse Betrugsverdacht ergänzen ist etwas anderes. Unser Register behandelt jede Änderung außerhalb von predetermined changes als Abzweigung: Der Eintrag wird geforkt, die Rolle wechselt auf Anbieter, die Felder aus Art. 16 und Anhang IV werden Pflicht, und die Route gibt es erst nach dem vollen Gate. Niemand soll aus Versehen Anbieter werden.

Typische Fehler

  • Die Anleitung ist ein PDF im Vertragsanhang. Version 1.0 der Anleitung, Version 3 des Modells, und keiner merkt es, weil beides nirgends verknüpft ist.
  • Metriken ohne Testset. „Genauigkeit über 95 Prozent“ sagt nichts, wenn nicht dasteht, auf welchen Dokumenten.
  • Grenzen fehlen, weil der Vertrieb sie nicht mag. Die Schwäche bei Handschrift steht nirgends, bis der erste Widerspruch im Sammelkorb liegt und die Frist verstrichen ist.
  • Der Betreiber liest die Anleitung nicht ein. Schwelle, Eingabeanforderungen und Prüfregeln stehen im Dokument und nirgends im System. Die Anleitung ist dann erfüllt und wirkungslos.
  • Niemand hat festgelegt, was der Betreiber ändern darf. Die IT der Behörde trainiert nach, und keiner bemerkt den Rollenwechsel nach Art. 25.

Checkliste EU AI Act Artikel 13

  • Die Betriebsanleitung ist versioniert und per Hash an genau eine Modellversion gebunden.
  • Sie enthält alle Punkte aus Art. 13 Abs. 3 Buchst. a bis f, jeder Punkt hat ein Feld.
  • Jede Metrik nennt Evaluationsset und Umfang; es gibt Metriken für Teilgruppen und schwache Eingaben.
  • Bekannte Grenzen und vorhersehbarer Missbrauch sind konkret benannt, nicht als Formel.
  • Die vorab festgelegten Änderungen sind als Bereich definiert; alles außerhalb löst den Rollenwechsel nach Art. 25 aus.
  • Die Aufsichtsmaßnahmen nach Art. 14 sind als Regeln beschrieben, die ein Betreiber in sein System übernehmen kann.
  • Das Register des Betreibers liest die Anleitung ein, erzwingt die Pflichtfelder und speichert pro Entscheidung, welche Fassung galt.

Offene Fragen

  • Format. Solange keine harmonisierte Norm nach Art. 40 den Mindestinhalt in ein Schema gießt, legt jeder Anbieter sein eigenes fest. Ein Betreiber mit zehn Anbietern hat zehn Importe.
  • Kalibrierung. Ein Konfidenzwert, der auf den Daten des Anbieters kalibriert wurde, kann auf der Post einer bestimmten Behörde systematisch danebenliegen. Wie viel Rekalibrierung der Betreiber vornehmen darf, bevor er in Art. 25 rutscht, ist offen.
  • Grenze der Ausnahme. Wo endet die vorbereitende Aufgabe nach Art. 6 Abs. 3? Für Dokumentensortierung mit Fristwirkung wählen wir die strengere Lesart. Wo die Nachbarartikel ansetzen, zeigen alle Artikel im Überblick.

Häufige Fragen

Gilt Artikel 13 auch für uns als Betreiber?

Formal adressiert er den Anbieter. Aber Art. 26 Abs. 1 verpflichtet dich, das System gemäß der Betriebsanleitung zu verwenden, und Art. 26 Abs. 5, den Betrieb auf ihrer Grundlage zu überwachen. Ohne brauchbare Anleitung kannst du deine eigenen Pflichten nicht nachweisen. Wer sie nicht bekommt, sollte nicht in Produktion gehen. Wer das System verändert, kann nach Art. 25 selbst Anbieter werden.

Reicht eine Model Card nach dem Vorbild der großen Modellanbieter?

Nicht allein. Sie ist ein guter Anfang für Buchst. b. Art. 13 Abs. 3 verlangt zusätzlich Aufsichtsmaßnahmen, Lebensdauer und Wartung, vorab festgelegte Änderungen und die Mechanismen für die Protokolle. Und die Metriken müssen zur ausgelieferten Version gehören, nicht zur Modellfamilie. Das ist der Unterschied zwischen Marketing und KI Governance.

Was passiert bei einem Modell-Update?

Neue Version, neue Card, neuer Import. Das Register des Betreibers akzeptiert die Version erst, wenn die eigene Evaluation auf dem neuen Stand gelaufen ist und die Freigabe erneuert wurde. Vorab festgelegte Updates laufen durch ein leichteres Gate mit Regressionstest, alles andere durch das volle. Die alte Version bleibt als Rollback registriert, bis die neue bestanden hat.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment