Investieren in Dubai als Deutscher: warum wir über die Holding gehen | Umair Zaffar
Umair Zaffar November 16, 2026 0 Comments

EU AI Act Artikel 60: Tests unter Realbedingungen technisch umgesetzt

EU AI Act Artikel 60 erlaubt, ein Hochrisiko-System vor dem Inverkehrbringen unter Realbedingungen zu testen, aber nur mit genehmigtem Testplan, Registrierung in der EU-Datenbank, Einwilligung der Betroffenen und rückholbaren Ergebnissen. Bei uns ist der Testplan ein Registereintrag mit Ablaufdatum, und jeder Test beginnt im Shadow Mode: Das Modell rechnet, Menschen entscheiden, erst der Vergleich öffnet den Pilot.

Zwischen dem Evaluationsset im Labor und dem ersten echten Kunden liegt die gefährlichste Lücke eines KI-Projekts: andere Daten, andere Nutzer, andere Fehler. Artikel 60 KI-Verordnung schließt diese Lücke mit einem geregelten Zwischenschritt, dem Test unter Realbedingungen außerhalb eines Reallabors. Adressiert sind Anbieter und zukünftige Anbieter von Hochrisiko-Systemen nach Anhang III; die konsolidierte Fassung nennt auch Anhang I Abschnitt A, für Abschnitt B gilt der neue Artikel 60a. Betreiber sind Testpartner (Abs. 2), Betroffene willigen nach Artikel 61 ein, die Registrierungsfelder stehen in Anhang IX.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 60 steht in Kapitel VI, das seit August 2026 gilt; wichtig wird er genau in der Zeit bis zum Start der Anhang-III-Pflichten. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.

Was Artikel 60 verlangt

  • Art. 60 Abs. 1 bis 3: Anbieter oder zukünftige Anbieter dürfen Hochrisiko-Systeme außerhalb eines Reallabors unter Realbedingungen testen, nach einem Testplan, dessen Einzelheiten die Kommission per Durchführungsrechtsakt festlegt; die Verbote nach Art. 5 bleiben unberührt (Abs. 1). Jederzeit vor Inverkehrbringen oder Inbetriebnahme, allein oder mit Betreibern (Abs. 2). Eine Ethikprüfung ersetzt der Test nicht (Abs. 3).
  • Art. 60 Abs. 4 Buchst. a bis c: Testplan bei der Marktüberwachungsbehörde eingereicht (a); von ihr genehmigt, wobei Schweigen nach 30 Tagen als Genehmigung gilt, sofern das nationale Recht keine ausdrückliche Genehmigung verlangt (b); Test in der EU-Datenbank nach Art. 71 Abs. 4 registriert, mit unionsweit einmaliger Kennnummer und den Angaben nach Anhang IX, für Anhang III Nr. 1, 2, 6 und 7 im nicht öffentlichen Teil (c).
  • Buchst. d bis f: Anbieter in der Union niedergelassen oder mit Bevollmächtigtem dort (d); Daten gehen nur mit geeigneten Garantien in Drittländer (e); Dauer so kurz wie möglich, höchstens sechs Monate, einmal um sechs Monate verlängerbar nach vorheriger Mitteilung mit Begründung (f).
  • Buchst. g bis i: Schutzbedürftige Gruppen wegen Alter oder Behinderung geschützt (g); beteiligte Betreiber informiert, mit Betriebsanleitung nach Art. 13 und einer Vereinbarung über die Rollen (h); Betroffene haben nach Art. 61 eingewilligt, nur in der Strafverfolgung genügt stattdessen, dass Test und Ergebnis ihnen nicht schaden und ihre Daten danach gelöscht werden (i).
  • Buchst. j und k: Wirksame Aufsicht durch Personen mit Qualifikation, Kapazität, Schulung und Befugnis (j); Vorhersagen, Empfehlungen und Entscheidungen können wirksam rückgängig gemacht und außer Acht gelassen werden (k).
  • Abs. 5 bis 9: Betroffene steigen jederzeit ohne Nachteil und Begründung aus und können die sofortige Löschung ihrer Daten verlangen (Abs. 5). Behörden dürfen Auskunft verlangen und unangekündigt prüfen (Abs. 6), nach Art. 76 Abs. 3 den Test aussetzen, beenden oder ändern lassen. Schwerwiegende Vorfälle werden nach Art. 73 gemeldet; der Anbieter mindert sofort, setzt sonst aus oder beendet, mit Rückrufverfahren (Abs. 7). Aussetzung, Beendigung und Endergebnisse gehen an die Behörde (Abs. 8). Für Schäden haftet der Anbieter (Abs. 9).
  • Art. 61: Freiwillige, informierte Einwilligung vor der Teilnahme, nach knapper Aufklärung über Art, Ziel und mögliche Unannehmlichkeiten (a), Bedingungen und Dauer (b), Rechte, vor allem jederzeitiger Rücktritt (c), die Möglichkeit, Umkehr oder Nichtbeachtung der Ergebnisse zu verlangen (d), Kennnummer des Tests und Kontakt des Anbieters (e). Datiert, dokumentiert, Kopie an die Betroffenen (Abs. 2).
  • Anhang IX: Kennnummer, Name und Kontakt von Anbieter und beteiligten Betreibern, Kurzbeschreibung von System und Zweckbestimmung samt Nutzungskontext, Zusammenfassung des Testplans, Status ausgesetzt oder beendet. Aktuell zu halten; nach Art. 71 Abs. 4 nicht öffentlich.

Das technische Beispiel

Ein Anbieter hat ein Modell zur Schadentriage gebaut: Leistungsanträge einer Krankenversicherung werden nach Komplexität, Betrugsverdacht und voraussichtlicher Leistungshöhe sortiert, mit der Empfehlung, direkt zu regulieren oder in die Fachprüfung zu geben. Der Anbieter stuft vorsorglich als hochriskant nach Anhang III Nr. 5 ein, weil die Triage Leistungsentscheidungen für Versicherte vorbereitet; der Versicherer ist Betreiber. Beide wollen vor dem Start der Pflichten wissen, ob das Modell auf echten Anträgen hält, was das Evaluationsset verspricht. „Einfach mal mitlaufen lassen“ ist genau der Fall, den Artikel 60 regelt.

Der Datenfluss: Der Antrag kommt aus dem Leistungssystem an unser Policy Gateway, wird pseudonymisiert, gegen Scope und Datenzone geprüft und ans Modell gegeben. Phase eins, Shadow Mode: Die Ausgabe landet nur im Nachweis, die Sachbearbeiterin sieht sie nicht und entscheidet wie bisher. Phase zwei, begrenzter Pilot: Für eingewilligte Versicherte sieht sie die Empfehlung, entscheidet weiter selbst, und jede Entscheidung mit Modellbeteiligung ist markiert und rückholbar. Artikel 60 beißt schon im Shadow Mode, denn auch dort werden echte Daten echter Menschen verarbeitet; die Einwilligung nach Art. 61 muss vor dem ersten Antrag stehen.

So setzen wir es um

Wir bei SIFAMO behandeln einen Test unter Realbedingungen wie ein Produktivsystem an kürzerer Leine: Registereintrag im Governance Layer, ohne Eintrag keine Route, nur dass der Eintrag den Status Test trägt und den Testplan enthält. Vereinfacht:

{
  "model_id": "DE-V-2026-0212",
  "status": "real_world_test",
  "test_id": "(Kennnummer aus der EU-Datenbank)",
  "provider": "Anbieter, Bevollmaechtigter in der Union",
  "deployer": "Krankenversicherer, Leitung Leistung",
  "purpose": "Triage von Leistungsantraegen: Empfehlung, keine Entscheidung",
  "phases": [{"name": "shadow", "weeks": 8, "live_effect": false},
             {"name": "pilot", "weeks": 12, "live_effect": "Empfehlung sichtbar"}],
  "duration": {"weeks_max": 26, "extension": "einmal, vorher Mitteilung mit Begruendung"},
  "subjects": {"max": 3000, "consent": "Art. 61, Status pro Subjekt-ID",
               "excluded": "Minderjaehrige, Betreuungsfaelle"},
  "kill_criteria": ["Abweichung von der Sachbearbeitung ueber Schwelle, 5 Tage",
                    "aufgehobene Pilotentscheidung mit geschuetztem Merkmal",
                    "schwerwiegender Vorfall nach Art. 3 Nr. 49",
                    "Aufforderung der Behoerde"],
  "oversight": {"handlers": "benannt, geschult", "blind_recheck": "Anteil der Pilotfaelle"},
  "reversal": "jede Pilotentscheidung getaggt, Reopen ohne Modell",
  "deletion": "am Testende und bei Widerruf",
  "expiry": "Testende, danach keine Route"
}

Drei Felder tragen den Artikel. duration ist Buchst. f: Das Ablaufdatum ist das Testende, danach verliert das Modell seine Route automatisch; eine Verlängerung ist eine neue Version mit der Mitteilung an die Behörde als Anlage. subjects ist Buchst. g und i. kill_criteria ist unsere Antwort auf Abs. 7 und Art. 76 Abs. 3: Der Notaus liegt beim Business Owner des Versicherers, die Aufforderung der Behörde zieht ohne Diskussion. Die Zusammenfassung nach Anhang IX Nr. 4 wird aus dem Eintrag erzeugt.

Genehmigung und Registrierung als Gate. Das Freigabe-Gate für den Teststatus prüft drei Dinge, die ein Produktivsystem nicht kennt: Plan bei der Behörde eingereicht, mit Datum; Genehmigung oder Ablauf der 30 Tage dokumentiert; Kennnummer aus der EU-Datenbank im Feld test_id. Fehlt eines, bleibt die Route zu, auch für den Shadow Mode. Anhang IX Nr. 5 ist ein Statusfeld; springt es auf ausgesetzt oder beendet, folgen Datenbankeintrag und Mitteilung nach Abs. 8 automatisch.

Einwilligung mit Pseudonymen. Die Aufklärung nach Art. 61 Abs. 1 ist ein versioniertes Dokument mit den fünf Punkten, darunter Kennnummer und der Weg, die Umkehr einer Entscheidung zu verlangen. Die Einwilligungsakte mit Namen, Datum und Kopie führt der Versicherer in der roten Datenzone. Ins Gateway kommen nur Subjekt-ID und Status: eingewilligt mit Datum und Dokumentversion, oder widerrufen. Kein Status, kein Modellaufruf, der Antrag läuft am Modell vorbei. Der Widerruf nach Abs. 5 stößt die Löschung der pseudonymisierten Testdaten an, im Nachweis bleibt der Hash.

Shadow Mode als sicherer Standard. Im Shadow Mode schreibt das Gateway pro Antrag Eingabe-Hash, Modell und Version, Triage-Klasse und Konfidenz in den Nachweis, später die tatsächliche Entscheidung der Sachbearbeiterin dazu. Der Vergleich der beiden Spalten ist das Testergebnis: Übereinstimmung pro Klasse, Abweichungen nach Richtung, Bias-Check mit variierten geschützten Merkmalen. Hält er über die ganze Shadow-Phase die Schwellen aus dem Plan, unterschreiben Business Owner, Risiko und Anbieter den Übergang in den Pilot. Ein Modell, das im Schatten nicht überzeugt, hat im Pilot nichts verloren.

Rückholbarkeit und Aufsicht im Pilot. Buchst. k ist bei uns eine Datenstruktur: Jede Entscheidung mit sichtbarer Empfehlung trägt im Leistungssystem Test-Tag und Entscheidungs-ID. Eine Abfrage liefert alle betroffenen Anträge, ein Reopen setzt sie zurück in die Fachprüfung ohne Modell; geprobt in Staging, wie der Rollback. Buchst. j erfüllen benannte, geschulte Sachbearbeiter, eine blinde Nachprüfung eines Teils der Pilotfälle und ein Eskalationspfad mit Namen bis zur Behörde. Ein schwerwiegender Vorfall nach Art. 3 Nr. 49 löst die Meldung nach Art. 73 aus und zieht den Notaus. Der Auditor sieht Plan, Genehmigung, Kennnummer, Einwilligungsstatus pro Subjekt, den Shadow-Vergleich, jede Pilotentscheidung mit Tag und die Abschlussmitteilung nach Abs. 8.

Typische Fehler

  • „Nur ein Shadow Test, keine Betroffenen.“ Auch im Shadow Mode werden echte Daten echter Menschen verarbeitet. Die Einwilligung nach Art. 61 ist Voraussetzung, nicht Pilotzubehör.
  • Pilot ohne Rückholweg. Empfehlungen fließen in Entscheidungen, aber niemand kann nachher sagen, in welche. Buchst. k verlangt, dass jede wieder herausgelöst werden kann.
  • Einwilligung beim Anbieter. Der Anbieter sammelt Namen und Unterschriften, die er nicht braucht. Die Akte gehört zum Betreiber, der Anbieter braucht den Status pro ID.
  • Register nicht aktualisiert. Test ausgesetzt, Eintrag sagt läuft. Anhang IX Nr. 5 und Abs. 8 verlangen die Meldung.

Checkliste EU AI Act Artikel 60

  • Einstufung geklärt: Hochrisiko nach Anhang III oder Anhang I Abschnitt A, sonst ist Art. 60 nicht der Rahmen.
  • Testplan als Registereintrag: Phasen, Dauer bis sechs Monate, Obergrenze der Subjekte, Kill-Kriterien, Löschregel.
  • Plan eingereicht, Genehmigung oder Fristablauf dokumentiert, Kennnummer aus der EU-Datenbank im Eintrag, Vereinbarung mit dem Betreiber über Rollen, Aufsicht und Notaus.
  • Aufklärung nach Art. 61 versioniert, Einwilligungsstatus pro Subjekt-ID im Gateway, Widerruf löst Löschung aus.
  • Shadow Mode vor jeder Live-Wirkung, Vergleich gegen die menschliche Entscheidung mit Schwellen und Bias-Check.
  • Jede Pilotentscheidung getaggt, Reopen in Staging geprobt, blinde Nachprüfung eingerichtet.
  • Vorfallsmeldung nach Art. 73, Aussetzung und Abschlussmitteilung nach Abs. 8 als Prozess mit Namen.

Offene Fragen

  • Der Durchführungsrechtsakt der Kommission zu den Einzelheiten des Testplans nach Abs. 1 steht aus. Unser Eintrag ist eine Vorwegnahme, die wir anpassen werden.
  • Ob eine Schadentriage überhaupt in Anhang III fällt, ist umstritten. Wir stufen im Zweifel hoch ein; wer tiefer einstuft, braucht Art. 60 nicht, sollte aber dieselbe Mechanik fahren.
  • Ob ein Shadow Mode ohne Wirkung auf die Betroffenen schon ein Test nach Art. 3 Nr. 57 ist, für den Art. 61 greift, ist meine Lesart, keine gesicherte. Wir holen die Einwilligung trotzdem ein.

Häufige Fragen

Gilt das auch für uns als Betreiber?

Artikel 60 adressiert den Anbieter. Als Versicherer, der den Test im eigenen Haus zulässt, bist du Testpartner nach Abs. 2 und Buchst. h: Du bekommst die Betriebsanleitung, unterschreibst die Vereinbarung über die Rollen und stellst in der Praxis Aufsicht und Einwilligungen. Entwickelst du das Modell selbst, bist du Anbieter. Was ein Betreiber ohnehin braucht, steht unter KI Governance.

Reicht ein Shadow Mode ohne Einwilligung?

Nach meiner Lesart nicht. Auch im Shadow Mode verarbeitet das System echte Daten unter Realbedingungen, und Buchst. i knüpft die Zulässigkeit an die Einwilligung nach Art. 61; die Ausnahme gilt nur für die Strafverfolgung. Ohne Einwilligung bleibt nur das Labor, mit synthetischen oder historischen Daten auf passender Rechtsgrundlage.

Was ist an unserem Test öffentlich?

Nichts. Nach Art. 71 Abs. 4 sind die Angaben zu Tests nach Art. 60 vom öffentlichen Teil der Datenbank ausgenommen. Die Behörde sieht sie, Wettbewerber nicht. Aktuell halten musst du den Eintrag trotzdem. Die weiteren Artikel der Serie: alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment