EU AI Act Artikel 57: KI-Reallabore (Sandboxes) technisch umgesetzt
EU AI Act Artikel 57 schafft KI-Reallabore: Eine Behörde begleitet die Entwicklung eines Systems nach einem vereinbarten Plan, mit Abschlussbericht und ohne Bußgeld, solange der Plan gutgläubig eingehalten wird. Wir führen Plan und Bericht als Registereinträge und lassen im Reallabor dieselbe Governance-Schicht laufen wie in Produktion, damit die Nachweise mitwandern.
Viele halten das Reallabor für ein Thema für Start-ups. Das ist zu kurz gedacht. Wer ein Hochrisiko-System selbst baut, bekommt hier eine Behörde als Gesprächspartner, bevor die Pflichten greifen. Artikel 57 KI-Verordnung adressiert die Mitgliedstaaten und ihre Behörden (Abs. 1 bis 4) sowie die Anbieter und zukünftigen Anbieter, die teilnehmen. Artikel 58 überträgt der Kommission die Durchführungsrechtsakte, Artikel 59 regelt, wann personenbezogene Daten im Reallabor für einen anderen Zweck weiterverarbeitet werden dürfen.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Kapitel VI mit den Artikeln 57 bis 59 gilt bereits seit dem 2. August 2026; die Frist, bis zu der jeder Mitgliedstaat ein nationales Reallabor betriebsbereit haben muss, steht in der konsolidierten Fassung von Abs. 1 auf dem 2. August 2027. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 57 verlangt
Art. 57 Abs. 1 bis 4: Jeder Mitgliedstaat sorgt für mindestens ein nationales KI-Reallabor. Der Europäische Datenschutzbeauftragte kann eines für die Unionsorgane einrichten (Abs. 3), das Büro für Künstliche Intelligenz eines auf Unionsebene für Systeme nach Art. 75 Abs. 1 (Abs. 3a).
Art. 57 Abs. 5: Das Reallabor ist eine kontrollierte Umgebung, in der ein innovatives System für begrenzte Zeit entwickelt, trainiert, validiert und getestet wird, nach einem Sandbox-Plan, den Anbieter und Behörde vereinbaren und der nach Art. 3 Nr. 54 Ziele, Bedingungen, Zeitrahmen, Methodik und Anforderungen beschreibt. Tests unter Realbedingungen können dazugehören; dann nimmt der Sandbox-Plan den Plan nach Art. 60 und 60a auf.
Art. 57 Abs. 6 und 7: Die Behörde leitet an, überwacht und unterstützt bei Risiken. Sie erklärt ihre Erwartungen und stellt einen schriftlichen Nachweis über die erfolgreich durchgeführten Tätigkeiten sowie einen Abschlussbericht aus. Der Anbieter darf beides nutzen, um Konformität darzulegen; Marktüberwachung und notifizierte Stellen berücksichtigen es positiv, um die Konformitätsbewertung in vernünftigem Maße zu beschleunigen. Eine förmliche Konformitätsvermutung ist das nicht.
Art. 57 Abs. 8 bis 10: Kommission und KI-Gremium erhalten mit Zustimmung Zugang zum Abschlussbericht. Ziele sind Rechtssicherheit, regulatorisches Lernen und schnellerer Marktzugang (Abs. 9). Bei personenbezogenen Daten sind die Datenschutzbehörden einzubeziehen (Abs. 10). Abs. 13 bis 17 regeln Koordination im KI-Gremium, Meldung ans Büro für Künstliche Intelligenz, öffentliche Liste und Jahresberichte.
Art. 57 Abs. 11 und 12: Aufsichts- und Abhilfebefugnisse bleiben unberührt; erhebliche Risiken, die sich nicht abmildern lassen, führen zur Aussetzung. Teilnehmer haften nach Unions- und nationalem Recht weiter für Schäden Dritter. Wer Plan und Teilnahmebedingungen beachtet und der Anleitung der Behörde gutgläubig folgt, erhält für Verstöße gegen die Verordnung kein Bußgeld.
Art. 58: Die Kommission regelt per Durchführungsrechtsakt Zulassung, Teilnahme, Überwachung und Ausstieg (Abs. 1): Entscheidung binnen drei Monaten, gemeinsame Anträge mit Betreibern, Gebührenfreiheit für KMU, befristete Teilnahme, gegenseitige Anerkennung, Werkzeuge für Tests und Erklärbarkeit (Abs. 2), Schutzvorkehrungen für Tests unter Realbedingungen (Abs. 4).
Art. 59 Abs. 1: Für andere Zwecke erhobene personenbezogene Daten dürfen im Reallabor weiterverarbeitet werden, wenn alle Bedingungen zusammen erfüllt sind: erhebliches öffentliches Interesse in einem genannten Bereich, etwa Gesundheit, Umwelt, Energie, kritische Infrastruktur oder öffentliche Verwaltung (a); anonymisierte oder synthetische Daten reichen nicht (b); Risikoerkennung mit Stopp (c); isolierte, geschützte Umgebung unter Kontrolle des Anbieters (d); erzeugte Daten bleiben im Reallabor (e); keine Entscheidung gegenüber Betroffenen (f); Löschung mit Ende der Teilnahme (g); Protokolle (h); Beschreibung von Training und Test nach Anhang IV (i); öffentliche Kurzzusammenfassung (j).
Art. 59 Abs. 2 und 3: Strafverfolgung braucht eine eigene Rechtsgrundlage. Andere Rechtsgrundlagen und Verbote der Zweckänderung bleiben unberührt.
Das technische Beispiel
Eine Bank baut ein Modell für die Kreditvorprüfung selbst, Anhang III Nr. 5 Buchstabe b, und ist zukünftige Anbieterin. Sie will vor dem 2. Dezember 2027 wissen, ob ihre Gates den Erwartungen der Behörde genügen. Der Datenfluss ist derselbe wie später in Produktion: Antrag aus dem Kreditportal ans Policy Gateway, Pseudonymisierung, Scope-Prüfung, Modellaufruf, zurück kommen Score-Band, Konfidenz und tragende Merkmale. Art. 59 hilft der Bank nicht, denn Kreditvorprüfung ist kein Bereich nach Abs. 1 Buchstabe a; ihre Trainingsdaten bleiben auf der eigenen DSGVO-Grundlage, pseudonymisiert oder synthetisch. Was sie bekommt, ist die Anleitung nach Art. 57 Abs. 7 und, wenn die Behörde zustimmt, ein Test unter Realbedingungen im Schattenbetrieb: echte Anträge, keine Wirkung auf die Entscheidung. Dass die deutsche Finanzaufsicht sich öffentlich offen für Reallabore und solche Tests gezeigt hat, macht diesen Weg realistischer, als viele denken.
Zweitens eine Sozialbehörde, die ein Modell trainieren will, das Leistungsanträge auf Betrugsmuster vorsortiert, Anhang III Nr. 5 Buchstabe a, mit Fallakten, die für die Leistungsgewährung erhoben wurden. Hier greift Art. 59 über Abs. 1 Buchstabe a Ziffer v, Effizienz und Qualität der öffentlichen Verwaltung. Die Behörde muss belegen, dass synthetische Daten nicht reichen (b), die Daten isolieren (d), und das Modell darf keine Entscheidung über einen Antragsteller beeinflussen (f): Es läuft auf historischen Fällen, seine Ausgaben erreichen keinen Sachbearbeiter. Geht es um Strafverfolgung statt Verwaltungsprüfung, braucht es nach Abs. 2 eine eigene Rechtsgrundlage; diese Grenze zieht die Datenschutzbehörde, nicht das Projektteam.
So setzen wir es um
Wir bei SIFAMO behandeln das Reallabor nicht als Ausnahme von der Governance, sondern als ihre erste Umgebung. Der Governance Layer läuft dort vollständig. Das klingt nach Aufwand für einen Prototyp, ist aber der Grund, warum der Abschlussbericht später etwas wert ist.
Sandbox-Plan und Abschlussbericht als Registereinträge. Der Registereintrag des Modells bekommt den Status „Reallabor“, mit Behörde, Dauer und dem Sandbox-Plan als versioniertem Dokument mit Hash. Das Ablaufdatum ist das Ende der Teilnahme; danach verliert das Modell seine Route, es sei denn, das Freigabe-Gate hat es auf „Produktion“ gehoben. Jede Änderung am Plan ist ein Plan-Amendment, das mit der Behörde vereinbart und im Register abgelegt wird. Abschlussbericht und schriftlicher Nachweis nach Abs. 7 hängen am selben Eintrag und wandern in die technische Dokumentation nach Anhang IV.
Dieselbe Schicht, damit die Nachweise mitwandern. Register, Policy Gateway, Nachweis-Log, abgestufte Aufsicht und Notaus laufen im Reallabor wie in Produktion, und die Qualitätsgates genauso: Evaluationsset im Besitz des Business Owners, Regressionstests, adversariale Tests, Bias-Prüfung, Rollback-Plan. Jeder Lauf schreibt ins Nachweis-Log: Eingabe-Hash, Modell und Version, Policy-Version, Ausgabe, Signale. Der Abschlussbericht wird aus diesem Log erzeugt, nicht aus dem Gedächtnis. Beim Übergang in Produktion bleiben Eintrag, Evaluationsgeschichte und Log erhalten; nur Status, Route und Aufsichtsstufe ändern sich.
Datenzonen für Artikel 59. Für die Sozialbehörde legen wir die weiterverarbeiteten Daten in eine eigene rote Zone, netzwerkseitig von der Verwaltung getrennt: eigenes Netzsegment, eigene Zugangsdaten, keine ausgehenden Verbindungen, Zugriffsliste mit Namen. Das ist unsere Lesart von „funktional getrennt, isoliert und geschützt“ nach Abs. 1 Buchstabe d. Der Zweck steht als Feld im Register, und das Gateway lehnt jeden Aufruf ab, der ihn nicht trägt. Pseudonymisierung mit IDs vor dem Modell, auch hier. Buchstabe e heißt bei uns: Ausgaben, Embeddings und Zwischendaten verlassen die Zone nie; Buchstabe f: keine Route zu einem Fachverfahren. Die Löschung nach Buchstabe g ist ein Job am Ablaufdatum mit Löschprotokoll im Register. Die Protokolle nach Buchstabe h sind das Nachweis-Log, die Zusammenfassung nach Buchstabe j entsteht aus dem Zweckfeld.
Zugang der Behörde. Die Verordnung sagt nicht, wie die Behörde überwacht. Wir vereinbaren es im Sandbox-Plan: eine eigene Rolle mit Lesezugriff auf Registereintrag, pseudonymisiertes Nachweis-Log und Monitoring-Sicht. Der Notaus bleibt beim Business Owner, aber der Plan verpflichtet ihn, eine Aussetzung nach Abs. 11 in einer definierten Frist auszuführen und zu protokollieren. Ich halte das für sauberer als einen Schalter für die Behörde in unserem System: Sie beaufsichtigt, wir betreiben.
Der Haftungspunkt. Abs. 12 schützt vor Bußgeldern, nicht vor Haftung. Deshalb bekommt ein Test unter Realbedingungen dieselbe Aufsichtsstufe wie eine Produktionsentscheidung über Menschen: vollständige Prüfung, keine Stichprobe. Und der Schutz hängt am Plan. Wer still abweicht, verliert ihn. Darum ist das Plan-Amendment bei uns ein Pflichtschritt.
Typische Fehler
Das Reallabor als regelfreie Zone. Abs. 11 lässt alle Befugnisse der Behörden bestehen, Abs. 12 die Haftung. Was dort passiert, ist aufsichtlich sichtbarer, nicht weniger.
Prototyp ohne Governance. Dann beschreibt der Abschlussbericht ein System, das es so nicht mehr gibt, und die Nachweise beginnen beim Release von null.
Artikel 59 für Geschäftsinteressen. Die Weiterverarbeitung gilt nur für die genannten Bereiche im öffentlichen Interesse. Eine Bank braucht ihre eigene Rechtsgrundlage.
Stille Plan-Abweichung. Neues Modell oder neue Datenquelle ohne Vereinbarung mit der Behörde. Der Bußgeldschutz nach Abs. 12 hängt an genau diesem Plan.
Checkliste EU AI Act Artikel 57
Sandbox-Plan vereinbart und als versioniertes Artefakt mit Hash im Register; Ablaufdatum gleich Teilnahmeende.
Plan-Amendment als Pflichtschritt für jede Änderung an Modell, Daten oder Scope; Vereinbarung mit der Behörde protokolliert.
Bei Art. 59: Bereich nach Abs. 1 Buchstabe a belegt, Notwendigkeit begründet, isolierte Zone ohne Route zu Fachverfahren, Löschjob mit Protokoll, öffentliche Zusammenfassung.
Lesezugriffsrolle für die Behörde eingerichtet; Aussetzungsfrist nach Abs. 11 vereinbart.
Abschlussbericht aus dem Nachweis-Log erzeugt und mit dem schriftlichen Nachweis in die technische Dokumentation nach Anhang IV aufgenommen.
Offene Fragen
Die Durchführungsrechtsakte nach Art. 58 Abs. 1 müssen Zulassung und Ausstieg erst festlegen. Bis dahin ist offen, wie einheitlich die Verfahren werden.
Welche Behörde in Deutschland das Reallabor betreibt und wie die Finanzaufsicht einbezogen wird, ist nicht abschließend geregelt. Für eine Bank entscheidet das, wer am Tisch sitzt.
Was „in vernünftigem Maße beschleunigen“ nach Abs. 7 konkret bedeutet, ist nicht definiert. Dass der Abschlussbericht Teile der internen Kontrolle nach Anhang VI ersetzt, ist Hoffnung, keine gesicherte Lesart.
Häufige Fragen
Gilt das auch für uns als Betreiber?
Das Reallabor richtet sich an Anbieter und zukünftige Anbieter. Als Betreiber kannst du nach Art. 58 Abs. 2 Buchstabe b mit dem Anbieter gemeinsam beantragen; deine Pflichten nach Art. 26 bleiben. Was du ohnehin brauchst, steht unter KI Governance.
Ersetzt das Reallabor die Hochrisiko-Pflichten?
Nein. Anleitung, Nachweis und Abschlussbericht sind bei der Konformitätsbewertung positiv zu berücksichtigen, mehr nicht. Kapitel III Abschnitt 2 musst du trotzdem erfüllen.
Müssen wir ins Reallabor?
Nein, die Teilnahme ist freiwillig. Sinnvoll ist sie, wenn du ein Hochrisiko-System selbst baust oder als öffentliche Stelle Daten nach Art. 59 weiterverarbeiten willst. Die weiteren Artikel der Serie: alle Artikel im Überblick.
EU AI Act Artikel 57: KI-Reallabore (Sandboxes) technisch umgesetzt
EU AI Act Artikel 57 schafft KI-Reallabore: Eine Behörde begleitet die Entwicklung eines Systems nach einem vereinbarten Plan, mit Abschlussbericht und ohne Bußgeld, solange der Plan gutgläubig eingehalten wird. Wir führen Plan und Bericht als Registereinträge und lassen im Reallabor dieselbe Governance-Schicht laufen wie in Produktion, damit die Nachweise mitwandern.
Viele halten das Reallabor für ein Thema für Start-ups. Das ist zu kurz gedacht. Wer ein Hochrisiko-System selbst baut, bekommt hier eine Behörde als Gesprächspartner, bevor die Pflichten greifen. Artikel 57 KI-Verordnung adressiert die Mitgliedstaaten und ihre Behörden (Abs. 1 bis 4) sowie die Anbieter und zukünftigen Anbieter, die teilnehmen. Artikel 58 überträgt der Kommission die Durchführungsrechtsakte, Artikel 59 regelt, wann personenbezogene Daten im Reallabor für einen anderen Zweck weiterverarbeitet werden dürfen.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Kapitel VI mit den Artikeln 57 bis 59 gilt bereits seit dem 2. August 2026; die Frist, bis zu der jeder Mitgliedstaat ein nationales Reallabor betriebsbereit haben muss, steht in der konsolidierten Fassung von Abs. 1 auf dem 2. August 2027. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 57 verlangt
Das technische Beispiel
Eine Bank baut ein Modell für die Kreditvorprüfung selbst, Anhang III Nr. 5 Buchstabe b, und ist zukünftige Anbieterin. Sie will vor dem 2. Dezember 2027 wissen, ob ihre Gates den Erwartungen der Behörde genügen. Der Datenfluss ist derselbe wie später in Produktion: Antrag aus dem Kreditportal ans Policy Gateway, Pseudonymisierung, Scope-Prüfung, Modellaufruf, zurück kommen Score-Band, Konfidenz und tragende Merkmale. Art. 59 hilft der Bank nicht, denn Kreditvorprüfung ist kein Bereich nach Abs. 1 Buchstabe a; ihre Trainingsdaten bleiben auf der eigenen DSGVO-Grundlage, pseudonymisiert oder synthetisch. Was sie bekommt, ist die Anleitung nach Art. 57 Abs. 7 und, wenn die Behörde zustimmt, ein Test unter Realbedingungen im Schattenbetrieb: echte Anträge, keine Wirkung auf die Entscheidung. Dass die deutsche Finanzaufsicht sich öffentlich offen für Reallabore und solche Tests gezeigt hat, macht diesen Weg realistischer, als viele denken.
Zweitens eine Sozialbehörde, die ein Modell trainieren will, das Leistungsanträge auf Betrugsmuster vorsortiert, Anhang III Nr. 5 Buchstabe a, mit Fallakten, die für die Leistungsgewährung erhoben wurden. Hier greift Art. 59 über Abs. 1 Buchstabe a Ziffer v, Effizienz und Qualität der öffentlichen Verwaltung. Die Behörde muss belegen, dass synthetische Daten nicht reichen (b), die Daten isolieren (d), und das Modell darf keine Entscheidung über einen Antragsteller beeinflussen (f): Es läuft auf historischen Fällen, seine Ausgaben erreichen keinen Sachbearbeiter. Geht es um Strafverfolgung statt Verwaltungsprüfung, braucht es nach Abs. 2 eine eigene Rechtsgrundlage; diese Grenze zieht die Datenschutzbehörde, nicht das Projektteam.
So setzen wir es um
Wir bei SIFAMO behandeln das Reallabor nicht als Ausnahme von der Governance, sondern als ihre erste Umgebung. Der Governance Layer läuft dort vollständig. Das klingt nach Aufwand für einen Prototyp, ist aber der Grund, warum der Abschlussbericht später etwas wert ist.
Sandbox-Plan und Abschlussbericht als Registereinträge. Der Registereintrag des Modells bekommt den Status „Reallabor“, mit Behörde, Dauer und dem Sandbox-Plan als versioniertem Dokument mit Hash. Das Ablaufdatum ist das Ende der Teilnahme; danach verliert das Modell seine Route, es sei denn, das Freigabe-Gate hat es auf „Produktion“ gehoben. Jede Änderung am Plan ist ein Plan-Amendment, das mit der Behörde vereinbart und im Register abgelegt wird. Abschlussbericht und schriftlicher Nachweis nach Abs. 7 hängen am selben Eintrag und wandern in die technische Dokumentation nach Anhang IV.
Dieselbe Schicht, damit die Nachweise mitwandern. Register, Policy Gateway, Nachweis-Log, abgestufte Aufsicht und Notaus laufen im Reallabor wie in Produktion, und die Qualitätsgates genauso: Evaluationsset im Besitz des Business Owners, Regressionstests, adversariale Tests, Bias-Prüfung, Rollback-Plan. Jeder Lauf schreibt ins Nachweis-Log: Eingabe-Hash, Modell und Version, Policy-Version, Ausgabe, Signale. Der Abschlussbericht wird aus diesem Log erzeugt, nicht aus dem Gedächtnis. Beim Übergang in Produktion bleiben Eintrag, Evaluationsgeschichte und Log erhalten; nur Status, Route und Aufsichtsstufe ändern sich.
Datenzonen für Artikel 59. Für die Sozialbehörde legen wir die weiterverarbeiteten Daten in eine eigene rote Zone, netzwerkseitig von der Verwaltung getrennt: eigenes Netzsegment, eigene Zugangsdaten, keine ausgehenden Verbindungen, Zugriffsliste mit Namen. Das ist unsere Lesart von „funktional getrennt, isoliert und geschützt“ nach Abs. 1 Buchstabe d. Der Zweck steht als Feld im Register, und das Gateway lehnt jeden Aufruf ab, der ihn nicht trägt. Pseudonymisierung mit IDs vor dem Modell, auch hier. Buchstabe e heißt bei uns: Ausgaben, Embeddings und Zwischendaten verlassen die Zone nie; Buchstabe f: keine Route zu einem Fachverfahren. Die Löschung nach Buchstabe g ist ein Job am Ablaufdatum mit Löschprotokoll im Register. Die Protokolle nach Buchstabe h sind das Nachweis-Log, die Zusammenfassung nach Buchstabe j entsteht aus dem Zweckfeld.
Zugang der Behörde. Die Verordnung sagt nicht, wie die Behörde überwacht. Wir vereinbaren es im Sandbox-Plan: eine eigene Rolle mit Lesezugriff auf Registereintrag, pseudonymisiertes Nachweis-Log und Monitoring-Sicht. Der Notaus bleibt beim Business Owner, aber der Plan verpflichtet ihn, eine Aussetzung nach Abs. 11 in einer definierten Frist auszuführen und zu protokollieren. Ich halte das für sauberer als einen Schalter für die Behörde in unserem System: Sie beaufsichtigt, wir betreiben.
Der Haftungspunkt. Abs. 12 schützt vor Bußgeldern, nicht vor Haftung. Deshalb bekommt ein Test unter Realbedingungen dieselbe Aufsichtsstufe wie eine Produktionsentscheidung über Menschen: vollständige Prüfung, keine Stichprobe. Und der Schutz hängt am Plan. Wer still abweicht, verliert ihn. Darum ist das Plan-Amendment bei uns ein Pflichtschritt.
Typische Fehler
Checkliste EU AI Act Artikel 57
Offene Fragen
Häufige Fragen
Gilt das auch für uns als Betreiber?
Das Reallabor richtet sich an Anbieter und zukünftige Anbieter. Als Betreiber kannst du nach Art. 58 Abs. 2 Buchstabe b mit dem Anbieter gemeinsam beantragen; deine Pflichten nach Art. 26 bleiben. Was du ohnehin brauchst, steht unter KI Governance.
Ersetzt das Reallabor die Hochrisiko-Pflichten?
Nein. Anleitung, Nachweis und Abschlussbericht sind bei der Konformitätsbewertung positiv zu berücksichtigen, mehr nicht. Kapitel III Abschnitt 2 musst du trotzdem erfüllen.
Müssen wir ins Reallabor?
Nein, die Teilnahme ist freiwillig. Sinnvoll ist sie, wenn du ein Hochrisiko-System selbst baust oder als öffentliche Stelle Daten nach Art. 59 weiterverarbeiten willst. Die weiteren Artikel der Serie: alle Artikel im Überblick.
Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater
Recent Posts
Recent Comments