EU AI Act Artikel 14: Menschliche Aufsicht technisch umgesetzt
EU AI Act Artikel 14 verlangt, dass Menschen ein Hochrisiko-System während des Betriebs wirksam beaufsichtigen, verstehen, übersteuern und stoppen können. Wir bauen das nicht als Prozessdokument, sondern als gestufte Prüfung, Stopp-Flag im Register und Feedback-Schleife direkt in den Governance Layer.
Artikel 14 ist der Artikel, den jeder zitiert und kaum jemand baut. „Ein Mensch schaut drauf“ steht in jeder Projektpräsentation. Artikel 14 KI-Verordnung verlangt mehr: Das System muss so entworfen sein, dass die Aufsicht auch bei zwanzigtausend Fällen im Monat noch funktioniert. Adressiert ist zuerst der Anbieter, der das System entwirft. Der Betreiber bekommt seinen Teil über Art. 14 Abs. 3 Buchstabe b und über Art. 26 Abs. 2, der ihn verpflichtet, die Aufsicht Menschen mit Kompetenz, Schulung und Befugnis zu übertragen.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 14 gehört zu diesen Hochrisiko-Pflichten. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 14 verlangt
Art. 14 Abs. 1: Hochrisiko-Systeme müssen so konzipiert und entwickelt werden, einschließlich geeigneter Mensch-Maschine-Schnittstellen, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können. Das ist eine Entwurfspflicht des Anbieters, keine Betriebsanweisung.
Art. 14 Abs. 2: Ziel der Aufsicht ist, Risiken für Gesundheit, Sicherheit und Grundrechte zu verhindern oder zu minimieren, und zwar bei bestimmungsgemäßer Verwendung und bei vernünftigerweise vorhersehbarer Fehlanwendung. Gemeint sind vor allem Risiken, die trotz der übrigen Anforderungen aus Abschnitt 2 bleiben.
Art. 14 Abs. 3: Die Maßnahmen müssen zu Risiken, Autonomiegrad und Einsatzkontext passen. Zwei Wege: Buchstabe a, der Anbieter baut sie ein, soweit technisch machbar. Buchstabe b, der Anbieter legt sie vor dem Inverkehrbringen fest und der Betreiber setzt sie um; sie gehören in die Betriebsanleitung nach Art. 13 Abs. 3 Buchstabe d.
Art. 14 Abs. 4: Die Personen, denen die Aufsicht übertragen ist, müssen, soweit angemessen und verhältnismäßig, fünf Dinge können: (a) Fähigkeiten und Grenzen des Systems verstehen und den Betrieb überwachen, inklusive Erkennen von Anomalien und Fehlfunktionen; (b) sich der Automatisierungsverzerrung bewusst bleiben, also der Neigung, sich automatisch auf die Ausgabe zu verlassen, gerade bei Systemen, die Empfehlungen für menschliche Entscheidungen liefern; (c) die Ausgabe richtig interpretieren; (d) entscheiden, das System nicht zu verwenden, oder seine Ausgabe außer Acht lassen, übersteuern oder rückgängig machen; (e) eingreifen oder den Betrieb über eine Stopptaste oder ein ähnliches Verfahren in einem sicheren Zustand anhalten.
Art. 14 Abs. 5: Für biometrische Fernidentifizierung nach Anhang III Nr. 1 Buchstabe a gilt eine Zwei-Personen-Regel: Keine Maßnahme oder Entscheidung darf auf der Identifizierung beruhen, bevor mindestens zwei kompetente natürliche Personen sie getrennt geprüft und bestätigt haben. Ausnahme: Strafverfolgung, Migration, Grenzkontrolle und Asyl, wo Unionsrecht oder nationales Recht das als unverhältnismäßig ansieht.
Buchstabe b zielt auf Systeme, die Empfehlungen für menschliche Entscheidungen liefern. Das ist exakt der Fall eines Vorsortier-Assistenten, deshalb dieses Beispiel.
Das technische Beispiel
Ein Versicherer setzt im Recruiting einen Assistenten ein, der eingehende Bewerbungen gegen das Anforderungsprofil einer Stelle abgleicht und vorsortiert. KI zum Filtern von Bewerbungen und Bewerten von Kandidaten steht in Anhang III Nr. 4 Buchstabe a. Das System ist damit Hochrisiko, egal wie klein das Team ist, das es gebaut hat.
Der Datenfluss: Die Bewerbung landet im Bewerbermanagementsystem. Das Policy Gateway pseudonymisiert sie, bevor ein Modell etwas sieht: Name, Foto, Geburtsdatum und Adresse werden durch eine Bewerber-ID ersetzt, Freitext wird auf Namen geprüft. Das Modell vergleicht die Unterlagen mit dem versionierten Anforderungsprofil der Fachseite und gibt pro Muss-Kriterium „erfüllt“, „nicht erfüllt“ oder „unklar“ zurück, jeweils mit der Textstelle, auf die es sich stützt. Daraus entsteht ein Vorschlag: Shortlist oder nicht. Das Gateway schreibt den Nachweis, mappt die ID zurück und liefert den Vorschlag ins Bewerbermanagementsystem.
Wo die Pflicht beißt: bei der unsichtbaren Ablehnung. Eine Bewerbung, die der Assistent unter die Linie setzt, trifft nie einen Menschen, wenn das Design das nicht erzwingt. Und bei der Recruiterin mit vierhundert Bewerbungen und einem grünen Wert. Sie klickt. Genau davor warnt Absatz 4 Buchstabe b. Dazu kommt das systematische Fehlerbild: Ein Modell, das eine Erziehungspause oder einen ausländischen Abschluss regelmäßig als „nicht erfüllt“ liest, fällt im Einzelfall nicht auf, nur im Muster.
So setzen wir es um
Wir bei SIFAMO behandeln Artikel 14 als Eigenschaft des Governance Layers, nicht als Kapitel im Verfahrensverzeichnis.
Gestufte Prüfung pro Entscheidungstyp. Das Register führt pro Modell ein Feld oversight mit zwei Entscheidungstypen. „Nicht weiterleiten“ ist Stufe 3: vollständige Prüfung, keine Bewerbung wird abgelehnt, ohne dass ein Recruiter sie gelesen und selbst entschieden hat. Bis dahin steht sie auf „pending“. „Shortlist“ ist Stufe 2: Stichprobe mit einer Rate, die aus der zu erkennenden Fehlerrate folgt, nicht aus freier Kapazität. Das System zieht die Stichprobe, nicht das Team. Dazu kommt die blinde Nachprüfung: Ein zweiter Prüfer bekommt einen Anteil bereits entschiedener Fälle, ohne Modellwert und ohne die erste Entscheidung zu sehen. Die Abweichungsrate ist eine Produktionsmetrik.
Verstehen und überwachen (Abs. 4 a). Die Prüfoberfläche zeigt, was das Modell beurteilen kann und was nicht: formale Kriterien ja, Motivation und Soft Skills nein. Die bekannten Schwächen aus der Evaluation stehen in der Oberfläche, nicht in einem PDF. Das Monitoring liest das Evidence Log und meldet an den Business Owner, hier die Leitung Recruiting: Verteilung der Werte pro Stelle und Bewerbungskanal, Widerspruch zu einer Regelprüfung für harte Muss-Kriterien wie Sprachniveau.
Gegen die Automatisierungsverzerrung (Abs. 4 b und c). Die Reihenfolge ist das wichtigste Werkzeug: Der Recruiter sieht Bewerbung und Anforderungsprofil zuerst, hält sein Urteil fest und sieht erst danach die Einschätzung des Modells. Es gibt keine Ampelfarben und keinen Wert ohne Begründung und Textstelle, und „unklar“ ist eine zulässige Ausgabe, denn ein Modell, das sich enthalten darf, erzeugt weniger selbstbewusste Fehler. Wir speisen Fälle mit bekannt falscher Einschätzung in die Prüfschlange ein und messen pro Prüfer, ob er sie fängt. Das ist unbeliebt und der einzige verlässliche Test, den ich kenne. Prüfzeit pro Fall und Freigabequote laufen als Metriken mit Alarmen, Fälle pro Prüfer pro Stunde sind gedeckelt.
Nicht nutzen, übersteuern, rückgängig machen (Abs. 4 d). Der Prüfer hat vier Aktionen: bestätigen, hochstufen, herabstufen, verwerfen. Jede braucht eine Begründungskategorie, keine braucht eine Genehmigung. Und das Bewerbermanagementsystem funktioniert ohne den Assistenten, weil es nie von ihm abhängig war. Das Team kann jede Stelle in den Modus ohne Vorsortierung schalten.
Stoppen (Abs. 4 e). Die Stopptaste ist ein Flag im Registereintrag. Die Leitung Recruiting setzt es selbst, ohne Deployment und ohne Change Request. Das Gateway liest das Flag bei jedem Aufruf. Der sichere Zustand ist definiert: Bewerbungen bleiben in der Warteschlange, es entsteht kein Vorschlag und keine Ablehnung, nichts geht verloren. Eine Stopptaste, die nur Engineers drücken können, ist keine Kontrolle, der die Fachseite vertraut.
Zum Kontrast Abs. 5. Die Zwei-Personen-Regel gilt nur für biometrische Fernidentifizierung. Zwei Unterschriften unter jeder Bewerbung verdoppeln nicht die Qualität, sie halbieren die Aufmerksamkeit. Vier Augen setzen wir dort ein, wo die zweite Person das Ergebnis verändert: bei Fällen, die wegen eines geschützten Merkmals aufgehoben wurden, und bei den ersten hundert Fällen nach einem Modell- oder Prompt-Wechsel.
Rückkopplung. Jede Prüferaktion landet mit Begründungskategorie im Evidence Log. Die Kategorie zeigt auf einen von drei Orten für die Korrektur: den Prompt, das Anforderungsprofil als Policy oder das Evaluationsset. Änderungen bekommen eine neue Version und gehen durch dieselbe Registrierung wie ein neues Modell, die auslösenden Fälle werden Regressionstests. Aufsicht, die das System nicht verändert, ist Theater.
Der Auditor sieht: den Registereintrag mit Stufen, Stichprobenraten und Stopp-Berechtigten, pro Bewerbung den Nachweis mit Modell-, Prompt- und Policy-Version, Ausgabe, Prüferaktion und Zeit, die Trefferquote bei den eingespeisten Fällen und jedes Stopp-Ereignis mit Person und Zeitpunkt. Wo das Gesetz Spielraum lässt, haben wir so entschieden: „Wirksam“ in Abs. 1 lesen wir als messbar. Aufsicht, deren Wirkung wir nicht messen können, gilt bei uns als nicht vorhanden. Ich bin Ingenieur, kein Jurist, aber diese Lesart hat bisher jede Rechtsabteilung überzeugt.
Typische Fehler
Aufsicht pro System statt pro Entscheidungstyp. Derselbe Assistent entwirft Absagen und sortiert aus. Zwei Folgen, zwei Stufen. Wer pauschal einstuft, prüft zu viel oder das Falsche.
Der grüne Wert. Eine Zahl mit Farbe, ohne Begründung, vor dem eigenen Urteil des Prüfers. Das ist Automatisierungsverzerrung als Feature.
Die Stopptaste im Ticket-System. Wenn Anhalten einen Change Request braucht, hast du keine Stopptaste, sondern einen Prozess.
Anbieterpflicht übersehen. Das interne Team baut auf einem Basismodell und hält sich für reinen Betreiber. Wer ein System entwickelt und unter eigenem Namen in Betrieb nimmt, ist nach Art. 3 Nr. 3 Anbieter, und Absatz 1 bis 4 adressieren genau den.
Checkliste EU AI Act Artikel 14
Jeder Entscheidungstyp des Systems hat eine registrierte Aufsichtsstufe (vollständig, Stichprobe, nur Monitoring) mit Begründung.
Die Stichprobe zieht das System, die Rate ist aus der zu erkennenden Fehlerrate abgeleitet und als Untergrenze fixiert.
Der Prüfer sieht Fähigkeiten, Grenzen und bekannte Schwächen des Modells in der Oberfläche, und die Begründung vor dem Wert.
Eingespeiste Fehlerfälle messen, ob Prüfer noch prüfen. Prüfzeit und Freigabequote haben Alarme.
Der Prüfer kann ohne Genehmigung übersteuern, verwerfen und das System nicht nutzen. Die Fachanwendung läuft auch ohne Modell.
Das Stopp-Flag setzt der Business Owner selbst, das Gateway liest es bei jedem Aufruf, der sichere Zustand ist definiert und getestet.
Jede Prüferaktion steht mit Begründungskategorie im Evidence Log und führt nachweisbar zu Prompt-, Policy- oder Testset-Änderungen.
Offene Fragen
„Wirksam“ in Abs. 1 ist nicht definiert, und die harmonisierten Normen, die das konkretisieren sollen, liegen noch nicht in verlässlicher Form vor. Wir messen Trefferquote, Prüfzeit und Abweichungsrate und hoffen, dass die Normen in diese Richtung gehen.
Die Begründung, die ein Modell dem Prüfer zeigt, ist selbst eine Modellausgabe. Ob sie beschreibt, was die Einschätzung getrieben hat, oder eine plausible Geschichte im Nachhinein ist, können wir heute nicht prüfen. Davon hängt ab, wie viel sie gegen Automatisierungsverzerrung schützt.
Wie Stichprobenraten und Schwellen sich anpassen sollen, wenn Modelle wöchentlich wechseln, ohne dass ein Mensch sie neu berechnet, ist offen.
Häufige Fragen
Gilt das auch für uns als Betreiber, wenn wir den Assistenten nur einkaufen?
Ja, über zwei Wege. Art. 14 Abs. 3 Buchstabe b erlaubt dem Anbieter, Aufsichtsmaßnahmen festzulegen, die du als Betreiber umsetzen musst; sie stehen in der Betriebsanleitung. Art. 26 Abs. 2 verpflichtet dich zusätzlich, die Aufsicht Menschen mit Kompetenz, Schulung, Befugnis und Unterstützung zu übertragen.
Reicht es, wenn ein Mensch jede Ausgabe freigibt?
Formal vielleicht, praktisch nicht. Artikel 14 verlangt, dass die Person Ausgaben versteht, Anomalien erkennt und sich der Automatisierungsverzerrung bewusst bleibt. Eine Freigabequote nahe hundert Prozent bei Prüfzeiten unter der Lesezeit belegt das Gegenteil. Mehr dazu unter KI Governance.
Muss die Stopptaste ein echter Knopf sein?
Nein. Absatz 4 Buchstabe e spricht von einer Stopptaste oder einem ähnlichen Verfahren, das das System in einem sicheren Zustand anhält. Entscheidend sind drei Eigenschaften: Eine berechtigte Person kann es allein auslösen, es wirkt sofort auf jeden Aufruf, und der sichere Zustand ist vorher definiert. Bei uns ist das ein Flag im Register. Die weiteren Artikel der Serie: alle Artikel im Überblick.
EU AI Act Artikel 14: Menschliche Aufsicht technisch umgesetzt
EU AI Act Artikel 14 verlangt, dass Menschen ein Hochrisiko-System während des Betriebs wirksam beaufsichtigen, verstehen, übersteuern und stoppen können. Wir bauen das nicht als Prozessdokument, sondern als gestufte Prüfung, Stopp-Flag im Register und Feedback-Schleife direkt in den Governance Layer.
Artikel 14 ist der Artikel, den jeder zitiert und kaum jemand baut. „Ein Mensch schaut drauf“ steht in jeder Projektpräsentation. Artikel 14 KI-Verordnung verlangt mehr: Das System muss so entworfen sein, dass die Aufsicht auch bei zwanzigtausend Fällen im Monat noch funktioniert. Adressiert ist zuerst der Anbieter, der das System entwirft. Der Betreiber bekommt seinen Teil über Art. 14 Abs. 3 Buchstabe b und über Art. 26 Abs. 2, der ihn verpflichtet, die Aufsicht Menschen mit Kompetenz, Schulung und Befugnis zu übertragen.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 14 gehört zu diesen Hochrisiko-Pflichten. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 14 verlangt
Buchstabe b zielt auf Systeme, die Empfehlungen für menschliche Entscheidungen liefern. Das ist exakt der Fall eines Vorsortier-Assistenten, deshalb dieses Beispiel.
Das technische Beispiel
Ein Versicherer setzt im Recruiting einen Assistenten ein, der eingehende Bewerbungen gegen das Anforderungsprofil einer Stelle abgleicht und vorsortiert. KI zum Filtern von Bewerbungen und Bewerten von Kandidaten steht in Anhang III Nr. 4 Buchstabe a. Das System ist damit Hochrisiko, egal wie klein das Team ist, das es gebaut hat.
Der Datenfluss: Die Bewerbung landet im Bewerbermanagementsystem. Das Policy Gateway pseudonymisiert sie, bevor ein Modell etwas sieht: Name, Foto, Geburtsdatum und Adresse werden durch eine Bewerber-ID ersetzt, Freitext wird auf Namen geprüft. Das Modell vergleicht die Unterlagen mit dem versionierten Anforderungsprofil der Fachseite und gibt pro Muss-Kriterium „erfüllt“, „nicht erfüllt“ oder „unklar“ zurück, jeweils mit der Textstelle, auf die es sich stützt. Daraus entsteht ein Vorschlag: Shortlist oder nicht. Das Gateway schreibt den Nachweis, mappt die ID zurück und liefert den Vorschlag ins Bewerbermanagementsystem.
Wo die Pflicht beißt: bei der unsichtbaren Ablehnung. Eine Bewerbung, die der Assistent unter die Linie setzt, trifft nie einen Menschen, wenn das Design das nicht erzwingt. Und bei der Recruiterin mit vierhundert Bewerbungen und einem grünen Wert. Sie klickt. Genau davor warnt Absatz 4 Buchstabe b. Dazu kommt das systematische Fehlerbild: Ein Modell, das eine Erziehungspause oder einen ausländischen Abschluss regelmäßig als „nicht erfüllt“ liest, fällt im Einzelfall nicht auf, nur im Muster.
So setzen wir es um
Wir bei SIFAMO behandeln Artikel 14 als Eigenschaft des Governance Layers, nicht als Kapitel im Verfahrensverzeichnis.
Gestufte Prüfung pro Entscheidungstyp. Das Register führt pro Modell ein Feld oversight mit zwei Entscheidungstypen. „Nicht weiterleiten“ ist Stufe 3: vollständige Prüfung, keine Bewerbung wird abgelehnt, ohne dass ein Recruiter sie gelesen und selbst entschieden hat. Bis dahin steht sie auf „pending“. „Shortlist“ ist Stufe 2: Stichprobe mit einer Rate, die aus der zu erkennenden Fehlerrate folgt, nicht aus freier Kapazität. Das System zieht die Stichprobe, nicht das Team. Dazu kommt die blinde Nachprüfung: Ein zweiter Prüfer bekommt einen Anteil bereits entschiedener Fälle, ohne Modellwert und ohne die erste Entscheidung zu sehen. Die Abweichungsrate ist eine Produktionsmetrik.
Verstehen und überwachen (Abs. 4 a). Die Prüfoberfläche zeigt, was das Modell beurteilen kann und was nicht: formale Kriterien ja, Motivation und Soft Skills nein. Die bekannten Schwächen aus der Evaluation stehen in der Oberfläche, nicht in einem PDF. Das Monitoring liest das Evidence Log und meldet an den Business Owner, hier die Leitung Recruiting: Verteilung der Werte pro Stelle und Bewerbungskanal, Widerspruch zu einer Regelprüfung für harte Muss-Kriterien wie Sprachniveau.
Gegen die Automatisierungsverzerrung (Abs. 4 b und c). Die Reihenfolge ist das wichtigste Werkzeug: Der Recruiter sieht Bewerbung und Anforderungsprofil zuerst, hält sein Urteil fest und sieht erst danach die Einschätzung des Modells. Es gibt keine Ampelfarben und keinen Wert ohne Begründung und Textstelle, und „unklar“ ist eine zulässige Ausgabe, denn ein Modell, das sich enthalten darf, erzeugt weniger selbstbewusste Fehler. Wir speisen Fälle mit bekannt falscher Einschätzung in die Prüfschlange ein und messen pro Prüfer, ob er sie fängt. Das ist unbeliebt und der einzige verlässliche Test, den ich kenne. Prüfzeit pro Fall und Freigabequote laufen als Metriken mit Alarmen, Fälle pro Prüfer pro Stunde sind gedeckelt.
Nicht nutzen, übersteuern, rückgängig machen (Abs. 4 d). Der Prüfer hat vier Aktionen: bestätigen, hochstufen, herabstufen, verwerfen. Jede braucht eine Begründungskategorie, keine braucht eine Genehmigung. Und das Bewerbermanagementsystem funktioniert ohne den Assistenten, weil es nie von ihm abhängig war. Das Team kann jede Stelle in den Modus ohne Vorsortierung schalten.
Stoppen (Abs. 4 e). Die Stopptaste ist ein Flag im Registereintrag. Die Leitung Recruiting setzt es selbst, ohne Deployment und ohne Change Request. Das Gateway liest das Flag bei jedem Aufruf. Der sichere Zustand ist definiert: Bewerbungen bleiben in der Warteschlange, es entsteht kein Vorschlag und keine Ablehnung, nichts geht verloren. Eine Stopptaste, die nur Engineers drücken können, ist keine Kontrolle, der die Fachseite vertraut.
Zum Kontrast Abs. 5. Die Zwei-Personen-Regel gilt nur für biometrische Fernidentifizierung. Zwei Unterschriften unter jeder Bewerbung verdoppeln nicht die Qualität, sie halbieren die Aufmerksamkeit. Vier Augen setzen wir dort ein, wo die zweite Person das Ergebnis verändert: bei Fällen, die wegen eines geschützten Merkmals aufgehoben wurden, und bei den ersten hundert Fällen nach einem Modell- oder Prompt-Wechsel.
Rückkopplung. Jede Prüferaktion landet mit Begründungskategorie im Evidence Log. Die Kategorie zeigt auf einen von drei Orten für die Korrektur: den Prompt, das Anforderungsprofil als Policy oder das Evaluationsset. Änderungen bekommen eine neue Version und gehen durch dieselbe Registrierung wie ein neues Modell, die auslösenden Fälle werden Regressionstests. Aufsicht, die das System nicht verändert, ist Theater.
Der Auditor sieht: den Registereintrag mit Stufen, Stichprobenraten und Stopp-Berechtigten, pro Bewerbung den Nachweis mit Modell-, Prompt- und Policy-Version, Ausgabe, Prüferaktion und Zeit, die Trefferquote bei den eingespeisten Fällen und jedes Stopp-Ereignis mit Person und Zeitpunkt. Wo das Gesetz Spielraum lässt, haben wir so entschieden: „Wirksam“ in Abs. 1 lesen wir als messbar. Aufsicht, deren Wirkung wir nicht messen können, gilt bei uns als nicht vorhanden. Ich bin Ingenieur, kein Jurist, aber diese Lesart hat bisher jede Rechtsabteilung überzeugt.
Typische Fehler
Checkliste EU AI Act Artikel 14
Offene Fragen
Häufige Fragen
Gilt das auch für uns als Betreiber, wenn wir den Assistenten nur einkaufen?
Ja, über zwei Wege. Art. 14 Abs. 3 Buchstabe b erlaubt dem Anbieter, Aufsichtsmaßnahmen festzulegen, die du als Betreiber umsetzen musst; sie stehen in der Betriebsanleitung. Art. 26 Abs. 2 verpflichtet dich zusätzlich, die Aufsicht Menschen mit Kompetenz, Schulung, Befugnis und Unterstützung zu übertragen.
Reicht es, wenn ein Mensch jede Ausgabe freigibt?
Formal vielleicht, praktisch nicht. Artikel 14 verlangt, dass die Person Ausgaben versteht, Anomalien erkennt und sich der Automatisierungsverzerrung bewusst bleibt. Eine Freigabequote nahe hundert Prozent bei Prüfzeiten unter der Lesezeit belegt das Gegenteil. Mehr dazu unter KI Governance.
Muss die Stopptaste ein echter Knopf sein?
Nein. Absatz 4 Buchstabe e spricht von einer Stopptaste oder einem ähnlichen Verfahren, das das System in einem sicheren Zustand anhält. Entscheidend sind drei Eigenschaften: Eine berechtigte Person kann es allein auslösen, es wirkt sofort auf jeden Aufruf, und der sichere Zustand ist vorher definiert. Bei uns ist das ein Flag im Register. Die weiteren Artikel der Serie: alle Artikel im Überblick.
Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater
Recent Posts
Recent Comments