Investieren in Dubai nach dem Preissturz: Unterwegs mit unserem Finanzberater | Umair Zaffar
Umair Zaffar Oktober 26, 2026 0 Comments

EU AI Act Artikel 4: KI-Kompetenz technisch umgesetzt

EU AI Act Artikel 4 verlangt von Anbietern und Betreibern, für die KI-Kompetenz der Menschen zu sorgen, die ihre KI-Systeme bedienen und nutzen. Wir setzen das nicht als Pflicht-E-Learning um, sondern als Kompetenzregister am Modellregister: Wer das Modul für seine Rolle nicht hat, bekommt vom Gateway keinen Zugang.

Artikel 4 ist der unscheinbarste Artikel des EU AI Act und der erste, der gilt. Er betrifft jedes KI-System, nicht nur Hochrisiko, und adressiert Anbieter und Betreiber. Ein Versicherer, der einen LLM-Assistenten an 500 Mitarbeiter ausrollt, ist Betreiber ab dem ersten Login. Artikel 4 KI-Verordnung taucht im Bußgeldkatalog des Art. 99 nicht auf. Der Hebel sitzt woanders: bei der Fachaufsicht, die in regulierten Häusern ohnehin nach der Qualifikation des Personals fragt, und beim Schaden, der entsteht, wenn ein Mitarbeiter einer Modellausgabe glaubt, die er nicht einordnen kann.

Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Artikel 4 gehört zur ersten Phase und gilt seit dem 2. Februar 2025. Der Omnibus hat Termine verschoben, keine Pflicht gestrichen; an Artikel 4 hat er die Formulierung angepasst, dazu gleich mehr. Die Einordnung steht im Überblick EU AI Act in der Praxis.

Was Artikel 4 verlangt

  • Art. 4 Abs. 1: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals und aller anderen Personen zu fördern, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, also auch der Mitarbeiter eines Dienstleisters. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung und Schulung der Personen, der Einsatzkontext und die Personen oder Gruppen, auf die die Systeme angewandt werden. Die ursprüngliche Fassung verlangte, „nach besten Kräften ein ausreichendes Maß an KI-Kompetenz“ sicherzustellen. Die Fassung nach der Änderungsverordnung spricht von Maßnahmen zur Förderung und stellt klar, dass kein bestimmtes Niveau bei einer einzelnen Person garantiert werden muss. In beiden Fassungen ist es eine Maßnahmenpflicht mit Nachweislast, keine Prüfung pro Kopf.
  • Art. 4 Abs. 2: Kommission und Mitgliedstaaten unterstützen diese Maßnahmen, besonders für KMU. Die Kommission veröffentlicht Praxisbeispiele auf der Informationsplattform nach Art. 62 Abs. 3 Buchstabe b.
  • Art. 4 Abs. 3: Das KI-Gremium gibt Empfehlungen zur Förderung von KI-Kompetenz, unter Berücksichtigung europäischer Kompetenzrahmen, gegebenenfalls mit gemeinsamen Zielen.
  • Die Definition: Art. 3 Nr. 56: Fähigkeiten, Kenntnisse und Verständnis, die Anbietern, Betreibern und Betroffenen erlauben, KI-Systeme sachkundig einzusetzen und sich der Chancen, Risiken und möglichen Schäden bewusst zu sein. Erwägungsgrund 20 nennt dazu die Interpretation der Ausgaben und das Wissen, wie KI-gestützte Entscheidungen die Betroffenen treffen.
  • Der Zusammenhang: Für Hochrisiko-Systeme setzen Art. 26 Abs. 2 (Aufsicht durch Personen mit Kompetenz, Schulung und Befugnis) und Art. 14 Abs. 4 auf diesem Fundament auf.

Das technische Beispiel

Ein Versicherer rollt einen LLM-Assistenten an 500 Mitarbeiter aus, von der Schadensachbearbeitung bis zum Aktuariat. Der Assistent beantwortet Fragen zu Bedingungswerken und Arbeitsanweisungen per RAG, fasst Vorgänge zusammen, entwirft Kundenschreiben und zieht Informationen aus Dokumenten. Er ist kein Hochrisiko-System nach Anhang III, solange er nicht in die Risikobewertung oder Preisbildung in der Lebens- und Krankenversicherung eingreift (Anhang III Nr. 5 Buchstabe c). Diese Linie muss jeder Nutzer kennen, denn sie verläuft nicht durch das Werkzeug, sondern durch seine Nutzung.

Der Datenfluss: Jede Anfrage trägt eine Use-Case-ID und die Identität des Nutzers und geht durch das Policy Gateway. Das Gateway löst den Registereintrag auf, prüft die Datenzone, ersetzt Namen, Versicherungsnummern und Adressen durch IDs, holt Dokumente per RAG mit den Zugriffsrechten des Nutzers zum Abfragezeitpunkt, mit Herkunft pro Textstelle, und schreibt pro Antwort einen Eintrag ins Evidence Log. Drei Datenzonen: Grün sind Bedingungswerke und interne Anweisungen, Grau pseudonymisierte Vorgangsdaten, Rot Gesundheitsdaten aus Leistungsfällen und alles, was nie in einen Prompt gehört.

Wo Artikel 4 beißt, zeigt sich in vier Situationen. Die Sachbearbeiterin übernimmt die Zusammenfassung eines Schadenfalls ungeprüft in die Akte und übersieht, dass der Assistent eine Frist aus einer veralteten Arbeitsanweisung zitiert hat. Der Kollege kopiert ein Arztschreiben in den Chat; die Pseudonymisierung fängt den Namen, nicht die Diagnose. Die Fachbereichsleiterin gibt als Business Owner einen Use Case frei und weiß nicht, was das Evaluationsset ist, das sie unterschreibt. Nach einem Modellwechsel enthält sich der Assistent öfter, und die Nutzer lesen das als Fehler. Keines davon ist ein Modellproblem. Jedes ist ein Kompetenzproblem, und jedes landet am Ende bei einem Kunden.

So setzen wir es um

Wir bei SIFAMO behandeln KI-Kompetenz wie jede andere Anforderung an den Governance Layer: als etwas, das das System erzwingt und das man exportieren kann. Das Prinzip ist dasselbe wie beim Modellregister. Dort heißt es: keine Registrierung, keine Route. Hier heißt es: kein Nachweis, kein Zugang.

Vier Rollenstufen statt ein Kurs. Jede Stufe hat ein Kompetenzprofil aus Kann-Sätzen, keinen Foliensatz. Nutzer, also alle 500: was der Assistent kann und was nicht, die drei Datenzonen, Quellen prüfen vor der Übernahme, eine Enthaltung richtig lesen, manipulierte Dokumente als Angriffsweg kennen, der Meldeweg. Business Owner: den eigenen Registereintrag lesen und verantworten, das Monitoring interpretieren, den Kill Switch ziehen. Prüfer: Ausgaben interpretieren, Automatisierungsverzerrung, Begründungskategorien, die eingespeisten Fehlerfälle, die wir ihnen nicht ankündigen. Engineers: Gateway, Evidence Log, Evaluationsset, Regressions- und Adversarial-Tests, Rollback. Das Nutzermodul findet an echten Vorgängen statt, das Prüfermodul endet mit einer praktischen Prüfung an Fällen mit bekannter Antwort.

Ein Kompetenzregister, verknüpft mit dem Modellregister. Pro Person steht darin: Rollen, absolvierte Module mit Version und Datum, Ergebnis, Gültigkeit, für Externe wie für Angestellte. Pro Registereintrag eines Modells steht, welche Kompetenz für welche Aktion nötig ist: nutzen, freigeben, prüfen, betreiben. Daraus folgen harte Regeln. Ein Registereintrag ohne Owner mit gültiger Business-Owner-Kompetenz lässt sich nicht anlegen. Die Drei-Wege-Freigabe durch Fachbereich, Risk und IT akzeptiert nur Unterschriften von Personen mit passendem Eintrag. In den Prüfer-Pool kommt nur, wer die Prüferkompetenz für diese Systemklasse hat.

Zugang über das Gateway, nicht über die Schulungsplattform. Das Gateway schlägt pro Aufruf den Kompetenzstatus des Nutzers nach wie den Scope: fehlendes oder abgelaufenes Modul, keine Antwort, sondern ein Hinweis mit Link zum Modul; für Prüfer ohne gültige Kompetenz keine Fälle in der Queue. Der Nachweis ist damit kein Dokument, sondern eine Eigenschaft des Systems. Wer nicht geschult ist, kann nicht. Das ist der Satz, den die Aufsicht hören will, und er ist technisch wahr.

Refresher bei jedem relevanten Wechsel. Wenn im Register Modellversion, Prompt-Version oder Scope wechseln, erzeugt das ein Delta-Modul. Der Inhalt kommt aus dem Evaluationsdiff: was sich im Verhalten geändert hat, welche neuen Schwächen die Tests gezeigt haben, welche Werkzeuge dazugekommen sind. Für Nutzer ist es kurz und hat eine Frist, für Prüfer und Business Owner ist es blockierend. Bekannte Schwächen aus der Evaluation werden so Schulungsinhalt, nicht nur eine Zeile im Testbericht.

Die Betroffenen im Lehrplan. Für kundennahe Use Cases enthält das Nutzermodul, was die Ausgabe für den Kunden bedeutet: dass ein vom Assistenten entworfenes Schreiben als Schreiben des Versicherers gilt, welche Rechte Betroffene nach DSGVO und Artikel 50 haben, wohin eine Beschwerde geht. Diesen Teil von Art. 4 Abs. 1 lassen fast alle Programme aus.

Was die Aufsicht sieht. MaGo und VAIT verlangen, dass das Personal für seine Aufgaben qualifiziert ist, und die BaFin prüft, ob die Menschen, die KI-Systeme bedienen, freigeben und prüfen, dafür kompetent sind, und will das belegt sehen. Wir antworten mit vier Exporten: dem Kompetenzregister pro Rolle, dem Join mit dem Modellregister, dem Join mit dem Evidence Log (jede Prüferaktion stammt nachweisbar von einer Person, die zu diesem Zeitpunkt gültige Kompetenz hatte) und der Gateway-Statistik der abgewiesenen Zugriffe. Dazu die Wirksamkeitsmetriken vor und nach jedem Modul: Trefferquote bei eingespeisten Fehlerfällen, Rot-Zonen-Versuche, Abweichungsrate der blinden Nachprüfung.

Wo das Gesetz Spielraum lässt, haben wir so entschieden. „Ausreichend“ definieren wir pro Rolle als Kompetenzprofil, nicht pro Person als Prüfungsnote, im Einklang mit der klargestellten Fassung. „Maßnahmen“ lesen wir als etwas, das Berechtigungen verändert, sonst sind sie nicht nachweisbar. Ich bin Ingenieur, kein Jurist. Aber ein Join dreier Register beantwortet Fragen, die ein Ordner mit Zertifikaten nicht beantwortet.

Typische Fehler

  • Ein E-Learning für alle. Derselbe Inhalt für die Praktikantin und den Prüfer. Artikel 4 verlangt, Vorwissen, Kontext und Betroffene zu berücksichtigen. Ein Einheitsmodul berücksichtigt nichts davon.
  • Kompetenz ohne Berechtigung. Schulung abgeschlossen, Zugang unabhängig davon vergeben. Zwei Listen, die nichts voneinander wissen, und der Nachweis ist eine Behauptung.
  • Einmal und nie wieder. Das Modell wechselt zweimal im Jahr, die Schulung bleibt die vom Rollout.
  • Die vergessenen Externen. Die Sachbearbeiter des Dienstleisters nutzen den Assistenten jeden Tag und stehen in keinem Register, weil die HR-Plattform nur Angestellte kennt.
  • Nur die Nutzer, nicht die Entscheider. Fünfhundert Menschen geschult, aber die Business Owner unterschreiben Registereinträge, die sie nicht lesen können.

Checkliste EU AI Act Artikel 4

  • Vier Rollen, jede mit einem Kompetenzprofil aus prüfbaren Kann-Sätzen.
  • Ein Kompetenzregister führt pro Person Rolle, Modulversion, Datum, Ergebnis und Gültigkeit, für Externe wie für Angestellte.
  • Jeder Eintrag im Modellregister nennt pro Aktion die erforderliche Kompetenz; Registrierung ohne qualifizierten Owner ist technisch unmöglich.
  • Das Gateway prüft den Kompetenzstatus bei jedem Aufruf; ohne gültigen Nachweis gibt es keinen Zugang.
  • Ein Wechsel von Modell, Prompt oder Scope erzeugt ein Delta-Modul mit Frist, der Inhalt stammt aus dem Evaluationsdiff.
  • Der Nachweis ist exportierbar: Kompetenzregister, Modellregister und Evidence Log lassen sich pro Entscheidung verknüpfen.
  • Wirksamkeit wird gemessen, nicht nur Teilnahme: eingespeiste Fehlerfälle, Rot-Zonen-Versuche, Abweichungsrate der Nachprüfung.

Offene Fragen

  • „Ausreichend“ und „Maßnahmen“ sind nicht definiert, eine harmonisierte Norm fehlt. Die Praxisbeispiele der Kommission nach Abs. 2 und die Empfehlungen des Gremiums nach Abs. 3 helfen nur, wenn sie konkreter werden als „Schulung anbieten“.
  • Eine Abschlussquote misst Teilnahme, nicht Kompetenz. Wir messen Verhalten, aber eine anerkannte Metrik für KI-Kompetenz gibt es nicht.
  • Kompetenz- und Nutzungsdaten pro Person sind Beschäftigtendaten. Wie fein die Aufsicht Nachweise pro Kopf sehen darf und was Betriebsrat und Datenschutz zulassen, ist in jedem Haus zu klären. Wir exportieren Metriken aggregiert, individuelle Einträge tragen nur Zugangsentscheidungen.

Häufige Fragen

Gilt das auch für uns als Betreiber, wenn wir den Assistenten nur einkaufen?

Ja. Art. 4 Abs. 1 adressiert Betreiber ausdrücklich, unabhängig von der Risikoklasse des Systems. Der Anbieter sorgt für die Kompetenz seines Personals, nicht für die deines. Er schuldet dir Informationen über das System; du schuldest deinen Mitarbeitern die Fähigkeit, damit umzugehen.

Reicht ein verpflichtendes E-Learning mit Zertifikat?

Es ist eine Maßnahme, also formal ein Anfang. Aber Artikel 4 verlangt, Vorwissen, Einsatzkontext und Betroffene zu berücksichtigen, und ein einheitliches Modul tut das nicht. Belastbar wird der Nachweis erst, wenn er mit Berechtigungen verknüpft ist und sich das Verhalten messbar ändert. Mehr dazu unter KI Governance.

Was passiert bei einem Modellwechsel?

Das Register merkt es zuerst: Die Versionsänderung erzeugt ein Delta-Modul aus dem Evaluationsdiff. Nutzer bekommen eine Frist, Prüfer und Business Owner arbeiten erst weiter, wenn sie das Modul abgeschlossen haben. Die weiteren Artikel der Serie: alle Artikel im Überblick.

Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater

Leave Comment