Hunderttausende Autos ohne Kennzeichen, ohne TÜV, ohne Kontrolle: Niemand käme auf die Idee, das zuzulassen. Bei KI-Modellen ist genau das der Normalzustand. Warum KI Kontrolle eine Zulassungsstelle braucht und wie wir sie bei SIFAMO bauen.
Stellt euch vor, da draußen fahren hunderttausende Autos ohne Kennzeichen, ohne TÜV, ohne irgendeine Kontrolle. Niemand wüsste, welcher Fahrer wann was getan hat, und bei einem Unfall gäbe es niemanden, der haftet. Genau das sehen wir gerade bei KI-Tools. Modelle werden wahllos rausgehauen, und kein Mensch hat mehr die Kontrolle. In diesem Beitrag geht es darum, wie wir das umdrehen.
Aufgenommen in Frankfurt am Main, Juli 2026: KI Kontrolle am Beispiel der Kfz-Zulassung.
Warum das Auto das beste Beispiel für KI Kontrolle ist
Ein Fahrzeug müsst ihr bei der Zulassungsstelle anmelden. Es bekommt ein Kennzeichen, es hat TÜV, es wird überwacht, und es gelten Regeln und Richtlinien, an die es sich halten muss. Das ist gut so, denn so ist klar, wer bei einem Schaden haftet und was mit den Folgen passiert. Bei KI gibt es nichts davon. Dabei trifft sie täglich Millionen von Entscheidungen: über Kredite, über Bewerbungen, über Versicherungen, über Menschen. Und kaum jemand weiß, wie diese Entscheidungen zustande kommen.
Jetzt stellt euch vor, es geht um eure Kreditentscheidung oder um eure Krankenakte, und die KI, die darauf zugreift, kennt keine Grenzen mehr mit euren persönlichen Daten. Dann habt ihr ein großes Problem, und wir wissen genau, wohin das führt: in ein komplettes Chaos.
Was KI Governance bedeutet
KI Governance heißt zunächst nur, dass man Richtlinien schafft: Wie kann man eine KI kontrollieren, und was darf sie überhaupt, was darf sie nicht? Darauf haben wir uns spezialisiert. Uns ist wichtig, dass Modelle und Tools, die in Banken, Versicherungen oder Großkonzernen eingeführt werden, zum Beispiel um Akten zu durchforsten, kontrolliert werden und dass das, was die KI ausgibt, auch der Wahrheit entspricht.
Wir sehen es alle bei den gängigen GPTs: Wir geben etwas ein, lassen eine Präsentation erstellen, bekommen Werte zurück und halten sie für richtig. Aber wer sagt, dass sie richtig sind? Genau da muss eine Kontrollinstanz ansetzen. Dass das kein theoretisches Risiko ist, zeigt der Fall, in dem OpenAI selbst einräumt, dass seine Modelle im Test Daten erfunden haben.
Die Zulassungsstelle für KI: unser Governance Layer
Banken, Versicherungen und Großkonzerne müssen realisieren, dass KI dringend von einer Schicht kontrolliert werden muss, die über ihr steht. Diese Schicht haben wir gebaut und bauen sie seit zwei Jahren weiter aus. So funktioniert sie:
Registrierung. Jedes KI-Modell meldet sich an, wie ein Auto bei der Zulassungsstelle. Ohne Registrierung kein Einsatz.
Überwachung. Jeder Schritt wird nachverfolgt und dokumentiert. Man kann genau sagen, wie die KI reagiert, was herauskommt und welche Ergebnisse sie haben darf.
Reaktion. Liefert ein Modell Ergebnisse, die es nicht haben sollte, kann sofort eingegriffen werden. Alles bleibt audit-ready, also prüfbar für Aufsicht und Revision.
Der EU AI Act setzt dafür den rechtlichen Rahmen, die BaFin prüft, DORA sichert ab, MaRisk setzt Standards. Aber Regeln allein reichen nicht. Es braucht Technologie, die diese Regeln umsetzt. Was das für Banken konkret heißt, habe ich in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act beschrieben.
Warum wir dafür nach Dubai gegangen sind
Nicht umsonst haben wir im Februar letzten Jahres unseren KI Summit in Dubai veranstaltet. Wir wollten verstehen, wohin die Reise mit der KI geht. Unternehmen wie Nvidia, Microsoft und Goldman Sachs waren dabei, und wir haben tiefe Einblicke bekommen. Das Bild, das sich ergab: Banken führen KI ein, Versicherungen lassen Kreditentscheidungen von Modellen treffen, der Mensch wird herausgenommen, und entschieden wird auf Basis alter Daten. Und das ist nur ein Teil. Was ist mit den Humanoiden, die gebaut werden, eine KI bekommen und menschliche Arbeit übernehmen sollen? Wer kontrolliert diese KI?
Genau das haben wir in den letzten Monaten intensiv weiterverfolgt und unser eigenes Framework dafür aufgebaut. Wir sind im Austausch mit Banken, Großkonzernen und Mittelständlern, wie sich dieser Layer integrieren lässt. Wir bauen SIFAMO AI weiter aus, mit einem klaren Ziel: Die KI soll nicht über unser Leben entscheiden, wir entscheiden über die KI. Welche KI-Entscheidung in eurem Unternehmen könnte heute niemand erklären, wenn die Aufsicht fragt? Schreibt es mir auf LinkedIn oder unter dem Video auf meinem YouTube-Kanal.
Häufige Fragen
Was ist ein KI Governance Layer?
Eine technische Schicht, die zwischen den KI-Modellen und den Fachanwendungen sitzt. Modelle registrieren sich dort, jeder Aufruf wird protokolliert, Ergebnisse werden gegen Regeln geprüft, und bei Auffälligkeiten kann eingegriffen werden. Die Dokumentation ist so aufgebaut, dass sie ein Audit besteht.
Welche Regelwerke gelten für KI in Banken?
Der EU AI Act als KI-spezifisches Gesetz, dazu die Aufsicht der BaFin, DORA für die digitale Resilienz und MaRisk als Mindestanforderungen an das Risikomanagement. Alle verlangen Nachvollziehbarkeit, und genau die liefert ein Governance Layer.
Gilt das auch für den Mittelstand?
Ja. Auch ein mittelständisches Unternehmen trifft mit KI Entscheidungen über Kunden, Bewerber oder Lieferanten. Wer heute ein Register und eine Protokollierung einführt, spart sich später die hektische Nachrüstung, wenn Kunden oder Behörden Nachweise verlangen.
Hunderttausende Autos ohne Kennzeichen, ohne TÜV, ohne Kontrolle: Niemand käme auf die Idee, das zuzulassen. Bei KI-Modellen ist genau das der Normalzustand. Warum KI Kontrolle eine Zulassungsstelle braucht und wie wir sie bei SIFAMO bauen.
Stellt euch vor, da draußen fahren hunderttausende Autos ohne Kennzeichen, ohne TÜV, ohne irgendeine Kontrolle. Niemand wüsste, welcher Fahrer wann was getan hat, und bei einem Unfall gäbe es niemanden, der haftet. Genau das sehen wir gerade bei KI-Tools. Modelle werden wahllos rausgehauen, und kein Mensch hat mehr die Kontrolle. In diesem Beitrag geht es darum, wie wir das umdrehen.
Warum das Auto das beste Beispiel für KI Kontrolle ist
Ein Fahrzeug müsst ihr bei der Zulassungsstelle anmelden. Es bekommt ein Kennzeichen, es hat TÜV, es wird überwacht, und es gelten Regeln und Richtlinien, an die es sich halten muss. Das ist gut so, denn so ist klar, wer bei einem Schaden haftet und was mit den Folgen passiert. Bei KI gibt es nichts davon. Dabei trifft sie täglich Millionen von Entscheidungen: über Kredite, über Bewerbungen, über Versicherungen, über Menschen. Und kaum jemand weiß, wie diese Entscheidungen zustande kommen.
Jetzt stellt euch vor, es geht um eure Kreditentscheidung oder um eure Krankenakte, und die KI, die darauf zugreift, kennt keine Grenzen mehr mit euren persönlichen Daten. Dann habt ihr ein großes Problem, und wir wissen genau, wohin das führt: in ein komplettes Chaos.
Was KI Governance bedeutet
KI Governance heißt zunächst nur, dass man Richtlinien schafft: Wie kann man eine KI kontrollieren, und was darf sie überhaupt, was darf sie nicht? Darauf haben wir uns spezialisiert. Uns ist wichtig, dass Modelle und Tools, die in Banken, Versicherungen oder Großkonzernen eingeführt werden, zum Beispiel um Akten zu durchforsten, kontrolliert werden und dass das, was die KI ausgibt, auch der Wahrheit entspricht.
Wir sehen es alle bei den gängigen GPTs: Wir geben etwas ein, lassen eine Präsentation erstellen, bekommen Werte zurück und halten sie für richtig. Aber wer sagt, dass sie richtig sind? Genau da muss eine Kontrollinstanz ansetzen. Dass das kein theoretisches Risiko ist, zeigt der Fall, in dem OpenAI selbst einräumt, dass seine Modelle im Test Daten erfunden haben.
Die Zulassungsstelle für KI: unser Governance Layer
Banken, Versicherungen und Großkonzerne müssen realisieren, dass KI dringend von einer Schicht kontrolliert werden muss, die über ihr steht. Diese Schicht haben wir gebaut und bauen sie seit zwei Jahren weiter aus. So funktioniert sie:
Der EU AI Act setzt dafür den rechtlichen Rahmen, die BaFin prüft, DORA sichert ab, MaRisk setzt Standards. Aber Regeln allein reichen nicht. Es braucht Technologie, die diese Regeln umsetzt. Was das für Banken konkret heißt, habe ich in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act beschrieben.
Warum wir dafür nach Dubai gegangen sind
Nicht umsonst haben wir im Februar letzten Jahres unseren KI Summit in Dubai veranstaltet. Wir wollten verstehen, wohin die Reise mit der KI geht. Unternehmen wie Nvidia, Microsoft und Goldman Sachs waren dabei, und wir haben tiefe Einblicke bekommen. Das Bild, das sich ergab: Banken führen KI ein, Versicherungen lassen Kreditentscheidungen von Modellen treffen, der Mensch wird herausgenommen, und entschieden wird auf Basis alter Daten. Und das ist nur ein Teil. Was ist mit den Humanoiden, die gebaut werden, eine KI bekommen und menschliche Arbeit übernehmen sollen? Wer kontrolliert diese KI?
Genau das haben wir in den letzten Monaten intensiv weiterverfolgt und unser eigenes Framework dafür aufgebaut. Wir sind im Austausch mit Banken, Großkonzernen und Mittelständlern, wie sich dieser Layer integrieren lässt. Wir bauen SIFAMO AI weiter aus, mit einem klaren Ziel: Die KI soll nicht über unser Leben entscheiden, wir entscheiden über die KI. Welche KI-Entscheidung in eurem Unternehmen könnte heute niemand erklären, wenn die Aufsicht fragt? Schreibt es mir auf LinkedIn oder unter dem Video auf meinem YouTube-Kanal.
Häufige Fragen
Was ist ein KI Governance Layer?
Eine technische Schicht, die zwischen den KI-Modellen und den Fachanwendungen sitzt. Modelle registrieren sich dort, jeder Aufruf wird protokolliert, Ergebnisse werden gegen Regeln geprüft, und bei Auffälligkeiten kann eingegriffen werden. Die Dokumentation ist so aufgebaut, dass sie ein Audit besteht.
Welche Regelwerke gelten für KI in Banken?
Der EU AI Act als KI-spezifisches Gesetz, dazu die Aufsicht der BaFin, DORA für die digitale Resilienz und MaRisk als Mindestanforderungen an das Risikomanagement. Alle verlangen Nachvollziehbarkeit, und genau die liefert ein Governance Layer.
Gilt das auch für den Mittelstand?
Ja. Auch ein mittelständisches Unternehmen trifft mit KI Entscheidungen über Kunden, Bewerber oder Lieferanten. Wer heute ein Register und eine Protokollierung einführt, spart sich später die hektische Nachrüstung, wenn Kunden oder Behörden Nachweise verlangen.
Mehr zum Thema: KI Governance · EU AI Act
Recent Posts
Recent Comments