Zwei Kreditanträge, identische Daten, ein Name heißt Ahmed, der andere Stefan. Die KI lehnt Ahmed ab. Genau für solche Fälle gibt es den EU AI Act, die BaFin, DORA und MaRisk. Warum Banken dafür heute noch Excel-Tabellen durchgehen und wie wir das digital lösen.
Eine turbulente Woche in Frankfurt, viele Termine, und ich nehme euch mit. Wir sind ein IT-Unternehmen, das Software auf Konzernebene baut, riesige Plattformen und Enterprise-Anwendungen, mit eigenen Tools, die bei Kunden im Einsatz sind. Seit einigen Jahren haben wir unseren Fokus stark auf künstliche Intelligenz gelenkt, wie viele andere auch. Aber wir haben uns eine klare Nische gesucht: die Kontrolle der KI im regulatorischen Umfeld. Banken, Versicherungen, öffentlicher Bereich, überall dort, wo eine übergeordnete Instanz Kontrolle verlangt.
Unterwegs in Frankfurt, Juni 2026: Was der EU AI Act für Banken bedeutet und was wir daraus bauen.
Warum Datenschutz in Europa anders gewichtet wird
KI ist immer mehr im Einsatz, erst bei den Endnutzern mit all den Tools, dann im Unternehmenskontext. Und in Deutschland und der EU hat Datenschutz eine ganz andere Bedeutung als in den USA oder in asiatischen Ländern. Deshalb hat die EU den EU AI Act eingeführt: Regeln dafür, wie sich eine KI, auf gut Deutsch, zu benehmen hat. Um in diesem Bereich arbeiten zu können, muss man zuerst verstehen, was diese Regulatorik überhaupt bedeutet.
Ahmed und Stefan: Das Beispiel, das den EU AI Act erklärt
Stellt euch vor, eine Bank hat eine KI eingeführt, die Kreditentscheidungen automatisch trifft. Zwei Menschen beantragen je 100.000 Euro. Der eine heißt Ahmed, der andere Stefan. Alle Daten sind identisch, vielleicht ist einer ein halbes Jahr jünger. Ahmed wird abgelehnt, Stefan angenommen. Das Problem: Diese Entscheidung muss nachvollziehbar bleiben. Warum hat die KI abgelehnt? Wenn die Bank ihr Modell mit historischen Daten trainiert hat und das Modell gelernt hat, dass Ahmeds häufiger abgelehnt wurden, liegt eine klare Diskriminierung vor. Technisch nennt man das Bias.
Bias erkennen. Liegt ein Bias vor, muss ein Mensch dazwischen. Das nennt man Human in the Loop.
Nachvollziehbarkeit. Der EU AI Act verlangt, dass die Entscheidung einer KI am Ende erklärbar ist, inklusive der Frage, ob und wie ein Mensch beteiligt war.
Aufsicht. Über jeder Bank steht die BaFin. Sie prüft, ob die Bank sauber arbeitet, und damit auch, ob die KI korrekt entschieden hat und der Mensch Ablehnungen nachvollziehen konnte.
Das ist der EU AI Act in einem Beispiel. Es gibt viele weitere Regeln, auf die ich in einem eigenen Video eingehen werde. Was der Rahmen für Agenten in Banken konkret bedeutet, habe ich in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act beschrieben.
Kein Excel mehr: Wie wir Regulatorik digital machen
Neben dem EU AI Act gibt es DORA für die Sicherheit der IT-Systeme und MaRisk als Mindeststandards, die jede Bank erfüllen muss. Wir nehmen diese regulatorischen Anforderungen und haben einen Layer gebaut, eine Schicht, die über der KI steht. Jedes KI-Modell muss sich bei unserem System registrieren. Danach können wir jeden einzelnen Schritt der KI nachvollziehen und wissen genau, was dort passiert. Alles bleibt gesichert und audit-ready.
Warum das nötig ist, sieht man in vielen Banken heute: Dort sitzen Bankvertreter und gehen Anforderungen händisch durch, mit Excel-Tabellen. Erfüllt, nicht erfüllt. Kommt die Prüfung, zeigt man die Tabelle und sagt: Hier, wir haben das erfüllt, macht euer Audit. Das kostet enorm viel Zeit und vor allem Geld, das sich sparen lässt, wenn man es sinnvoll in eine technische Schicht überträgt. Das ist aus meiner Sicht die Zukunft der KI im regulierten Umfeld. Wie diese Schicht im Detail funktioniert, erkläre ich in meinem Beitrag zu KI Kontrolle und unserem Governance Layer.
Gesundes Wachstum und ein System für die USA
Neben dem regulatorischen Umfeld laufen Projekte bei großen Konzernen. Wir bauen gerade ein riesiges System für ein Unternehmen aus den USA aus, wo ich voraussichtlich im August sein werde. Bis dahin gibt es jede Menge Termine. Wir sind in einem guten Wachstum, aber wir wachsen bewusst sauber und sicher, nicht zu schnell, damit wir uns selbst unter Kontrolle behalten. Lieber Qualität und eine vernünftige Basis als schnell, schnell, schnell. Wir sind jetzt rund 30 Mitarbeiter, suchen sehr gezielt aus, wen wir einstellen, und haben die stärksten Berater und Entwickler, die man sich vorstellen kann. Das zeichnet uns aus.
Unternehmer oder selbstständig: Warum es nächste Woche nach Dubai geht
Ein paar Tage später, anderer Tag, andere Lage. Als Unternehmer ist man viel unterwegs, und es gibt einen Unterschied zwischen Unternehmer und Selbstständigem. Selbstständig heißt: selbst und ständig am Arbeiten, in der Firma statt an der Firma. Bei mir gibt es die SFM Holding, darunter SIFAMO als IT-Unternehmen und SIFAMO Events, die den Summit in Dubai ausgetragen hat. So baue ich weitere Unternehmen auf.
Das ist auch der Grund, warum ich nächste Woche nach Dubai muss. Vertreter der Regierung dort haben gefragt, ob wir den Summit 2027 gemeinsam machen können. Alles abhängig von der Situation und der weltpolitischen Lage, das wissen wir alle. Wie diese Reise verlaufen ist, lest ihr in meinem Beitrag Jetzt in Dubai investieren?. Wie läuft die KI-Prüfung in eurem Haus, Excel oder System? Schreibt es mir auf LinkedIn oder unter dem Video auf meinem YouTube-Kanal.
Häufige Fragen
Was verlangt der EU AI Act von Banken?
Dass KI-Entscheidungen mit Auswirkung auf Menschen, etwa Kreditvergaben, nachvollziehbar, auf Bias geprüft und bei Bedarf durch einen Menschen überprüft werden. Dokumentation und Erklärbarkeit sind Pflicht, die BaFin kontrolliert die Einhaltung.
Was ist ein Bias in der KI?
Eine systematische Verzerrung, die ein Modell aus seinen Trainingsdaten übernimmt, etwa wenn historische Ablehnungen bestimmter Gruppen zu neuen Ablehnungen führen, obwohl die Sachdaten identisch sind. Bias ist der häufigste Grund, warum ein Human in the Loop nötig wird.
Wie passen DORA und MaRisk dazu?
DORA sorgt dafür, dass IT-Systeme von Finanzunternehmen widerstandsfähig und sicher bleiben, MaRisk setzt die Mindestanforderungen an das Risikomanagement. Zusammen mit dem EU AI Act ergeben sie den Rahmen, den ein Governance Layer technisch abbildet.
Zwei Kreditanträge, identische Daten, ein Name heißt Ahmed, der andere Stefan. Die KI lehnt Ahmed ab. Genau für solche Fälle gibt es den EU AI Act, die BaFin, DORA und MaRisk. Warum Banken dafür heute noch Excel-Tabellen durchgehen und wie wir das digital lösen.
Eine turbulente Woche in Frankfurt, viele Termine, und ich nehme euch mit. Wir sind ein IT-Unternehmen, das Software auf Konzernebene baut, riesige Plattformen und Enterprise-Anwendungen, mit eigenen Tools, die bei Kunden im Einsatz sind. Seit einigen Jahren haben wir unseren Fokus stark auf künstliche Intelligenz gelenkt, wie viele andere auch. Aber wir haben uns eine klare Nische gesucht: die Kontrolle der KI im regulatorischen Umfeld. Banken, Versicherungen, öffentlicher Bereich, überall dort, wo eine übergeordnete Instanz Kontrolle verlangt.
Warum Datenschutz in Europa anders gewichtet wird
KI ist immer mehr im Einsatz, erst bei den Endnutzern mit all den Tools, dann im Unternehmenskontext. Und in Deutschland und der EU hat Datenschutz eine ganz andere Bedeutung als in den USA oder in asiatischen Ländern. Deshalb hat die EU den EU AI Act eingeführt: Regeln dafür, wie sich eine KI, auf gut Deutsch, zu benehmen hat. Um in diesem Bereich arbeiten zu können, muss man zuerst verstehen, was diese Regulatorik überhaupt bedeutet.
Ahmed und Stefan: Das Beispiel, das den EU AI Act erklärt
Stellt euch vor, eine Bank hat eine KI eingeführt, die Kreditentscheidungen automatisch trifft. Zwei Menschen beantragen je 100.000 Euro. Der eine heißt Ahmed, der andere Stefan. Alle Daten sind identisch, vielleicht ist einer ein halbes Jahr jünger. Ahmed wird abgelehnt, Stefan angenommen. Das Problem: Diese Entscheidung muss nachvollziehbar bleiben. Warum hat die KI abgelehnt? Wenn die Bank ihr Modell mit historischen Daten trainiert hat und das Modell gelernt hat, dass Ahmeds häufiger abgelehnt wurden, liegt eine klare Diskriminierung vor. Technisch nennt man das Bias.
Das ist der EU AI Act in einem Beispiel. Es gibt viele weitere Regeln, auf die ich in einem eigenen Video eingehen werde. Was der Rahmen für Agenten in Banken konkret bedeutet, habe ich in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act beschrieben.
Kein Excel mehr: Wie wir Regulatorik digital machen
Neben dem EU AI Act gibt es DORA für die Sicherheit der IT-Systeme und MaRisk als Mindeststandards, die jede Bank erfüllen muss. Wir nehmen diese regulatorischen Anforderungen und haben einen Layer gebaut, eine Schicht, die über der KI steht. Jedes KI-Modell muss sich bei unserem System registrieren. Danach können wir jeden einzelnen Schritt der KI nachvollziehen und wissen genau, was dort passiert. Alles bleibt gesichert und audit-ready.
Warum das nötig ist, sieht man in vielen Banken heute: Dort sitzen Bankvertreter und gehen Anforderungen händisch durch, mit Excel-Tabellen. Erfüllt, nicht erfüllt. Kommt die Prüfung, zeigt man die Tabelle und sagt: Hier, wir haben das erfüllt, macht euer Audit. Das kostet enorm viel Zeit und vor allem Geld, das sich sparen lässt, wenn man es sinnvoll in eine technische Schicht überträgt. Das ist aus meiner Sicht die Zukunft der KI im regulierten Umfeld. Wie diese Schicht im Detail funktioniert, erkläre ich in meinem Beitrag zu KI Kontrolle und unserem Governance Layer.
Gesundes Wachstum und ein System für die USA
Neben dem regulatorischen Umfeld laufen Projekte bei großen Konzernen. Wir bauen gerade ein riesiges System für ein Unternehmen aus den USA aus, wo ich voraussichtlich im August sein werde. Bis dahin gibt es jede Menge Termine. Wir sind in einem guten Wachstum, aber wir wachsen bewusst sauber und sicher, nicht zu schnell, damit wir uns selbst unter Kontrolle behalten. Lieber Qualität und eine vernünftige Basis als schnell, schnell, schnell. Wir sind jetzt rund 30 Mitarbeiter, suchen sehr gezielt aus, wen wir einstellen, und haben die stärksten Berater und Entwickler, die man sich vorstellen kann. Das zeichnet uns aus.
Unternehmer oder selbstständig: Warum es nächste Woche nach Dubai geht
Ein paar Tage später, anderer Tag, andere Lage. Als Unternehmer ist man viel unterwegs, und es gibt einen Unterschied zwischen Unternehmer und Selbstständigem. Selbstständig heißt: selbst und ständig am Arbeiten, in der Firma statt an der Firma. Bei mir gibt es die SFM Holding, darunter SIFAMO als IT-Unternehmen und SIFAMO Events, die den Summit in Dubai ausgetragen hat. So baue ich weitere Unternehmen auf.
Das ist auch der Grund, warum ich nächste Woche nach Dubai muss. Vertreter der Regierung dort haben gefragt, ob wir den Summit 2027 gemeinsam machen können. Alles abhängig von der Situation und der weltpolitischen Lage, das wissen wir alle. Wie diese Reise verlaufen ist, lest ihr in meinem Beitrag Jetzt in Dubai investieren?. Wie läuft die KI-Prüfung in eurem Haus, Excel oder System? Schreibt es mir auf LinkedIn oder unter dem Video auf meinem YouTube-Kanal.
Häufige Fragen
Was verlangt der EU AI Act von Banken?
Dass KI-Entscheidungen mit Auswirkung auf Menschen, etwa Kreditvergaben, nachvollziehbar, auf Bias geprüft und bei Bedarf durch einen Menschen überprüft werden. Dokumentation und Erklärbarkeit sind Pflicht, die BaFin kontrolliert die Einhaltung.
Was ist ein Bias in der KI?
Eine systematische Verzerrung, die ein Modell aus seinen Trainingsdaten übernimmt, etwa wenn historische Ablehnungen bestimmter Gruppen zu neuen Ablehnungen führen, obwohl die Sachdaten identisch sind. Bias ist der häufigste Grund, warum ein Human in the Loop nötig wird.
Wie passen DORA und MaRisk dazu?
DORA sorgt dafür, dass IT-Systeme von Finanzunternehmen widerstandsfähig und sicher bleiben, MaRisk setzt die Mindestanforderungen an das Risikomanagement. Zusammen mit dem EU AI Act ergeben sie den Rahmen, den ein Governance Layer technisch abbildet.
Mehr zum Thema: KI Governance · EU AI Act
Recent Posts
Recent Comments