Wie wir bei SIFAMO KI-Modelle trainieren, ohne ein einziges personenbezogenes Datum zu verwenden, was rote, graue und grüne Zone beim Datenschutz bedeuten und warum in der KI heute alle noch Juniors sind.
Auf dem SIFAMO AI Summit 2025 in Dubai hat mich Tanishka von The Technology Express interviewt. Im zweiten Teil des Gesprächs ging es um die Frage, die mir in fast jedem Kundengespräch in Deutschland begegnet: Wie setzt man KI in einem Unternehmen ein, das unter DSGVO und EU AI Act steht, ohne in die Illegalität zu rutschen und ohne das Projekt kaputt zu regulieren? Hier ist meine Antwort, ausführlicher als im Video.
Interview mit Tanishka (The Technology Express), aufgenommen auf dem SIFAMO AI Summit 2025 im Burj Khalifa, Dubai. Teil 2.
Warum es heute keine Senior-KI-Experten gibt
Ich sage das bewusst provokant: Es gibt bis heute keinen leitenden Superexperten für KI. Das Feld ist dafür schlicht zu neu. Wenn mir jemand erzählt, er habe 20 oder 30 Jahre Erfahrung mit KI, dann meint er in der Regel Statistik, Data Warehousing oder klassische Automatisierung. Das ist wertvoll, aber es ist nicht das, was Unternehmen seit 2023 mit Large Language Models, RAG-Architekturen und Agenten bauen.
Wir sind alle Junior-Entwickler. Wir sind alle Trainees. Ich hoffe, dass wir in fünf oder sechs Jahren die Seniors sind und wirklich verstehen, was KI kann und wo ihre Grenzen liegen. Wer heute als KI Experte auftritt, sollte diese Ehrlichkeit mitbringen. Für Unternehmen heißt das: Misstraut jedem, der behauptet, alles schon gesehen zu haben. Vertraut denen, die ein sauberes Konzept haben und transparent sagen, was sie noch nicht wissen.
KI-Training ohne personenbezogene Daten: Pseudonymisierung mit IDs
Das größte Problem beim KI-Einsatz in Europa ist der Datenschutz. Deutschland und die EU haben strenge Regeln, und das ist gut so. Die Frage ist, wie man trotzdem Modelle trainiert. Unsere Lösung ist einfach erklärt: Wir trainieren nie mit echten personenbezogenen Daten.
Ich darf Ihren Namen nicht verwenden, um ein Modell zu trainieren. Also nehme ich Ihre Daten, anonymisiere sie und vergebe eine ID.
Nur diese ID und die fachlichen Inhalte gehen in das Modell. Namen, Adressen, Geburtsdaten bleiben draußen.
Kommt eine Antwort zurück, wird die ID in unserem System wieder zugeordnet. So wissen wir, wie trainiert wurde, ohne dass das Modell jemals eine reale Person gesehen hat.
Wir trainieren ausschließlich mit Pseudonymen. Damit können wir garantieren, dass kein Modell, das wir einsetzen, mit echten personenbezogenen Daten trainiert wurde. Große Kunden wie Bosch, Zurich oder Behörden in Deutschland wollen genau das: keine Datenlücken, keine Überraschungen im Audit. Wer sich fragt, wie das zur Aufsicht passt, findet mehr dazu in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act.
Rot, Grau, Grün: die drei Zonen des Datenschutzes
Im Interview habe ich von drei Zonen gesprochen. Das ist kein juristisches Modell, sondern die Sprache, mit der wir intern und mit Kunden über Risiko reden.
Rote Zone: In Europa ist das die illegale Zone. Man kann es tun, der Kunde unterschreibt irgendetwas, und das eigentliche Problem versteckt sich irgendwo tief im Vertrag. Für mich ist das keine Option.
Graue Zone: Es ist nicht illegal, aber man ist sich nicht sicher, ob es sich richtig anfühlt. Hier braucht es eine bewusste Entscheidung und Dokumentation.
Grüne Zone: Jeder weiß, was passiert. Der Kunde ist informiert, die Datenflüsse sind erklärt, nichts ist versteckt.
Mit der Pseudonymisierung bewegen wir uns in der grau-grünen Zone, und zwar bewusst sichtbar für den Kunden. Genau das ist der Kern von KI Governance: nicht die Frage, ob etwas technisch geht, sondern ob jede Entscheidung im Nachhinein nachvollziehbar und erklärbar ist.
Transparenz gehört in den ersten Satz, nicht ins Kleingedruckte
Wir sagen es jedem Kunden, und zwar nicht irgendwo in einem Nebensatz. Es ist der erste Satz, den wir sagen: Wir würden Ihre Daten gerne verwenden. Ist das für Sie in Ordnung? Und wenn ja, dann nicht Ihre persönlichen Daten, sondern pseudonymisierte Repräsentanten davon.
Man kann lügen. Aber am Ende wird jeder Betrug aufgedeckt, und dann bist du der Betrüger. Wir haben in Deutschland große Kunden, die uns vertrauen, weil sie unserer Qualität vertrauen. Dieses Vertrauen entsteht nicht durch Marketing, sondern dadurch, dass man die unbequemen Dinge zuerst sagt. Deshalb haben wir den Summit im Burj Khalifa gemacht: um zu zeigen, wie man Vertrauen gewinnt, nicht um Buzzwords zu verkaufen.
Das riskanteste Projekt: vier Wochen gratis
Tanishka hat mich nach dem riskantesten Projekt gefragt. Es war eines unserer ersten KI-Projekte überhaupt. Ein Kunde wollte ein Dokumentenmanagementsystem mit KI, mit einer riesigen Menge an Dokumenten. Wir hatten ein Konzept, aber noch nie selbst ein Modell trainiert.
Also haben wir es dem Kunden ehrlich gesagt: Das ist für uns das erste Mal. Schaut euch unsere anderen Produkte an, wir haben starke Entwickler und eine klare Idee. Wir arbeiten vier Wochen kostenlos. Wenn das Ergebnis überzeugt, zahlt ihr die vier Wochen rückwirkend. Das war der Deal. Für mich als Unternehmer mit einem großen Team war das ein echtes Risiko. Nach vier Wochen war klar: Wir schaffen das. Das Projekt läuft bis heute und wird uns noch mindestens ein bis zwei Jahre begleiten.
Die Lehre daraus ist nicht „arbeite gratis“. Die Lehre ist: Ehrlichkeit über den eigenen Erfahrungsstand plus ein belastbares Konzept schlägt jedes Senior-Label. Wie sich das mit Agentic AI in der Softwareentwicklung weiterentwickelt, habe ich an anderer Stelle beschrieben.
Drei Takeaways für KI Governance in deinem Unternehmen
Trainiere nie mit echten Personendaten. Pseudonymisierung mit IDs ist technisch einfach und nimmt dem Datenschutz seinen Schrecken.
Benenne die Zone. Rot, grau oder grün: Wenn ihr intern nicht sagen könnt, wo ein Use Case liegt, seid ihr nicht bereit für den Rollout.
Transparenz zuerst. Der Datenschutz-Satz gehört an den Anfang des Kundengesprächs, nicht in Anhang C des Vertrags.
Und zum Schluss die Frage aus dem Video, die ich auch hier stellen möchte: Ist Pseudonymisierung für euch Grauzone oder grüne Zone? Schreibt es mir auf LinkedIn oder in die Kommentare unter dem Video auf meinem Kanal. Teil 1 des Interviews, in dem es um die Gründung von SIFAMO, den Weg von Berlin nach Dubai und KI im Recruiting geht, findet ihr ebenfalls dort.
Häufige Fragen
Darf man KI-Modelle mit Kundendaten trainieren?
Mit echten personenbezogenen Daten nur mit einer belastbaren Rechtsgrundlage und meist nicht sinnvoll. Pseudonymisierte Daten, bei denen Identifikatoren durch IDs ersetzt und getrennt verwahrt werden, senken das Risiko erheblich. Die Zuordnungstabelle bleibt im eigenen System, nie im Modell.
Was ist der Unterschied zwischen Anonymisierung und Pseudonymisierung?
Anonymisierte Daten lassen sich keiner Person mehr zuordnen. Pseudonymisierte Daten lassen sich mit einem getrennt gespeicherten Schlüssel wieder zuordnen und gelten daher weiterhin als personenbezogen im Sinne der DSGVO. Deshalb gehört die Pseudonymisierung in die grau-grüne Zone und braucht Transparenz gegenüber dem Kunden.
Was verlangt der EU AI Act beim Training von KI?
Für Hochrisiko-Systeme verlangt der EU AI Act unter anderem Data Governance, also dokumentierte Herkunft, Qualität und Verarbeitung der Trainingsdaten, sowie Nachvollziehbarkeit der Entscheidungen. Ein Pseudonymisierungskonzept mit sauberer Dokumentation ist ein konkreter Baustein dafür.
Wie wir bei SIFAMO KI-Modelle trainieren, ohne ein einziges personenbezogenes Datum zu verwenden, was rote, graue und grüne Zone beim Datenschutz bedeuten und warum in der KI heute alle noch Juniors sind.
Auf dem SIFAMO AI Summit 2025 in Dubai hat mich Tanishka von The Technology Express interviewt. Im zweiten Teil des Gesprächs ging es um die Frage, die mir in fast jedem Kundengespräch in Deutschland begegnet: Wie setzt man KI in einem Unternehmen ein, das unter DSGVO und EU AI Act steht, ohne in die Illegalität zu rutschen und ohne das Projekt kaputt zu regulieren? Hier ist meine Antwort, ausführlicher als im Video.
Warum es heute keine Senior-KI-Experten gibt
Ich sage das bewusst provokant: Es gibt bis heute keinen leitenden Superexperten für KI. Das Feld ist dafür schlicht zu neu. Wenn mir jemand erzählt, er habe 20 oder 30 Jahre Erfahrung mit KI, dann meint er in der Regel Statistik, Data Warehousing oder klassische Automatisierung. Das ist wertvoll, aber es ist nicht das, was Unternehmen seit 2023 mit Large Language Models, RAG-Architekturen und Agenten bauen.
Wir sind alle Junior-Entwickler. Wir sind alle Trainees. Ich hoffe, dass wir in fünf oder sechs Jahren die Seniors sind und wirklich verstehen, was KI kann und wo ihre Grenzen liegen. Wer heute als KI Experte auftritt, sollte diese Ehrlichkeit mitbringen. Für Unternehmen heißt das: Misstraut jedem, der behauptet, alles schon gesehen zu haben. Vertraut denen, die ein sauberes Konzept haben und transparent sagen, was sie noch nicht wissen.
KI-Training ohne personenbezogene Daten: Pseudonymisierung mit IDs
Das größte Problem beim KI-Einsatz in Europa ist der Datenschutz. Deutschland und die EU haben strenge Regeln, und das ist gut so. Die Frage ist, wie man trotzdem Modelle trainiert. Unsere Lösung ist einfach erklärt: Wir trainieren nie mit echten personenbezogenen Daten.
Wir trainieren ausschließlich mit Pseudonymen. Damit können wir garantieren, dass kein Modell, das wir einsetzen, mit echten personenbezogenen Daten trainiert wurde. Große Kunden wie Bosch, Zurich oder Behörden in Deutschland wollen genau das: keine Datenlücken, keine Überraschungen im Audit. Wer sich fragt, wie das zur Aufsicht passt, findet mehr dazu in meinem Beitrag zu Agentic AI Governance unter BaFin und EU AI Act.
Rot, Grau, Grün: die drei Zonen des Datenschutzes
Im Interview habe ich von drei Zonen gesprochen. Das ist kein juristisches Modell, sondern die Sprache, mit der wir intern und mit Kunden über Risiko reden.
Mit der Pseudonymisierung bewegen wir uns in der grau-grünen Zone, und zwar bewusst sichtbar für den Kunden. Genau das ist der Kern von KI Governance: nicht die Frage, ob etwas technisch geht, sondern ob jede Entscheidung im Nachhinein nachvollziehbar und erklärbar ist.
Transparenz gehört in den ersten Satz, nicht ins Kleingedruckte
Wir sagen es jedem Kunden, und zwar nicht irgendwo in einem Nebensatz. Es ist der erste Satz, den wir sagen: Wir würden Ihre Daten gerne verwenden. Ist das für Sie in Ordnung? Und wenn ja, dann nicht Ihre persönlichen Daten, sondern pseudonymisierte Repräsentanten davon.
Man kann lügen. Aber am Ende wird jeder Betrug aufgedeckt, und dann bist du der Betrüger. Wir haben in Deutschland große Kunden, die uns vertrauen, weil sie unserer Qualität vertrauen. Dieses Vertrauen entsteht nicht durch Marketing, sondern dadurch, dass man die unbequemen Dinge zuerst sagt. Deshalb haben wir den Summit im Burj Khalifa gemacht: um zu zeigen, wie man Vertrauen gewinnt, nicht um Buzzwords zu verkaufen.
Das riskanteste Projekt: vier Wochen gratis
Tanishka hat mich nach dem riskantesten Projekt gefragt. Es war eines unserer ersten KI-Projekte überhaupt. Ein Kunde wollte ein Dokumentenmanagementsystem mit KI, mit einer riesigen Menge an Dokumenten. Wir hatten ein Konzept, aber noch nie selbst ein Modell trainiert.
Also haben wir es dem Kunden ehrlich gesagt: Das ist für uns das erste Mal. Schaut euch unsere anderen Produkte an, wir haben starke Entwickler und eine klare Idee. Wir arbeiten vier Wochen kostenlos. Wenn das Ergebnis überzeugt, zahlt ihr die vier Wochen rückwirkend. Das war der Deal. Für mich als Unternehmer mit einem großen Team war das ein echtes Risiko. Nach vier Wochen war klar: Wir schaffen das. Das Projekt läuft bis heute und wird uns noch mindestens ein bis zwei Jahre begleiten.
Die Lehre daraus ist nicht „arbeite gratis“. Die Lehre ist: Ehrlichkeit über den eigenen Erfahrungsstand plus ein belastbares Konzept schlägt jedes Senior-Label. Wie sich das mit Agentic AI in der Softwareentwicklung weiterentwickelt, habe ich an anderer Stelle beschrieben.
Drei Takeaways für KI Governance in deinem Unternehmen
Und zum Schluss die Frage aus dem Video, die ich auch hier stellen möchte: Ist Pseudonymisierung für euch Grauzone oder grüne Zone? Schreibt es mir auf LinkedIn oder in die Kommentare unter dem Video auf meinem Kanal. Teil 1 des Interviews, in dem es um die Gründung von SIFAMO, den Weg von Berlin nach Dubai und KI im Recruiting geht, findet ihr ebenfalls dort.
Häufige Fragen
Darf man KI-Modelle mit Kundendaten trainieren?
Mit echten personenbezogenen Daten nur mit einer belastbaren Rechtsgrundlage und meist nicht sinnvoll. Pseudonymisierte Daten, bei denen Identifikatoren durch IDs ersetzt und getrennt verwahrt werden, senken das Risiko erheblich. Die Zuordnungstabelle bleibt im eigenen System, nie im Modell.
Was ist der Unterschied zwischen Anonymisierung und Pseudonymisierung?
Anonymisierte Daten lassen sich keiner Person mehr zuordnen. Pseudonymisierte Daten lassen sich mit einem getrennt gespeicherten Schlüssel wieder zuordnen und gelten daher weiterhin als personenbezogen im Sinne der DSGVO. Deshalb gehört die Pseudonymisierung in die grau-grüne Zone und braucht Transparenz gegenüber dem Kunden.
Was verlangt der EU AI Act beim Training von KI?
Für Hochrisiko-Systeme verlangt der EU AI Act unter anderem Data Governance, also dokumentierte Herkunft, Qualität und Verarbeitung der Trainingsdaten, sowie Nachvollziehbarkeit der Entscheidungen. Ein Pseudonymisierungskonzept mit sauberer Dokumentation ist ein konkreter Baustein dafür.
Mehr zum Thema: KI Governance · EU AI Act · KI Speaker
Recent Posts
Recent Comments