EU AI Act Artikel 50: Transparenzpflichten technisch umgesetzt
EU AI Act Artikel 50 verlangt, dass Menschen erfahren, wenn sie mit einer KI sprechen, dass synthetische Inhalte maschinenlesbar markiert sind und dass Deepfakes und Emotionserkennung offengelegt werden. Wir bei SIFAMO machen daraus eine Antwortregel im Gateway: ohne gesetzten Offenlegungsstatus keine Antwort, ohne Herkunftsnachweis kein Bild.
Artikel 50 ist der Teil des AI Act, der die meisten Unternehmen zuerst trifft, lange vor den Hochrisiko-Pflichten. Jede Bank hat einen Chatbot, jedes Marketing-Team erzeugt Bilder und Texte mit generativen Modellen, viele Contact-Center-Plattformen bieten Stimmungserkennung an. Artikel 50 KI-Verordnung adressiert Anbieter (Abs. 1 und 2) und Betreiber (Abs. 3 und 4) solcher Systeme, unabhängig von der Risikoklasse.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Den Termin für Artikel 50 hat der Omnibus nicht verschoben. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 50 verlangt
Art. 50 Abs. 1: Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren sollen, gestalten sie so, dass die Person erfährt, dass sie mit einer KI interagiert. Ausgenommen: wenn das für eine normal informierte, aufmerksame Person offensichtlich ist, und gesetzlich zugelassene Strafverfolgungssysteme, sofern nicht öffentlich für Anzeigen zugänglich.
Art. 50 Abs. 2: Anbieter von Systemen, auch GPAI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, kennzeichnen die Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert, wirksam, interoperabel, belastbar und zuverlässig, soweit technisch machbar. Ausgenommen: unterstützende Standardbearbeitung, keine wesentliche Veränderung der Eingabedaten, Strafverfolgung. Erwägungsgrund 133 nennt Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Protokollierung und Fingerabdrücke.
Art. 50 Abs. 3: Betreiber eines Emotionserkennungssystems oder einer biometrischen Kategorisierung (Art. 3 Nr. 39 und 40) informieren die betroffenen Personen über den Betrieb und halten die DSGVO ein. Ausgenommen: Strafverfolgung.
Art. 50 Abs. 4 Satz 1: Betreiber, die Deepfakes nach Art. 3 Nr. 60 erzeugen oder manipulieren, legen das offen. Ausgenommen: Strafverfolgung; bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken genügt eine Offenlegung, die den Genuss des Werks nicht beeinträchtigt.
Art. 50 Abs. 4 Satz 2: Betreiber, die KI-generierten oder manipulierten Text veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, legen das offen. Ausgenommen: Strafverfolgung und Texte unter menschlicher Überprüfung oder redaktioneller Kontrolle, für die eine Person oder Organisation die redaktionelle Verantwortung trägt.
Art. 50 Abs. 5 und 6: Klar und erkennbar, spätestens bei der ersten Interaktion oder Aussetzung, barrierefrei. Kapitel III und weitere Transparenzpflichten nach Unions- oder nationalem Recht bleiben unberührt.
Art. 50 Abs. 7: Die Kommission fördert Verhaltenskodizes auf Unionsebene für Erkennung und Kennzeichnung künstlich erzeugter Inhalte und bewertet sie nach Art. 56 Abs. 6; reicht ein Kodex nicht aus, kann sie nach Art. 98 Abs. 2 einen Durchführungsrechtsakt erlassen.
Das technische Beispiel
Eine Bank betreibt einen Kundenservice-Chatbot auf der Website, in der App und am Telefon. Die Bank hat ihn mit einem gehosteten Modell selbst gebaut und nimmt ihn unter eigenem Namen in Betrieb, ist also Anbieterin nach Art. 3 Nr. 3 und Betreiberin zugleich. Jede Nachricht geht mit Sitzungs-ID durch das Policy Gateway, das pseudonymisiert, das Register prüft und das Modell aufruft. Art. 50 Abs. 1 greift vor der ersten Antwort, am Telefon am schärfsten, weil eine natürliche Stimme den Eindruck eines Menschen erzeugt.
Das Marketing-Team derselben Bank erzeugt mit einem GPAI-Dienst Kampagnenbilder und Textentwürfe: fotorealistische Szenen mit Menschen, stilisierte Illustrationen, Social-Media-Posts, Erklärtexte zur Zinsentwicklung. Abs. 2 trifft den Anbieter des Dienstes, Abs. 4 die Bank als Betreiberin: Ein fotorealistisches Bild einer Beraterin, die es nicht gibt, ist ein Deepfake nach Art. 3 Nr. 60. Ein Text zur Zinsentwicklung kann die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren und braucht die Offenlegung ebenfalls, es sei denn, eine Redakteurin trägt die Verantwortung.
Drittens bietet die Contact-Center-Plattform ein Zusatzmodul: Stimmungserkennung aus der Stimme, für Kunden und, als „Coaching“, für die Mitarbeitenden. Aus der Stimme heißt aus biometrischen Daten, also ein Emotionserkennungssystem nach Art. 3 Nr. 39. Für Kunden gilt Abs. 3, für Mitarbeitende das Verbot nach Art. 5 Abs. 1 Buchstabe f. Die Textstimmung, die der Chatbot aus geschriebenen Nachrichten ableitet, fällt nicht darunter, weil Text keine biometrischen Daten sind.
So setzen wir es um
Wir bei SIFAMO hängen alle vier Pflichten an die Stelle, die ohnehin jede Anfrage sieht: das Policy Gateway im Governance Layer. Transparenz im Prompt ist eine Bitte an das Modell. Transparenz, die das Gateway erzwingt, ist eine Eigenschaft des Systems.
Ein Registerfeld für die Art.-50-Klasse. Jeder Registereintrag hat ein Feld art50_class mit den Klassen: interagiert mit Personen, erzeugt synthetische Inhalte, Emotionserkennung, biometrische Kategorisierung, Deepfake-fähig, Texte von öffentlichem Interesse, keine. Das Feld wird im ersten Gate gesetzt und von Risk gegengezeichnet; „keine“ braucht eine Begründung, „Emotionserkennung“ Hinweistext und Verweis auf die Datenschutz-Folgenabschätzung. Das Gateway lädt aus der Klasse die Antwortregel. Ohne Klasse keine Route.
Offenlegung als Antwortregel. Für den Chatbot führt das Gateway pro Sitzung einen Offenlegungsstatus, anfangs leer. Der Kanal setzt ihn, sobald der Hinweis gerendert oder gesprochen wurde, mit Textversion, Sprache und Barrierefrei-Variante. Ist der Status leer, gibt das Gateway keine Modellantwort zurück, sondern den Hinweis selbst. Dazu eine Ausgaberegel: Fragt jemand „bin ich mit einem Menschen verbunden“, prüft ein Klassifikator die Antwort und ersetzt jede Verneinung der eigenen Natur durch die Standardantwort. Die Ausnahme „offensichtlich“ nutzen wir nicht. Der Evidence Log speichert pro Sitzung Hinweisversion, Zeitstempel und Kanal.
Markierung als Ausgabestufe. Bilder, Audio und Video aus dem Gateway durchlaufen eine Ausgabestufe, bevor das Asset die Anwendung erreicht. Sie prüft das Wasserzeichen des Modellanbieters und fügt einen signierten Herkunftsnachweis in die Metadaten ein: Register-ID des erzeugenden Systems, Modell und Version, Zeitstempel, Hash des Prompts, Kennzeichen „künstlich erzeugt“. Hash und Nachweis-Kennung gehen in den Evidence Log, damit ein Asset auch ohne Metadaten zuzuordnen bleibt. Für Text gilt Ehrlichkeit: Wasserzeichen sind nicht belastbar, Metadaten überleben kein Kopieren. Wir speichern den Hash des Textes im Log und verlassen uns auf die sichtbare Kennzeichnung nach Abs. 4.
Deepfake und Redaktion im CMS. Das Marketing-System fragt vor der Veröffentlichung das Register. Ist die Quelle Deepfake-fähig, verlangt es für fotorealistische Menschen und Stimmen ein sichtbares Label; für stilisierte Illustrationen genügt der Hinweis in den Angaben zum Asset, unsere Lesart der Ausnahme für kreative Werke. Für Texte zu Zinsen, Märkten oder Regulierung verlangt der Workflow die Unterschrift einer benannten Redakteurin; dann greift die Ausnahme der redaktionellen Verantwortung, und die Unterschrift steht im Log. Ohne Unterschrift bleibt das Label. Wir markieren auch, wo Abs. 2 eigentlich den Dienstanbieter trifft, weil niemand im Marketing pro Werkzeug die Rolle der Bank klären soll.
Emotionserkennung mit Datenzone. Das Stimmungsmodul ist als eigenes System registriert, Klasse Emotionserkennung, Scope: nur Kunden. Das Gateway prüft bei jedem Aufruf die Datenzone der Sprecherkennung; Kennungen aus dem Mitarbeiterverzeichnis sind für dieses System rote Zone, der Aufruf wird abgewiesen und gezählt. Das Coaching-Feature des Herstellers ist abgeschaltet, ein Konfigurationstest prüft täglich, dass es so bleibt. Der Hinweis an Kunden steht in der Begrüßung des Sprachdialogs, vor dem ersten Aufruf des Moduls.
Monitoring für unmarkierte Ausgaben. Der erste Monitor zählt Modellantworten ohne Offenlegungsstatus; die Zahl muss null sein. Der zweite zieht Stichproben aus veröffentlichten Assets auf Website und Social-Kanälen und prüft Wasserzeichen und Herkunftsnachweis. Ein Asset mit Hash im Log, aber ohne Nachweis, erzeugt einen Alarm an die Marketingleitung; meist hat das CDN beim Skalieren die Metadaten entfernt. Ein Asset, das generiert aussieht und in keinem Log steht, ist Schattenerzeugung und erzeugt ein Ticket. Der dritte prüft, dass das Stimmungsmodul nie eine Mitarbeiterkennung gesehen hat. Der Auditor sieht pro Sitzung den Offenlegungsnachweis, pro Asset Herkunftsnachweis und Label-Entscheidung, pro System die Klasse mit Unterschrift, dazu die Monitorberichte. Ich bin Ingenieur, kein Jurist. Aber eine Transparenzpflicht, die nur in der Richtlinie steht, ist in der zehntausendsten Sitzung nicht mehr da. Eine, die das Gateway erzwingt, schon.
Typische Fehler
„Jeder weiß doch, dass das ein Bot ist.“ Die Ausnahme „offensichtlich“ trägt am Telefon und bei einem Chat mit Namen und Avatar nicht. Ein Satz in den Nutzungsbedingungen ersetzt keine Offenlegung bei der ersten Interaktion.
Offenlegung im System-Prompt. „Sag, dass du eine KI bist, wenn du gefragt wirst“ ist eine Anweisung, die das Modell unter Druck vergisst.
Vertrauen auf das Wasserzeichen des Anbieters. Die sichtbare Offenlegung nach Abs. 4 bleibt beim Betreiber, und Metadaten überleben die eigene Bildpipeline selten.
Stimmung mit Emotion verwechseln, in beide Richtungen. Textstimmung ist keine Emotionserkennung nach Art. 3 Nr. 39, Stimmanalyse schon. Das Coaching-Feature für Mitarbeitende ist nach Art. 5 verboten, nicht nur offenlegungspflichtig.
Checkliste EU AI Act Artikel 50
Für jedes System die Art.-50-Klasse im Register gesetzt, von Risk gegengezeichnet, „keine“ begründet.
Chatbots und Sprachdialoge geben keine Modellantwort ohne Offenlegungsstatus; Hinweistext versioniert und barrierefrei; Ausgaberegel gegen Verneinung der eigenen KI-Natur.
Erzeugte Bilder, Audio und Video tragen Wasserzeichen und signierten Herkunftsnachweis; Hash und Nachweis im Evidence Log.
Erzeugte Texte per Hash im Log; sichtbare Kennzeichnung oder dokumentierte redaktionelle Verantwortung für Texte von öffentlichem Interesse.
Deepfake-fähige Quellen lösen im CMS ein sichtbares Label aus; die Ausnahme für kreative Werke ist dokumentiert.
Emotionserkennung: Hinweis vor dem ersten Aufruf, DSFA verknüpft, Mitarbeiterkennungen in roter Zone, Herstellerfeature abgeschaltet und täglich getestet.
Monitoring auf unmarkierte und auf nicht registrierte Ausgaben, mit Alarm an den Business Owner.
Offene Fragen
Was „Angelegenheiten von öffentlichem Interesse“ für Unternehmensinhalte heißt, ist offen. Dass ein Marktkommentar einer Bank dazugehört und ein Produkttext nicht, ist meine Lesart, keine gesicherte.
Ob Wasserzeichen plus signierter Herkunftsnachweis als Stand der Technik nach Abs. 2 gelten, entscheidet sich mit dem Verhaltenskodex nach Abs. 7 und seiner Bewertung durch die Kommission.
Häufige Fragen
Gilt das auch für uns als Betreiber?
Ja, direkt. Abs. 3 und 4 adressieren den Betreiber: Hinweis bei Emotionserkennung, Offenlegung bei Deepfakes und bei Texten von öffentlichem Interesse. Abs. 1 und 2 adressieren den Anbieter, aber wer den Chatbot selbst baut und unter eigenem Namen betreibt, ist auch Anbieter. Und bei einem eingekauften Chatbot würde ich prüfen, ob der Hinweis in deinem Kanal erscheint. Grundlagen unter KI Governance.
Müssen wir jeden KI-generierten Text kennzeichnen?
Nein. Die maschinenlesbare Markierung nach Abs. 2 ist Pflicht des Anbieters des erzeugenden Systems. Eine sichtbare Kennzeichnung verlangt Abs. 4 nur für Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, und auch dort nicht bei redaktioneller Verantwortung. Ein interner Entwurf braucht kein Label, aber einen Logeintrag.
Dürfen wir die Stimmungserkennung im Contact Center nutzen?
Für Kunden ja, mit Hinweis vor dem ersten Einsatz und DSGVO-Grundlage nach Abs. 3. Für Mitarbeitende nein: Art. 5 Abs. 1 Buchstabe f verbietet Emotionserkennung am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen, seit Februar 2025. Das ist ein Verbot, kein Transparenzthema. Die weiteren Artikel der Serie: alle Artikel im Überblick.
EU AI Act Artikel 50: Transparenzpflichten technisch umgesetzt
EU AI Act Artikel 50 verlangt, dass Menschen erfahren, wenn sie mit einer KI sprechen, dass synthetische Inhalte maschinenlesbar markiert sind und dass Deepfakes und Emotionserkennung offengelegt werden. Wir bei SIFAMO machen daraus eine Antwortregel im Gateway: ohne gesetzten Offenlegungsstatus keine Antwort, ohne Herkunftsnachweis kein Bild.
Artikel 50 ist der Teil des AI Act, der die meisten Unternehmen zuerst trifft, lange vor den Hochrisiko-Pflichten. Jede Bank hat einen Chatbot, jedes Marketing-Team erzeugt Bilder und Texte mit generativen Modellen, viele Contact-Center-Plattformen bieten Stimmungserkennung an. Artikel 50 KI-Verordnung adressiert Anbieter (Abs. 1 und 2) und Betreiber (Abs. 3 und 4) solcher Systeme, unabhängig von der Risikoklasse.
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Verbote und KI-Kompetenz gelten seit Februar 2025, die Pflichten für GPAI-Modelle seit August 2025, die Transparenzpflichten nach Artikel 50 seit August 2026. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach der Verschiebung durch die Änderungsverordnung (EU) 2026/1744 (Digital Omnibus) ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Den Termin für Artikel 50 hat der Omnibus nicht verschoben. Die Einordnung steht im Überblick EU AI Act in der Praxis.
Was Artikel 50 verlangt
Das technische Beispiel
Eine Bank betreibt einen Kundenservice-Chatbot auf der Website, in der App und am Telefon. Die Bank hat ihn mit einem gehosteten Modell selbst gebaut und nimmt ihn unter eigenem Namen in Betrieb, ist also Anbieterin nach Art. 3 Nr. 3 und Betreiberin zugleich. Jede Nachricht geht mit Sitzungs-ID durch das Policy Gateway, das pseudonymisiert, das Register prüft und das Modell aufruft. Art. 50 Abs. 1 greift vor der ersten Antwort, am Telefon am schärfsten, weil eine natürliche Stimme den Eindruck eines Menschen erzeugt.
Das Marketing-Team derselben Bank erzeugt mit einem GPAI-Dienst Kampagnenbilder und Textentwürfe: fotorealistische Szenen mit Menschen, stilisierte Illustrationen, Social-Media-Posts, Erklärtexte zur Zinsentwicklung. Abs. 2 trifft den Anbieter des Dienstes, Abs. 4 die Bank als Betreiberin: Ein fotorealistisches Bild einer Beraterin, die es nicht gibt, ist ein Deepfake nach Art. 3 Nr. 60. Ein Text zur Zinsentwicklung kann die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren und braucht die Offenlegung ebenfalls, es sei denn, eine Redakteurin trägt die Verantwortung.
Drittens bietet die Contact-Center-Plattform ein Zusatzmodul: Stimmungserkennung aus der Stimme, für Kunden und, als „Coaching“, für die Mitarbeitenden. Aus der Stimme heißt aus biometrischen Daten, also ein Emotionserkennungssystem nach Art. 3 Nr. 39. Für Kunden gilt Abs. 3, für Mitarbeitende das Verbot nach Art. 5 Abs. 1 Buchstabe f. Die Textstimmung, die der Chatbot aus geschriebenen Nachrichten ableitet, fällt nicht darunter, weil Text keine biometrischen Daten sind.
So setzen wir es um
Wir bei SIFAMO hängen alle vier Pflichten an die Stelle, die ohnehin jede Anfrage sieht: das Policy Gateway im Governance Layer. Transparenz im Prompt ist eine Bitte an das Modell. Transparenz, die das Gateway erzwingt, ist eine Eigenschaft des Systems.
Ein Registerfeld für die Art.-50-Klasse. Jeder Registereintrag hat ein Feld art50_class mit den Klassen: interagiert mit Personen, erzeugt synthetische Inhalte, Emotionserkennung, biometrische Kategorisierung, Deepfake-fähig, Texte von öffentlichem Interesse, keine. Das Feld wird im ersten Gate gesetzt und von Risk gegengezeichnet; „keine“ braucht eine Begründung, „Emotionserkennung“ Hinweistext und Verweis auf die Datenschutz-Folgenabschätzung. Das Gateway lädt aus der Klasse die Antwortregel. Ohne Klasse keine Route.
Offenlegung als Antwortregel. Für den Chatbot führt das Gateway pro Sitzung einen Offenlegungsstatus, anfangs leer. Der Kanal setzt ihn, sobald der Hinweis gerendert oder gesprochen wurde, mit Textversion, Sprache und Barrierefrei-Variante. Ist der Status leer, gibt das Gateway keine Modellantwort zurück, sondern den Hinweis selbst. Dazu eine Ausgaberegel: Fragt jemand „bin ich mit einem Menschen verbunden“, prüft ein Klassifikator die Antwort und ersetzt jede Verneinung der eigenen Natur durch die Standardantwort. Die Ausnahme „offensichtlich“ nutzen wir nicht. Der Evidence Log speichert pro Sitzung Hinweisversion, Zeitstempel und Kanal.
Markierung als Ausgabestufe. Bilder, Audio und Video aus dem Gateway durchlaufen eine Ausgabestufe, bevor das Asset die Anwendung erreicht. Sie prüft das Wasserzeichen des Modellanbieters und fügt einen signierten Herkunftsnachweis in die Metadaten ein: Register-ID des erzeugenden Systems, Modell und Version, Zeitstempel, Hash des Prompts, Kennzeichen „künstlich erzeugt“. Hash und Nachweis-Kennung gehen in den Evidence Log, damit ein Asset auch ohne Metadaten zuzuordnen bleibt. Für Text gilt Ehrlichkeit: Wasserzeichen sind nicht belastbar, Metadaten überleben kein Kopieren. Wir speichern den Hash des Textes im Log und verlassen uns auf die sichtbare Kennzeichnung nach Abs. 4.
Deepfake und Redaktion im CMS. Das Marketing-System fragt vor der Veröffentlichung das Register. Ist die Quelle Deepfake-fähig, verlangt es für fotorealistische Menschen und Stimmen ein sichtbares Label; für stilisierte Illustrationen genügt der Hinweis in den Angaben zum Asset, unsere Lesart der Ausnahme für kreative Werke. Für Texte zu Zinsen, Märkten oder Regulierung verlangt der Workflow die Unterschrift einer benannten Redakteurin; dann greift die Ausnahme der redaktionellen Verantwortung, und die Unterschrift steht im Log. Ohne Unterschrift bleibt das Label. Wir markieren auch, wo Abs. 2 eigentlich den Dienstanbieter trifft, weil niemand im Marketing pro Werkzeug die Rolle der Bank klären soll.
Emotionserkennung mit Datenzone. Das Stimmungsmodul ist als eigenes System registriert, Klasse Emotionserkennung, Scope: nur Kunden. Das Gateway prüft bei jedem Aufruf die Datenzone der Sprecherkennung; Kennungen aus dem Mitarbeiterverzeichnis sind für dieses System rote Zone, der Aufruf wird abgewiesen und gezählt. Das Coaching-Feature des Herstellers ist abgeschaltet, ein Konfigurationstest prüft täglich, dass es so bleibt. Der Hinweis an Kunden steht in der Begrüßung des Sprachdialogs, vor dem ersten Aufruf des Moduls.
Monitoring für unmarkierte Ausgaben. Der erste Monitor zählt Modellantworten ohne Offenlegungsstatus; die Zahl muss null sein. Der zweite zieht Stichproben aus veröffentlichten Assets auf Website und Social-Kanälen und prüft Wasserzeichen und Herkunftsnachweis. Ein Asset mit Hash im Log, aber ohne Nachweis, erzeugt einen Alarm an die Marketingleitung; meist hat das CDN beim Skalieren die Metadaten entfernt. Ein Asset, das generiert aussieht und in keinem Log steht, ist Schattenerzeugung und erzeugt ein Ticket. Der dritte prüft, dass das Stimmungsmodul nie eine Mitarbeiterkennung gesehen hat. Der Auditor sieht pro Sitzung den Offenlegungsnachweis, pro Asset Herkunftsnachweis und Label-Entscheidung, pro System die Klasse mit Unterschrift, dazu die Monitorberichte. Ich bin Ingenieur, kein Jurist. Aber eine Transparenzpflicht, die nur in der Richtlinie steht, ist in der zehntausendsten Sitzung nicht mehr da. Eine, die das Gateway erzwingt, schon.
Typische Fehler
Checkliste EU AI Act Artikel 50
Offene Fragen
Häufige Fragen
Gilt das auch für uns als Betreiber?
Ja, direkt. Abs. 3 und 4 adressieren den Betreiber: Hinweis bei Emotionserkennung, Offenlegung bei Deepfakes und bei Texten von öffentlichem Interesse. Abs. 1 und 2 adressieren den Anbieter, aber wer den Chatbot selbst baut und unter eigenem Namen betreibt, ist auch Anbieter. Und bei einem eingekauften Chatbot würde ich prüfen, ob der Hinweis in deinem Kanal erscheint. Grundlagen unter KI Governance.
Müssen wir jeden KI-generierten Text kennzeichnen?
Nein. Die maschinenlesbare Markierung nach Abs. 2 ist Pflicht des Anbieters des erzeugenden Systems. Eine sichtbare Kennzeichnung verlangt Abs. 4 nur für Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, und auch dort nicht bei redaktioneller Verantwortung. Ein interner Entwurf braucht kein Label, aber einen Logeintrag.
Dürfen wir die Stimmungserkennung im Contact Center nutzen?
Für Kunden ja, mit Hinweis vor dem ersten Einsatz und DSGVO-Grundlage nach Abs. 3. Für Mitarbeitende nein: Art. 5 Abs. 1 Buchstabe f verbietet Emotionserkennung am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen, seit Februar 2025. Das ist ein Verbot, kein Transparenzthema. Die weiteren Artikel der Serie: alle Artikel im Überblick.
Mehr zum Thema: EU AI Act · Alle Artikel · KI Governance · KI Berater
Recent Posts
Recent Comments