Transparenzpflichten für KI

Maschinen kommunizieren heute so menschenähnlich, dass viele Menschen nicht mehr erkennen können, ob sie mit einer Person oder einer KI sprechen. So gehören Chatbots, KI-Telefonassistenten, automatisch erstellte Texte – KI-Tools mittlerweile zu unserem Alltag.  Mit der Verordnung (EU) 2023/2854, dem AI Act, gellten nunmehr bestimmte Kennzeichnungspflichten für den Einsatz von KI in der gesamten EU. Wer künstliche Intelligenz einsetzt, muss transparent machen, wann Nutzer mit einer Maschine sprechen oder KI-Inhalte konsumieren.

Mit dem folgenden Beitrag soll ein Überblick über die wichtigsten Regelungen in diesem Zusammenhang dargestellt werden.

Warum sieht der AI Act überhaupt Transparenzpflichten vor?

Zur Beantwortung dieser Frage schauen wir uns zunächst ein aktuelles prominentes Beispiel an.

Betrüger erstellten gefälschte Videos, in denen ein KI-generierter Eckart von Hirschhausen für dubiose Gesundheitsprodukte warb. Viele Menschen fielen darauf herein. Der Arzt und Moderator sah sich selbst veranlasst, öffentlich vor dieser Geschäftspraxis zu warnen und ging in einer Sendung dem Ganzen selbst auf den Grund.[1]

Das Beispiel veranschaulicht, warum Transparenzpflichten sinnvoll sind. Durch die Kennzeichnung von KI-generierten oder manipulierten Inhalten sollen Nutzerinnen und Nutzer in die Lage versetzt werden, informierte Entscheidungen zu treffen. Sie sollen nicht Opfer gezielter Betrugsmaschen oder Desinformationskampagnen, z.B. bei Wahlen[2], werden.

Welche Transparenzpflichten gibt es überhaupt?

Der AI Act unterscheidet 5 zentrale Transparenzpflichten:

• Direkte Interaktion zwischen KI mit Menschen: Die erste Transparenzpflicht betrifft digitale Telefonassistenten, Chatbots oder interaktive Software-Systeme. Erfasst wird grundsätzlich jedes KI-System, unabhängig von seiner Risikoklasse. Entscheidend ist allein die direkte Interaktion mit natürlichen Personen.
• Erzeugung synthetischer Inhalte: Die zweite Kategorie umfasst KI-Systeme, die synthetische Audio-, Bild-, Video- oder Text-Inhalte erzeugen. Dies betrifft auch generative KI-Systeme (Gen-AI) mit allgemeinem Verwendungszweck, wie sie heute in vielen Unternehmen zum Einsatz kommen.
• Emotionserkennungssysteme und biometrische Kategorisierung: Die dritte Pflicht bezieht sich auf besonders sensible KI-Anwendungen. Solche Systeme dienen dem Zweck, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten. Wenn Unternehmen solche Systeme einsetzen, müssen sie Nutzer klar und deutlich darüber informieren. Hinzu kommen an dieser Stelle auch die Informationspflichten gemäß der Datenschutzgrundverordnung (DSGVO), die zusätzlich zu beachten sind.
• Deep Fakes: Die vierte Kategorie betrifft sogenannte Deep Fakes. Hierbei handelt es sich um täuschend echt wirkende Medieninhalte, bei denen mithilfe künstlicher Intelligenz Gesichter, Stimmen oder Handlungen von Personen so verändert oder nachgebildet werden, dass diese Personen scheinbar Dinge sagen oder tun, die sie in Wirklichkeit nie gesagt oder getan haben. Der generierte Inhalt muss fälschlicherweise als echt oder wahr erscheinen und für die Öffentlichkeit bestimmt sein.
• KI-generierte Texte zur Information der Öffentlichkeit: Die fünfte und letzte Transparenzpflicht bezieht sich auf KI-generierte Texte, die der öffentlichen Information dienen. Betroffen sind Texte zu politischen Ereignissen, Wahlen, Gesundheitskrisen, Umweltthemen oder wirtschaftlichen Entwicklungen

Wer ist verpflichtet?

Das Gesetz verpflichtet Anbieter und Betreiber von KI-Systemen. Die Transparenzpflichten für KI sind unterschiedlich verteilt.

Anbieter von KI-Systemen

Der Anbieter ist dabei derjenige, der das KI-System entwickelt oder entwickeln lässt und es unter seinem Namen oder seiner Marke auf den Markt bringt oder in Betrieb nimmt (z.B. Open AI, Google, Anthropic). Anbieter tragen die Verantwortung dafür, dass ihre KI-Systeme technisch so konzipiert und entwickelt werden, dass die Nutzer darüber informiert werden, dass sie es mit einem KI-System zu tun haben. Dies könnte beispielsweise durch eine entsprechende Kennzeichnung oder einen automatischen Hinweis auf der Nutzeroberfläche erfolgen.

Betreiber von KI-Systemen

Betreiber ist derjenige, der ein bereits existierendes KI-System tatsächlich nutzt – und zwar unter eigener Verantwortung (nicht nur privat, sondern beruflich/gewerblich). Beispiele sind etwa ein Unternehmen, das ChatGPT für Kundenservice nutzt, eine Marketingagentur, die mit Midjourney Werbebilder erstellt oder ein Verlag, der KI-Tools zur Texterstellung einsetzt.

Was müssen Anbieter und Betreiber tun?

Anbieterpflichten

Transparenzpflichten für KI, die die direkte Interaktion mit Menschen betrifft, treffen zunächst die Anbieter solcher KI-Systeme. Sie müssen dafür sorgen, dass diese so konzipiert und entwickelt werden, dass die Nutzer darüber informiert werden, dass sie es mit einem KI-System zu tun haben. Dies könnte beispielsweise durch eine entsprechende Kennzeichnung oder einen Hinweis auf der Nutzeroberfläche erfolgen.

Ausnahmen sind dann denkbar, wenn es jedem Nutzer offensichtlich ist, dass dieser es mit einem KI-System zu tun hat.

Anbieter sind auch bei der Erzeugung sogenannter synthetischer Inhalte in der Pflicht. So müssen alle Ausgaben in einem maschinenlesbaren Format gekennzeichnet sein, zum Beispiel in den Metadaten, damit erkannt werden kann, dass sie künstlich erzeugt oder manipuliert wurden. Ausnahmen bestehen dann, wenn das System lediglich eine Hilfsfunktion für die Standardredaktion erfüllt oder bei der Strafverfolgung eingesetzt wird.

Betreiberpflichten

Betreiber wiederum müssen sicherstellen, dass Nutzer klar und deutlich darüber informiert sind, wenn ein Emotionserkennungssystem sowie eine biometrische Kategorisierung zum Einsatz kommen. Es handelt sich um eine umfassende Transparenzpflicht. Hinzu kommen an dieser Stelle aber auch die Informationspflichten gemäß Datenschutzgrundverordnung (DSGVO).

Ebenso treffen Betreiber entsprechende Kennzeichnungspflichten für Deep Fakes, etwa durch Texteinblendungen wie „KI-generiert“ oder „Dieser Inhalt wurde künstlich erstellt“. Ausnahmen gibt es auch hier bei der Strafverfolgung oder etwa bei Künstlerischen, kreativen, satirischen oder fiktionalen Inhalte, sofern die Garantien den Interessen und Grundrechten Dritter angemessen Rechnung tragen. Hier steht die Kunstfreiheit im Vordergrund.

Die Transparenzpflicht für Betreiber trifft auch bei Texten zu politischen Ereignissen, Wahlen, Gesundheitskrisen, Umweltthemen oder wirtschaftlichen Entwicklungen zu. Auch hier kann mit Hinweisen, wie z.B. „Dieser Artikel wurde mithilfe von KI erstellt“ oder „KI-generierter Inhalt“ gearbeitet werden.“

Allerdings besteht hier, ebenfalls wieder neben der Strafverfolgung dann eine Transparenzausnahme, wenn eine Nachrichtenredaktion KI zur Unterstützung bei der Erstellung von Artikelentwürfen einsetzt. Die Artikel müssen jedoch dabb von Journalisten überprüft, bearbeitet und freigegeben sein, bevor sie veröffentlicht werden.  

Allgemeine Pflichten

Egal, ob man als Betreiber oder Anbieter eines KI-Systems von den Transparenzpflichten betroffen ist, gelten immer diese Anforderungen:

Ab wann sind die Transparenzpflichten für KI verbindlich umzusetzen?

Auch wenn der AI Act bereits am 01. August 2024 in Kraft getreten ist, gelten die Transparenzpflichten ab dem 02.August 2026.

Was droht bei Verstößen?

Verstöße gegen die Transparenzpflichten können empfindliche Sanktionen nach sich ziehen. Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist – sind möglich. Unternehmen sollten daher ihre KI-Nutzung umgehend prüfen und geeignete Kennzeichnungslösungen implementieren.

Transparenz als Wettbewerbsvorteil nutzen

Der AI Act markiert einen Wendepunkt im Umgang mit Künstlicher Intelligenz in Europa. Transparenz ist dabei nicht nur eine rechtliche Pflicht, sondern kann auch ein echter Wettbewerbsvorteil sein. Unternehmen, die frühzeitig auf klare Kennzeichnung setzen, schaffen Vertrauen bei Kunden und Geschäftspartnern. In einer Zeit, in der Desinformation und Manipulation durch KI zunehmen, wird Transparenz zu einem wertvollen Gut. Kunden schätzen es, wenn Unternehmen offen mit dem Einsatz von KI umgehen und ehrlich kommunizieren, wo Maschinen zum Einsatz kommen und wo Menschen arbeiten.

Zudem vermeiden Sie durch proaktive Compliance teure Bußgelder und langwierige Auseinandersetzungen mit Aufsichtsbehörden. Die Investition in eine rechtssichere Kennzeichnung zahlt sich also mehrfach aus – rechtlich, wirtschaftlich und im Hinblick auf Ihre Reputation.

Wie Sie jetzt vorgehen sollten?

Sie sind unsicher, ob Ihre KI-Anwendungen den neuen Anforderungen entsprechen? Kontaktieren Sie uns für eine kostenlose Ersteinschätzung. Wir prüfen Ihre Systeme, entwickeln eine maßgeschneiderte Compliance-Strategie und unterstützen Sie bei der rechtssicheren Implementierung.

Autorin

Sarah Tavcer ist Rechtsanwältin und seit einigen Jahren als externe Datenschutzbeauftragte und Datenschutzberaterin tätig. Außerdem ist die zertifizierte KI-Compliance-Beauftragte.

Vereinbaren Sie jetzt Ihren Beratungstermin! https://varyfy.de/kontakt/

LINK zu unserer Checkliste: Download

---

[1] https://presse.wdr.de/plounge/wdr/programm/2026/04/20260401_hirschhausen_deepfake_mafia.html

[2] https://www.deutschlandfunk.de/ki-wahlen-manipulation-kuenstliche-intelligenz-fake-news-deepfakes-100.html