Transparenzpflichten bei Nutzung Künstlicher Intelligenz ab August 2026

Ab dem 2. August 2026 gelten neue Transparenzpflichten. Das heißt, Unternehmen müssen in bestimmten Fällen die Nutzung Künstlicher Intelligenz kennzeichnen.

Worum geht bei den Transparenzpflichten?

Wenn du in deinem Unternehmen KI-Systeme einsetzt, solltest du neben der erforderlichen KI-Kompetenz auch die Transparenzpflichten des AI Acts kennen.
Bei KI-Anwendungen mit geringem Risiko steht vor allem die Information der Nutzer und Nutzerinnen im Mittelpunkt.
Kommt beispielsweise ein KI-Chatbot in deinem Kundenservice zum Einsatz, müssen Nutzer:innen klar erkennen können, dass sie mit einer künstlichen Intelligenz und nicht mit einem Menschen kommunizieren.
Zur Risiko-Einstufung der KI-Anwendungen findest du auf den Seiten der Bundesnetzagentur ausführliche Informationen.

Musst du KI-generierte Marketingtexte kennzeichnen?

Nein, grundsätzlich nicht.
Für gewöhnliche Marketingtexte, Produktbeschreibungen, Newsletter oder Social-Media-Beiträge, die du mit KI erstellt hast, besteht nach dem AI Act grundsätzlich keine allgemeine Kennzeichnungspflicht.

Je nach Anwendungsfall bestehen allerdings Kennzeichnungspflichten für andere KI-generierte Inhalte.
Bilder, Audioaufnahmen, Videos oder Texte müssen unter bestimmten Voraussetzungen so gekennzeichnet werden, dass ihre künstliche Erstellung technisch nachvollziehbar ist.
Welche Anforderungen im Einzelfall gelten, ist in Artikel 50 des AI Acts (ab Seite 80) festgelegt.

In welchen Fällen muss der Einsatz von KI gekennzeichnet werden?

In der Regel müssen nur täuschend echte KI-Bilder, Audio- oder Videoinhalte, die veröffentlicht werden, gekennzeichnet werden.
Für die folgenden Fälle ist die Kennzeichnung allerdings vorgeschrieben:

• KI-Chatbots müssen als KI erkennbar sein
  Nutzerinnen und Nutzer müssen grundsätzlich darüber informiert werden, dass sie mit einer KI kommunizieren.
• KI-Inhalte müssen technisch erkennbar sein
  Unternehmen, die generative KI neu auf den Markt bringen, müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar markieren. Für bereits eingeführte Systeme gibt es eine Übergangsfrist bis Dezember 2026.
• Deepfakes müssen gekennzeichnet werden
  Künstlich erzeugte oder manipulierte Bilder, Videos und Audios, die lebensecht erscheinen, müssen als KI-generiert gekennzeichnet werden.
• Bestimmte KI-generierte Texte müssen offengelegt werden
  Das gilt für Texte, die über Themen öffentlichen Interesses informieren sollen. Ausnahmen bestehen allerdings, wenn die Texte inhaltlich einer menschlichen Prüfung und Verantwortung unterliegen.
• Emotionserkennung durch KI muss transparent sein
  Betroffene müssen darüber informierte werden, dass Systeme eingesetzt werden, die Emotionen erkennen können oder anhand biometrischer Merkmale Personen bestimmten Gruppen zuordnen.

Was kann bei Verstößen passiere?

Die zuständigen Behörden können die Einhaltung der Transparenzpflichten kontrollieren.
Werden Verstöße festgestellt, können verschiedene Maßnahmen ergriffen werden – von Hinweisen und Aufforderungen zur Nachbesserung bis hin zu Bußgeldern.
Die Höhe einer möglichen Sanktion hängt vom Einzelfall ab. Berücksichtigt werden unter anderem die Art, Schwere und Dauer des Verstoßes, die Größe des Unternehmens sowie die Frage, ob das Unternehmen mit den Behörden zusammenarbeitet und Maßnahmen zur Beseitigung des Problems ergreift.
Gerade für kleine und mittlere Unternehmen sowie Startups sieht der AI Act vor, deren besondere Situation zu berücksichtigen.
Ansonsten gibt es im AI Act (Artikel 99, ab Seite 115) einen hohen Bußgeldrahmen.

Auf alle Fälle wichtig: Dokumentiere den Einsatz von KI in deinem Unternehmen frühzeitig und prüfe bei neuen Anwendungen, ob Informations- oder Kennzeichnungspflichten bestehen. So vermeidest du rechtliche Risiken .
Denn für die Richtigkeit und Rechtmäßigkeit veröffentlichter Inhalte ist immer dein Unternehmen verantwortlich.

Tipp

Du bist unsicher, welche Vorgaben für deine KI-Anwendung gelten?
Die Bundesnetzagentur stellt auf ihrer Website mit dem KI-Service Desk ausführliche Informationen zur Risikoeinstufung von KI-Systemen, zu den Transparenzpflichten nach Artikel 50 des AI Acts sowie zu weiteren Anforderungen der europäischen KI-Verordnung bereit.
Dort findest du auch Antworten auf häufige Praxisfragen und Hinweise zur Umsetzung der gesetzlichen Vorgaben.

Und weil auch das Thema „KI-Kompetenz“ ein wichtiger Bestandteil des AI Acts ist, empfehlen wir dir zu diesem Thema unseren Beitrag: „KI-Verordnung der EU fordert KI-Kompetenz im Unternehmen„.

Aktuelle Ergänzung

Durch die Digital-Omnibus-Verordnung zur KI wurde die KI-Verordnung angepasst.

Die Europäische Kommission hat die endgültigen Leitlinien zur Umsetzung der Transparenzpflichten nach Art. 50 KI-VO veröffentlicht.
Die Kommission stellt zwar deutschsprachige Informationen zu den Leitlinien bereit. Das vollständige Leitliniendokument ist derzeit auf der Website der Kommission allerdings nur in englischer Sprache verfügbar.
Deutsche Seite der Europäischen Kommission mit den Leitlinien

Es gibt inzwischen aber eine deutsche FAQ-Seite der Kommission zu Art. 50, die viele der in den Leitlinien behandelten Fragen wesentlich kompakter erklärt.
FAQ – Transparenzpflichten nach Artikel 50 des KI-Gesetzes