Die Verordnung über künstliche Intelligenz schafft einen verbindlichen Rechtsrahmen für den Einsatz von KI im Unternehmen.
Die Verordnung über künstliche Intelligenz (KI-Verordnung) gibt es, damit Künstliche Intelligenz sicher und fair eingesetzt wird.
Sie soll Risiken für Menschen, Unternehmen und Organisationen systematisch begrenzen und davor schützen, dass KI falsche, diskriminierende oder intransparente Entscheidungen trifft.
Das bedeutet vor allem: KI darf unterstützen, aber nicht unkontrolliert entscheiden. Ergebnisse von KI sollen kritisch hinterfragt werden können. Niemand soll blind auf KI vertrauen müssen.
Deshalb brauchen alle eine entsprechende KI-Kompetenz!
Artikel 4 der KI-Verordnung zur KI-Kompetenz
Auch wenn noch nicht alle Teil in Kraft getreten sind: Die Pflicht zur KI-Kompetenz gibt es bereits seit dem 2. Februar 2025.
Laut Artikel 4 der KI-Verordnung sind Anbieter und Betreiber verpflichtet, dafür zu sorgen, dass das Personal und auch andere Personen, die in ihrem Auftrag mit dem Betrieb oder der Nutzung von KI-Systemen arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Da alle Arbeitgeber und Arbeitgeberinnen in der Regel als Betreiber eines KI-Systems gelten, tragen sie also die Verantwortung dafür, dass ihre Beschäftigten die notwendige Kompetenz im Umgang mit KI besitzen. Die Beschäftigten sollen KI kompetent und verantwortungsvoll nutzen können. Bereits der Einsatz einfacher KI-gestützter Software, etwa zur Bewerberauswahl oder Datenanalyse, kann die Rolle als Betreiber begründen.
Dabei stellen sich natürlich einige Fragen, wie mit dem Thema KI-Kompetenz umzugehen ist.
Nachfolgend ein paar relevante Informationen.
Was bedeutet überhaupt „KI-Kompetenz“?
In der KI-Verordnung wird „KI-Kompetenz“ beschrieben als eine Kombination aus Fähigkeiten, Kenntnissen und Verständnis.
Die Beschäftigten sollen die KI-Systeme sachkundig einsetzen können und deren Chancen, Risiken und mögliche Schäden erkennen. Dabei geht es nicht nur technisches Wissen, sondern z. B. auch um Fragen in Bezug auf Datenschutz oder Diskriminierung.
Die Beschäftigten müssen außerdem nachvollziehen können, wie die genutzten KI-Systeme funktionieren und dass es durchaus auch zu „Fehlern“ kommen kann, Ergebnisse also kritisch hinterfragt werden sollten.
Hinzu kommen auch rechtliche, ethische und organisatorische Aspekte (z. B. Datenschutz, Diskriminierung u. ä.).
Aus der Verantwortung des Arbeitgebers bzw. der Arbeitgeberin folgt regelmäßig eine Pflicht zur Schulung. Sie müssen geeignete Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden aufzubauen oder zu erhalten. Dies kann durch Schulungen, Workshops oder interne Richtlinien erfolgen. Ein einmaliges Training reicht dabei oft nicht aus, da sich KI-Systeme und rechtliche Vorgaben ständig weiterentwickeln. Kontinuierliche Weiterbildung gewinnt daher an Bedeutung.
Müssen alle Mitarbeiter eines Unternehmens geschult werden?
Kurz gesagt:
Nein, nicht alle Mitarbeitenden müssen zwingend gleich intensiv geschult werden – aber alle relevanten Personen schon.
Etwas ausführlicher:
Nach Artikel 4 der KI-VO müssen diejenigen Personen über KI-Kompetenz verfügen, die mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Das betrifft also in erster Linie Mitarbeitende, die KI-Systeme direkt anwenden, überwachen, konfigurieren oder deren Ergebnisse nutzen und Entscheidungen darauf stützen.
Wer keinerlei Berührungspunkte mit KI hat, fällt grundsätzlich nicht unter diese Pflicht.
Entscheidend ist immer der tatsächliche Einsatz im Arbeitsalltag, nicht die bloße Zugehörigkeit zum Unternehmen.
Allerdings bedeutet „KI-Bezug“ nicht nur technische Tätigkeiten. Auch Mitarbeitende in HR, Compliance, Marketing oder im Management können betroffen sein, wenn sie KI-gestützte Tools einsetzen oder deren Ergebnisse bewerten. Selbst das bloße Verlassen auf KI-Ausgaben kann schon ausreichen, um als „Nutzer“ zu gelten. Deshalb sind häufig mehr Personen betroffen, als man auf den ersten Blick denkt.
Ein weiterer Hinweis: Die Pflicht zur KI-Kompetenz beschränkt sich nicht nur auf fest angestellte Mitarbeitende. Sie umfasst auch andere Personen, die im Auftrag eines Unternehmens tätig sind, etwa externe Dienstleister oder freie Mitarbeitende. Entscheidend ist, dass diese Personen an Betrieb oder Nutzung von KI-Systemen beteiligt sind.
Dadurch soll verhindert werden, dass Verantwortlichkeiten ausgelagert werden, ohne für ausreichende Qualifikation zu sorgen.
Wie sollte ein Unternehmen vorgehen?
Nicht jeder oder jede Mitarbeitende braucht dieselbe KI-Schulung, aber jeder, der mit KI arbeitet oder deren Ergebnisse nutzt, braucht ein ausreichendes Maß an KI-Kompetenz.
Arbeitgeber und Arbeitgeberinnen müssen also nachvollziehbar entscheiden, wer was in welchem Umfang wissen muss.
Bei einfachen, risikoarmen Anwendungen genügen grundlegende Kenntnisse. Bei sensiblen oder hochriskanten KI-Systemen sind deutlich höhere Anforderungen zu stellen.
Eine Grundsensibilisierung kann aber für alle Mitarbeitenden sinnvoll sein, etwa um ein Bewusstsein für Chancen, Risiken und Grenzen von KI zu schaffen.
Eine vertiefte Schulung ist dann für diejenigen erforderlich, die operativ oder entscheidungsrelevant mit KI arbeiten. Bei besonders risikoreichen KI-Systemen müssen die Schulungen entsprechend umfangreicher ausfallen.
Was passiert bei Nichtbefolgen?
Artikel 4 der KI-Verordnung steht nicht im Katalog der direkten Bußgelder nach Artikel 99 (4).
Aber: Mangelnde Schulung ist der schnellste Weg, um im Schadensfall eine Verletzung der unternehmerischen Sorgfaltspflicht nachzuweisen.
BaFin und Datenschutzbehörden werden genau prüfen, ob KI-Fehler durch mangelnde Kompetenz begünstigt wurden. Das wäre dann ein Beweis für Fahrlässigkeit, der in der „privaten Durchsetzung“ durch Geschädigte vor Zivilgerichten teuer werden kann für die Unternehmen.
Hinweis: Transparenzpflichten ab August 2026
Ab dem 2. August 2026 gelten außerdem neue Transparenzpflichten: Unternehmen müssen in den unten genannten Fällen die Nutzung Künstlicher Intelligenz kennzeichnen.
Wenn du in deinem Unternehmen KI-Systeme einsetzt, solltest du neben der erforderlichen KI-Kompetenz auch die Transparenzpflichten des AI Acts kennen. Bei KI-Anwendungen mit geringem Risiko steht vor allem die Information der Nutzer im Mittelpunkt. Kommt beispielsweise ein KI-Chatbot in deinem Kundenservice zum Einsatz, müssen Nutzer:innen klar erkennen können, dass sie mit einer künstlichen Intelligenz und nicht mit einem Menschen kommunizieren.
Zur Risiko-Einstufung der KI-Anwendungen findest du auf den Seiten der Bundesnetzagentur ausführliche Informationen.
Je nach Anwendungsfall bestehen außerdem Kennzeichnungspflichten für KI-generierte Inhalte. Bilder, Audioaufnahmen, Videos oder Texte müssen unter bestimmten Voraussetzungen so gekennzeichnet werden, dass ihre künstliche Erstellung technisch nachvollziehbar ist. Welche Anforderungen im Einzelfall gelten, regelt Artikel 50 des AI Acts. In der Regel müssen nur täuschend echte KI-Bilder, Audio- oder Videoinhalte, die veröffentlicht werden, gekennzeichnet werden. Für gewöhnliche Marketing- oder Blogtexte, die du mit KI erstellt hast, besteht nach dem AI Act grundsätzlich keine allgemeine Kennzeichnungspflicht.
Die Transparenzvorschriften werden ab dem 2. August 2026 verbindlich. Deshalb solltest du bei Einführung und Nutzung von KI-Lösungen die vorhergehenden Punkte unbedingt berücksichtigen.
Weiterführende Informationen
- SUU:M 06.25 – Digitalisierung (konkret auf S. 18: KI-Verordnung: Das bedeutet sie für Arbeitgeber)
Weitere Artikel
Noch nicht ganz auf Kurs oder fehlt der passende Ankerpunkt?
Dann einfach Kontakt aufnehmen. Wir unterstützen dabei, den richtigen Weg durch die Gründungslandschaft in Mecklenburg-Vorpommern zu finden.
Kontakt aufnehmen →