Was umfasst die KI-Verordnung?
Die KI-Verordnung (auch Artificial Intelligence Act, AI Act) schafft einheitliche Regelungen für Anbieter von KI-Produkten in der EU und für den Einsatz von KI. Es gibt aber auch Anforderungen, die Unternehmen betreffen, die KI „nur“ nutzen.
Mehr Infos dazu findest du in unserem Artikel „KI-Verordnung: Einheitliche Regeln in der EU“
Was ist überhaupt ein KI-System?
Ein KI-System ist laut Artikel 3 Nr. 1 der KI-Verordnung
„ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;…“
Ist damit dein Unternehmen auch von den Regelungen der KI-Verordnung betroffen?
Wie so häufig, ist auch diese gesetzliche Formulierung nicht besonders verständlich. Sie sagt wenig darüber aus, ob die KI, die du in deinem Unternehmen nutzt bzw. nutzen willst, auch bzw., in welchem Umfang sie von den Regelungen der KI-Verordnung betroffen ist.
Eine erste Einschätzung dazu erhältst du nun beim „KI Compliance Kompass“ der Bundesnetzagentur. Hier kannst du in nur wenigen Schritten prüfen, ob deine KI-Systeme unter die geltende Verordnung fallen und welcher Risikoklasse sie zugeordnet werden.
Das Tool führt dich durch eine Reihe strukturierter Fragen, um:
- zu prüfen, ob dein System überhaupt unter den EU‑KI‑Rechtsrahmen (AI Act) fällt
- zu klären, ob das System unter verbotene Praktiken fällt (z. B. Social Scoring, Gesichtserkennung ohne Zustimmung)
- einzuschätzen, ob es sich um ein Hochrisiko‑KI-System handelt
- herauszufinden, welche Transparenzpflichten du erfüllen musst
- am Ende eine Gesamtbewertung zu erhalten, ob eine Regulierung relevant ist
Die Ergebnisse sind informativ und unverbindlich – eine offizielle behördliche Prüfung stellen sie allerdings nicht dar.
Ein weiterer wichtiger Punkt: KI–Kompetenz
Seit Anfang Februar 2025 müssen Anbieter und Betreiber von KI-Systemen zudem sicherstellen, dass alle Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Laut Artikel 4 der KI-Verordnung bedeutet das:
„KI-Kompetenz
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
Mehr Informationen zu diesem Thema kannst du in unserem Beitrag: „KI-Kompetenz: Das gilt ab Februar 2025“ nachlesen.
Tipp
Neben dem KI Compliance Kompass findest du auf der Internetseite „KI-Service Desk“ der Bundesnetzagentur weitere Informationen zum Thema KI.
Hier gibt es z. B. FAQs, Kontaktmöglichkeiten für spezifische Fragen zu regulatorischen Themen, diverse Leitlinien und Hinweise sowie Informationen zur virtuellen Veranstaltungsreihe „KI-Café“.
