EU AI Act – Was steht drin?

Regelungen der europäischen Verordnung über künstliche Intelligenz (KI-VO) und was diese für Arbeitgeber bedeuten

10. August 2026

Zusammenfassung

Die KI-VO ist die Verordnung über künstliche Intelligenz der EU. Sie schafft einheitliche Regelungen für Anbieter von KI-Produkten in der EU und für den Einsatz von KI. Ziel der KI-VO ist es, den Schutz der Grundrechte, der Sicherheit und der Gesundheit der Nutzenden zu gewährleisten und das Vertrauen in die Entwicklung und Verbreitung von KI zu stärken.

• Was ist eine KI im Sinne der KI-VO?
• Risikoklassifizierung – Wie wird KI reguliert?
• Wann sind Arbeitgeber betroffen und welche Pflichten müssen sie beim Einsatz von KI berücksichtigen?
• Welche Voraussetzungen gelten für Hochrisiko-KI-Systeme?
• Was ist zu KI-Kompetenzen vorgesehen?
• Wann müssen KI-generierte Inhalte gekennzeichnet werden?
• Welche Sanktionen drohen bei Verstößen?
• Ab wann gelten welche Regelungen?
• Was sind empfehlenswerte next-steps?

Im Einzelnen

1. Begriff des KI-Systems – welche Systeme fallen unter die KI-VO?

Die KI-VO gilt grundsätzlich für alle KI-Systeme. Ein KI-System ist nach Art. 3 Abs. 1 KI-VO „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können“.

Kernvoraussetzung ist die Ableitungsfähigkeit des KI-Systems. Gemeint sind komplexe Systeme, die aus eingegebenen Daten Ableitungen treffen. Einfachere technische Programme, die nur Daten verarbeiten, wie bspw. eine Lohnabrechnungssoftware, fallen nicht unter die KI-VO. Das Merkmal der Anpassungsfähigkeit beschreibt die Selbstlernfähigkeit, d. h. die Möglichkeit des Systems sich während des Einsatzes zu verändern. Diese Voraussetzung ist aber weit zu fassen. Auch KI-Systeme, die die Verwendung von Daten für das weitere Training der KI ausschließen, gelten als KI im Sinne der Verordnung, so z. B. der Microsoft Copilot.
Mit dieser Definition gibt die KI-VO Anhaltspunkte, die aber noch konkretisiert werden müssen. Die Europäische Kommission wird dafür Leitlinien zur Definition von KI-Systemen herausgeben, auch die nationale und ggf. europäische Rechtsprechung wird eine Rolle spielen.

2. Risikoklassifizierung – Wie wird KI reguliert?

Die KI-VO unterscheidet nach dem von der KI-Anwendung ausgehenden Risiko für EU-Standards für Gesundheit, Sicherheit und Grundrechte. Je höher das Risiko, desto mehr Regulierung:

Verbotene KI-Systeme: Nach Art. 5 KI-VO sind KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen. Die KI-VO katalogisiert diese verbotenen KI-Systeme, darunter z. B. solche, die ein sog. Social Scoring vornehmen oder Systeme zur biometrischen Identifizierung.

Für Arbeitgeber relevante verbotene KI-Systeme nach Art. 5 Abs. 1 f) KI-VO sind außerdem:

• KI-Systeme zur Emotionserkennung am Arbeitsplatz
• KI-Systeme zur Emotionserkennung in Bildungseinrichtungen

Ausnahme: Dieses Verbot gilt nicht für KI-Systeme, die aus rein medizinischen oder sicherheitstechnischen Gründen Emotionen erkennen, wie z. B. Systeme, die für therapeutische Zwecke bestimmt sind.

Gemeint sind außerdem nicht körperliche Zustände wie Schmerzen oder Müdigkeit. Verboten sind in diesen Bereichen lediglich KI-Systeme zur Erkennung von Emotionen oder Absichten wie Glück, Traurigkeit, Ärger, Überraschung, Ekel, Verlegenheit, Aufregung, Scham, Verachtung, Zufriedenheit und Belustigung. Nicht unter das Verbot fallen damit z. B. Systeme zur Erkennung von Ermüdungserscheinungen bei Pilotinnen und Piloten oder Berufskraftfahrenden, um Unfälle zu vermeiden.

Hochrisiko-KI-Systeme: Für KI-Systeme, von denen ein hohes Risiko ausgeht, gelten strenge Bestimmungen. Kapitel III der KI-VO regelt diese Voraussetzungen. Es gelten andere Regelungen für Unternehmen, die solche Systeme in den Markt bringen wollen als für die, die solche KI-Systeme im Betrieb einsetzen. Anhang III der KI-VO beschreibt, welche KI-Systeme als Hochrisiko-KI gelten – also für welche Systeme diese strengen Voraussetzungen gelten.

Als hoch riskant gelten demnach u. a.:

• die arbeitsbezogene Verwendung von KI im Rahmen der Beschäftigung und des Personalmanagements (z. B. Bewerberauswahl; Entscheidungen über Fortbildungen, Beförderungen, Versetzungen oder Kündigungen; Überwachung und Bewertung von Mitarbeiterverhalten und -leistungen) und
• die bildungsbezogene Verwendung von KI (z. B. Zugang oder Zulassung zu Bildungseinrichtungen; Bewertung von Lernergebnissen; Bewertung des geeigneten Bildungsniveaus; Überwachung und Ermittlung von verbotenem Verhalten von Lernenden).

Ausnahmsweise nicht als hoch riskant gelten diese KI-Systeme nach Art. 6 Abs. 3 KI-VO dann, wenn sie kein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte darstellen oder das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflussen.

Das ist der Fall, wenn die KI dazu bestimmt ist:

• eine sehr spezifische, kleine Aufgabe auszuführen (z. B. KI-Systeme, die Duplikate in einer großen Anzahl von Bewerbungen erkennen),
• das Ergebnis einer zuvor ausgeführten menschlichen Tätigkeit zu verbessern (z. B. KI-System, das Sprache in bereits verfassten Dokumenten verbessert),
• Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, ohne die zuvor durchgeführte menschliche Beurteilung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (z. B. KI-System, das überprüft, ob von ggf. vorliegendem Benotungsmuster einer Lehrkraft abgewichen wurde) oder
• eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die in Anhang III aufgeführten Einsatzgebiete relevant ist (z. B. KI-System, das für Übersetzung von Originaldokumenten verwendet wird).

KI-Systeme mit geringem Risiko: Für bestimmte KI-Systeme gelten nach Art. 50 KI-VO lediglich Transparenzpflichten, da von ihnen ein nur geringes Risiko ausgeht. Menschen sollen wissen, dass sie mit einer KI interagieren oder ihr begegnen, damit sie über die weitere Nutzung entscheiden oder Informationen einordnen können, z. B.:

• beim Interagieren mit Chatbots,
• bei KI-generierten Texten oder
• bei anderen KI-generierten Inhalten, wie Audio- und Videoinhalten (sog. Deepfakes).

Nicht-regulierte KI-Systeme: Für alle übrigen KI-Systeme gelten keine Vorschriften, weil von ihnen nur ein minimales Risiko ausgeht. Die überwiegende Mehrheit aller derzeit in der EU angewandten KI-Systeme fällt unter diese Kategorie. Das sind z. B. KI-gestützte Spam-Filter.