Die Europäische Kommission hat am 20. Juli 2026 Leitlinien zur Umsetzung von Art. 50 der KI-Verordnung (AI Act) veröffentlicht. Im Mittelpunkt stehen die Transparenz- und Kennzeichnungspflichten für bestimmte KI-Systeme. Das Thema betrifft längst nicht mehr nur prominente Anwendungsfälle, sondern zunehmend auch private Kontexte, Vereine und den allgemeinen Alltag. Datenschutzrechtliche Bezüge werden hier nicht vertieft.
Nachfolgend finden Sie zunächst eine kurze Übersicht über die vier Fallgruppen des Art. 50 KI-VO und die dazugehörigen Klarstellungen der Kommission:
Übersicht
| Fallgruppe nach Art. 50 KI-VO | Adressat der Pflicht | Kernaussage der KI-VO | Konkretisierung durch die Leitlinien |
|---|---|---|---|
| KI-Systeme mit unmittelbarer Interaktion mit natürlichen Personen (Art. 50 Abs. 1) | Anbieter | Betroffene Personen sind darüber zu informieren, dass sie mit einem KI-System interagieren, sofern dies nicht bereits aufgrund der Umstände offensichtlich ist. | Die Leitlinien erläutern, wann eine Interaktion als „direkt“ gilt, wann der KI-Einsatz als offensichtlich anzusehen ist und welche Anforderungen an die Information gestellt werden. |
| KI-Systeme zur Erzeugung synthetischer Inhalte (Art. 50 Abs. 2) | Anbieter | Die Ausgaben des Systems müssen in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sein. | Die Leitlinien konkretisieren die Anforderungen an die Kennzeichnung, nennen keine bestimmte technische Lösung und erläutern Robustheit, Interoperabilität und Erkennbarkeit sowie Ausnahmen. |
| Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3) | Betreiber | Personen sind darüber zu informieren, dass sie einem System zur Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind, soweit keine gesetzliche Ausnahme eingreift. | Die Leitlinien erläutern insbesondere den Begriff der „Exponierung“, den Zeitpunkt der Information, den Kreis der zu informierenden Personen und das Verhältnis zur DSGVO. |
| Deepfakes und KI-generierte Texte von öffentlichem Interesse (Art. 50 Abs. 4) | Betreiber | Künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte sind als solche offenzulegen. Gleiches gilt für KI-generierte Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, vorbehaltlich gesetzlicher Ausnahmen. | Die Leitlinien konkretisieren Form, Zeitpunkt und Sichtbarkeit der Kennzeichnung von Deepfakes sowie die Voraussetzungen und Ausnahmen für KI-generierte Texte. |
1. KI-Systeme mit unmittelbarer Interaktion mit natürlichen Personen
Adressat der Pflicht: Anbieter
KI-Systeme, die unmittelbar mit natürlichen Personen interagieren, müssen so konzipiert und entwickelt sein, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System kommunizieren, sofern dies nicht bereits aufgrund der Umstände offensichtlich ist (Art. 50 Abs. 1 KI-VO).
Die Leitlinien konkretisieren insbesondere,
-
wann eine Interaktion als „direkt“ anzusehen ist,
-
wann der KI-Einsatz als offensichtlich gilt,
-
und welche Anforderungen an die Information zu stellen sind, insbesondere Klarheit, Verständlichkeit, leichte Wahrnehmbarkeit und Rechtzeitigkeit.
Außerdem enthalten die Leitlinien zahlreiche Praxisbeispiele, etwa zu Chatbots, Sprachassistenten, Kundenservice-Anwendungen und Avataren.
2. KI-Systeme zur Erzeugung synthetischer Inhalte
Adressat der Pflicht: Anbieter
Bei KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, muss der Anbieter sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet werden und als künstlich erzeugt oder manipuliert erkennbar sind (Art. 50 Abs. 2 KI-VO).
Die Leitlinien erläutern insbesondere,
-
welche Anforderungen an die maschinenlesbare Kennzeichnung gestellt werden,
-
dass keine bestimmte technische Lösung vorgeschrieben ist,
-
welche Anforderungen an Robustheit, Interoperabilität und Erkennbarkeit gelten,
-
und in welchen Fällen Ausnahmen greifen, etwa bei unterstützenden Bearbeitungsfunktionen ohne wesentliche Veränderung des Inhalts.
3. Emotionserkennung und biometrische Kategorisierung
Adressat der Pflicht: Betreiber
Wer ein System zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die betroffenen Personen darüber informieren, soweit keine gesetzliche Ausnahme eingreift (Art. 50 Abs. 3 KI-VO).
Die Leitlinien erläutern hierzu
-
den Begriff der „Exponierung“,
-
den Zeitpunkt der Information,
-
den Kreis der zu informierenden Personen,
-
sowie das Verhältnis zur DSGVO.
Dabei stellen sie klar, dass die Transparenzpflicht nach der KI-VO neben den datenschutzrechtlichen Informationspflichten besteht.
4. Deepfakes und KI-generierte Texte von öffentlichem Interesse
Adressat der Pflicht: Betreiber
Wer künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte bereitstellt, muss deren künstlichen Charakter offenlegen. Gleiches gilt für KI-generierte Texte, soweit sie der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, vorbehaltlich der gesetzlichen Ausnahmen (Art. 50 Abs. 4 KI-VO).
Die Leitlinien konkretisieren insbesondere
-
Form, Zeitpunkt und Sichtbarkeit der Kennzeichnung von Deepfakes,
-
die Voraussetzungen und Ausnahmen für KI-generierte Texte,
-
den Begriff der „Angelegenheiten von öffentlichem Interesse“,
-
sowie die Ausnahme bei wesentlicher menschlicher redaktioneller Kontrolle.
Aufbau der Leitlinien
Die Leitlinien folgen im Wesentlichen der Systematik des Art. 50 KI-VO. Für jede der vier Fallgruppen behandeln sie regelmäßig:
-
den persönlichen und sachlichen Anwendungsbereich,
-
den Adressaten der Pflicht,
-
die Tatbestandsvoraussetzungen,
-
den Inhalt der Transparenzpflicht,
-
die Ausnahmen,
-
Praxisbeispiele,
-
das Verhältnis zu anderen Rechtsakten, insbesondere zur DSGVO.
Die vier Fallgruppen unterscheiden sich nicht nur nach dem Regelungsgegenstand, sondern auch nach dem Normadressaten. Während Art. 50 Abs. 1 und 2 an den Anbieter anknüpfen, richten sich Art. 50 Abs. 3 und 4 an den Betreiber. Diese Unterscheidung ziehen die Leitlinien konsequent durch.
