Ab August: KI-Kennzeichnungspflicht für Unternehmen

Ab dem 2. August 2026 gelten mit Art. 50 der europäischen KI-Verordnung (KI-VO) verbindliche Transparenzpflichten für bestimmte KI-Systeme und deren Nutzung. Ziel der Regelung ist es, Täuschungen zu vermeiden und sicherzustellen, dass Nutzer erkennen können, ob Inhalte künstlich erzeugt oder manipuliert wurden. Unternehmen müssen die neuen gesetzlichen Anforderungen spätestens am 2. August 2026 in die Praxis bringen.

„Die KI-Verordnung schafft keinen pauschalen Kennzeichnungszwang für sämtliche KI-Inhalte. Unternehmen müssen jetzt prüfen, an welchen Stellen Transparenz- und Offenlegungspflichten tatsächlich greifen und diese in eigene Prozesse integrieren“, sagt Anja Olsok, Geschäftsführerin der Bitkom Servicegesellschaft mbH.

Chatbots und Deepfakes im Fokus

Der EU AI Act unterscheidet zwischen Anbietern, die KI-Systeme entwickeln oder auf den Markt bringen, und Betreibern, die diese Systeme einsetzen. Bei Chatbots und anderen Systemen für den direkten Dialog muss erkennbar sein, dass die Kommunikation mit einer KI erfolgt. Ein Hinweis ist entbehrlich, wenn dies aus dem Nutzungskontext offensichtlich hervorgeht. Für Systeme zur Emotionserkennung oder biometrischen Kategorisierung gilt ebenfalls eine Informationspflicht.

Praktische Bedeutung gewinnen die neuen Transparenzpflichten etwa beim Einsatz von Chatbots oder virtuellen Assistenten. Interagieren Nutzer unmittelbar mit einem KI-System, muss grundsätzlich darauf hingewiesen werden – es sei denn, die Nutzung ist offensichtlich erkennbar. Darüber hinaus enthält die KI-Verordnung spezielle Vorgaben für synthetische Audio-, Bild-, Video- und Textinhalte. Anbieter generativer KI müssen erzeugte oder wesentlich veränderte Texte, Bilder, Audio- und Videodateien maschinenlesbar markieren. Die Kennzeichnung soll robust sein und eine spätere Erkennung des künstlichen Ursprungs ermöglichen. 

Besonders relevant ist dabei die Offenlegungspflicht für sogenannte Deepfakes. Werden Inhalte künstlich erzeugt oder manipuliert und entsteht dabei ein realistischer Eindruck, müssen Unternehmen grundsätzlich kenntlich machen, dass es sich um KI-generierte oder KI-veränderte Inhalte handelt. Relevant wird dies insbesondere bei KI-generierten Avataren, synthetischen Werbevideos, realitätsnahen Personenbildern oder künstlich erzeugten Nutzungsszenarien im Marketing und E-Commerce.

Auch KI-generierte Texte zu Themen von öffentlichem Interesse müssen gekennzeichnet werden. Die Pflicht entfällt, wenn eine menschliche oder redaktionelle Kontrolle stattgefunden hat und eine Person oder Organisation die redaktionelle Verantwortung übernimmt. Die Hinweise müssen spätestens beim ersten Kontakt klar, eindeutig und barrierefrei erscheinen.

Bild: rawpixel.com / Magnific