Dies bedeutet jedoch keine allgemeine Verpflichtung, jeden Inhalt zu kennzeichnen, der unter Verwendung von KI erstellt wurde. Eine solche Verpflichtung gilt ausschließlich für die in dieser Bestimmung genannten Fälle, weshalb die Art und Weise der Nutzung des jeweiligen KI-Systems jeweils geprüft werden muss. Es lohnt sich, eine solche Analyse bereits jetzt durchzuführen und die internen Verfahren entsprechend vorzubereiten.

Was hat sich seit dem 2. August 2026 geändert?

In der EU gelten die Vorschriften zur Nutzung künstlicher Intelligenz bereits seit dem 1. August 2024 gemäß dem AI Act. Der Zeitplan für die Anwendung der anspruchsvollsten Verpflichtungen aus dem AI Act wurde durch die Verordnung (EU) 2026/1744 des Europäischen Parlaments und des Rates vom 8. Juli 2026 geändert. Infolgedessen gelten ab dem 2. August 2026 neue Transparenzanforderungen gemäß Artikel 50 des AI Act.

Wichtige Verpflichtungen

✓ Information über die Interaktion mit Chatbots und künstlicher Intelligenz: Anbieter müssen sicherstellen, dass Nutzer über die Interaktion mit einem auf künstlicher Intelligenz basierenden System informiert werden, es sei denn, dies geht aus dem Kontext eindeutig hervor.

✓ Kennzeichnung synthetischer Inhalte: Anbieter müssen synthetische Audio-, Bild-, Video- oder Textinhalte mit einer maschinenlesbaren Kennzeichnung versehen und deren Erkennung ermöglichen, vorbehaltlich bestimmter Ausnahmen.

✓ Kennzeichnung von Deepfake-Inhalten: Akteure, die künstliche Intelligenz zur Erstellung von Deepfake-Inhalten nutzen, müssen deutlich offenlegen, dass der Inhalt künstlich generiert oder manipuliert wurde.

✓ Hinweise zur Emotionserkennung und biometrischen Kategorisierung: Akteure, die solche Systeme einsetzen, müssen die Personen, die mit ihnen in Kontakt kommen, darüber informieren.

Je nachdem, ob Sie Anbieter (beispielsweise durch die Entwicklung eines Chatbots) und/oder Nutzer (beispielsweise durch die Veröffentlichung von KI-generierten Inhalten auf einer Website) sind, gelten unterschiedliche Kennzeichnungspflichten. Daher sollte Ihr Unternehmen in einem ersten Schritt seine genaue Rolle prüfen und feststellen, ob Sie Anbieter oder Nutzer sind.

Strafen

Die Strafen für die Nichteinhaltung der neuen Verpflichtungen hängen von der Schwere des Verstoßes und der Größe des jeweiligen Unternehmens ab. Sie können bis zu 15 Millionen Euro oder bis zu 3 Prozent des Gesamtumsatzes betragen.

Maßnahmen

Die zusätzliche Zeit bis zum Inkrafttreten der nächsten Phasen des AI Act sollte genutzt werden, um Prozesse zu ordnen, ein Compliance-Audit durchzuführen und interne Verfahren einzuführen. Empfohlene Maßnahmen:

• Identifizierung und Klassifizierung der vom Unternehmen genutzten KI-Systeme: Es empfiehlt sich, eine Bestandsaufnahme der derzeit vom Unternehmen genutzten Lösungen vorzunehmen.
• Überprüfung der Transparenzpflichten (Art. 50 AI Act): Die Überprüfung ermöglicht es, festzustellen, ob Ihre Organisation künstliche Intelligenz in einer Weise nutzt, die Offenlegung und Transparenz erfordert – dies betrifft u. a. synthetische Inhalte, Deepfakes sowie Materialien, die den Empfänger hinsichtlich ihrer Quelle irreführen könnten.
• Erstellung interner Richtlinien: Es empfiehlt sich, interne Verfahren zu erarbeiten, die die sichere und rechtskonforme Nutzung von KI regeln.
• Überprüfung der Verträge mit Anbietern von KI-Tools: im Hinblick auf die Aufteilung der Verantwortung für die Einhaltung der EU-Vorschriften.
• Schulungen für Mitarbeiter.