Ab dem 2. August 2026 gelten mit dem europäischen KI-Gesetz, dem AI Act, neue Transparenzpflichten für Unternehmen, die Chatbots einsetzen oder Text, Bild, Audio und Video mit Künstlicher Intelligenz erzeugen. Wer ein solches System betreibt oder anbietet, muss dafür sorgen, dass Nutzer erkennen, dass sie mit einer Maschine interagieren. Zusätzlich müssen Mitarbeitende, die mit KI arbeiten, bereits seit Februar 2025 entsprechend geschult sein. Das gilt unabhängig von der Unternehmensgröße, auch Handwerksbetriebe mit einem Chatbot auf der Homepage fallen darunter.
Seit wann gilt was?
- 1. August 2024: Der AI Act tritt in Kraft und legt risikobasierte Regeln für KI-Systeme fest.
- Februar 2025: KI-Systeme mit unannehmbarem Risiko sind verboten. Zugleich müssen Anbieter und Betreiber sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen.
- 2. August 2026: Die Transparenzpflichten aus Artikel 50 der KI-Verordnung werden verbindlich.
- 2. Dezember 2026: Für bestimmte, bereits vor August 2026 in Verkehr gebrachte Systeme endet eine Übergangsfrist für die technische, maschinenlesbare Kennzeichnung von Inhalten.
- 2. Dezember 2027 beziehungsweise 2. August 2028: Der sogenannte Digital Omnibus verschiebt Pflichten für Hochrisiko-KI-Systeme auf diese späteren Termine.
Was genau müssen Unternehmen kennzeichnen?
Artikel 50 der KI-Verordnung verlangt zwei Dinge. Erstens muss ein Kunde, der mit einem KI-Chatbot spricht, darüber informiert werden, dass er nicht mit einer natürlichen Person kommuniziert. Zweitens müssen künstlich erzeugte oder veränderte Bild-, Audio-, Video- und bestimmte Textinhalte so markiert werden, dass ihre Herkunft maschinell erkennbar ist. Ein einfacher Hinweistext in der Oberfläche reicht dafür nicht aus, gefordert ist eine technische Kennzeichnung.
Wer ist Anbieter, wer ist Betreiber?
Die Verordnung unterscheidet zwei Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt. Betreiber ist, wer ein bestehendes System im eigenen Geschäftsprozess einsetzt. Ein Softwarehersteller ist bei seinen Standardfunktionen typischerweise Anbieter, das nutzende Unternehmen wird zum Betreiber. Setzt ein Unternehmen jedoch einen selbst konfigurierten KI-Agenten unter eigener Marke ein oder stellt ihn Dritten bereit, kann es zusätzlich als Anbieter gelten. Damit verschieben sich auch die Pflichten, etwa bei Dokumentation und Risikomanagement.
Was passiert bei Nichteinhaltung?
Für Anbieter von sogenannten General-Purpose-AI-Modellen sind Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vorgesehen. Das betrifft in erster Linie die Modellanbieter, nicht automatisch das Unternehmen, das ein solches Modell im eigenen Betrieb nutzt. Fehlt jedoch die vorgeschriebene KI-Kompetenz der Mitarbeitenden oder die Kennzeichnung gegenüber Kunden, drohen auch Betreibern Bußgelder. Die konkrete Höhe hängt vom Einzelfall ab.
Was Unternehmen jetzt konkret tun sollten
- Überblick verschaffen: Wo genau wird KI eingesetzt, welche Chatbots, Assistenten oder Agenten laufen im Betrieb, welche Daten verarbeiten sie?
- Rolle klären: Ist das eigene Unternehmen Anbieter oder Betreiber des jeweiligen Systems, und welche Pflichten folgen daraus?
- Freigabe- und Kontrollkonzept aufsetzen: Wer darf welche KI-Anwendung nutzen, welche Aktionen sind zulässig, wie werden Ergebnisse protokolliert?
- Mitarbeitende schulen: Wer mit KI-Systemen arbeitet, muss wissen, wie er Ergebnisse prüft und welche Daten nicht in offene Systeme eingegeben werden dürfen.
Was der AI Act nicht leisten kann
Die Verschiebung einzelner Hochrisiko-Pflichten durch den Digital Omnibus betrifft nicht die Transparenzpflichten. Wer annimmt, bis 2027 oder 2028 Zeit zu haben, übersieht, dass die Kennzeichnungspflichten bereits ab August 2026 gelten. Zudem lässt sich KI-generierter Inhalt nachträglich nicht zuverlässig erkennen. Verfügbare Erkennungswerkzeuge liefern nur Wahrscheinlichkeiten und keine gesicherten Aussagen, weshalb die Kennzeichnung schon bei der Erstellung eines Inhalts ansetzen muss und nicht nachträglich nachgeholt werden kann.