Muss man KI-Texte kennzeichnen oder bestehen Transparenzpflichten?

Anders als bei Ton, Bild und Video ist der Umfang der Kennzeichnungspflicht für KI-Ergebnis in Form von KI-Texten gemäß der KI-VO gering und aktuell sehr vage. Diese Pflichten jedoch ab dem 2. August 2026 zu erfüllen.

Ich habe mich gefragt, wie diese Pflicht genau aussieht und gebe einen Überblick meiner Quellen, ohne dabei rechtlich beraten zu wollen oder zu können.

Art. 50 Abs. 4

[…] Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. 

Diese Transparenzpflichten für Anbieter und Betreiber von KI, wird zudem weiter eingeschränkt.

Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.

Zudem ergänzen die Erwägungsgründe den Art. 50 wie folgt.

Erwägungsgrund 134: Offenlegungspflicht künstlich erzeugter Inhalte

Darüber hinaus ist es angezeigt, eine ähnliche Offenlegungspflicht in Bezug auf durch KI erzeugte oder manipulierte Texte anzustreben, soweit diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, die durch KI erzeugten Inhalte wurden einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung der Inhalte.

Die Art und Weise der KI-Texte, die allgemein als synthetische Inhalte beschrieben werden, lässt diverse Gestaltungsmöglichkeiten offen. Die Methoden zur Kennzeichnung werden hier per oder aufgeführt.

Erwägungsgrund 133: Kennzeichnungspflicht für KI-Ergebnisse

Diese Techniken und Methoden sollten – soweit technisch möglich – hinreichend zuverlässig, interoperabel, wirksam und belastbar sein, wobei verfügbare Techniken, wie Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken, oder eine Kombination solcher Techniken je nach Sachlage zu berücksichtigen sind.

Auffällig ist, dass Quellen die Kennzeichnungspflicht widersprüchlich auslegen.

Einblick in die Einschätzung der Experten #

ECOVIS¹ beantwortet die Frage „Welche Inhalte müssen gekennzeichnet werden?“, dass die Kennzeichnungspflicht für »Automatisch erstellte Texte, die öffentlich genutzt werden, wie Berichte oder Werbung.« greift. Die IT-Recht Kanzlei² beantwortet die Frage »Müssen KI-generierte Produkttexte im Online-Shop gekennzeichnet werden?« mit »Nein, durch KI erzeugte Texte, die zur Beschreibung der Produkte oder der Produktwerbung eingesetzt werden, müssen nach der KI-Verordnung nicht besonders gekennzeichnet werden, sondern dürfen auch ohne entsprechende Kennzeichnung verwendet werden.« antwortet.

Der Rechtsbegriff des öffentlichen Interesses³ findet im Verwaltungsrecht und Strafrecht Anwendung. Es ist davon auszugehen, dass daher die Antwort der IT-Recht Kanzlei ggü. der Einschätzung von ECOVIS vorzuziehen ist. An dem Beispiel wird deutlich, dass selbst Experten bei der Auslegung der KI-VO an Ihre Grenzen stoßen.

Kann man KI-Texte bedenkenlos nutzen?#

Da die Texte generiert werden, kann es sein, dass der KI-Text Inhalte enthält, die urheberrechtlich geschützt sind. Dieses Problem ist unabhängig davon, dass Sie mit KI erzeugt wurden. Anders als im menschlichen Schreibprozess, bei dem urheberrechtlich geschützte Inhalte erst gesucht werden müssen, könnten rechtlich geschützte Inhalte fahrlässig in KI-Texten enthalten sein, ohne sich dessen bewusst zu sein.

Viele Textgeneratoren beugen vor, dass urheberrechtlich geschützte Elemente wiedergegeben werden, dennoch ist es nicht auszuschließen.

Bei der Aufforderung, einen Song von einem bekannten Künstler wiederzugeben, weisen die meisten Chatbots bereits explizit darauf hin.

Rückgabe von ChatGPT 4o-mini

Ich kann dir den Text eines bekannten Songs nicht direkt wiedergeben, aber ich kann dir eine kurze Zusammenfassung oder Analyse eines bestimmten Songs anbieten. Bitte nenne mir den Künstler oder Titel, der dich interessiert.

Eine Quellensammlung zur rechtssicheren Verwendung von KI-Texten habe ich Ihnen separat zusammengestellt. Über meinen KI-Textgenerator⁴ können Sie selbst versuchen, einen solchen Text zu erstellen.

Copyright Office Says AI Generated Works Based on Text Prompts Are Not Protected  | Barnes & Thornburg⁵

Copyright and Artificial Intelligence, Part 2 Copyrightability Report copyright.gov ↗