Der EU AI Act – Transparenz mit Nebenwirkungen und vielen Grauzonen

Ab 2. August 2026 gelten in der EU neue Transparenzpflichten für mit künstlicher Intelligenz erzeugte oder manipulierte Inhalte – vor allem für Bilder und Fotografien. Grundlage ist Artikel 50 der EU-Verordnung 2024/1689, auch bekannt als «EU AI Act¹».

Das klingt zunächst vernünftig, denn wer möchte schon auf täuschend echte Bilder hereinfallen, die stilvoll eingerichtete, makellos saubere Hotelzimmer mit Blick auf eine paradiesische Umgebung zeigen, sich bei der Ankunft aber als Bruchbude neben einer Grossbaustelle entpuppen? Oder auf Wohnungsfotos, bei denen man sich bei der Besichtigung fragt, ob man versehentlich im falschen Gebäude gelandet ist?

Doch bei näherer Betrachtung wird es kompliziert. Sehr kompliziert.

Bilder wurden bereits lange vor der Erfindung generativer KI manipuliert. Wer im Verlauf der Geschichte die «Macht über die Bilder» besass, konnte die öffentliche Wahrnehmung prägen – und damit Macht ausüben. Stalin liess beispielsweise in Ungnade gefallene Funktionäre aus Fotografien entfernen: Das Bild veränderte sich – und mit ihm auch der Rückblick auf die Vergangenheit.

Denn visuelle Inhalte besetzen in unserer Wahrnehmung einen Sonderstatus: Im Gegensatz zu Texten glauben wir ihnen intuitiv und hinterfragen sie kaum – jedenfalls bislang. Genau deshalb waren sie schon immer das primäre Werkzeug für Täuschung und Manipulation.

Neu ist allerdings das Ausmass: Mit generativer KI lassen sich täuschend echte Bilder sogenannte «Deepfakes» in Sekunden, in grosser Zahl und ohne besondere Fachkenntnisse erzeugen. Darauf reagiert die EU nun mit dem AI Act.

Weltweit werden schätzungsweise rund 80 Millionen neue Bilder täglich mit künstlicher Intelligenz generiert.²

Doch die neue Regelung lässt viele Fragen offen. Genau diese Grauzonen, Widersprüche und Probleme in der praktischen Umsetzung möchte ich in diesem Beitrag genauer betrachten, wie zum Beispiel:

• Was ist zukünftig noch erlaubt und was nicht?
• Wo endet Optimierung und wo beginnt Manipulation?
• Warum wird ein identisches Ergebnis unterschiedlich behandelt, je nachdem, ob zum Beispiel Photoshop oder generative KI verwendet wurde?

 

Die Rechtsgrundlage

Der Artikel 50 der EU-Verordnung 2024/1689 trägt offiziell die Überschrift:

Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Die neuen Pflichten sollen die Nutzung künstlicher Intelligenz im europäischen Binnenmarkt regulieren und gleichzeitig Sicherheit, Grundrechte, Demokratie und Rechtsstaatlichkeit schützen. Sie gelten ab dem 2. August 2026.

Für wen gilt diese Regelung?

Eine der häufigsten Verwechslungen betrifft die beiden Adressaten dieser neuen Regelung.

Gruppe 1: Anbieter von KI-Systemen

Als «Anbieter» bezeichnet der AI Act grundsätzlich eine Person oder Organisation, die ein KI-System entwickelt oder entwickeln lässt und dieses unter dem eigenen Namen oder der eigenen Marke anbietet.

Dazu gehören beispielsweise:

• Hersteller generativer Bildbearbeitungssoftware
• Betreiber von Plattformen, die mittels künstlicher Intelligenz Bilder erzeugen

Diese Anbieter müssen nach Artikel 50 Absatz 2 dafür sorgen, dass synthetische Bild-, Audio-, Video- und Textausgaben in einem maschinenlesbaren Format markiert und als künstlich erzeugt oder manipuliert erkennbar werden.

Gemeint sind technische Verfahren wie Provenienzinformationen, eingebettete Markierungen oder andere robuste Erkennungsmöglichkeiten.

Gruppe 2: Professionelle Nutzer von KI

Die deutsche Fassung des AI Act verwendet den Begriff «Betreiber» (warum auch immer), was zu vielen Missverständnissen geführt hat. Gemeint sind nämlich nicht die «Betreiber von KI-Angeboten» (die haben wir ja schon in der ersten Gruppe erfasst) sondern natürliche oder juristische Personen, die ein KI-System verwenden, also dessen Nutzer oder Anwender, wie

• Werbeagenturen oder Medienhäuser
• Gewerbliche Content-Erzeuger (Filmindustrie, Marketingabteilungen, …)
• Professionelle Designerinnen und Fotografen

Gemäss Artikel 50 Absatz 4 müssen sie offenlegen, wenn veröffentlichte Bild-, Ton- oder Videoinhalte mit einem KI-System erzeugt oder manipuliert wurden.

Rein private Nutzung ist ausgenommen

Natürliche Personen sind von diesen Regelungen ausgenommen, wenn sie über KI-generierte Bild-, Video- und Audioinhalte ausschliesslich im Rahmen einer privaten und nicht beruflichen Tätigkeit veröffentlichen.

Ein privater Reiseblog dürfte beispielsweise unter diese Ausnahme fallen. Schwieriger wird es jedoch, wenn die Betreiberin oder der Betreiber auf dem Blog beispielsweise:

• Affiliate-Links einbindet
• bezahlte Kooperationen eingeht oder
• Werbung schaltet.

Aber hier befinden wir uns in einer der vielen angesprochenen Grauzonen, denn «gewinnbringend» ist nicht zwangsläufig dasselbe wie «beruflich». Wo genau die Grenze verläuft, ist derzeit wie vieles andere, unklar.

 

Pflicht zur Offenlegung

Kommen wir nun zur eigentlichen Verpflichtung. Nach dem EU AI Act besteht für beide der oben genannten Gruppen eine Pflicht zur «Offenlegung» von KI-generierten oder manipulierten Bild-, Video- und Audioinhalten.

Ausnahme bilden offensichtlich fiktive, künstlerische oder satirische Inhalte, sofern diese NICHT in Anspruch nehmen, dass sie reale Ereignisse oder echte Personen «wahrheitsgemäss» darstellen.

Die erste Gruppe, also die Anbieter von KI-Systemen, muss ihre Inhalte in einem maschinenlesbaren Format kennzeichnen. Die zweite Gruppe, also die professionellen Nutzer dieser Systeme, muss veröffentlichte KI-Inhalte so kennzeichnen, dass Menschen den Hinweis unmittelbar «sichtbar» wahrnehmen – auch dann, wenn sie assistive Technologien verwenden. Zudem müssen sie sicherstellen, dass die vom KI-System hinzugefügten maschinenlesbaren Kennzeichnungen während der Bearbeitung und Veröffentlichung weder absichtlich noch unbeabsichtigt verloren gehen.

Es ist davon auszugehen, dass die Publisher die Verantwortung tragen, wenn ein veröffentlichter Inhalt diesen Bestimmungen nicht entspricht. Ihnen obliegt die Pflicht, zu überprüfen, wie die Inhalte tatsächlich ausgeliefert werden. Denn es kann sehr schnell passieren, dass Bearbeitungsprozesse oder das benutzte CMS bei der Bildbereitstellung unbeabsichtigt die maschinenlesbaren Metadaten des KI-Anbieters entfernen.

 

Wo endet Bildoptimierung und wo beginnt Manipulation?

Der EU AI Act sieht eine Ausnahme für KI-Bearbeitungen vor, die lediglich unterstützend oder optimierend wirken und nicht die «Semantik wesentlich verändern».

Die zentrale Frage lautet somit: Verändert die Bearbeitung nur die Qualität des Bildes oder verändert sie dessen Aussage?

Folgende KI-Eingriffe dürften als Optimierungen gelten und sind nicht kennzeichnungspflichtig:

• Helligkeit-, Kontrast- und Farbkorrekturen
• Rauschreduzierungen, Schärfungen
• Entfernung von Staub und Objektivfehlern wie Verzerrungen oder Vignetten
• Skalierung und Anpassung des Bildausschnitts

Folgende KI-Eingriffe verändern die inhaltliche Aussage eines Bildes und sind kennzeichnungspflichtig:

• Es werden Personen oder gut erkennbare Elemente, Gebäude in einer Landschaft hinzugefügt, verschoben oder entfernt
• Der Hintergrund des Bildes wird ausgetauscht
• Schäden an Gegenständen werden beseitigt
• Es werden Kleidungsstücke an Personen ausgetauscht
• Gesichtsausdrücke werden verändert

Anmerkung: Diese Liste ist nicht als vollständige Auflistung zu verstehen, sondern stellt exemplarisch die häufigsten kennzeichnungspflichtigen KI-Eingriffe dar.

Zwischen diesen Gruppen liegt ein grosses Feld ungeklärter Grauzonen.

Denn was gilt, wenn eine KI …

• wie versehentlich geschlossenen Augen der portraitierten Person öffnet?
• eine Person ein wenig jünger erscheinen lässt?
• einen grauen Himmel ein wenig blauer macht?
• einen unscharfen Schriftzug korrekt rekonstruiert?
• ein Bild seitlich um 1cm erweitert?
• Nicht erkennbare, unscharfe Personen aus dem Hintergrund entfernt?

Präzise – vor allem technisch präzise können wir diese Fragen nicht beantworten. Wir können nicht sagen, wieviel veränderte Pixel nötig sind, um die Aussage eines Bild massgeblich zu verändern, denn

• ein entfernter Ehering
• eine rote statt einer grünen Ampel
• ein beseitigter Gebäudeschaden

kann je nach inhaltlichem Kontext zu einer enormen Täuschung beim Betrachter führen. Umgekehrt kann eine grossflächige Farbverfremdung die Aussage kaum verändern.

Wo genau eine «wesentliche» inhaltliche Veränderung beginnt, müssen zukünftige Leitlinien und eventuell in Kürze auch Gerichte konkretisieren.

Und nebenbei: Wie kann man im Streitfall mit Sicherheit beweisen, ob ein Bild KI-generiert ist oder nicht? Mittlerweise sind die Bildgeneratoren so gut, dass es selbst Fachleuten nicht mehr gelingt, KI-generierte Werke von echten Fotografien zu unterschieden. Schauen Sie sich zum Beispiel die folgenden Bilder³ an. Welche davon wurden von einer KI erzeugt? Können Sie das mit Sicherheit sagen?

Hier klicken um die Auflösung zu sehen …

die Bilder 1, 3, and 6 Fotografien; die Bilder 2, 4, and 5 sind vollständig KI-generiert.³

 

Deshalb halte ich diese Frage sogar für eine der grössten praktischen Schwächen der Verordnung. Transparenzpflichten setzen voraus, dass sich im Streitfall feststellen lässt, ob ein Inhalt überhaupt unter die Pflicht fällt. Genau dieser Nachweis wird aber künftig oft schwierig oder sogar unmöglich sein, wenn keine belastbaren Entstehungsnachweise mehr vorhanden sind. Das dürfte in den kommenden Jahren ein wiederkehrendes Thema gerichtlicher Auseinandersetzungen werden.

 

Der Deepfake

Artikel 3 Nummer 60 des EU AI Act definiert einen «Deepfake» als: «einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäss erscheinen würde».

Diese Definition enthält mehrere Voraussetzungen:

1. Der Inhalt wurde durch KI erzeugt oder manipuliert.
2. Er ähnelt einer wirklichen Person, einem wirklichen Gegenstand, Ort, einer Einrichtung oder einem Ereignis.
3. Er könnte fälschlicherweise als echt oder wahrheitsgemäss erscheinen.

Das klingt klarer, als es ist. Denn keiner dieser Begriffe besitzt eine technisch eindeutige Grenze.

Was bedeutet beispielsweise «ähnelt»? Muss ein Bild eine bestimmte Person oder einen bestimmten Ort exakt darstellen? Oder genügt bereits eine allgemeine Ähnlichkeit?

Hinzu kommt: Ein synthetisches Bild kann sachlich vollkommen korrekt sein, obwohl es KEINE authentische Aufzeichnung eines realen Moments darstellt.

Nehmen wir beispielsweise an, ein System erzeugt ein fotorealistisches Bild des Zürcher Hauptbahnhofs:

• Die Architektur und die visuelle Darstellung stimmen exakt.
• Die sichtbare Beschilderung stimmt 100%.
• Es wird nichts Erfundenes gezeigt.

Ist dieses Bild ein Deepfake?

Um diese Frage zu beantworten, müssen wir zwischen zwei unterschiedlichen Formen von Authentizität unterscheiden:

Inhaltliche Richtigkeit: Das Bild stellt korrekt dar, wie ein Ort, eine Person oder ein Gegenstand aussieht.
Dokumentarische Authentizität: Das Bild ist eine tatsächliche Aufzeichnung eines bestimmten Moments oder Ereignisses, das so stattgefunden hat.

Für die Website der SBB mag dieser Unterschied kaum eine Rolle spielen. Das KI-generierte Bild zeigt den Zürcher Hauptbahnhof schliesslich korrekt. Für eine Nachrichtenmeldung, ein Beweismittel oder eine wissenschaftliche Dokumentation ist der Unterschied dagegen entscheidend. Das KI-generierte Bild dokumentiert keinen tatsächlich aufgenommenen Moment.

Die Kennzeichnung sagt daher nicht: «Dieses Bild ist falsch!». Sie bedeutet vielmehr: «Dieses Bild ist keine fotografische Dokumentation!».

Deshalb halte ich es für sehr fraglich, ob der negativ aufgeladene Begriff «Deepfake» für eine «sachlich korrekte, harmlose Visualisierung» angemessen ist.

Denn nicht jedes synthetisch generierte Bild einer realen Begebenheit manipuliert oder täuscht.

Die zufällige Doppelgängerin

Eine weitere ungeklärte Frage betrifft vollständig KI-generierte Menschen.

Angenommen, eine KI erzeugt eine Person ohne reales Referenzbild. Da es Milliarden lebender und verstorbener Menschen gibt, ist es statistisch wahrscheinlich, dass irgendwo eine Person existiert, die dieser täuschend ähnlich sieht, wenn nicht sogar mehrere Personen.

Wird diese synthetische Person dadurch zum Deepfake?

Eine Auslegung, die allein auf der Ähnlichkeit mit irgendeiner real existierenden Person beruht, wäre praktisch nicht anwendbar. Kein Unternehmen könnte jedes KI-generierte Porträt mit der gesamten lebenden und verstorbenen Weltbevölkerung vergleichen.

Ein generisches synthetisches Model kann daher nicht allein deshalb zum Deepfake werden, weil irgendwo eine sehr ähnlich aussehende Person existiert.

Entscheidend müssten zusätzliche Faktoren sein:

• Ist für die relevanten Betrachter eine konkrete, bekannte Person zu erkennen?
• Werden Name, Beruf oder Unternehmen dieser Person genannt?
• Wird der dargestellten Person eine bestimmte Handlung oder Aussage zugeschrieben?
• Wurde für die Generierung ein Referenzbild einer tatsächlich existierenden Person verwendet?

Das Photoshop-Paradox

Hier liegt einer der grössten Widersprüche der Regelung. Ein Beispiel: nehmen wir an, eine relevante Person wurde aus einem Foto entfernt.

Variante A: Die Person wurde mit generativer KI entfernt.
Variante B: Die Person wurde von einer erfahrenen Bildbearbeiterin in Photoshop entfernt.

In beiden Fällen ist das sichtbare Ergebnis identisch. Trotzdem muss nur das Bild von Herstellungsvariante A gekennzeichnet werden, das Bild von Herstellungsvariante B hingegen nicht.

Dasselbe gilt für:

• Austausch des Hintergrundes mittels generative KI vs. klassischer Bildbearbeitung
• Ein KI-generiertes Food-Bild gegenüber einem mit Plastik, Lack und Klebstoff inszenierten Food-Foto

In allen genannten Fällen wird der Betrachter gezielt getäuscht, aber gekennzeichnet werden müssen nur die KI-generierten Bilder.

Für diese einseitige Regulierung führt die EU folgende Gründe auf:

• KI-generierte Manipulationen sind weniger aufwendig, dabei sind Fachkenntnisse kaum noch erforderlich
• Täuschungen können daher automatisiert und in grosser Zahl produziert werden

Das sind tatsächlich Risiken, denen wir gegenüberstehen. Die neuen EU-Regelungen erklären jedoch nicht, weshalb eine harmlose KI-Visualisierung gekennzeichnet werden muss, während eine identische manuelle Manipulation ungekennzeichnet bleiben kann.

Eine wirkungsorientierte Regulierung müsste stärker fragen: Täuscht dieses Bild über einen für das Publikum relevanten Sachverhalt? Und weniger: Welche Technologie wurde für die Täuschung verwendet?

Die offiziellen EU-Icons

Die EU stellt ergänzend drei Icons bereit:

1. AI-Generated
2. AI-Modified
3. ein neutrales Basissymbol

 

Die Icons sind keine gesetzlichen Prüfsiegel und somit auch kein Beweis für Rechtskonformität. Die Verwendung ist freigestellt, man kann auch eigene Icons oder eine reine Text-Auszeichnung verwenden. Wer sie verwendet, bleibt selbst dafür verantwortlich, dass die Offenlegung im konkreten Fall ausreichend ist.

Aus UX-Sicht bleiben Fragen:

• Werden die neu eingeführten Symbole ohne begleitenden Text verstanden?
• Werden die Icons auf kleinen Vorschaubildern überhaupt erkannt?
• Auf welche Grösse dürfen die Icons verkleinert werden?

Die EU-Regelungen gehen auf diese Fragestellungen leider nicht präzise ein.

Stets sichtbar, portabel und barrierefrei: ein kaum lösbarer Widerspruch

Der EU AI Act und die begleitenden Empfehlungen verfolgen mehrere Ziele gleichzeitig:

• Das Label soll beim ersten Kontakt gut erkennbar sein.
• Es soll direkt beim Inhalt erscheinen.
• Auf digitalen Devices darf in keiner responsiven Darstellung abgeschnitten oder von anderen Elementen verdeckt werden.
• Es soll beim Teilen und Herunterladen erhalten bleiben.
• Es soll für Menschen mit Behinderungen zugänglich sein.

Jede einzelne Forderung ist nachvollziehbar. In Kombination sind sie vor allem im digitalen Bereich technisch schwer umzusetzen.

Lösung 1: HTML/CSS-Kennzeichnung

Ein Label oder ein Icon wird über oder unter dem Bild ausgegeben.

Pro

• für Screenreader erfassbar
• responsive darstellbar
• mit weiteren Detailinformationen verknüpfbar

Kontra

• beim Teilen oder Herunterladen des Bildes ist die Kennzeichnung nicht mehr vorhanden

Lösung 2: Kennzeichnung in das eigentliche Bild integrieren

Das Label wird direkt in die Bilddatei eingebrannt.

Pro

• bleibt beim Teilen oder Herunterladen des Bildes erhalten
• funktioniert unabhängig vom Kontext und Medium

Kontra

• nicht barrierefrei, also nicht von Screenreader erfassbar
• bei kleiner Darstellung oder responsiven Ausschnitts-Änderungen nicht mehr erkennbar oder sichtbar
• sprachlich unflexibel (nicht automatisiert übersetzbar)

Lösung 3: Metadaten und Content Credentials

Die Information wird maschinenlesbar in der Datei gespeichert.

Pro

• automatisiert auswertbar
• bleibt beim Teilen oder Herunterladen des Bildes erhalten

Kontra

• für Menschen ist die Kennzeichnung nicht sichtbar
• kann durch Export-Konvertierungen versehentlich entfernt werden
• kann ohne geeignete Software nicht gelesen werden

Keines dieser Lösungen erfüllt alle Kriterien. Wahrscheinlich muss man alle Lösungen miteinander kombinieren. Ich bin gespannt, wie wir damit umgehen werden. Aber eines wird bereits klar: die Kennzeichnung ist kein kleiner Zusatzschritt beim Bildexport. Sie wird zu einem mehrschichtigen Publikationsprozess.

Als Anforderung für einen internationalen Medienkonzern empfinde ich das okay. Für ein KMU, einen Verein oder eine einzelne Content-Verantwortliche halte ich den dazu notwendigen Publikationsprozess unverhältnismässig aufwendig.

Beim Download erhalten – wirklich?

Und selbst wenn wir alle diese genannten Anforderungen erfüllen, können wir nicht verhindern, dass Dritte:

• das Bild zuschneiden bzw. nur einen Ausschnitt weiterverwenden und dabei das im Bild integrierte Label verschwindet
• das Label überdeckt oder weg retuschiert wird
• über einen Screenshot die maschinenlesbaren Informationen verschwinden
• durch eine Konvertierung/Komprimierung absichtlich oder unabsichtlich Metadaten entfernt werden

Die EU-Forderung nach einer dauerhaften Kennzeichnung kann deshalb technisch nicht umgesetzt werden. Realistisch ist nur: Die Kennzeichnung soll innerhalb der von der publizierenden Stelle kontrollierten Export-, Download- und Sharing-Prozesse möglichst erhalten bleiben.

Doch was passiert ausserhalb dieser Grenzen? Wer trägt die Verantwortung, wenn ein sinnvoller Bildkomprimierungsprozess alle Metadaten entfernt? Wenn ein Redaktionssystem ein Thumbnail ohne Label erzeugt?

Die vielleicht gefährlichste Nebenwirkung

Eine Kennzeichnungssystem ist NICHT nur informativer Natur. Es erzeugt auch ein mentales Modell, welches unbeabsichtigt zu einem Echtheitssiegel für alle Bilder wird, die kein Label tragen. Genau dieser Schluss ist sehr gefährlich.

Ein ungekennzeichnetes Bild kann:

• mit Nicht-KI Bildbearbeitungsmethoden manipuliert worden sein
• versehentlich oder noch nicht gekennzeichnet worden sein
• bewusst falsch deklariert worden sein
• sein Label beim Download oder Zuschneiden verloren haben
• aus einer privaten Anwendung stammen
• ausserhalb des Geltungsbereichs der EU entstanden sein
• künstlerisch inszeniert worden sein und daher als nicht kennzeichnungspflichtig eingestuft worden sein

Aus Verbraucherschutz-Sicht handelt es sich um das Phänomen «falscher Sicherheit». Dadurch wirken alle ungekennzeichneten Fälle sicherer, als sie tatsächlich sind. In Nachrichten und politischen Kontexten wäre das fatal. Ein klassisch manipuliertes Foto könnte glaubwürdiger erscheinen, nur weil ihm das KI-Symbol fehlt.

Die Regulierung will Vertrauen schaffen. Sie könnte zugleich eine neue Form von Scheinsicherheit produzieren.

Was bedeutet der EU AI Act für die Schweiz?

In der Schweiz besteht derzeit keine gesetzliche Pflicht, KI-generierten oder manipulierten Bilder zu kennzeichnen, denn die Schweiz ist kein EU-Mitglied. Auch reicht die blosse technische Abrufbarkeit einer Schweizer Website in der EU nicht aus.

Der EU AI Act kann Schweizer Unternehmen vor allem dann betreffen, wenn mindestens eines der folgenden Sachverhalte zutrifft:

• das Schweizer Unternehmen hat Distributoren, Handelspartner oder eine Niederlassung in der EU
• die Inhalte richten sich an (potenzielle) Kunden in der EU
• auf der Website werden auch Lieferungen oder Dienstleistungen in der EU angeboten

Auch hat der Bundesrat beschlossen, die KI-Konvention des Europarats in naher Zukunft umzusetzen. Eine Vernehmlassungsvorlage soll bis Ende 2026 ausgearbeitet werden. Dabei werden unter anderem Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht behandelt.

Rechtliche Risiken für Unternehmen, die sich nicht an die Kennzeichnungspflicht halten

Behördliche Sanktionen

Verstösse gegen den EU AI Act können durch zuständige europäische Behörden innerhalb der EU sehr leicht durch Bussgelder verfolgt werden. Sofern Schweizer Unternehmen keine Standorte in der EU haben, wird eine grenzüberschreitende Durchsetzung dieser Bussgelder kaum möglich sein bzw. mit zu viel Aufwand verbunden sein, so dass diese nicht verfolgt werden. Der Sitz ausserhalb der EU ist aber kein grundsätzlicher Schutz, jedoch ist es als sehr realistisch anzunehmen, dass keinem Schweizer Unternehmen ohne Standort in der EU ein Bussgeld aus der EU zugestellt wird.

Unterlassung und Beseitigung

Mitbewerber oder klageberechtigte Organisationen könnten versuchen, die weitere Verwendung der beanstandeten Inhalte zu untersagen. In der Regel wird eine Korrekturfrist eingeräumt, die Kosten für die anwaltliche Beanstandung muss das betroffene Unternehmen jedoch in jedem Fall tragen.

In manchen Fällen kann aber eine kurzfristig gestoppte Kampagne oder eine Neuproduktion für ein Unternehmen erheblich teurer sein als ein Bussgeld oder die anwaltlichen Kosten.

In Deutschland ist mit einer erheblichen Abmahnpraxis zu rechnen, in der Schweiz ist dieses Verfahren nicht üblich, da es keine Abmahnvereine gibt. Jedoch ist der Sitz in der Schweiz kein grundsätzlicher Schutz, denn zivilrechtliche Klagen können von europäischen Unternehmen auch in der Schweiz erfolgreich geführt werden.

Schadenersatz

Schadenersatz ist grundsätzlich denkbar, setzt aber normalerweise einen konkreten Schaden, Kausalität und weitere haftungsrechtliche Voraussetzungen voraus. Ein abstrakter Wettbewerbsvorteil reicht nicht automatisch.

Und das Urheberrecht?

Die neue Kennzeichnungspflicht tangiert Fragen des Urheberrechts nicht.

Die jetzige Rechtslage bezüglich KI-generierter Inhalte sieht aber so aus:

Inhalte, die weitgehend autonom durch KI erzeugt wurden (gleichgültig, ob es sich um Texte, Audio-, Video- oder Bildinhalte, wie z.B. ein Logo handelt), geniessen keinen urheberrechtlichen Schutz. Personen, die eine KI mittels eines Prompts dazu auffordern, Inhalte zu erstellen, werden nicht zu Urheberinnen oder Urhebern der resultierenden Inhalte. Das hat grundsätzlich zur Folge, dass rein KI-generierte Inhalte von jedem kopiert und erneut veröffentlicht werden dürfen.

Wird KI dagegen als Werkzeug innerhalb eines umfangreichen menschlichen Gestaltungsprozesses eingesetzt, kann die Endfassung urheberrechtlich geschützt sein. Die Grenze, ab wann in der konkreten Ausdrucksform genügend individuelle menschliche Gestaltungsentscheidungen erkennbar sind, ist jedoch unscharf und alles andere als einfach zu ziehen. Wer kann so etwas überhaupt verlässlich beurteilen? Gerichtliche Auseinandersetzungen werden menschliche Gutachterinnen und Gutachter erfordern, die in dieser stark auslegungsbedürftigen Grauzone eine Einschätzung vornehmen.

Was wir auf jeden Fall daraus mitnehmen sollten:

Bei der Annahme einer freien Nutzbarkeit ist Vorsicht geboten. KI-generierte Inhalte können durchaus urheberrechtlich geschützt sein, wenn sie nachträglich in einen eigenständigen menschlichen Gestaltungsprozess eingebunden worden sind. Es wäre daher riskant, davon auszugehen, dass ein entsprechend gekennzeichnetes Bild grundsätzlich frei genutzt werden darf.

 

Ein pragmatischer Praxis-Leitfaden

Bis die EU und wohlmöglich Gerichte die offenen Fragestellungen präzisiert haben, sollten Unternehmen vorsichtig agieren und mit einer nachvollziehbaren Prüflogik arbeiten. Nachfolgend sechs Fragen, die man sich bezüglich jedes zu veröffentlichenden Bildes stellen sollte. Wenn alle sechs Fragen mit Ja beantwortet werden, ist eine Kennzeichnung verpflichtend.

 

1. Wurde überhaupt ein KI-System eingesetzt?
2. Wurden bei einer KI-durchgeführten Bildbearbeitung erkennbare Inhalte in ihrem Ausdruck oder in ihrer materiellen Beschaffenheit verändert, wurden Elemente hinzugefügt, entfernt oder verschoben?
3. Könnten Betrachterinnen und Betrachter das Bild als Fotografie verstehen, weil es sich erkennbar auf die reale Welt bezieht?
4. Erhebt das Bild zumindest implizit einen Anspruch auf Wahrhaftigkeit? Bei Porträts realer Personen und bei Produktbildern ist davon grundsätzlich auszugehen.
5. Erfolgt die Veröffentlichung in einem gewerblichen Rahmen?
6. Richten sich die Inhalte oder das Medium in den die Inhalte veröffentlicht werden an Zielgruppen in der EU?

 

Hinweis: Die Liste stellt keine Rechtsberatung dar.

 

Mein Fazit: Transparenz mit erheblichen Nebenwirkungen

Der EU AI Act reagiert auf ein reales Problem: KI-generierte Bilder sind nicht mehr von Fotografien zu unterscheiden. Täuschend echte Bildmanipulationen können heute von beinahe jeder Person erstellt und mit geringem Aufwand verbreitet werden. In journalistischem und rechtlichem Umfeld sowie im Bildungswesen und der Wissenschaft ist eine Herkunftstransparenz mehr als sinnvoll und bringt echte Mehrwerte.

Die jetzige Umsetzung im EU AI Act bleibt dennoch unbefriedigend.

Vor allem die technische Umsetzung der Kennzeichnung von Bildern im Web wurde nicht konsequent zu Ende gedacht. Eine direkt in das Bild integrierte Kennzeichnung bleibt beim Herunterladen mit der Datei verbunden, ist aber nicht barrierefrei. Ein HTML-Label kann barrierefrei umgesetzt werden, trennt sich jedoch vom Bild, sobald dieses heruntergeladen oder separat geteilt wird.

Gerade kleinere Unternehmen stehen damit vor einer unverhältnismässigen Herausforderung. Sie müssen gleichzeitig rechtliche Anforderungen, UX, Accessibility, Bildproduktion, Metadaten und anspruchsvolle technische Publikationsprozesse beherrschen.

Besonders kritisch sehe ich die mögliche Nebenwirkung des gesamten Kennzeichnungssystems. Sobald sich die Erwartung etabliert hat, dass KI-generierte Bilder gekennzeichnet sind, kann das Fehlen eines Labels fälschlicherweise als Echtheitsbeweis interpretiert werden.

Dabei bedeutet ein fehlendes Label keineswegs, dass ein Bild fotografisch, unverändert oder wahr ist. Es kann klassisch manipuliert, falsch deklariert oder beim Teilen von seiner ursprünglichen Kennzeichnung getrennt worden sein.

Der EU AI Act erzeugt somit neue Rechtsunsicherheit, erhebliche Umsetzungsprobleme und möglicherweise eine gefährliche Form von Scheinsicherheit.

Die Regelung weist insbesondere vier grundlegende Schwächen auf:

1. Sie trennt nicht sauber zwischen dem Inhalt eines Bildes und seiner technischen Herkunft.
2. Sie behandelt Manipulationen und Täuschungen unterschiedlich, je nachdem, welche Technologie dafür verwendet wurde.
3. Zentrale Begriffe wie «ähnelt», «authentisch», «wahrheitsgemäss» oder «wesentliche Veränderung der Semantik» bleiben unklar und führen zu erheblichen Grauzonen.
4. Die neuen KI-Labels sagen im besten Fall etwas über die Herstellungsmethode eines Bildes aus – nicht darüber, ob das Bild wahr ist.

Was klarer geregelt werden müsste

Sinnvoll wären insbesondere:

• belastbare Kriterien für zulässige und kennzeichnungspflichtige Anwendungen
• verbindliche technische Standards
• barrierefreie Referenzimplementierungen
• eine klarere Verantwortungsverteilung entlang der Publikationskette
• gegebenenfalls vereinfachte Anforderungen für kleinere Unternehmen

Der EU AI Act ist somit zunächst einmal als Reaktion auf eine Technologie anzusehen, die gesellschaftlich vor allem als Bedrohung wahrgenommen wird. Denn Regulierung entsteht häufig dort, wo Unsicherheit, Kontrollverlust und öffentlicher Druck zusammentreffen.

Doch gerade deshalb sollte sie präzise und einfach umsetzbar sein.

 

Anmerkung: Dieser Beitrag gibt den Informationsstand vom Juli 2026 wieder und stellt keine Rechtsberatung dar. Die endgültigen Leitlinien der Europäischen Kommission sowie die künftige Behörden- und Gerichtspraxis können einzelne Beurteilungen weiter präzisieren oder verändern.

 

Quellenangaben:

1. https://artificialintelligenceact.eu
2. https://imagera.ai/blog/ai-image-generation-statistics-2026
3. https://www.nzz.ch/nzz-am-sonntag/report-und-debatte/wir-koennen-fotos-von-ki-bildern-nicht-mehr-unterscheiden-das-hat-folgen-ld.1915800
   https://www.watson.ch/quiz/digital/138696182-erkennst-du-die-ki-generierten-fake-fotos-hier-kannst-du-dich-testen