Kennzeichnungspflicht für KI-Bilder: Hat Bildbearbeitung noch Zukunft?

[Rico Pfirstinger]

Werbung (verschwindet nach Registrierung)

Eigentlich ist es recht simpel: Wenn ich mit Bildern oder Videos verscheißert/belogen/manipuliert werden soll, dann möchte ich das gerne erkennen können. Bzw. umgekehrt einfach alles ausblenden können, was sich der Verifizierung nicht unterwirft. Dann sehe ich auf YouTube mit einem Kreuzchen einfach nur noch Videos, die entsprechend gekennzeichnet sind und kann vielleicht sogar ganz gezielt alles ausblenden, was vollständig oder zu einem Großteil KI-generiert ist. 

Es geht einfach darum, ob man das, was bildlich gezeigt und behauptet wird, tatsächlich glauben kann. Dank KI ufert dieses Problem aktuell unfassbar aus, weil nun praktisch jeder Mensch ohne besondere Kenntnisse, ohne viel Geld und ohne großen Zeiteinsatz oder Aufwand massenhaft glaubwürdige Fälschungen erzeugen und als "Realität" verbreiten kann. Das ist neu, denn das war bisher einfach schwieriger, teurer und mühsamer – und deshalb seltener ein Problem. 

Mit Fotografie und Videografie hat das im engeren Sinne gar nicht viel zu tun, außer dass solche KI-Erzeugnisse natürlich viele Fotografen und Videografen sehr schnell arbeitslos und überflüssig machen. 

bearbeitet 14. November von Rico Pfirstinger

[mjh]

vor 2 Stunden schrieb Harlem:

So richtig der Gedanken ist, so sehr würde es mich vor einer EU Verordnung grausen, welche die Bildverarbeitung insgesamt reguliert.

Die Bildbearbeitung (nicht Bildverarbeitung – das ist etwas anderes) soll ja gar nicht reguliert werden; hier bleibt alles erlaubt. Es geht allein um Transparenz: Man soll klarstellen, ob ein Bild ein Foto ist, das die Wirklichkeit abbildet (auf eine durchaus komplexe Weise, die eine Bildverarbeitung einschließt), oder im Ganzen oder in Teilen die freie Schöpfung einer KI ist.

(Auch ein Foto ist seiner Natur nach nur eine Abbildung der Realität und nicht die Realität selbst, und es bildet die Realität auch nie in ihrer Totalität ab. Das zumindest bedarf keiner Klarstellung, weil es evident ist.)

[s.sential]

Wie soll denn die Praxis aussehen?

Sorgt entsprechende Software selbstständig dann für eine digitale Signatur? 

Meine pessimistische Sicht neint dann, dass es sicher tausend Wege und Mittel gibt die Kennzeichnung zu umgehen und es im selben Katz und Maus-Spiel endet wie jede andere Vorschrift.

[mjh]

vor 2 Minuten schrieb s.sential:

Sorgt entsprechende Software selbstständig dann für eine digitale Signatur? 

Die Software und ebenso die Hardware (also die Kamera). Bei manchen Software-Anwendungen und Kameras funktioniert das ja heute schon.

 

vor 2 Minuten schrieb s.sential:

Meine pessimistische Sicht neint dann, dass es sicher tausend Wege und Mittel gibt die Kennzeichnung zu umgehen und es im selben Katz und Maus-Spiel endet wie jede andere Vorschrift.

Wenn Du den CAI/C2PA-Standard meinst: Das digitale Signierungsverfahren, das ihm zugrunde liegt, ist ziemlich sicher. Vergleichbare Verfahren werden überall im Alltag angewandt und wenn sie unsicher sein sollten, hätten wir weit größere Probleme als das, dass jemand ein KI-Bild als Foto ausgeben könnte. 

[s.sential]

vor 16 Minuten schrieb mjh:

Die Software und ebenso die Hardware (also die Kamera). Bei manchen Software-Anwendungen und Kameras funktioniert das ja heute schon.

 

Wenn Du den CAI/C2PA-Standard meinst: Das digitale Signierungsverfahren, das ihm zugrunde liegt, ist ziemlich sicher. Vergleichbare Verfahren werden überall im Alltag angewandt und wenn sie unsicher sein sollten, hätten wir weit größere Probleme als das, dass jemand ein KI-Bild als Foto ausgeben könnte. 

Ich bin weit entfernt von Fachwissen und kann da auch nicht mit Expertise dienen. Wir gesagt, nur Pessimismus. Menschen betrügen sich wo sie nur können, besonders wenn es ums Geld geht und das Kleingedruckte immer umfangreicher und kleiner wird.

 

Dass es funktionierende Wege und Mittel gibt glaube ich gerne, aber wären Menschen nicht auf Schlupflöcher, Eigennutz, usw. getrimmt hätten wir eine Welt voller Fairness, Nahrung, Gesundheit, Wohlstand, Sicherheit und Frieden für jeden Menschen.

[Harlem]

vor einer Stunde schrieb mjh:

Die Bildbearbeitung (nicht Bildverarbeitung – das ist etwas anderes) soll ja gar nicht reguliert werden; hier bleibt alles erlaubt. 

Bitte entschuldige meine sprachliche Ungenauigkeit, ich meinte auch die Bildbearbeitung.

vor einer Stunde schrieb mjh:

Es geht allein um Transparenz: Man soll klarstellen, ob ein Bild ein Foto ist, das die Wirklichkeit abbildet (auf eine durchaus komplexe Weise, die eine Bildverarbeitung einschließt), oder im Ganzen oder in Teilen die freie Schöpfung einer KI ist.

Und genau da fangen die Abgrenzungsprobleme an. Ich kenne Gesetzgebungsverfahren und weiß aus leidvoller Erfahrung, an welchen Stellen die Diskussionen dann ausfransen. Ich verwette meinen A*** darauf, dass irgendeiner dann ankommt und darauf hinweist, dass die Farben bei einem Bayer-Sensor immer Ergebnis einer Bildverarbeitung sind, und wenn dann KI ins Spiel kommt ... Oder erst das Entrauschen...

Du brauchst mich jetzt nicht darauf hinzuweisen, dass das Haarspalterei ist, das weiß ich. Aber wie gesagt, ich kenne solche Diskussionen aus leidvoller Erfahrung. Mein Vertrauen in eine kompetente Legislative ist bei solchen Sachen sehr begrenzt. Lieber keine Regulierung, als gut gemeinte.

[Schlonzbronz]

Werbung (verschwindet nach Registrierung)

vor 3 Stunden schrieb Harlem:

Mein Vertrauen in eine kompetente Legislative ist bei solchen Sachen sehr begrenzt. Lieber keine Regulierung, als gut gemeinte.

Mein vertrauen ist da auch nur begrenzt. Aber ist den der Umstand das sich in einem von 100.000 Fällen Juristen mit Spitzfindigkeiten traktieren nicht egal?

Es kommt doch darauf an Regularien die einen hohen Grundkonsens der Mehrheit finden als Richtschnur festzulegen. Ich möchte nicht getäuscht werden und auch keinen anderen täuschen. Dazu braucht es niedergelegte Regeln.

Und Diejenigen die täuschen wollen sollen wissen das es juristische Konsequenzen hat wenn Sie täuschen. Das einige sich da juristisch herauswinden werden ist ja bei jedem Rechtssachverhalt gegeben. Deshalb kann man nicht grundsätzlich auf Rechtsnormen verzichten. 

[Tommy43]

Warum so schwarz sehen und sich dann darüber aufregen? Es geht im irreführende inhaltliche Veränderungen am Bild durch KI, die ins Persönlichkeitsrecht eingreifen, nicht um Entrauschen oder whatever. Siehe auch #102 von @Mike_Puc. Da gibts auch einen Link zum Gesetztestext.
Zudem ist das Gesetz in erster Linie ein Gesetz zu unserem Schutz gegenüber dem Missbrauch von KI. Und das kann gar nicht früh genug kommen. Um Bilder geht’s da nur peripher.

 

[ntinti]

Am 11.11.2025 um 23:22 schrieb stmst2011:

Ich finde das alles viel zu kompliziert. Ich will einfach fotografieren und meine Fotos so bearbeiten, wie ich es möchte..mit und ohne KI. Und keiner soll mir dabei was vorschreiben oder verbieten. 

Gustav

Verbietet ja auch niemand wenn Du den von dir fotografierten Himmel löscht und gegen einen schicken Sonnenuntergang tauscht oder aus einer Meise einen Eisvogel werden lässt. Sollst Du dann nur entsprechend kennzeichnen und niemanden ein X für ein U vormachen.

[Ronny1976]

vor 6 Stunden schrieb ntinti:

Verbietet ja auch niemand wenn Du den von dir fotografierten Himmel löscht und gegen einen schicken Sonnenuntergang tauscht oder aus einer Meise einen Eisvogel werden lässt. Sollst Du dann nur entsprechend kennzeichnen und niemanden ein X für ein U vormachen.

Warum? (So lange man dieses Bild nicht als dokumentarisch ausgibt, gilt für mich Kunstfreiheit)

Wurde noch nie in der Geschichte gemacht. Und dazu braucht man nicht mal EBV mit oder ohne Intellenz. Schau dir mal das unbeschnittene Original vom "Napalm-Girl" an. Und was veröffentlicht wurde und wir als ikonisch kennen.

Die Geschichte der Fotografie ist eher eine Geschichte der Bearbeitung als eine der Dokumentation. Das war schon immer so und ist es heute auch. Was viele verlernt haben ist: sich nicht auf Bilder bzw Videos zu verlassen sondern diese anderweitig zu verifizieren. BEVOR man sich eine Meinung zu einem Thema bildet...

[A. Garcia]

vor 2 Stunden schrieb Ronny1976:

Warum? (So lange man dieses Bild nicht als dokumentarisch ausgibt, gilt für mich Kunstfreiheit)

Durch eine Kennzeichnungspflicht wird Kunstfreiheit ja nicht beschnitten. Eher im Gegenteil. Das Wissen darum ob KI im Spiel war, könnte dabei helfen “künstlerische“ Arbeiten vorab besser einzuordnen …

[s.sential]

Kunstfreiheit 

 

Es ist wohl dieses "Kunst kommt von Können" was man bei KI-generierten Inhalten dann doch in Frage stellt.

Vielleicht ein bisschen vergleichbar mit der Diskussion um Musik mit handgespielten Instrumenten und mit Sequencern und Synthesizern programmierte Musik oder aus Samples zusammengesetzte Musik. Wobei bei ich da bei allen dreien auch auf jede Art eine hohe Kunstfertigkeit entdecken kann (Daft Punks Sample-Orgien sind da ja wirklich Meisterwerke).

Die Übergänge sind fließend, klar.

[forensurfer]

Ich halte die Kennzeichnung grundsätzlich für sinnvoll! Die Technologie ist in der Welt, egal ob segensreich eingesetzt oder manipulierend!

Auch bei meinen Bildern kann ich künftig dazu schreiben: Kann Spuren von KI enthalten.

 

Wenn wir dieses Erfordernis ausblenden, folgt unweigerlich die komplette Infragestellung jeglichen Bildmaterials und das würde auch uns als Fotografen nicht entgegenkommen, oder?

[Rico Pfirstinger]

Als Milli-Vanilli auf der Bühne nur so getan haben, als würden sie singen, war das noch ein großer Skandal. Heute würden sie auch die Musik von einer KI komponieren lassen und als ihre eigene ausgeben. Das wäre aber total okay, weil: Kunstfreiheit! 🤷‍♂️ Ist doch egal, woher die Musik kommt. Oder der Roman. Das Drehbuch. Der künstliche Fotohimmel. Oder irgendwie alles, was in dem "Foto" oder "Film" passiert und zu sehen ist. Kunstfreiheit, Baby! Und wehe, jemand wagt es, mir vorzuschreiben, das offenzulegen! Was erlauben, KUUNST!? 🤪

 

 

bearbeitet 15. November von Rico Pfirstinger

[Taloan]

Andreas Gursky, einer der mMn am weitesten überschätzten "Fotografen" unserer Zeit, murkst an jedem seiner "Kunstwerke" rum.
Den Rhein gibt es nicht so steril, wie in Rhein II dargestellt, oder auch die Umkleiden der Bergleute beinhalten längst nicht so viele Schutzanzüge, wie bei ihm zu sehen, sondern wurden digital vervielfacht usw. Trotzdem scheinen seine "Kunstwerke" viele Menschen zu faszinieren.

Wenn also zB jemand mit der LR Funktion "Menschen entfernen" für ein steriles Bild sorgt, kann das Ergebnis wohl faszinierend aussehen, aber es ist dann eben ein Kunstwerk und kein reales Foto mehr. Das gilt aber auch schon für entfernte Mülleimer o.ä., also alles das, was man seit Jahren in der Bildbearbeitung macht.

Für mich wäre deshalb der umgekehrte Ansatz sinnvoll:

Fotos, egal ob durch KI oder wie auch immer, inhaltlich verändert zugefügt, entfernt, erstellt (also ausser Zuschnitt usw), sollten markiert werden müssen, weil sie dann kein Abbild der Wirklichkeit mehr sind.

 

bearbeitet 15. November von Taloan

[stmst2011]

vor 9 Stunden schrieb ntinti:

Sollst Du dann nur entsprechend kennzeichnen und niemanden ein X für ein U vormachen.

Na, dann bin ich ja beruhigt.🤨

Gustav

[Harlem]

vor 15 Stunden schrieb Schlonzbronz:

[...] Aber ist den der Umstand das sich in einem von 100.000 Fällen Juristen mit Spitzfindigkeiten traktieren nicht egal? [...]

In diesem Falle eindeutig ja.

Als Privatperson halte ich das Risiko von Abmahnanwälten für sehr überschaubar, mehr noch: Meist ist es schlechte oder überzogene Regulierung, die dieser Zunft erst die Möglichkeiten für ihr zweifelhaftes Geschäft schafft. Als Betrieber eines Blogs bekomme ich hin und wieder kostenbewehrte Post von Anwälten. Das skurrilste war bisher eine Markenangelegenheit, wo man mir die redaktionelle Nutzung des Begriffes "Waldgefühl" untersagen wollte, weil dieses eine eingetragene Marke ist.

Bisher habe ich nie Geld bezahlt. Ein schneidiger Brief - eine Kopie immer an die zuständige Rechtsanwaltskammer und Staatsanwaltschaft - hat bislang immer geholfen.

[Dare mo]

vor 2 Stunden schrieb Ronny1976:

Die Geschichte der Fotografie ist eher eine Geschichte der Bearbeitung als eine der Dokumentation. Das war schon immer so und ist es heute auch. Was viele verlernt haben ist: sich nicht auf Bilder bzw Videos zu verlassen sondern diese anderweitig zu verifizieren. BEVOR man sich eine Meinung zu einem Thema bildet...

Das ist schon richtig, aber mit KI ist inzwischen ein neues Level erreicht, wo es fast nicht mehr möglich ist, Wahrheit von Fake zu unterscheiden. Und es geht bei der Diskussion ja auch darum, dass die KI dazu missbraucht wird, etwas zu erzeugen, das gar nicht existiert oder so von Personen gar nicht geäußert wurde und das als Realität zu verkaufen. Also bewusst Ansichten, Aussagen und Realitäten zu manipulieren. Ein gutes Beispiel sind Deepfakes. Eins der ersten Videos, was für Aufsehen sorgte, war vom ehemaligen Präsidenten Obama. Das ist inzwischen auch schon 8 Jahre her und KI ist inzwischen zu viel mehr fähig.

Das hat nichts mit Kunstfreiheit oder Dokumentation zu tun, sondern wer KI für solche Zwecke benutzt, will damit andere Leute täuschen und sie in seinem Sinne manipulieren. Selbes gilt natürlich für Bilder. 

Hallo, lieber Besucher! Als Forumsmitglied (kostet nix) würdest du hier ein Bild sehen…

Einfach hier registrieren – Wir freuen uns immer über neue Mitglieder!

 

Quelle: https://www.hna.de/politik/die-gefahren-von-ki-generierten-bildern-und-woran-man-sie-erkennt-92203737.html

Ein "tolles" Beispiel ist ein durch KI erzeugtes Bild, welches der AfD-Politiker Norbert Kleinwächter auf seinem Instagram Account benutzt hat. Hier wird KI einzig und allein zu Propagandazwecken verwendet, das sollte nicht als Kunst oder Dokumention oder Meinungsfreiheit zulässig sein, sondern als künstlich generiertes Bild gekennzeichnet sein. Denn die technischen Möglichkeiten wachsen rasant und was heute vielleicht noch unter Umständen als Fake erkennbar ist, ist es morgen schon bald nicht mehr? Daher macht es schon Sinn, eine Kennzeichnungspflicht einzuführen.

Keine Frage, KI kann nützlich bei der Bildbearbeitung sein und viele nutzen sie als Werkzeug. Aber leider bietet sie auch andere Möglichkeiten und das sollte gekennzeichnet werden. Niemand wird etwas gegen ein Entrauschen eines Bildes mithilfe einer KI sagen, aber wenn es um Manipulationen geht, die den Bildinhalt und die Bildaussage maßgeblich verändern, sollte deutlich gemacht werden. Denn die bisherigen Möglichkeiten, solche Veränderungen zu erkennen werden immer schwieriger und darum können wir bei der KI nicht die "alten" Maßstäbe mit Kunstfreiheit oder Dokumentation anwenden. Das ist meine Meinung dazu.

[s.sential]

vor 30 Minuten schrieb Rico Pfirstinger:

Als Milli-Vanilli auf der Bühne nur so getan haben, als würden sie singen, war das noch ein großer Skandal. Heute würden sie auch die Musik von einer KI komponieren lassen und als ihre eigene ausgeben. Das wäre aber total okay, weil: Kunstfreiheit! 🤷‍♂️ Ist doch egal, woher die Musik kommt. Oder der Roman. Das Drehbuch. Der künstliche Fotohimmel. Oder irgendwie alles, was in dem "Foto" oder "Film" passiert und zu sehen ist. Kunstfreiheit, Baby! Und wehe, jemand wagt es, mir vorzuschreiben, das offen zu legen! Was erlauben, KUUNST!? 🤪

 

 

Ich finde das durchaus bedenklich. Auch die Bestrebungen zB Synchronisationen auch im Kinobereich mit KI zu generieren. Der Mensch stellt sich ja bei vielem als einziges Lebewesen heraus, was unnatürlich handelt.

Mit KI schafft mensch sich dann sogar selbst ab und das kann ich nicht nachvollziehen. Erlebe das gerade auch im beruflichen Kontext, dass eine KI zwar ein super Werkzeug für unsere Arbeit wäre, aber unsere Führungsriege darin nur die Chance sieht Personal zu sparen.

[Harlem]

vor 30 Minuten schrieb s.sential:

Erlebe das gerade auch im beruflichen Kontext, dass eine KI zwar ein super Werkzeug für unsere Arbeit wäre, aber unsere Führungsriege darin nur die Chance sieht Personal zu sparen.

Dass besseres Werkzeug zur Rationalisierung von Zeit, Material und Personal führt, ist ja nun wahrlich keine Neuigkeit.

[BoberMag]

stellt sich doch die Frage ob man sich dem ganzen überhaupt entziehen kann. Meiner Meinung nach nicht. Der Fortschritt ist losgetreten und man hofft noch darauf dass es nicht so kommt wie man es befürchtet, aber genau so wird es dann eben sein. 

So sehe ich eine Zukunft in der man glaube kann was man will weil man für alles "belege" finden wird. die dann auch noch so gut gefälscht sind dass es nicht mehr zu unterscheiden ist... der gesunde Menschenverstand wird also wieder wichtig werden, nur leider ist dieser im kollektiv nicht sonderlich ausgeprägt. 

 

[mjh]

vor 7 Stunden schrieb Ronny1976:

So lange man dieses Bild nicht als dokumentarisch ausgibt, gilt für mich Kunstfreiheit

Und die Kunstfreiheit soll, wie hier schon mehrfach erklärt, in keiner Weise eingeschränkt werden. Steht auch ausdrücklich so in der EU-Verordnung drin. Man soll nur klarstellen, um was es sich bei einem Bild handelt, und nicht in einem Kontext, in dem Fotos präsentiert werden, eine KI-Kreation hinein schmuggeln. 

[mjh]

vor 7 Stunden schrieb Ronny1976:

Schau dir mal das unbeschnittene Original vom "Napalm-Girl" an. Und was veröffentlicht wurde und wir als ikonisch kennen.

Ein schlechtes Beispiel, da der Beschnitt in diesem Fall völlig harmlos ist. Als vor zehn Jahren zu genau diesem Fall eine Sau durchs Dorf getrieben wurde, hatte ich das schon mal kommentiert: https://www.docma.info/blog/beschnitt-manipulation. (Neuerdings wird Nick Uts Urheberschaft in Zweifel gezogen – unberechtigterweise, wie ich meine –, aber das ist ein anderes Thema.)

[s.sential]

vor 16 Minuten schrieb mjh:

Ein schlechtes Beispiel, da der Beschnitt in diesem Fall völlig harmlos ist. Als vor zehn Jahren zu genau diesem Fall eine Sau durchs Dorf getrieben wurde, hatte ich das schon mal kommentiert: https://www.docma.info/blog/beschnitt-manipulation. (Neuerdings wird Nick Uts Urheberschaft in Zweifel gezogen – unberechtigterweise, wie ich meine –, aber das ist ein anderes Thema.)

Naja, ganz harmlos auch nicht

 

Hallo, lieber Besucher! Als Forumsmitglied (kostet nix) würdest du hier ein Bild sehen…

Einfach hier registrieren – Wir freuen uns immer über neue Mitglieder!

[mjh]

vor 56 Minuten schrieb s.sential:

Naja, ganz harmlos auch nicht

Siehe meinen Kommentar.

Die Quelle Deines Zitats hättest Du ruhig angeben können: https://zeithistorische-forschungen.de/2-2005/id=4632

bearbeitet 15. November von mjh

[Dein Support für das Forum]

Hat dir das Forum geholfen? So kannst du das Forum unterstützen!

Premium Mitglied werden | Spenden | Bei Amazon* oder eBay* kaufen
Software: Topaz* | DxO Nik Collection* | Skylum Luminar* (–10€ mit Gutschein FXF) | * Affiliate Links