Ich hab‘ schon öfter über die C2PA geschrieben – das derzeit beste System zum Schützen von Echtheitsnachweisen. Journalisten nutzen dies bspw., um die Echtheit ihrer Bilder bereits im Kamerasensor zu zertifizieren.
Alle großen Player sind an Bord und schaffen es mittlerweile, derartige Echtheits-Informationen über die gesamte Bearbeitungskette zu sichern (nennt sich dann „glass-to-glass“) also von der Kameralinse bis zum TV-Screen oder bis zum Monitor, auf dem Sie sich ein Bild oder Video ansehen.
Sehr coole Sache und in Zeiten der digitalen Überflutung unfassbar wichtig!
Aber – und für mich ist das ein großes „Aber“: auch KI-Anbieter nutzen mittlerweile denselben Mechanismus, um ihre generierten Bilder als „echt KI-generiert“ zu kennzeichnen.
Der Hintergrund dafür sind zwei Dinge:
1) die KI-Verordnung verpflichtet die Anbieter zur Kennzeichnung (gute Sache das)
2) KI-generierter Müll (sorry for that) sollte besser nicht für das Training der nächsten KI-Modelle verwendet werden – sonst wird aus generativer KI schnell die degenerative KI.
Was nun also erst mal gut klingt, hat einen großen Haken: man hat hier vergessen, die Nutzer „mitzunehmen“. Das C2PA-Symbol (ein kleines CR, das bspw. auch LinkedIn anzeigt) ist nämlich in beiden Fällen dasselbe und besagt lediglich, dass irgendwelche Echtheitsinformationen vorhanden sind.
D.h. die Nutzer sehen ein CR-Symbol und bekommen den Eindruck, „ui schau guck, das ist ja wirklich echt“. Erst, wenn man drauf klickt und sich die Details ansieht, stellt man dann fest – „oh, das ist ja echt KI-generiert“.
Aber Hand auf’s Herz – wer sieht sich die Details wirklich an?
Wir haben hier aus meiner Sicht kein technisches Problem, sondern ein Informations-Visualisierungs-Thema for der Brust! Und etwas, das wir Nutzern auch erst mal erklären müssen!
Ich wünsche mir zumindest drei verschiedene Symbole oder Farben, die Nutzer auf den ersten Blick richtig einordnen können:
1) echte Szene und mit einer echten Kamera aufgenommen
2) Echte Szene, aber relevante Überarbeitungen / Retusche > Vorsicht
3) vollständig KI-generiert
Ich denke, damit könnte man für sehr viel Sicherheit, Verlässlichkeit und Akzeptanz sorgen.
… sonst gucken wir demnächst alle etwas verwirrt auf unsere Bildschirme…
Hashtag#informatikersindcool Hashtag#echtheitistdasneueasset Hashtag#guckstdu
P.S.: ich schreibe das nicht nur auf LinkedIn, sondern bin mit verschiedenen C2PA-Mitgliedern in Kontakt, um solche Lösungen prototypisch umzusetzen und diesbezüglich für Aufmerksamkeit zu sorgen. „Machen“ ist unterm Strich immer ne gute Option.
