Digitale Wasserzeichen : Bilder und Audios: Wie KI-Inhalte künftig schnell enttarnt werden sollen
Es ist ein Wasserzeichen, das einen der wegweisenden Rechtsstreits im Bereich der Künstlichen Intelligenz (KI) auslöste. Gefunden hat die eigene Markierung die US-Fotoagentur Getty Images. Aber eben nicht auf eigenen Bildern, sondern auf einem, das der KI-Bildgenerator Stable Diffusion erzeugte. Getty nahm den Fund zum Anlass, um Stability AI, das Unternehmen hinter Stable Diffusion, zu verklagen. Mehr als zwölf Millionen Bilder, so der Vorwurf, seien der Getty-Datenbank entnommen worden, um die KI-Modelle hinter dem Generator zu trainieren. „Ohne Erlaubnis“, wie Getty betont und damit ähnlich argumentiert wie die New York Times, die OpenAI, Erfinder des Chatbots ChatGPT, klagte. Auch hierbei wird eine mögliche Verletzung von Urheberrechten thematisiert.
Wasserzeichen gewinnen aber nicht nur im Zusammenhang mit dem daten- und rechenintensiven Training der größten KI-Modelle enorm an Relevanz. Auch, wenn es um Bilder oder Audios geht, die von KI erzeugt werden, steigt die Bedeutung der Kenntlichmachung immens an. Der Grund ist schnell erklärt: Die KI-Generatoren werden rasant besser, der Unterschied zwischen Realität und Fiktion verschwimmt. Verbunden mit den Netzwerkeffekten von Social Media entsteht so ein gefährliches, rasch skalierbares Gemisch. Fruchtbarer Boden für Falschinformationen.
C2PA: „Scheint sich durchzusetzen“
Das bringt, vor allem in einem Superwahljahr, die KI-Firmen unter Druck. Meta etwa, Mutter von Facebook oder Instagram, kündigte nicht zuletzt nach vehementen Zurufen der US-Politik an, schon bald sämtliche KI-Bilder auf seinen Plattformen als solche zu kennzeichnen.
Zugleich führt eine bemerkenswerte Initiative Kontrahenten wie die Times und OpenAI wieder zusammen. Sie nennt sich Content Authenticity Initiative (CAI) und wurde von Adobe, Microsoft oder eben der New York Times ins Leben gerufen. OpenAI unterstützt sie ebenso wie Google. Die Initiative wiederum steht hinter dem offenen Standard C2PA.
Dieser erfasst den „Ursprung, sowie jede Bearbeitung eines Bildes und speichert es in den Metadaten“, erklärt Florian Hasibar, Mitgründer von mytalents.ai, einer Lernplattform, die sich mit dem Einsatz von generativer KI im Arbeitsalltag beschäftigt.
„C2PA scheint sich durchzusetzen“, befindet der KI-Experte. Auch, weil selbst Kameraherstellern wie Leica oder Canon den Standard verwenden. „Gekennzeichnet“ werden mit C2PA also nicht nur synthetische Bilder, sondern auch „echte“ Fotos. Konzerne wie Meta gehen sogar noch weiter und versprechen Tools, die KI-generierte Bilder entdecken, selbst wenn Metadaten geändert wurden.
SynthID: Nur für Technologie sichtbar
Suchmaschinen-Riese Google tüftelt indes intensiv an einer anderen Technologie für die nachvollziehbare Kennzeichnung von KI-Inhalten. Konkret arbeitet das Team von DeepMind an einer SynthID. Diese verspricht Zweierlei. Einerseits sollen damit KI-generierte Bilder erkannt werden, andererseits wirkt sie selbst schon in der Entstehung von Bildern – zumindest, wenn Google-Generatoren wie Imagen verwendet werden.
SynthID greift dabei direkt auf die Pixelstruktur der Bilder zu und webt dort die Wasserzeichen ein. So, dass sie für das menschliche Auge unsichtbar sind, von Technologie aber gut erkannt werden. Was freilich zugleich bedeutet, dass die Nutzerinnen und Nutzer Zugriff auf die Erkennungssoftware benötigen.
SynthID, so verspricht es Google, würde jedenfalls weder die Bildqualität beeinträchtigen, noch durch eine Bearbeitung der Bilder verschwinden. Dass der Konzern von der Technologie überzeugt ist – auch wenn sie nicht vor „extremer Manipulation“ gefeit sei –, zeigt auch die Tatsache, dass SynthID mittlerweile selbst bei Audiodateien eingesetzt wird. Die Technik ist adaptiert, das Prinzip bleibt dasselbe: Während das menschliche Ohr die Kennzeichnung nicht wahrnimmt, ist technologisch schnell erkennbar, dass die Audios KI-generiert sind.
AI Classifier: Probleme bei Detektor
In der Erkennung schlummern übrigens weiter die größten Herausforderungen. OpenAI etwa musste jüngst den hauseigenen AI Classifier wieder zurückziehen. Das Tool sollte längere, von KI geschriebene, Texte erkennen. Tat das aber mehr schlecht als recht und wurde deswegen still und heimlich wieder offline genommen. Der einstigen Ankündigung hat OpenAI lediglich einen Absatz vorangestellt. Der lautet: „Wir erforschen derzeit effektivere Techniken zur Ursprungserkennung von Text“.
News Related
-
Die Greenpeace-Untersuchung in Österreichs Supermarkt-Regalen ergab bei über 90 Prozent des Angebots Minimalstandard-Einhaltung. NGO tritt für die Umsetzung der Tierhaltungskennzeichnung ein. Wien – „Erschreckend” ist das Resultat des abschließenden Markt-Checks 2023 von Greenpeace, der sich den Lebensbedingungen von Schweinen widmete, bevor sie ihren partiellen Weg in die österreichischen Supermarkt-Regale gefunden ...
See Details:
Schweinefleisch im Marktcheck: „Da vergeht einem der Appetit auf Schnitzel"
-
Neue Regierung will Rauchverbot in Neuseeland kippen Neuseelands neue Regierung ist gerade erst im Amt und hat schon für einen Aufschrei unter Gesundheitsexperten gesorgt: Kurz nach seiner Vereidigung am Montag kündigte der konservative Ministerpräsident Christopher Luxon an, Teile der drastischen Anti-Tabak-Gesetze der linken Vorgängerregierung kippen zu wollen. Mit dem Schritt ...
See Details:
Neue Regierung will Rauchverbot in Neuseeland kippen
-
“Erschreckend” ist das Resultat des abschließenden Markt-Checks 2023 von Greenpeace, der sich den Lebensbedingungen von Schweinen widmete, bevor sie ihren partiellen Weg in die österreichischen Supermarkt-Regale gefunden haben. “Über 90 Prozent des dort platzierten Schweinefleisches erfüllt nach wie vor nur die minimalen gesetzlichen Standards”, so die Umweltschutzorganisation. Das bedeutet eine ...
See Details:
Schweinefleisch ohne Tierwohl bleibt in Österreich die Norm
-
Dieses Wort darf die Nanny von William und Kate nicht sagen Getty Images Einmal im royalen Haushalt von William und Kate Mäuschen spielen – das wollen wir doch alle gerne. Mit eigenen Augen sehen, ob der Prinz und die Prinzessin von Wales auch privat so glamourös und nahbar sind, wie ...
See Details:
Dieses Wort darf die Nanny von William und Kate nicht sagen
-
Photo: Shutterstock.com Der anhaltende Konflikt in der Ukraine hat laut dem britischen Verteidigungsministerium einen neuen und düsteren Höhepunkt erreicht. In einem kürzlich veröffentlichten Bericht enthüllte das Ministerium, dass die ukrainischen Streitkräfte die höchsten täglichen Verlustzahlen bei russischen Truppen seit Beginn des Konflikts verursacht haben. Der Bericht des Ministeriums, veröffentlicht auf ...
See Details:
Schlechte Nachrichten für Russland
-
Ronald Araujo Bayerns Sportdirektor Christoph Freund verlautbarte, dass der FC Bayern im Winter Ausschau nach einem Spieler hält, der innen und rechts außen verteidigen kann. Laut „Sky“ haben die Münchner auch schon den perfekten Kicker im Visier. Konkret soll es um Ronald Araujo gehen. Seit 2020 steht der 24-Jährige beim ...
See Details:
Freund will Barcelona-Kicker zu den Bayern lotsen
-
Streik gegen Tesla | Tesla klagt Schweden: Es geht um Millionen und einen Tarifvertrag Tesla will sich gerichtlich gegen eine Streikbewegung in Schweden wehren. Der US-Autobauer reichte am Montag zwei Klagen gegen den schwedischen Staat ein. Im Zentrum steht die schwedische Verkehrsbehörde, die die Kennzeichen für neue Fahrzeuge per Post ...
See Details:
Streik gegen Tesla | Tesla klagt Schweden: Es geht um Millionen und einen Tarifvertrag
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Säle des Pariser Louvres nach Wasserschäden geschlossen
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Stillgestanden! Neue Kampfstiefel um 4,8 Millionen Euro
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Deutschland-Pleite | Sind die Inseln Rügen und Sylt bald auf „Willhaben“ zu finden?
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Eine echt schlagstarke Fortsetzung
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
EU-Austritt: Träumen die Ungarn vom Huxit?
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Neues Budget: Putin füllt seine Kriegskasse
-
Säle des Pariser Louvres nach Wasserschäden geschlossen Wegen Wasserschäden im Pariser Louvre bleiben bis auf weiteres mehrere Säle geschlossen, wie das Museum am Montag der dpa bestätigte. Wegen des Rohrbruchs Mitte November hatte das Weltmuseum den “Salle de la Chapelle” schließen müssen, in dem der erste Teil der Ausstellung “Neapel ...
See Details:
Überraschender Fund im Wald nahe einem Militärgelände in Rumänien
OTHER NEWS
Fix! Diese Personen bekommen bald mehr Geld aufs Konto In der dritten Runde der Kollektivvertragsverhandlungen in der Sozialwirtschaft ist in der Nacht eine Einigung erzielt worden. Das sind die Details. ...
Read more »
++ THEMENBILD ++ PFLEGE / KRANKENPFLEGE / PFLEGEREGRESS / ALTENPFLEGE / GESUNDHEIT Einen Durchbruch hatte die dritte Runde der Kollektivvertragsverhandlungen für die Beschäftigten im privaten Pflege-, Gesundheits- und Sozialbereich (“Sozialwirtschaft Österreich”) ...
Read more »
Red Bull Salzburg hat am Mittwoch ein schwieriges Auswärtsspiel bei Gruppenleader Real Sociedad zu bestreiten. Die Mozartstädter denken vor der Begegnung aber nicht an die Tabellenkonstellation. Gerhard Struber ruft dazu ...
Read more »
Alien-Kugel Die mysteriöse Metallkugel mit einem Durchmesser von etwa 1,5 Metern hat im Internet für heftige Spekulationen gesorgt. Die Polizei und die Anwohner einer japanischen Küstenstadt stehen vor einem Rätsel: ...
Read more »
Das Land Salzburg hat festgestellt, dass allein das kürzlich aufgehobene flexible Tempolimit 100 (IG-L Tempolimit) auf der Tauernautobahn (A10) den Stickoxidausstoß beim Pkw-Verkehr um 19 Prozent reduzierte. 2022 sind bei ...
Read more »
„Wäre besser für uns, stärkere Gegner zu bekommen“ Nach der erfolgreichen EM-Qualifikation und dem souveränen Auftritt gegen Deutschland hängen die Trauben in Österreich hoch. Bereits am Samstag wird darüber entschieden, ...
Read more »
Verteidiger Josko Gvardiol von Champions-League-Sieger Manchester City geht die Partie gegen seinen Ex-Klub RB Leipzig mit vollem Fokus an. Gvardiol freut sich auf RB-Duell Verteidiger Josko Gvardiol vom Champions-League-Sieger Manchester ...
Read more »