Niemand ist darauf vorbereitet

Unsere grundlegenden Annahmen, dass Fotos, die Realität abbilden, sind dabei, sich in Luft aufzulösen.

Eine Explosion an der Seite eines alten Backsteingebäudes. Ein gestürztes Fahrrad an einer Straßenkreuzung. Eine Kakerlake in einem Imbisskarton. Es hat weniger als 10 Sekunden gedauert, jedes dieser Bilder mit dem Reimagine-Tool im Magic Editor des Pixel 9 zu erstellen. Sie sind gestochen scharf. Sie sind farblich abgestimmt. Sie sind naturgetreu. Es gibt keine verdächtige Hintergrundunschärfe, keinen verräterischen sechsten Finger. Diese Fotos sind außerordentlich überzeugend, und sie sind alle extrem gefälscht.

Quelle: Sarah Jeong, The Verge, 22. August 2024

Jeder, der ein Pixel 9 kauft – das neueste Modell des Google-Flaggschiffs, das ab dieser Woche erhältlich ist – wird Zugriff auf die einfachste und leichteste Benutzeroberfläche für Täuschungen der Spitzenklasse haben, die direkt in sein Mobilgerät integriert ist. Es ist so gut wie sicher, dass dies zur Norm wird, denn ähnliche Funktionen sind bereits auf Geräten von Mitbewerbern verfügbar und werden in naher Zukunft auch auf anderen Geräten eingeführt. Wenn ein Smartphone „einfach funktioniert“, ist das in der Regel eine gute Sache; in diesem Fall liegt dort überhaupt das ganze Problem.

Seitdem es sie gibt, wird die Fotografie zur Täuschung eingesetzt. (Man denke nur an die viktorianischen Geisterfotos, das berüchtigte Foto des Ungeheuers von Loch Ness oder Stalins fotografische Säuberungen von einem, in der realen Welt, eliminierten Kameraden). Aber es wäre unaufrichtig zu behaupten, dass Fotos noch nie als verlässliche Beweise galten. Jeder, der diesen Artikel im Jahr 2024 liest, ist in einer Zeit aufgewachsen, in der ein Foto standardmäßig eine Darstellung der Wahrheit war. Eine inszenierte Szene mit Filmeffekten, eine digitale Fotomanipulation oder in jüngerer Zeit ein Deepfake – das waren potenzielle Täuschungen, die man in Betracht ziehen musste, aber sie waren Ausreißer im Bereich des Möglichen. Es bedurfte spezieller Kenntnisse und spezieller Werkzeuge, um das intuitive Vertrauen in ein Foto zu sabotieren. Fälschungen waren die Ausnahme, nicht die Regel.

Wenn ich “ Platz des Himmlischen Friedens“ sage, haben Sie höchstwahrscheinlich das gleiche Bild vor Augen wie ich. Das gilt auch für Abu Ghraib oder das Napalm-Mädchen. Diese Bilder haben Kriege und Revolutionen bestimmt; sie haben die Wahrheit in einem Maße verkörpert, die sich anders nicht vollständig ausdrücken lässt. Es gab keinen Grund extra zu erklären, warum diese Fotos wichtig sind, warum sie so entscheidend sind, warum wir ihnen so viel Wert beimessen. Unser Vertrauen in die Fotografie war so groß, dass wir, wenn wir über die Wahrhaftigkeit von Bildern diskutierten, lieber darauf hinwiesen, dass Fotos manchmal auch gefälscht sein können.

Dies wird sich nun ändern – die Standardannahme über ein Foto wird nun sein, dass es gefälscht ist, weil es nun trivial ist, realistische und glaubwürdige gefälschte Fotos zu erstellen. Auf das, was danach kommt, sind wir nicht vorbereitet.

Ein echtes Foto von einem Bach.

Bearbeitet mit dem Magic Editor von Google.

Ein echtes Foto einer Person in einem Wohnzimmer (mit unkenntlich gemachtem Gesicht).

Bearbeitet mit Googles Magic Editor.

Niemand auf der Erde hat bisher in einer Welt gelebt, in der Fotos nicht der Dreh- und Angelpunkt des gesellschaftlichen Konsenses waren – solange es uns gibt, beweisen Fotos, dass etwas passiert ist. Überlegen Sie einmal, auf welche Weise die vermeintliche Wahrhaftigkeit eines Fotos in der Vergangenheit die Wahrheit Ihrer Erfahrungen bestätigt hat. Die bereits vorhandene Delle im Kotflügel Ihres Mietwagens. Das Leck in Ihrer Decke. Die Ankunft eines Pakets. Eine tatsächliche, nicht von einer KI generierte Kakerlake, in Ihrem Imbiss. Wie teilen Sie Freunden und Bekannten mit, wie stark der Rauch draußen ist, wenn Waldbrände auf Ihr Wohnviertel übergreifen?

Und bisher lag die Beweislast weitgehend bei denjenigen, die den Wahrheitsgehalt eines Fotos leugnen, um ihre Behauptungen zu beweisen. Die Verfechter der flachen Erde sind nicht deshalb nicht im Einklang mit dem gesellschaftlichen Konsens, weil sie die Astrophysik nicht verstehen – wie viele von uns verstehen die Astrophysik überhaupt? – sondern weil sie eine Reihe von immer ausgefeilteren Begründungen dafür anführen müssen, warum bestimmte Fotos und Videos nicht echt sind. Sie müssen eine riesige staatliche Verschwörung erfinden, um den ständigen Ausstoß von Satellitenfotos zu erklären, die die Krümmung der Erde zeigen. Sie müssen eine Soundkulisse für die Mondlandung von 1969 schaffen.

Wir haben uns damit abgefunden, dass die Beweislast bei ihnen liegt. Im Zeitalter von Pixel 9 wäre es vielleicht am besten, wenn wir unsere Kenntnisse in Astrophysik auffrischen würden.

Im Großen und Ganzen wird das durchschnittliche Bild, das diese KI-Tools erstellen, an und für sich ziemlich harmlos sein – ein zusätzlicher Baum in einer Kulisse, ein Alligator in einer Pizzeria, eine alberne kostümierte Katze. Alles in allem stellt die überwältigende Flut das Konzept des Fotos völlig auf den Kopf, und das hat an sich schon enorme Auswirkungen. Denken Sie zum Beispiel daran, dass im letzten Jahrzehnt in den Vereinigten Staaten außergewöhnliche soziale Umwälzungen stattgefunden haben, die durch unscharfe Videos von Polizeibrutalität ausgelöst wurden. Wo die Behörden die Realität verschleierten oder verheimlichten, brachten diese Videos die Wahrheit ans Licht.

Der anhaltende Ruf „Fake News!“ aus den Reihen der Trumpisten war ein Vorbote des Beginns dieser Ära des ungebremsten Schwachsinns, in der der Einfluss der Wahrheit durch den Tsunami der Lügen abgeschwächt wird. Das nächste Abu Ghraib wird unter einem Meer von KI-generiertem Kriegsverbrecher-Snuff begraben werden. Der nächste George Floyd wird unbemerkt bleiben und nicht entlastet werden.

Ein echtes Foto von einer leeren Straße.

Bearbeitet mit dem Magic Editor von Google.

Ein echtes Foto in einer New Yorker U-Bahn-Station.

Bearbeitet mit Googles Magic Editor.

Sie können bereits die Anzeichen dessen erkennen, was noch kommen wird. Im Prozess gegen Kyle Rittenhouse behauptete die Verteidigung, dass Apples Pinch-to-Zoom-Verfahren Fotos manipuliert, und überzeugte den Richter erfolgreich davon, die Beweislast auf die Staatsanwaltschaft zu verlagern, um zu zeigen, dass die gezoomten iPhone-Aufnahmen nicht durch KI manipuliert wurden. Kürzlich behauptete Donald Trump „fälschlicherweise“, dass ein Foto einer gut besuchten Kamala-Harris-Kundgebung von einer KI generiert wurde – eine Behauptung, die nur möglich war, weil die Menschen sie glauben konnten.

Schon vor der künstlichen Intelligenz waren die Medienvertreter in der Defensive, prüften die Details und die Herkunft jedes Bildes und suchten nach irreführendem Kontext oder Fotomanipulation. Schließlich geht jedes größere Nachrichtenereignis mit einem Ansturm von Fehlinformationen einher. Doch der bevorstehende Paradigmenwechsel impliziert etwas viel Grundlegenderes als das ständige Misstrauen, das manchmal als digitale Kompetenz bezeichnet wird.

Google weiß sehr wohl, was es der Institution Fotografie antut – in einem Interview mit Wired beschrieb der Group Product Manager für die Pixel-Kamera das Bearbeitungstool als „Hilfe, um den Moment so zu gestalten, wie Sie ihn in Erinnerung haben, der authentisch für Ihre Erinnerung und den größeren Kontext ist, aber vielleicht nicht authentisch für eine bestimmte Millisekunde“. In dieser Welt ist ein Foto nicht mehr eine Ergänzung der fehlbaren menschlichen Erinnerung, sondern ein Spiegel dieser Erinnerung. Und da Fotos kaum mehr als manifestierte Halluzinationen sind, wird der dümmste Mist zu einem Streit vor Gericht über den Ruf der Zeugen und das Vorhandensein stichhaltiger Beweise führen.

Diese Erosion des gesellschaftlichen Konsenses hat schon vor dem Pixel 9 begonnen und wird sich nicht allein durch das Pixel 9 fortsetzen. Dennoch sind die neuen KI-Fähigkeiten des Telefons bemerkenswert, nicht nur, weil die Einstiegshürde so niedrig ist, sondern auch, weil die Sicherheitsvorkehrungen, auf die wir gestoßen sind, erstaunlich dürftig waren. Der von der Industrie vorgeschlagene KI-Standard für Bildwasserzeichen ist in den üblichen Standards verstrickt, und Googles eigenes, viel gepriesenes KI-Wasserzeichen-System war nirgends in Sicht, als The Verge den Magic Editor des Pixel 9 ausprobierte. Den Fotos, die mit dem Reimagine-Tool verändert werden, wird einfach eine Zeile mit entfernbaren Metadaten hinzugefügt. (Die inhärente Fragilität dieser Art von Metadaten sollte durch Googles Erfindung des theoretisch nicht entfernbaren SynthID-Wasserzeichens behoben werden) Google teilte uns mit, dass die Ergebnisse von Pixel Studio – einem reinen Prompt-Generator, der eher an DALL-E erinnert – mit einem SynthID-Wasserzeichen versehen werden; ironischerweise fanden wir die Möglichkeiten des Reimagine-Tools des Magic Editors, das bestehende Fotos verändert, viel bedenklicher.

Bild: Cath Virginia / The Verge, Neil Armstrong, Dorothea Lange, Joe Rosenthal

Google behauptet, dass das Pixel 9 keine uneingeschränkte Schwachsinns-Fabrik sein wird, gibt aber keine inhaltlichen Zusicherungen ab. „Wir entwerfen unsere generativen KI-Tools so, dass sie die Intentionen der Nutzer respektieren, und das bedeutet, dass sie Inhalte erstellen können, die möglicherweise beleidigend sind, wenn der Nutzer sie dazu auffordert“, sagte Alex Moriconi, Google-Kommunikationsmanager, in einer E-Mail an The Verge. „Das heißt, es ist nicht alles erlaubt. Wir haben klare Richtlinien und Nutzungsbedingungen, die festlegen, welche Art von Inhalten wir erlauben und welche nicht, und wir bauen Leitplanken, um Missbrauch zu verhindern. Gelegentlich können einige Aufforderungen diese Schutzmechanismen in Frage stellen, und wir sind weiterhin bestrebt, unsere Schutzmaßnahmen kontinuierlich zu verbessern und zu verfeinern

Die Richtlinien sind so, wie man sie erwarten würde – zum Beispiel darf man Google-Dienste nicht nutzen, um Verbrechen zu unterstützen oder zu Gewalt aufzurufen. Einige Eingabeaufforderungen lieferten die allgemeine Fehlermeldung „Magic Editor kann diese Bearbeitung nicht abschließen. Versuchen Sie, etwas anderes einzugeben“ (In dieser Geschichte sehen Sie dann jedoch mehrere besorgniserregende Eingabeaufforderungen, die funktionierten) Aber wenn es darauf ankommt, wird die Standard-Inhaltsmoderation das Foto nicht vor seinem beginnenden Untergang als Signal der Wahrheit retten.

Wir haben kurzzeitig in einer Ära gelebt, in der das Foto eine Abkürzung zur Realität darstellte, um Dinge zu wissen, um einen entscheidenden Beweis zu haben. Es war ein außerordentlich nützliches Instrument, um sich in der Welt um uns herum zurechtzufinden. Jetzt stürzen wir uns kopfüber in eine Zukunft, in der die Realität einfach weniger bekannt wird. Die verschollene Bibliothek von Alexandria hätte auf die microSD-Karte meiner Nintendo Switch gepasst, und doch ist der neueste Stand der Technik ein tragbares Telefon, das als lustige kleine Zusatzfunktion, Lügen ausspuckt.

Wir sind aufgeschmissen.