Beautiful Lies: Nicholas Carr über Deepfakes und Wahrheit
Was geschieht mit unserem Konzept der Wahrheit, wenn Deepfakes und digitale Informations-Manipulation alle Informationen unter Generalverdacht stellen?
GOOD INTERNET ELSEWHERE // Twitter (Newsletter) / Twitter (Links) / Facebook (Newsletter) / Facebook (Links) / Instagram (Pics and Memes) / Reddit (Links) / Telegram (Links)
SUPPORT // Substack / Patreon / Steady / Ko-Fi / Paypal / Spreadshirt
Nicholas "Is Google making us stupid" Carr schreibt in einem sehr schönen Review auf LA Review of Books über zwei Neuerscheinungen, die sich mit synthetischen Medien und Fake News auseinandersetzen: “The Book of Veles” von Jonas Bendiksen und Noah Giansiracusas “How Algorithms Create and Prevent Fake News”.
Im Review dringt er zum Kern des Problems unseres digitalen Zeitalters vor: Alleine die Manipulations-/Editierfähigkeit digitaler Inhalte genügt bereits, um die Wahrnehmung der Realität ins Wanken zu bringen und jede Information mit dem Verdacht der Fälschung zu belegen. Jeder Inhalt, jeder Tweet, jedes Bild erscheint "prä-real", eine Art perzeptive Quantenlogik, laut der jede digitale Information wahr sein kann oder auch nicht. Das Meme "Not sure if serious or trolling" bildet dieses Dilemma der digitalen Welt ab since 2011.
Für "The Book of Veles" reiste Fotojournalist Jonas Bendiksen nach Mazedonien, um die Ortschaft zu fotografieren, in der eine Bande Jugendlicher weltweit Aufsehen erregte, weil sie die digitalen Möglichkeiten des Publishings dazu nutzten, um mit polarisierenden, gefälschen Nachrichten das linksliberale Establishment zur Weißglut zu bringen und damit jede Menge Geld zu verdienen. Aus den Bildern bastelte er dann mit Hilfe von 3D-Programmen und Photoshop gefälschte Fotografien und begleitet sie mit AI-generierten Texten über das Wesen von Wahrheit und Fotografie.
Carr zitiert in seinem Review Susan Sontags prägenden Essay "On Photography", in dem sie beschreibt, wie Fotografien einen gesellschaftlichen Konsens darüber herstellten, was real ist und was nicht, indem sie "Beweise" für Realität produzieren, völlig unabhängig von tatsächlichen Bildmanipulationen, die es natürlich gibt, seit es die Fotografie gibt.
We humans want to believe whatever’s presented to our senses through the media, particularly when it takes the form of images. “Photographs furnish evidence,” wrote Susan Sontag in her 1977 classic On Photography. “A photograph passes for incontrovertible proof that a given thing happened. The picture may distort; but there is always a presumption that something exists, or did exist, which is like what’s in the picture.” Take away that presumption, and our ideas about existence get tenuous fast. (…)
The spread of ever more realistic deep fakes will make it even more likely that people will be taken in by fake news and other lies. The havoc of the last few years is probably just the first act of a long misinformation crisis. Eventually, though, we’ll all begin to take deep fakes for granted. We’ll come to take it as a given that we can’t believe our eyes. At that point, deep fakes will start to have a very different and perhaps even more pernicious effect. They’ll amplify not our gullibility but our skepticism. As we lose trust in the information we receive, we’ll begin, in Giansiracusa’s words, to “doubt reality itself.” We’ll go from a world where our bias was to take everything as evidence — the world Sontag described — to one where our bias is to take nothing as evidence.
The question is, what happens to “the truth” — the quotation marks seem mandatory now — when all evidence is suspect?
Weiter beschreibt Carr, wie digitale Technologie und die Demokratisierung der Manipulationstechnologien (Foto-Retusche war bis vor 20 Jahren ein lernbarer Beruf mit hochspezialisierten Skills, heute ist es eine Kulturtechnik des Mainstreams) genau diesen gesellschaftlichen Konsens zerstören, in dem sie alle digitalen Inhalte unter Generalverdacht stellen und so zu einer Art informatorischen Uncanny Valley führen, in dem "nichts real und alles möglich" erscheint und in dem mit Verschwörungsphänomenen eine neue, digitale Form mythischer Fiktion erscheint, die Welt der berühmt-berüchtigten "alternative Facts".
Die Fotografie, ihrer realitätssichernden Funktion beraubt, wird im digitalen Zeitalter zu einem Äquivalent der Malerei, die fiktive Räume abbildet und eine Art Hyper-Realität "tieferer Wahrheiten" unabhängig von ihrem Realitätsgehalt erzeugt. Das einzige, was über die Gültigkeit dieser Wahrheiten entscheidet, ist der Glaube.
Genau deshalb werden die sogenannten "Kulturkriege" in den sozialen Medien mit aller Härte auf diesem "Schlachtfeld der Fiktionen" geführt.
Perhaps something like digital signatures will rise as an important factor of at least being able to verify if a piece of digital information is unaltered and from a specific source and thus estimate its trustworthiness?
NFTs to be used for that?