Walter Benjamin is a robot made from colorful wet paint
Walter Benjamin is a robot made from colorful wet paint
Synthetische Bildwelten und die 2022er Art Wars / Journal über kollektive Intelligenz / Mobile Apps für Porno-Deepfake
Meine jüngsten Postings auf dem Expertenportal Piqd:
Synthetische Bildwelten und die 2022er Art Wars
Thomas Reintjes bietet in Deutschlandfunks Zeitfragen eine gelungene Zusammenfassung der Debatte um AI-basierte Bildgeneratoren wie Dall-E oder Stable Diffusion. Zum Einstieg kommt auch gleich eine Illustratorin zu Wort, die Concept Arts für die Gaming Industrie erstellt und bereits Aufträge verliert. (Ich hatte hier auf piqd bereits beschrieben, wie Bildgeneratoren den Beruf des Illustrators mindestens teilweise automatisieren).
Der Podcast beschreibt auch die rechtlichen Fallstricke und befragt Wissenschaftler und AI-Kunst-Pioniere wie Mario Klingemann zu den AI-Tools, die die gesamte Kunstgeschichte der Menschheit als neuartige stochastische Bibliotheken in einer grade mal 4,2 Gigabyte großen Datei verfügbar machen.
Die Tragweite dieser Technologie, deren Folgen für den Arbeitsmarkt der Kreativindustrie bereits jetzt, nur wenige Monate nach deren Vorstellung und wenige Wochen nach der Veröffentlichung von Open Source-Modellen, spürbar werden, ist nicht zu unterschätzen. Automatisierte Bildgeneratoren werfen Fragen auf, die von urheberrechtlich-ethischen Problemen bis hin zu philosophischen Betrachtungen über das Wesen der Kunst im Zeitalter seiner generativen Massenproduktion reichen. Dazu schildern manchen Nutzer bereits von Auswirkungen der Technologie auf die eigene Vorstellungskraft und ihre Träume, was diese Flut von fremdartiger Maschinenkunst für die neurowissenschaftlich-kognitive Forschung mehr als interessant machen dürfte.
Wir stehen erst am Anfang dieser neuen Bildgebungstechnologien, diese AI-Modelle sind erst wenige Wochen alt, und bereits jetzt entwickelt sich ein brodelnder Kulturkampf um die Deutungshoheit über die seit Jahrhunderten debattierte Frage "Was ist Kunst?" Duchamps und Beuys hätten sicher ihren Spaß auf Twitter in diesen Tagen, wären sie noch am Leben – hier eine aktualisierte AI-Version von Duchamps Fountain vom bekannten Prompt-Engineer Hardmaru von Google Brain aus Tokyo.
Zur Visualisierung des ganzen Dramas habe ich hier eine Galerie mit 300 Bildern von Walter Benjamin als Roboter veröffentlicht, eins davon illustriert diesen piq. Viele davon könnten, wären sie etwas höher aufgelöst, genau so ohne Bearbeitung von Redaktionen zur Illustration von Artikeln benutzt werden. Die GPU in einem kostenlosen, öffentlichen Colab-Notebook hat dafür rund 2 Stunden benötigt, während ich Podcasts gehört und gelesen habe. Der gesamte Prompt: "Walter Benjamin is a robot made from colorful wet paint, art by james jean and karol bak and craig mullins and gaston bussiere and jean giraud, 4k, extremely detailed and vivid, trending on artstation", Seed 1965185993. Willkommen in der Zukunft.
Bonustrack für Newsletter-Leser: Hier ein paar meiner favorite Walter Benjamin Robots.
Collective Intelligence: Neues Fachmagazin über Schwarmintelligenz
Einer der roten Fäden, der die technologischen Entwicklungen der letzten 30 Jahre durchzieht, vom Siegeszug des Internets, der Entwicklung von sozialen Medien und der sich abzeichnenden Revolution durch Künstliche Intelligenz, ist die Gemeinsamkeit der "Intelligenten Netzwerke". Egal ob wir von Internetphänomenen und Memes, von Mobs auf Twitter oder von stochastischen Bibliotheken wie GPT-3 und Dall-E 2 reden, immer ist die Rede von den Effekten vernetzten Wissens, das emergente Eigenschaften zeigt. Und diese emergenten Eigenschaften, also den Mustern, die aus der Vernetzung von individuell komplex reagierenden Nodes und synchronisiertem Schwarmverhalten entstehen, sind bemerkenswert wenig erforscht. (So sieht man in Fig.2 dieser Studie über die Publikationsgeschichte zu Schwarmintelligenz einen sprunghaften Anstieg ab 2010, vorher wurde das Feld quasi nicht wahrgenommen. Mir fällt als eins der wenigen Beispiele der Forschung über Schwarmverhalten nur das Buch "Sync" von Steven Strogatz ein, der hier einen unterhaltsamen TED-Vortrag über das Schwarmverhalten von Tieren und die mathematischen Hintergründe dieser Phänomene gehalten. Das Buch erschien 2003 und enthielt bereits ein Kapitel über Memetik.)
Ein neues wissenschaftliches Fachmagazin möchte das ändern: Collective Intelligence befasst sich mit Schwarmintelligenz in all ihren Spielarten, die erste Ausgabe enthält unter anderen einen Dialog unter Wissenschaftlern mit Nobel-Preisträger Daniel Kahneman über Noise, ein Paper über "The wisdom of crowds versus the madness of mobs", oder eine Studie über selbstorganisierende Arbeitsgruppen.
Das Fachmagazin dürfte für alle Journalisten mehr als interessant sein, die die Hintergründe von viralen Phänomenen in sozialen Medien oder das Verhalten von künstlichen Intelligenzen verstehen wollen.
Aus dem "Editorial to the Inaugural Issue of Collective Intelligence":
We can find collective intelligence in any system in which entities collectively, but not necessarily cooperatively, act in ways that seem intelligent. Often—but not always—the group's intelligence is greater than the intelligence of individual entities in the collective. These entities can be molecules, cells, biological organisms, computers, organizations, software components, or machine learning systems. They may perform tasks such as identifying phenomena, making predictions, solving problems, or taking actions.
Though often characterized as an emerging discipline, collective intelligence, or at least its core ideas, can be found in many fields going back many years. Thinking about collective intelligence has a long history, including theories of invisible and visible hands, the organization of science, and the 18th-century Republic of Letters. Notably, the modern scientific study of collective intelligence dates back, at least, to Condorcet and Adam Smith in the 18th century. Since then, scholars in economics, computer science, sociology, neuroscience, biology, political science, physics, and management have long pondered how, when, and why collectives exhibit intelligence.
The spread of the Internet, advances in neuroscience, crowdsourcing and citizen science projects, and the popularization of research on the collective behavior of ants, bees, birds, and fishes has brought ideas from collective intelligence into daily life.
Nevertheless, the study of collective intelligence has not yet made broad use of the conceptual or technical rigor characteristic of other related fields. Compare, for instance, how the study of dynamical systems, statistical mechanics, and condensed matter physics has permitted the development of first principles approaches to pattern formation. One aim of this Journal will be to facilitate interdisciplinary cross-fertilization and encourage the creation of shared models, concepts, principles, and measures.
Porno-Deepfakes – there's an app for that
Theresa Locker und Sebastian Meineck haben eine Recherche über die Möglichkeit veröffentlicht, Deepfake-Pornografie mit millionenfach installierten Face-Swap-Apps auf dem Handy zu erstellen. Ich piqe hier den Bericht auf Netzpolitik.org, die Recherche findet sich hinter einer Bezahlschranke auf Spiegel Online.
Die Journalisten testeten drei der populärsten Deepfake-Mobile-Apps: FaceMagic, Reface und FacePlay. Alle drei eignen sich dafür, non-konsensuale sexualisierte Bilder zu produzieren, mit FaceMagic bis hin zum Hardcore-Porno. FaceMagic machte in der Vergangenheit mit der Möglichkeit, Pornos mit den Gesichtern von Fremden zu produzieren, auch explizit Werbung und schaltete diese – selbstverständlich – auf Porno-Websites. Die non-konsensuale Erstellung von Pornografie gehört für FaceMagic also zum Geschäftsmodell.
Die Debatte ist alles andere als neu. Die ersten Meldungen über das damals neue Phänomen erschienen im Winter 2017 und ihre Viralität half dabei, den Namen "Deepfake" für AI-basierte Face-Swaps zu etablieren, die in den Jahren zuvor in Expertenkreisen als Face2Face bekannt geworden waren. Die Möglichkeiten für User nun auch per Mobile App mit einem Klick jedes Gesicht auf jedes Video flanschen (ein Fachbegriff für "dicht anbringen") zu können – inklusive Pornovideos – sind eine Folge der fortschreitenden Demokratisierung dieser Technologien.
Zusammen mit neuen Bildgeneratoren wie Dall-E ergibt sich hier das größere Bild einer Technologie, die es jedem Nutzer erlaubt, jeden Gedanken, jede Idee und jeden Traum ohne Kenntnisse in der Erstellung von Fotomontage, Grafik oder Malerei (und schon bald auch: Animation, Film und Video) mit wenigen Klicks erstellen zu können. Die Technologien der sogenannten Creative AI sind die Verwirklichung einer "engine for the imagination", so David Holz, Gründer des Bildgenerators Midjourney. Und diese Vorstellungswelten beinhalten nicht nur wilde Bilder von Fantasy-Drachen in allen Spielarten, sondern auch sexuelle Fantasien, die man nun in einem Klick in non-konsensualer Pornografie abbilden kann.
AI-Technologien und ihre Möglichkeiten stellen die Politik vor bislang unbekannte Probleme und es verschwimmen die Grenzen zwischen den Rechten am eigenen Bild, Privatsphäre und der Freiheit der eigenen Fantasie. Wenn AI-Tools eine Maschine ermöglichen, die Träume abbilden kann – wie weit gehen die Befugnisse der Politik, diese Träume zu regulieren?