On Post-Artificial Text
On the (not only) post-artificial irrelevance of the author after the AI-revolution
My latest piece for the expert-platform for curated journalism Piqd, find an edited english machine translation below.
Über unser Verhältnis zu Text und Autor nach der AI-Revolution
Vor wenigen Tagen stellte OpenAI sein neuestes Large Language Model vor: GPT4 kann mehr und das besser, schneller, breiter und größer als seine Vorgänger. Zeitgleich stellte Anthropic sein Konkurrenz-Produkt Claude vor -- ein etwas unglücklich gewähltes Release-Date, das im Taumel des GPT-Hypes nahezu komplett unterging. Unterdessen starten dank offener APIs der AI-Modelle erste komplett automatisierte Nachrichten-Portale, während Google seine künstliche Intelligenzen in Dev-Tools und GoogleDocs einbaut und Microsoft die ihren als Copilot für Office integriert. Die AI-Revolution ist im vollen Gange und schon heute kann niemand mehr mit Sicherheit genaue Aussagen über die Authentizität der Herkunft eines Textes treffen.
Deshalb möchte ich, abseits des Hypes, auf diesen klugen Text von Literaturwissenschaftler Hannes Bajohr hinweisen, in dem er sich ausführlich mit unserem Verhältnis von Text und Autor während und vor allem nach dieser Revolution der synthetischen Text-Erzeugung auseinandersetzt: Wie verändert die potenziell ungeklärte und künstliche Quelle von Text und Literatur unsere Wahrnehmung derselben? Gibt es eine poetische Qualität synthetischer Literatur jenseits ihres Verhältnis zur maschinellen Produktion?
Ausgehend vom Essay “Über natürliche und künstliche Poesie” des Philosophen Max Bense untersucht Bajohr diese Fragen bezüglich der Erwartungshaltung des Lesers an unbekannte Texte, die bislang immer davon ausgeht, dass Text in jeglicher Form natürlichen, menschlichen Ursprungs sei, nicht zuletzt weil grammatikalische Sprach-Systeme an sich ein zutiefst menschliches Phänomen darstellen. Laut Bajohr bricht die AI-Revolution diese Erwartungshaltung und Roland Barthes' berühmter Tod des Autors verwandelt sich dank schreibender Roboter in eine völlige Irrelevanz des Ursprungs.
Bajohr bescheinigt den KI-Modellen eine systemimmanente Täuschungs-Absicht, in den vergangenen Monaten belegt durch die hunderten Online-Texte, die AI mit Bullshit Artists vergleichen, was wir angesichts der oft erstaunlichen Ergebnisse gerne vergessen in einer neuen Form der Suspension of Disbelief. Genau wie im Kino, wo wir unsere Zweifel an Superhelden und dämonischen Kräften für zwei Stunden beiseite schieben, geben wir während der "Kommunikation" mit der Maschine der Illusion hin, einen echten Menschen hinter dem Screen erkennen zu können: Die Vermenschlichung der Maschine durch eine anachronistische Erwartungshaltung an Text.
Ein weiterer interessanter Aspekt dieses sich neu formenden Verhältnisses zwischen Leser und Text-Ursprung ist die bereits gelernte und internalisierte Irrelevanz des Autors in unserer Kommunikation mit einer organischen Form der Maschine: Wenn wir als Leser mit PR-Texten und Werbung von Unternehmen zu tun haben, oder auch mit Formularen und Broschüren, ist der Autor des Texts vollkommen unerheblich. Auch im Nachrichten-Journalismus habe ich nur sehr selten als Leser den Drang, dem Autor einer herkömmlichen Meldung seiner elaborierten Formulierung zu danken. Wann haben Sie zum letzten mal über die Autoren des Wetterberichts nachgedacht?
Auch in der Literatur finden wir ein eher egalitäres Verhältnis bei Trivial-Literatur: In nahezu allen Serien des Pulp ist der Autor völlig zweitrangig und viele Autoren schreiben oft unter demselben Pseudonym. Ähnliches lässt sich auch für die serielle Maschinerie des Hollywood-Blockbusters erkennen, in der Marvel etwa zwar bekannte Namen einkauft, deren Handschrift im veröffentlichten Kulturgut nicht mehr wirklich wiederzuerkennen ist. Der Autor in einer post-artifiziellen Welt wird zum reinen Label einer Produktvariation des Marketing.
All die Werbebroschüren von Unternehmen und Organisationen, aber oft auch die Kulturprodukte der Trivial-Literatur und Popkultur sind im Ursprung vergleichbar mit den Synthesen von AI-Systemen: Auch Organisationen sind Netzwerke mit Knotenpunkten, die auf eine Funktion innerhalb einer kapitalistischen und/oder bürokratischen Maschine reduziert sind, und viele Menschen sind sich nicht gewahr, dass, zum Beispiel, hinter ihrem Lieblingssong von K-Pop Sensation BTS, ein ganzes Konglomerat an "Songschreibern" und "Autoren" steckt.
Die neue Qualität von GPT4 mag ein neues Zeitalter der Künstlichkeit einläuten, wir als Konsumenten von Kulturgütern aber leben bereits seit langer Zeit in einem post-artifiziellen Verhältnis zum Text-Ursprung, in dem der Autor allzu oft völlig irrelevant ist. Mit ein wenig Glück wird die AI-Revolution genau dieses Verhältnis bewusst machen.
english
On our relation to Text and Author after the AI-Revolution
A few days ago, OpenAI introduced its latest large language model: GPT4, which can do more and harder, better, faster, stronger than its predecessors. At the same time, Anthropic introduced its competing product, Claude - a somewhat unfortunately timed release date, which was almost completely overshadowed by the GPT hype. Meanwhile, thanks to open APIs of AI models, the first fully automated news portals are launching, while Google puts its artificial intelligence into dev tools and Google Docs, and Microsoft integrates its AI as a co-pilot for Office. The AI revolution is in full swing, and even today no one can make accurate statements about the authenticity of the origin of text.
Therefore, I would like to point out this insightful text by literary scholar Hannes Bajohr, who, apart from the hype, extensively discusses our relationship with text and author during and especially after this revolution of synthetic text generation. How does the potentially unclear and artificial source of text and literature change our perception of it? Is there a poetic quality of synthetic literature beyond its relationship to machine production?
Based on philosopher Max Bense's essay "On Natural and Artificial Poetry," Bajohr explores these questions regarding the reader's expectation of unknown texts, which has always assumed that text in any form is of natural, human origin, not least because grammatical language systems are a profoundly human phenomenon. According to Bajohr, the AI revolution breaks this expectation, and Roland Barthes' famous Death of the Author turns into a complete irrelevance of origin thanks to writing robots.
Bajohr attributes the AI models with an inherent intention to deceive, as evidenced by the hundreds of online texts over the past few months comparing AI to bullshit artists, which we often like to forget in a new form of suspension of disbelief due to the often astonishing results. Just as in the cinema, where we set aside our doubts about superheroes and demonic forces for two hours, we give in to the illusion during "communication" with the machine that we can recognize a real person behind the screen: the anthropomorphization of the machine through an anachronistic expectation of text.
Another interesting aspect of this newly forming relationship between reader and text origin is the already learned and internalized irrelevance of the author in our communication with an organic form of the machine: when we as readers deal with PR texts and advertising from companies, or even with forms and brochures, the author of the text is completely irrelevant. Even in news journalism, I rarely feel the need as a reader to thank the author of a conventional bit of news for their elaborate wording. When was the last time you thought about the authors of the weather report?
We also find a rather egalitarian relationship in pulp literature: in almost all series of pulp, the author is completely secondary, and many authors often write under the same pseudonym. The same can also be seen in the serial machinery of the Hollywood blockbuster, where, for example, Marvel buys well-known names whose directional style is no longer really recognizable in the final movie. In a post-artificial world, the author becomes the pure label in a product variation whichs real origin in the marketing department.
All the advertising brochures of companies and organizations, but often also the cultural products of pulp literature and pop culture, are comparable in origin to the syntheses of AI systems: Organizations are networks with nodes that are reduced to a function within a capitalist and/or bureaucratic machine, and many people are not aware that, for example, behind their favorite song by K-Pop sensation BTS, there is a whole conglomerate of "songwriters" and "authors."
The new quality of GPT4 may herald a new era of artificiality, but we as consumers of cultural goods have already been living in a post-artificial relationship to the origin of text for a very long time, in which the author has often been reduced to complete irrelevancy.
If we’re lucky, the AI revolution will bring this new-old relationship into consciousness.
Guter Artikel. Woher weisst du das Anthropic eine "deutsche AI-Bude" ist?