Eine Ethik mimetischer AI-Modelle / Wie das Netz unsere Realität in ein Spiel verwandelt hat
🐟 Underwater Moomins looking at bioluminescent glowing fishes in the sky 🐬
I am You, Dave.
Interessanter Aufsatz von Wissenschaftlern der University of Toronto, der Cornell University und Microsoft Research über die ethischen Implikationen von Künstlichen Intelligenzen, die Persönlichkeiten und Eigenschaften von Individuen simulieren: Mimetic Models: Ethical Implications of AI that Acts Like You. Die Forscher nennen solche AI-Systeme "Mimetic Models" und untersuchen in ihrem Paper ihre Auswirkungen auf unterschiedliche soziale Interaktionen wie Job-Interviews, Dating oder Performances in Kunst und Sport.
Die Forscher definieren ihre Mimetic Models als Algorithmen, die auf Verhaltensweisen einer spezifischen Person in einem spezifischen Wirkungsbereich trainiert wurde, etwa eine künstliche Intelligenz, die auf das Verhalten und die Sprache eines bestimmten Lehrers trainiert wurde und die nun in Online-Tutorials angewendet wird, oder eine KI, die auf die Musik eines bestimmten Künstlers trainiert wurde und nun neue Songs "in the style of" schreibt. Wie wirken sich Glitches in diesen Algorithmen auf den Ruf des Künstlers aus? Ist ein Unternehmen für Weiterbildung, das eine künstliche Intelligenz auf ihren beliebtesten und erfolgreichsten Lehrer trainiert, weiterhin auf die Arbeit des Reallife-Lehrers im Meatspace angewiesen?
Das Paper entwirft für diese Fragen ein Framework, das man auf weitere zukünftige Fragen der AI-Ethik im Kontext von Identität und Persönlichkeitsrechten anwenden kann. So unterscheiden die Wissenschaftler zwischen AI als "Mittel zum Zweck" (wenn ein Job-Bewerber etwa mit Hilfe einer Recruiter-AI für das spätere Vorstellungsgespräch mit dem echten Recruiter trainiert), AI als eigenständiger Zweck (wenn mimetische AI-Modelle als Ersatz für echte Menschen angewendet werden, man stelle sich etwa das Konzert der synthetischen ABBA-Version mit KI-Simulationen vor, oder ein Schachduell zwischen dem einer KI-Version von Garry Kasparov circa 1985 und dem gegenwärtigen Reallife-Champion Magnus Carlsen) - oder als individuelles Modell zum Selbstgebrauch, das auf die eigene Persönlichkeit trainiert wurde (ein banales Beispiel wären Auto-Replys für E-Mail).
Für alle mimetischen AI-Modelle schlagen die Forscher vier Rollen vor: das Ziel der Persönlichkeits-Simulation, der Produzent des KI-Modells, der Operator, der die Anwendung des KI-Modells bereitstellt, und der Anwender. Und alle diese Rollen und unterschiedlichen Persönlichkeits-Simulationen werfen eigenständige ethische Fragen nach Reputation, Authentizität oder Fairness auf, die bereits heute Gültigkeit finden.
Meines Erachtens geht das Paper aber noch lange nicht weit genug. Bereits heute werden für Brain-Computer-Interfaces künstliche Intelligenzen auf neuronalen Daten trainiert, die die Gehirnaktivität des Anwenders simulieren und es damit paralysierten Patienten erlauben, mit ihrer Umwelt zu kommunizieren. Dies sind ebenfalls mimetische AI-Systeme, für die im vergangenen Jahr eine Declaration on the ethics of brain–computer interfaces and augment intelligence entworfen wurde und deren ethische Grundlagen seit wenigen Jahren erarbeitet werden.
Auch ist es absolut denkbar, dass mimetische AI-Modelle, die zur Eigenanwendung geschaffen wurden und mit der Außenwelt kommunizieren, als synthetische Daten für "Pirate Mimetic AI-Models" benutzt werden. Wenn eine zukünftige AI-Taylor Swift einen künstlichen Avatar in einem Nonstop-Loop auf Spotify performen lässt, kann ich diesen Output dazu benutzen, um eine eigene Version zu erschaffen, eine künstliche Taylor Swift zweiter Ordnung. Hätten solche AI-Identity-Warez Auswirkungen auf den Verkauf des neuen Albums der echten Taylor Swift? Wir werden es schon bald herausfinden: Schon heute verkauft die Künstlerin Holly virtuelle Besitzrechte an einem AI-Modell ihrer Stimme.
Mich erinnern Papers wie dieses an eine alte Story von Jet Lee, der Rolle als Seraph in "The Matrix" deshalb ablehnte, weil Warner darauf bestand, seine Martial Arts-Moves mit 3D-Kameras aufzuzeichnen und die Rechte an diesen Kung Fu-Moves für sich beanspruchen wollte. Im April erst starteten Schauspieler eine Kampagne namens "Stop AI Stealing the Show".
Die Fragen nach Persönlichkeit und individuellem künstlerischem Ausdruck begleiten uns bereits seit einer ganzen Weile und mit den sprunghaften technologischen Fortschritten grade in diesem Jahr mit Kunst-Simulations-AIs wie OpenAIs Dall-E 2 oder Googles Imagen und deren kommerzieller Anwendung wird ihre Beantwortung immer drängender. Wir haben nicht einmal ansatzweise Lösungen etwa für das Problem der Ausbeutung der gesamten Kunstgeschichte durch die AI-Modelle privater Konzerne gefunden, wie sie in den letzten Tagen vom legendären Animationskünstler David O'Reilly (Her, Mountain) aufgeworfen wurden, geschweige denn haben wir überhaupt genug Fragen nach Persönlichkeitsrechten in Zeiten künstlicher Personen und der Privatsphäre von neuronalen Daten aufgestellt.
Paper wie diese sind der Beginn in einer Debatte, die in den kommenden Jahren neben AI-Safety eine der drängendsten werden wird und die bislang vor allem in philosophischen Diskussionen um Science Fiction-Filme wie Blade Runner geführt wurden. Mit dem allgegenwärtigen Siegeszug von Bildgeneratoren und KI-Systemen landen diese ehemals Spezialisten und Nerds vorbehaltenen Debatten mitten im Mainstream. Willkommen in der Zukunft.
(Zuerst veröffentlicht auf Piqd.)
Wanna play a game?
Jon Askonas beschreibt im konservativen Magazin The New Atlantis, wie die Strukturen sozialer Medien die Wahrnehmung der Welt in ein Spiel verwandelten: Reality is just a game now. Dazu zieht er Parallelen zur Erfindung des Romans im 17. und 18. Jahrhundert sowie zu Rollenspielen und Alternative Reality Games, deren Spielmechanismen Parallelen zu Online-Verschwörungstheorien wie Q-Anon ziehen lassen.
Das Medium ist die Message und das Netz lässt uns die Welt auf eine ganz neue Weise erfahren. Erlaubte uns die Erfindung des Romans vor dreihundert Jahren zum ersten Mal die Gedanken anderer Menschen nachzuvollziehen und die Welt sprichwörtlich durch ihre Augen zu sehen, erlaubt uns das Internet nun die Neuerfindung der Realität in einem kollektiven Spiel. Die Wahrnehmung der Realität in einer vernetzten Welt hat mehr mit dem kollektiven Reddit-Kunst/Pixel-Spielchen r/place gemeinsam als mit Noam Chomskys "Manufacturing Consent".
Das Gerangel konservativer und progressiver Medien um die Meinungshoheit wird zu einem Spiel des Kollektivs um die sichtbare Wahrhaftigkeit in einer sozialen virtuellen Realität. Nicht jeder nimmt dieses Spiel in allen Konsequenzen ernst und die meisten, inklusive mancher Journalisten, benutzen die Spielmechanismen dieser neuen editierfähigen Weltwahrnehmung, um Macht und Einfluss zu gewinnen, oder einfach nur für the klicks.
Manche aber greifen zur Waffe und fahren zu einer Pizzeria in Washington, weil sie tatsächlich davon überzeugt sind, im Keller dieser Pizzeria würden Freunde von Hillary Clinton Kinder gefangenhalten.
Dazu passend, und um im Bild zu bleiben, ein kleines Spiel ganz im Sinne des Autors: Neigen eher konservative oder progressiv eingestellte Menschen zu Verschwörungstheorien? Und hat der Glaube an Verschwörungstheorien in den letzten Jahren zu- oder abgenommen? Studien hatten in der Vergangenheit bereits Verschwörungsmythen vor allem mit den politisch extremen Rändern assoziiert und eine neue Studie, die über 50.000 Menschen auf 6 Kontinenten befragte, findet keine politische Asymmetrie im Glauben an Verschwörungstheorien. Eine weitere im Juli veröffentlichte Studie untersuchte die Anzahl von Verschwörungsgläubigen über einen Zeitraum von 50 Jahren und kommt zu dem Schluss, dass die Zahl der Menschen, die zu konspirativem Denken neigen, nicht signifikant zugenommen hat.
Tatsächlich bestätigen die Ergebnisse dieser Studien die Metapher der neuen Weltwahrnehmung als gigantisches kollektives Spiel: Verschwörungstheorien und alternative Realitäten sind für die meisten genau das, ein Spiel, das man nicht zwingend als faktenbasierte Realität wahrnimmt. Der Mensch verfällt nur dann der illusorischen Weltwahrnehmung dieses Spiels, wenn er entsprechend psychologisch konditioniert ist und bereits zu konspirativem Denken neigt. Und es ist anscheinend keineswegs so, dass vor allem konservative Menschen verstärkt zu konspirativem Denken neigen, nur sind ihre Verschwörungstheorien in den Medien präsenter und ihre Neigung zum Kontrarianismus etwas ausgeprägter.
(Zuerst veröffentlicht auf Piqd.)
🐟 Underwater Moomins looking at bioluminescent glowing fishes in the sky 🐬
Ich habe in den vergangenen Tagen, nachdem ich ein paar Stunden in meiner neuen Hängematte am See verbrachte, mit ein paar der öffentlich verfügbaren und kostenlosen AI-Image-Generatoren rumgespielt und Moomins geprompt. Meine Disco Diffusion-Pics brauchen definitiv noch ein paar Runden und die Lernkurve ist trotz einleuchtendem Tutorial für einen Noob wie mich eher hoch, dafür aber sind meine Underwater Moomins looking at bioluminescent glowing fishes in the sky ausgesprochen sweet und Photorealistic Moomins racing Mad Max, Photorealistic Moomins racing Mad Max, Casual Mad Max being silly" und "Underwater Mad Max würde ich mir definitiv als abendfüllenden Spielfilm ansehen. AI-Quatsch mit Moomins und Mad Max geht immer.
