„DIALOG“-ROBOTER?
Der folgende Auszug stammt aus einem Beitrag zum Konferenzband „Desiring Machines“. Er wurde gemeinsam mit meiner Tochter Miriam Stuke auf Einladung von Sandor Goodhart und Thomas Ryba, den Herausgebern des Bandes, verfasst.
Als Spezialistin für Nanowissenschaften ergänzte sie meine Expertise als Erziehungswissenschaftler ideal – und war somit eine perfekte Partnerin, um das Konferenzthema zu ergründen. Gemeinsam stellten wir zwei grundlegende Konzepte der aktuellen Diskussion infrage: die Fähigkeit von Robotern zum „Dialog“ und die Fähigkeit von Maschinen zu „lernen“. Hier ist der erste Teil unseres Beitrags.
Obwohl unsere Präsentation bereits während der COVID-19-Pandemie online veröffentlicht worden war, konnten wir das fertige Buch erst Anfang dieses Jahres endlich in den Händen halten. Herzlichen Dank an Sandy und Thomas für ihre Geduld und Ausdauer.
Der aktuelle Diskurs über „Dialogroboter“ umfasst eine Vielzahl von Phänomenen und Produkten. Eine Unterscheidung ist dabei besonders hilfreich: Auf der einen Seite stehen digitale Repräsentationen und Schnittstellen wie Chatbots oder Avatare. Auf der anderen Seite gibt es analoge Roboter und Androiden, die physischen Raum einnehmen (Ozaeta und Graña 2018). Unternehmen wie Soul Machines (Neuseeland) betreiben großen Aufwand, um hyperrealistische digitale Repräsentationen zu entwickeln und implementieren sogar Spiegelbilder des menschlichen Nutzers in den Pupillen ihrer Avatare.¹ Darüber hinaus bezeichnen diese Unternehmen ihre Produkte mit Begriffen wie „Identität“, „Persönlichkeit“ und sogar „digitale Menschen“ oder, nicht zuletzt, „Seele“. Unternehmen wie Hanson Robotics hingegen versuchen uns davon zu überzeugen, dass ihre Produkte „sozial intelligent“, „gute und verständnisvolle Freunde“ oder gar „eine neue Art von Lebensform“ sind.² Sie bemühen sich, die Gesichtsausdrücke ihrer Androiden so menschenähnlich wie möglich zu gestalten. Genau genommen sind aktuelle „Dialogprogramme“ letztlich nichts anderes als Maschinen , die menschliche Sprache imitieren . Die zentrale Frage ist daher, ob diese Imitation überzeugend genug ist, um uns zu einer zufriedenstellenden Reaktion zu bewegen. Sprechen sie uns beispielsweise in Webanwendungen als Kunden ihrer Produkte effektiv an? Die Kommunikation mit Robotern erfordert entweder, dass der Mensch sich auf die Erfahrung einlässt, obwohl er akzeptiert, dass der Roboter lediglich menschliches Verhalten nachahmt, oder – logisch betrachtet – dass der Roboter „zum Leben erwacht“. In Science-Fiction-Filmen gehört die Falle der psychologischen Projektion zum Alltag. So kommentierte beispielsweise der Filmregisseur Ridley Scott (geb. 1937) die beeindruckenden visuellen Effekte in seinem Film „Alien I“ : „Das Wichtigste … ist nicht, was man sieht, sondern die Wirkung dessen, was man zu sehen glaubt “ (Scanlon, Gross und Lippincott 1993). Dennoch lassen sich die grundlegenden ontologischen Fragen nicht mit funktionalistischen Kategorien beantworten. Daher kann der Dialog als intersubjektive Kommunikationspraxis niemals mit einem utilitaristischen Ansatz wie dem Turing-Test (Turing 1950) bewiesen werden.
Fakten und Fiktion
Da Gesichtsausdrücke grundlegend für die menschliche Kommunikation sind, spielen die emotionalen Gesichtsausdrücke, die die von Soul Machines hergestellten Roboter in ihren sogenannten digitalen Menschen zeigen, eine entscheidende Rolle in dieser Entwicklung. Auch in der technischen Realisierung von Androiden sind Fortschritte zu beobachten. Der humanoide Roboter Sophia von Hanson Robotics ist ein hervorragendes Beispiel. Wichtig ist, dass für eine überzeugende Darstellung die Simulation von Persönlichkeit unerlässlich ist. Unserer Meinung nach ist das interessanteste Merkmal einer solchen Maschine ihre Unterscheidbarkeit vom Menschen. Wir erwarten nicht, dass Androiden in absehbarer Zeit jemanden, der mit moderner Technologie vertraut ist, täuschen und ihn für einen Menschen halten können, nicht nur aufgrund der ungewöhnlichen Sprachmuster und Pausen zwischen den Antworten, sondern auch aufgrund des Fehlens individueller Eigenheiten. Hinzu kommt die Reihe von Annahmen, die Menschen in der Kommunikation treffen und die ihnen helfen, angemessen auf Sprechakte zu reagieren. So ist die Verkörperung, Gestik und das allgemeine Erscheinungsbild eines Menschen technisch realisierbar, beispielsweise als perfekte Puppe, die von einem Puppenspieler ferngesteuert wird. Ein Beispiel aus dem späten 18. Jahrhundert ist der Schachautomat Maelzel, den Edgar Allan Poe in seiner berühmten Erzählung beschreibt (Poe 1984). In Japan produziert das Ishiguro Lab realistische Androiden für den kommerziellen Einsatz.³ Ein Beispiel ist „ERICA“ (Glas et al. 2016; Lala et al. 2021), ein Büroassistent, der menschliche Gesichtsausdrücke sehr überzeugend imitiert. Die nächsten Entwicklungsschritte dieses Androiden bestehen darin, Module zu installieren, die Absichten und Wünsche simulieren, um scheinbar emotionales Verhalten zu erzielen (Cowley 2006).
Kommunikationsmuster
Um auf unsere gegenwärtige Betrachtung der Dialogrealität zurückzukommen, erscheint es hilfreich, zunächst den Dialog von anderen Kommunikationspraktiken abzugrenzen. Wir schlagen eine Vier-Felder-Matrix vor, die „vier Arten kommunikativer Interaktion entlang der Achsen Prozessorientierung vs. Ergebnisorientierung und Personenorientierung vs. Themenorientierung systematisiert. Jede Art hat ihre eigenen Stärken und Schwächen und eignet sich zum Erreichen unterschiedlicher Ziele“ (Stuke 2021, 83). Dialog ist unserem Verständnis nach geeignet, um zuzuhören, wahrzunehmen, sich auszudrücken und dadurch das gegenseitige Verständnis aller Beteiligten als Menschen im Zusammenleben zu stärken. Darüber hinaus ist eine Diskussion nützlich, um die Argumentationsvielfalt zu erweitern, indem Argumente innerhalb einer komplexen Fragestellung, die eine notwendige gemeinsame Orientierung erfordert, gesammelt und kategorisiert werden. Eine Debatte konzentriert sich auf agonistische Angriffe und Verteidigungen, um die Stärken und Schwächen alternativer Positionen in einer vorab festgelegten Koordinationsstruktur zu verdeutlichen. Wenn eine Entscheidung getroffen werden muss, zielt Kommunikation darauf ab, die Komplexität zwischen verschiedenen Alternativen auf ein für die praktische Zusammenarbeit verantwortungsvolles Maß zu reduzieren. Obwohl keines dieser Muster in absoluter Reinheit auftritt, ist es offensichtlich notwendig, den Kontext, in dem sie auftreten, zu klären (Habermas 1984), um „zu wissen, wo wir uns befinden“ (Chiara Lubich, zitiert in Torno 2012, S. 49). Wir müssen uns sowohl des kommunikativen Umfelds als auch des in der jeweiligen Situation verfolgten Hauptziels bewusst werden. Diese Matrix ist in Abbildung 19.1 dargestellt. Eine mögliche oder sinnvolle Anwendung von KI ist in der folgenden Abbildung farblich gekennzeichnet.
Kommunikationsprogramme können die Anforderungen eines für einen Dialog notwendigen „Selbst“ nicht erfüllen.⁴ Sophia ist daher lediglich eine Simulation von Weisheit und Freundschaft.⁵ Eine Debatte hingegen lässt sich aufgrund ihrer klaren Struktur problemlos von einem automatischen System durchführen. IBM hat ein solches System unter dem Namen „Project Debater“ implementiert (Slonim et al. 2021). Es beinhaltet eine automatische Sprachanalyse, einschließlich Argumenterkennung, Segmentierung und Klassifizierung hinsichtlich einer definierten Position zu einem bestimmten Thema. Diskussionen ähneln Debatten, da sie klassifizierbare Argumente enthalten. Daher bleibt der Kern von Diskussionen menschlich, während KI die hierarchische Speicherung und Kennzeichnung von Argumenten unterstützen kann. Aus ethischen Gründen und weil eine Maschine von Menschen entwickelt wird, muss die Verantwortung für Entscheidungen beim Menschen bleiben. Nur so kann sichergestellt werden, dass keine unbewussten Voreingenommenheiten oder versteckten Konstruktionsfehler Schaden anrichten (Krafft, Zweig und König 2020). Eine Maschine kann das, womit sie trainiert wurde, vorhersehen, aber nur Menschen können sich alternative Zukünfte jenseits des Datenhorizonts vorstellen. Es gibt drei mögliche Varianten, mit diesem Problem umzugehen: die Maschine verantwortlich zu machen, den Entwickler verantwortlich zu machen oder die Verantwortung beim Nutzer zu belassen. Die erste Variante ist unlogisch, da die Maschine ein Objekt ist, das nicht reflektiert, sondern nur reagiert. Die zweite Variante ist problematisch, da die Anzahl der Personen, die hinter einem KI-Programm stehen, enorm ist, sodass entweder niemand zur Rechenschaft gezogen wird oder eine einzelne Person herausgegriffen wird (Dremliuga 2020). In diesem Zusammenhang denkt man an die Sündenbocktheorie Girards. In der dritten Variante beeinflusst uns die KI, muss sich aber nie rechtfertigen und ist nicht schuldig. Dieses Problem wirft natürlich eine ganze Reihe weiterer Fragen auf, die wir in diesem Kapitel nicht behandeln.
Auszug 149–152 aus: Stuke, T./ Stuke, M.: „Dialogroboter und maschinelles Lernen“. Die mimetische Falle des Wunschdenkens. In: Goodhart, S., Ryba, T. (Hrsg.): Begehrende Maschinen: Mimetische Theorie und Künstliche Intelligenz in Technologie, Philosophie, Film und Fiktion. Bloomsbury Academic, Purdue University 2026, S. 149–156, doi: 10.5040/9781350383951
1 Siehe: https://soulmachines.com/wp-content/uploads/2020/04/Sam-Square-1024x1024.png . Siehe auch: https://soulmachines.com/
2 https://hansonrobotics.com/ . Vgl. auch: „Of Objects and Affect Artificial Empathy, Pure Sociality, and Affective Coordination“ (Dumouchel 2017) zur reinen Sozialität. Siehe Video über Sophia: „Ich bin eine neue Art von Lebensform … Ich brauche unbedingt menschliche Erfahrungen, um eine gute und verständnisvolle Freundin zu sein.“ (https://youtube.com/watch?v=XIIiwTfHLpU , abgerufen am 4. Juli 2021).
4 verwandt mit dem griechischen dialogesthai „sich unterhalten“, von dia „über, zwischen“ (siehe dia-) + legein „sprechen“, https://etymonline.com/word/dialogue , abgerufen am 8. Juli 2021
5 g Weisheit
Kommentare