Künstliche Emotion – Zum ethischen Umgang mit Gefühlen zwischen Mensch und Technik

Damit technische Systeme auf emotionaler Ebene mit Menschen interagieren können, benötigen sie ein internes Emotionsmodell, das diese erkennt und spezifischen emotionalen Zuständen auf menschlicher Seite adäquate Reaktionen auf technischer Seite zuordnet. Hierfür müssen Normen und Grenzwerte festgelegt werden, mit denen man Unterscheidungen treffen kann zwischen verschiedenen Emotionen und Entscheidungen bezüglich geeigneter Reaktionen. Akzeptiert man den konstitutiven Reduktionismus bezüglich der Emotionserkennung und sieht diese als technisch möglich an, konfrontiert die Frage nach der angemessenen technischen Reaktion Entwickler (und Nutzer) mit ethisch relevanten Fragen der Normierung von Emotionen. Welche Form der Reaktion auf Wut, Trauer, Freude oder Angst ist angemessen und warum (vgl. Bellon et al. 2022)? Wer kann und sollte festlegen, welche Reaktionen angemessen sind? Kann dies von einem Entwicklerteam geleistet werden, das sich notgedrungen an Modellen von Nutzertypen und somit an reduktionistischen Abstraktionen orientieren muss? Kann und sollte das System bei jedem Nutzer gleich reagieren, oder ist eine genaue Kenntnis des jeweiligen Nutzers (Personalisierung), seiner emotionalen Stärken und Schwächen sowie für ihn akzeptabler Reaktionsformen vonnöten – und welche Implikationen hat das für die Privatsphäre des Nutzers, aber auch für soziale Umfangsformen wie Respekt, Takt, Dezenz? Welche Emotionen des Nutzers werden als legitim bzw. gut erachtet und wie kann und sollte das System z. B. auf wiederholte Aggression reagieren? Daran schließt sich die grundsätzliche Frage an, ob und welche Form der emotionalen Beeinflussung durch ein technisches System als wünschenswert für Individuen und Gesellschaften erachtet wird. Soll das System jede menschliche Emotion validieren, d. h. wertschätzend anerkennen, und somit dem Nutzer den Eindruck vermitteln, dass jede Emotionsäußerung legitim ist? Welches Bild vom Menschen wird den Systemen einprogrammiert? Wie wird das Verhältnis zwischen Emotionalität und Rationalität konkret konzipiert, und wird hierbei der Einfluss von Emotionen auf vorgeblich ausschließlich rationale Entscheidungsfindungsprozesse mitreflektiert? Wie wird der Zusammenhang zwischen Emotion, Rationalität und Handlung konzipiert und wird dieser überhaupt mitreflektiert? Wie sowohl die psychologische Forschung (Ariely 2015) als auch die philosophische Theorie (Nussbaum 2016) betonen, lassen sich Emotionen analytisch zwar isoliert betrachten, existieren jedoch realiter ausschließlich in Verbindung mit Rationalität und Moralität und müssen deswegen auch in diesem weiten Kontext reflektiert werden. Wenn demnach Systeme konstruiert und implementiert werden sollen, die dezidiert die Modulation menschlicher Emotion adressieren, muss zugleich auch die Frage nach den Folgen für menschliche Entscheidungsfindung – und letztlich für das menschliche Selbstverständnis – thematisiert werden (vgl. für ältere Menschen Vandemeulebroucke et al. 2021b, 2018).

Der Versuch, menschliche Fähigkeiten technisch nachzubilden, offenbart die oft implizite Komplexität des Sozialen (menschliches Zusammenleben) sowie die Komplexität menschlicher Individualität. Formen der emotionsbasierten MMI können demnach keinesfalls als Äquivalent zu zwischenmenschlichen Beziehungen bewertet, sondern müssen als eigene, neuartige Interaktionsform in den Blick genommen werden. Würde mit emotionsbasierter MMI ein neues und eigenes Register von Interaktionsformen etabliert, das durchaus verwirrende Ähnlichkeiten zu menschlichen Interaktionsformen aufweist, so wäre seine Anwendung unseres Erachtens nur dann ethisch vertretbar, wenn seine kategoriale Differenz individuell wie gesellschaftlich verstanden und jeweils aktualisiert wird. Es ginge also nicht darum, zwischenmenschliche Interaktion durch MMI zu ersetzen, sondern durch technische Systeme dazu beizutragen, zwischenmenschliche Interaktionen im Kontrast hierzu besser zu verstehen und zu befördern.

Eine zweite mögliche Argumentationslinie legt dar, dass Menschen mit Sozialphobien o. ä. gerade durch technische Systeme geholfen werden könnte, in eine zwischenmenschliche Interaktion zurückzufinden (Marloth und Vogeley 2020). In einer lernförderlichen Umgebung unterstützt eine Trainingssoftware hierbei beim Kompetenzaufbau, indem die Identifikation von Emotionen ebenso wie sozial kompatible Wege des Umgangs mit Emotionen eingeübt werden. Da in diesem Anwendungsfall die technischen Systeme zum Aufbau (nicht vorhandener bzw. schwach ausgebildeter) Kompetenzen, einer Steigerung sozialer Teilhabemöglichkeiten und somit zur Minderung von Leid beitragen, könnte ihre spezifisch definierte Entwicklung an dieser Stelle ethisch geboten sein, insbesondere wenn der aktuelle und zu erwartende Mangel im Bereich der therapeutischen Angebote mitreflektiert wird.

Ganz grundsätzlich ist darüber nachzudenken, mit welchen Konsequenzen die Quantifizierung eines qualitativen, kontextgebundenen Phänomens wie Emotion verbunden ist, und inwiefern eine Ausbreitung dieser Systeme Rückwirkungen auf das Selbstverständnis der sie nutzenden Menschen hat. Wenn man bedenkt, dass Menschen dazu neigen, technischen Systemen Objektivität, also deren Messergebnissen mehr Wahrheitsgehalt als ihren eigenen Empfindungen zuzusprechen, ist es plausibel anzunehmen, dass eine häufige Nutzung und Verbreitung der Systeme zu Deprofessionalisierung und allgemeiner zu Dekompetenzierung beitragen könnte. In professionellen Kontexten (z. B. Pflege) ist es nicht unplausibel, dass der Einsatz eines sozioemotionalen technischen Systems den individuellen Zweifel an den professionellen Fähigkeiten (hier die Einschätzung der emotionalen Lage des Klienten) nähren und zugleich ihre Auslagerung ans System befördern wird (vgl. Navigationsgeräte). Der Einsatz eines als objektiv verstandenen Systems kann dazu beitragen, dass der Mensch glaubt, sich nicht auf seine emotionale Intelligenz und somit auf sein eigenes Vermögen verlassen zu können, sondern nicht mehr zu wissen glaubt, was eine Emotion ist, ohne dass ihm seine Einschätzung von einem technischen System bestätigt wird, verbunden mit der Mitteilung, was daraufhin zu tun ist. Welchen Nutzen bringt der Einsatz dieser Systeme? Welches Defizit soll mit dem Einsatz adressiert werden, und besteht dieses in der Praxis wirklich? Entstehen nicht ungewollt Deprofessionalisierungseffekte, indem der Eindruck erzeugt wird, dass Pflege bei der Erkennung von Emotionen bzw. der Aufrechterhaltung emotionaler Beziehungen Unterstützung benötigt? Wenn Systeme dieser Art als Assistenzsysteme zum Einsatz kommen sollen, muss aus ethischer Perspektive die Frage gestellt werden, welche Form der Assistenz für professionelle Pflegefachkräfte als gewinnbringend und entlastend erlebt wird. Betrachtet man Studien, die sich der Untersuchung der Gründe für den Personalmangel im Bereich der Pflege widmen, wie bspw. das Pflegethermometer (Deutsches Institut für angewandte Pflegeforschung 2018), zeigt sich, dass gerade die interaktiven, kommunikativen und emotionalen Aspekte des Berufes als Bereicherung und nicht als Belastung erlebt werden. Hierdurch wird die Frage aufgeworfen, ob emotionssensitive Systeme im Bereich der Pflege wirklich als unterstützend wahrgenommen werden oder ob durch deren Einsatz (die technische Funktionalität vorausgesetzt) nicht eher ein Beitrag zur Stabilisierung eines als defizitär erlebten Systems geleistet wird. Das aber wäre eine Form von Solutionismus, der nicht das tatsächliche Problem adressiert, sondern eine technische Lösung für einen spezifisch darauf zugeschnittenen Problemausschnitt präsentiert. Auch vor diesem Hintergrund stellt sich die Frage nach geeigneten und vertretbaren Einsatzgebieten dieser Technik in der Pflege, die – unter Anerkennung des reduzierten Funktionsspektrums der Technik – deren Potenzial nutzt, um Professionelle und Patienten zu entlasten bzw. ihren Möglichkeitsraum zu erweitern und nicht zu reduzieren.

Wenn die Funktionalität des Systems die Identifikation von Emotionen und deren Bereitstellung im Zuge professioneller Kontexte (Pflege, Psychologie, Therapie …) übersteigt, und das System als Aktant in die Interaktion eintreten soll, stellt sich die Frage nach der Art von Beziehung, die zwischen menschlichem Akteur und technischem Aktant ermöglicht werden soll, und ob an dieser Stelle menschliche Rollen als Konstruktionsvorbilder für die Aktanten genutzt werden sollten. Momentan scheint von dem Erfolg, kurze Sequenzen (Episoden) bestimmter emotionaler Äußerungen beim Menschen relativ gut detektieren zu können, auf eine umfangreichere emotionale Interaktion geschlossen zu werden – was wohl ein Kurzschluss ist. Wenn Emotionen mehr sind als Episoden, dann ist es mit einer einzelnen Emotionsexpression nicht getan. So stellt sich die Frage, wieviel emotionalen Gehalt über eine gewisse Interaktionszeitspanne ein System erkennen und verstehen muss, um in eine emotionale Interaktion treten zu können. Bedenkt man zusätzlich den häufigen Wechsel emotionaler Ausdrücke bei Menschen, wird zusätzlich die Frage aufgeworfen, welche der artikulierten und vom System identifizierten Emotionen technisch beantwortet werden sollen. Hierbei bietet sich einerseits ein quantifizierender Zugang an, der die Emotion technisch beantwortet, die am häufigsten innerhalb eines gegebenen Zeitraums artikuliert wird. Anderseits wäre auch an eine programmierte Hierarchie von Emotionen zu denken, die bestimmte Emotionen als relevanter als andere klassifiziert und deswegen eine zeitnahe Reaktion von Seiten des Aktanten auslöst. Wären technische Systeme dann „kompetenter“ als Menschen, wenn sie sich nicht wiederholt in bestimmten emotionalen Beziehungsmustern „verhaken“ würden? Das klingt vorteilhaft, könnte zugleich aber auch ein Nachteil sein, weil der „emotionale Zustand“ im technischen System immer neu generiert würde, ohne ein „emotionales Gedächtnis“ für den menschlichen Interaktionspartner berücksichtigen zu können/müssen. Anders herum würde ein untrügliches emotionales Gedächtnis auf technischer Seite – was wohl ein Oxymoron in rhetorischem wie wortwörtlichem Sinne wäre – die emotionale Interaktion asymmetrisch in Richtung der Objektivität von Erinnerung verschieben und so emotionale Gehalte auf Seiten des Menschen einer technischen, nicht-emotionalen Bewertung unterziehen. Bei der Konstruktion von Interaktionsverhältnissen zwischen Mensch und emotionssensitiver Technik muss neben der Adressierung der skizzierten Aspekte auch geklärt werden, welche Rollen Mensch und technisches System einnehmen und wie sie konkret ausgestaltet werden. Hierbei kann nicht ungeprüft vorausgesetzt werden, dass technische Systeme über die Voraussetzungen verfügen, Rollen in der Form wahrzunehmen, wie sie in menschlichen Interaktionen realisiert werden. Deswegen müssen bei jedem zu entwickelnden System und somit jeder zu konstruierenden Relation zwischen Akteur und Aktant sowohl die Möglichkeitsbedingungen, als auch die zu erwartenden Effekte analysiert werden, um ein differenziertes Bild der Interaktion zu erhalten, das als Basis der ethischen Evaluation dient. Hierdurch erweitert sich der Fragenradius, der neben den nach Funktionserfordernissen und gelingender Interaktion ebenso die Vermeidung potenzieller Risiken enthält. Diese könnten bei Personengruppen mit eingeschränkten kognitiven Kapazitäten erhöht sein, so dass der Einsatz sozioemotionaler Systeme bei dieser Gruppe nur mit besonderer Sorgfalt (und möglicherweise nur unter menschlicher Aufsicht) erfolgen sollte. Konkret ließe sich an Systeme denken, die wiederholt auf ihren Status als technisches System hinweisen und ggf. menschliche Unterstützung anbieten bzw. selbst per Benachrichtigung organisieren. Die Reflexion auf die konkrete Ausgestaltung eines technischen Aktanten konfrontiert uns mit den Bildern, die wir uns explizit oder implizit von technischen Systemen, deren Funktionsspektrum, aber auch deren Grenzen machen. Diese Bilder fungieren als Orientierungspunkte und ermöglichen die Interpretation und Evaluation technischer Aktionen. Je expliziter diese Bilder bereits im Konstruktionsprozess werden, desto bewusster und reflektierter kann deren Gestaltung vollzogen werden, wodurch das Risiko nicht intendierter Folgen minimiert werden kann. Erkenntnisleitend könnten hierbei z. B. folgende Fragestellungen sein: Wie verschiebt sich durch den Einsatz emotionssensitiver Systeme die Erwartung an technische Systeme, und inwiefern müsste die Vorstellung von Technik als Instrument der menschlichen Weltbeherrschung revidiert werden? Wie kann diese Technik so konzipiert und vor allem expliziert werden, dass den Nutzenden deren Funktionen und mögliche Effekte deutlich werden? Wie kann und sollte das System über sich selbst aufklären? Oder sollten diese Systeme nur unter menschlicher Begleitung zum Einsatz kommen, wie es aktuell bei der Roboterrobbe Paro der Fall ist – die allerdings nur auf einer sehr rudimentären Ebene emotionale Signale aussendet und selbst keine „erkennen“ kann?

Um eine ethische Evaluation des Einsatzes sozioemotionaler Systeme zu vollziehen, ist es zentral, die geplanten Interaktionsformen in konkreten Kontexten zu untersuchen (vgl. Vandemeulebroucke et al. 2021a). Hierbei gilt es, die Reflexions- und Evaluationsperspektive dahingehend zu weiten, dass nicht nur einzelne Interaktionen in den Blick genommen werden, sondern die durch wiederholte Interaktionen gestifteten Beziehungen zwischen Mensch und Technik. Ethisch gefragt: Welche Form der Beziehung zwischen Mensch und Technik soll ermöglicht werden? Offensichtlich geht es um eine Beziehung, die über eine instrumentelle, zweckrationale hinausgeht und auf Seiten des Menschen eine soziale, emotionale Bindung evozieren soll. Ein funktionales Verständnis dieser Technik, wie es z. B. im Werkzeuggebrauch zutage tritt, ist technikphilosophisch nicht auf der Höhe der Zeit (Hubig 2013) und lässt sich nicht auf Mensch-Roboter-Interaktionen allgemein (vgl. bereits Fong et al. 2003) und sozioemotionale Interaktion im Besonderen übertragen.

Um eine Analyse der Beziehungen zwischen Menschen und diesen Systemen zu ermöglichen, erweist sich ein Rückgriff auf die soziologische Rollentheorie als fruchtbar (vgl. Mead 1973). Rollen werden hierbei als stabile Verhaltensmuster verstanden, die tragfähige Erwartungen bezüglich des Verhaltens der Interaktionspartner ermöglichen, wodurch Verhalten wechselseitig abgestimmt werden kann und soziale Ordnung stabilisiert wird. Vor diesem Hintergrund gilt es zu fragen, welche der etablierten menschlichen Rollenkonstellationen und Beziehungsformen (Lehrer – Schüler, Arzt – Patient, Freundschaft, Liebe etc.) in welchen Kontexten auf die MMI übertragen werden sollen.

Analysiert man die MMI aus der Perspektive der Rollentheorie, lassen sich Erwartungshaltungen rekonstruieren, die unter einem rein funktionalen Gesichtspunkt oft nicht reflektiert werden. Relevant sind hierbei sowohl die Erwartungshaltungen an ein bestimmtes System als auch mögliche Veränderungen der Erwartungshaltungen an menschliche Interaktionen, die durch wiederholte Interaktionen mit technischen Systemen auftreten können. Agiert ein pflegebedürftiger Mensch z. B. wiederholt mit einem adaptiven Roboter, der auf Konfliktvermeidung und Bestätigung menschlicher Emotionen programmiert ist, könnte dies zu einer Erwartungshaltung an Interaktionen führen, die in zwischenmenschlichen Interaktionen mit all ihren potenziellen Reibungspunkten (teils) frustriert wird. Diese Frustration könnte in dreifacher Hinsicht beantwortet werden. 1. Der Akteur akzeptiert den Unterschied zwischen zwischenmenschlichen Interaktionen und MMI und erlebt die Vielfalt an ihm möglichen Interaktionsverhältnissen als Bereicherung. 2. Die empfundene Frustration führt zu einer Vermeidung zwischenmenschlicher Interaktion und einer verstärkten Hinwendung zu technischen Systemen. 3. Die Enttäuschung der Erwartungen resultiert in einer Veränderung der Erwartungshaltung an zwischenmenschliche Interaktionen und somit zu einer Veränderung des Rollenverständnisses. Von der Pflegekraft würde dann ebenso viel Geduld, Zeit und Wertschätzung erwartet wie von Seiten des Aktanten, was zu einer Zunahme von Konflikten zwischen Gepflegten und Pflegenden führen kann. Insbesondere vor dem Hintergrund des Pflegenotstandes und den ihn kennzeichnenden Zeit- und Ressourcenmangel auf Seiten des Pflegepersonals (zu dessen Behebung bzw. Minderung die Systeme eingeführt werden sollen), könnten durch die Einführung technischer Systeme somit eher zusätzliche Reibungspunkte geschaffen werden und Konflikte entstehen, was zu einer (weiteren) Verschlechterung der Situation führen könnte und deswegen abzulehnen wäre.

Aufgrund dieser möglichen Effekte vermehrter MMI ist es aus ethischer Perspektive geboten, nach einer begründeten Begrenzung des Möglichkeitsraumes der Konstrukteure und Nutzenden zu fragen. Dies fordert uns zur Entwicklung einer fundierten Haltung heraus, die es ermöglicht, nicht nur reaktiv-evaluativ auf technische Entwicklungen zu antworten, sondern prospektiv (und unter der Berücksichtigung der skizzierten Risiken) sozial und ethisch vertretbare Beziehungen zwischen Mensch und Technik zu gestalten. Hierbei wäre zu diskutieren, ob und wenn ja wie, sich hierbei prinzipielle Grenzen festlegen lassen, wie sie z. B. in Hinblick auf den Einsatz von Sexrobotik diskutiert werden (vgl. Beschorner 2017).

Emotionen stehen aus phänomenologischer, aber auch psychologischer Perspektive immer in einem Kontext und lassen sich nicht dekontextualisiert verstehen. Die Trennung zwischen Emotion und Atmosphäre bzw. Kontext erweist sich somit zwar als analytisch fruchtbar, darf jedoch über die Grenzen der Analyse hinaus nicht als vollständiges Abbild realer Verhältnisse verstanden werden. Versteht man Emotionen nicht in reduktionistischer Manier als ausschließlich subjektives, individualisiertes Geschehen, sondern als kontextgebundenes Beziehungsphänomen (wobei jegliche Beziehung zur Mit- und Umwelt gemeint ist), muss man auch den Einsatzkontexten sowie deren Spezifika vermehrt Aufmerksamkeit schenken. Reflexionsleitend könnten hierbei folgende Fragestellungen sein: In welchen Kontexten können unter welchen Umständen welche Effekte (auf emotionaler Ebene) erwartet werden? Und in welchen Kontexten erweitert der Einsatz emotionssensitiver Technik den menschlichen Möglichkeitsraum? Wo limitiert er ihn oder verändert ihn in einer ungewollten oder auch unzuträglichen Form? Können Ergebnisse innerhalb eines spezifischen Kontextes (z. B. Pflege) unhinterfragt übertragen werden oder muss das Spektrum der technischen Funktionsbedingungen um Kontextvariablen erweitert werden? Wenn ja, wie können diese bestimmt werden? Es kann hier nur angedeutet werden, dass der Einbezug des sozialen Kontextes auch die Lebensformen betrifft, die von Menschen gewählt und durch sozioemotionale Systeme modifiziert werden. Eine ethische Analyse des Kontextes impliziert dann auch eine „Kritik von Lebensformen“, wie sie von Jaeggi (2014) vorgetragen worden ist.