Das Auto von Martina Mara ist 20 Jahre alt, erzählt sie. Ohne KI, ohne Digitaldisplay, einfach Auto. Irgendwie kann man sich das heute gar nicht mehr vorstellen. Die Autofirmen bringen KI ins Auto, ChatGPT genauso wie Google, chinesische und europäische Hersteller arbeiten an KI-Agenten, die uns in Zukunft wie ein Butler betüdeln sollen, mit Infos, mit Gesprächen, mit künstlicher Nähe.
Martina Mara ist Professorin für Psychologie der künstlichen Intelligenz und Robotik sowie Leiterin des Robopsychology Labs am Linz Institute of Technology (LIT) der Johannes Kepler Universität Linz. Jahrelang hat sie an der Kommunikation zwischen autonomen Autos und den Menschen geforscht, heute geht es um das Verhältnis Mensch/Maschine, Mensch/KI.
Eine neue Ära der Mensch-Maschine-Kommunikation: Mara erklärt die Folgen
Was macht das mit uns? „Wir sind in einer neuen Ära der Mensch-Maschine-Kommunikation angekommen. Es hat noch nie eine Phase in der Menschheitsgeschichte gegeben, in der wir so viel mit Maschinen gesprochen und uns Ratschläge eingeholt haben wie heute. Wir sind in einem Zeitalter angekommen, in dem die Maschine unser direkter Gesprächspartner geworden ist. Es ist auch noch nie eine Technologie erfunden worden, die sich so schnell in der Breite durchgesetzt hat.“ Für Mara ist klar: „Das macht vieles mit uns.“
Viele Menschen erfüllt die KI und deren Einsatz zwar mit Sorge, doch gleichzeitig reden Millionen Menschen mit der KI und vertrauen dieser künstlichen Intelligenz sogar in Lebens- und Beziehungsfragen. In Österreich sprechen in der Alterskohorte der unter 30-Jährigen 75 Prozent regelmäßig mit KI-basierten Chatbots à la ChatGPT. Und nehmen sie dabei oft auch als sehr menschlich wahr.
„Aus psychologischer Sicht läuten da Alarmglocken. Das psychologische Phänomen heißt Anthropomorphismus und beschreibt eine menschliche Grundtendenz, dass wir nicht menschlichen Entitäten, also Topfpflanzen, Autos oder KI-Chatbots menschliche Eigenschaften zuschreiben, wie eigene Gefühle, eigene Wünsche, ein eigenes Bewusstsein. Und wir sehen in unserer Forschung, dass dieses Phänomen auch stark bei sprechenden KI-Systemen durchschlägt.“
Die KI schleicht sich langsam in unser Bewusstsein
Diese Systeme sind also auf dem Weg, sich in unser Bewusstsein zu schleichen. Soziale Netze wie TikTok, deren Algorithmen uns zum Verweilen auf ihren Plattformen verführen, und von denen Kritiker sagen, dass sie uns süchtig machen, waren erst der Anfang. Sprechende KI-Systeme erzeugen mit ihrer Interaktion mit uns auch Vertrautheit, Nähe. Und sie können, weil sie so trainiert wurden, auf das Wissen der Menschheit zugreifen. Wir Menschen vertrauen, geben vieles bis alles preis, bis wir komplett gläsern sind. Hinter vielen sprechenden KI-Systemen stehen Geschäftsmodelle, die genau darauf hinauswollen und dieses Verhältnis, weil wir der KI vertrauen wie einem Freund, ausnutzen. Mit Werbung, mit Tipps für unser Einkaufsverhalten, für unser soziales Verhalten.
„Ich kann mir vorstellen, dass Menschen in Zukunft ihren eigenen KI-Ansprechpartner haben, ihren persönlichen Chatbot, den man dann in allen möglichen technologischen Umgebungen aktivieren kann“, sagt Mara. „Wir sehen in der Forschung und an Beispielen, dass viele Menschen KI-Chatbots ja nicht als generalisierte KI wahrnehmen, sondern quasi als Individuum.“ Reale Beispiele würden das beweisen, etwa wenn sich durch Modell-Updates die „Persönlichkeit“ eines Chatbots verändert. Das geht so weit, dass Menschen verstört sind, weil sie sich eines Freundes, einer Person beraubt fühlen, mit der sie quasi gelebt haben. Und nach dem Update ist nichts mehr, wie es einmal war.
Und diese KI landet gerade im System Auto. Fährt man in China, sieht man Avatare über die Bildschirme tanzen, die schon heute sprechen, die Tipps geben. Diese KI-Identitäten laufen zuallererst über das Smartphone – dort passiert die erste und wichtigste Interaktion – und können dann in jeden Lebensbereich eingepflanzt werden.
Das Auto wird als Hardware wohl austauschbar, sagt Mara
„Das bedeutet aber auch, dass das Auto als Hardware austauschbar wird, weil die Personalisierung über die Softwareebene oder über die Ebene der künstlichen Intelligenz stattfindet“, sagt Mara. Schlussfolgerungen? Wenn das Auto zur Hülle wird, dann könnten Sharing-Systeme wieder in Mode kommen – denn wichtig ist nur, dass mein KI-Lebenspartner läuft, nicht, in welchem Auto ich sitze. Die KI gewinnt an Bedeutung, weil diese humanisierten KI-Systeme meine psychologischen Bedürfnisse so schön erfüllen. Weil sie mich kennen, mich supporten, mir schmeicheln.
„Es gibt niemanden in meinem Leben, der mich so oft lobt wie zum Beispiel ChatGPT. Das hält uns ja bei der Stange, lässt uns mit diesen simulierten sozialen KI-Instrumenten Beziehungen aufbauen. Dadurch entsteht Bindung, Bindung an die KI, aber natürlich im Hintergrund Bindung an das Unternehmen, an den Anbieter, und diese Beziehung nehmen wir als soziale Beziehung mit der KI, mit dem Chatbot wahr. In Wahrheit ist es aber keine Zweierbeziehung, sondern immer eine Ménage-à-trois.“
Risiken und Nebenwirkungen der Entwicklung? „Dass diese emotionale Abhängigkeit, die zu den Anbietern, den Firmen im Hintergrund entsteht, ausgenutzt werden könnte, auch finanziell. Da gibt es Risiken in puncto Übervertrauen. Vermenschlichte KI führt außerdem zu mehr User-Engagement. Das heißt, die vom User wahrgenommene soziale Beziehung mit der KI führt zu häufigeren, zu längeren Interaktionen. Das bringt im Endeffekt auch ökologische Effekte mit sich, denn diese Technologien benötigen massiv Energie und Ressourcen. KI-Sprachmodelle erscheinen uns ja nur so, als würden sie magisch irgendwie im Browser oder im Auto-Interface erscheinen – aber dahinter steckt sehr viel Hardware in riesigen Server-Farmen. Das benötigt alles sehr viel Strom und auch Wasser zur Kühlung. Das blendet man natürlich in so einer sozialen Beziehung mit dem Chatbot gerne aus“, so Mara.
Mara: Wo sich die Zukunft des Autos entscheidet
Freilich gebe es auch Gegenbewegungen, die die KI nicht ins Auto lassen wollen, die noch vom Fahrerlebnis schwärmen, auch in witzigen Werbe-Spots. Für Autohersteller geht es um mehr: Hier entscheidet sich, ob das Auto zur Hülle für vermenschlichte KI-Modelle wird – oder ob die arrivierten Hersteller noch die Deutungshoheit über ihre Produkte retten können.
