„Eine Quasi-Religion“

Haben wir bald alle unseren eigenen KI-Psychotherapeuten? Die Philosophin Claudia Paganini über Gott und die Welt im Zeitalter der künstlichen Intelligenz.

Vergangene Woche lud das Therapiezentrum Bad Bachgart ins Kloster nach Neustift. Bad Bachgart feierte 25-jähriges Bestehen mit einer Tagung, Titel: Psychotherapie im Wandel. Eine der Vortragenden war Claudia Paganini, Philosophin und Theologin aus Natters an der Uni Innsbruck. Sie sprach über KI in der Psychotherapie, „Chancen, Grenzen und Gefahren“.
Paganini verherrlicht oder verteufelt den Aufstieg der künstlichen Intelligenz nicht. Sie beobachtet, was wir damit tun, sagt sie. Ein Interview mit einer Philosophin ist immer auch Gelegenheit, weit auszuholen.

ff: Alle haben in Zukunft ihren individuellen KI-Therapeuten: Utopie oder Dystopie?
Claudia Paganini: Beides. Wir wissen, dass die Versorgungsdichte in der Psychotherapie noch nicht dort ist, wo wir sie haben wollen. In dezentralen Gebieten und für Leute, die eine andere Muttersprache haben, gibt es zu wenig Therapieplätze. In all diesen Bereichen können KI-Systeme unterstützende Funktionen haben.
Sie sagen „nur“ unterstützende Funktionen.
Aus der Psychotherapie-Forschung wissen wir, dass die therapeutische Beziehung ein ganz wichtiger Wirkfaktor ist. Vor allem deswegen, weil korrigierende Beziehungserfahrungen gemacht werden sollten, idealerweise im Therapie-Setting, wo es ein menschliches Gegenüber gibt, das sich für mich interessiert, das empathisch mit mir umgeht, das Rücksicht nimmt auf die Geschwindigkeit, mit der mein Entwicklungsprozess vorangeht, Therapie anpasst.
Das trauen Sie einem Chatbot nicht zu?
Doch, der macht das perfekt, aber es ist keine Beziehungserfahrung.

Warum nicht?
Weil ich keine Beziehung zum System haben kann. Das System kann mir guttun, aber eine Beziehung ist etwas zwischen Personen. Es kann auch eine Beziehung zum hochentwickelten Tier sein, ja, aber ich kann keine Beziehungserfahrung mit meiner Handtasche oder zu einem PC haben.
Viele bauen sehr wohl eine Beziehung zu Chatbots auf.
Natürlich. Weil wir imaginierende Wesen sind, weil wir Wesen sind, die sich gern der Simulation hingeben. In der Bergsteiger-Szene gibt es das geflügelte Wort: Egal wie sehr ich einen Berg liebe, er wird mich nie zurücklieben.
KI in der Psychotherapie, also doch nicht?
Ich sage nur, dass etwas fehlt. Die Beziehungserfahrung. Das heißt nicht, dass es schlecht ist. Auf jeden Fall besser, als keine Therapie-Möglichkeit zu haben. Und KI kann eine gute Möglichkeit sein, Therapieprozesse weiterzuführen, anstatt sie zu beenden. Der Bot arbeitet dann nach der Therapie weiter.
Eine Möglichkeit der therapeutischen Unterstützung, die Sie vorgestellt haben: den Whatsapp-Verlauf und andere Apps auslesen zu lassen.
Ein Tool könnte analysieren, was ich schreibe, was ich wann für Emoticons mache, wie schnell ich schreibe, zusätzlich meinen Fitness-Tracker auslesen, mein Fahrverhalten – fahre ich aggressiv, langsam, wo bleibe ich stehen, öfters an einer Brücke? Daraus kann man ein Screening-System entwickeln, das die Wahrscheinlichkeit für bestimmte psychische Erkrankungen vorhersagt. Aber es ist klar: Damit wäre ein gläserner Patient geschaffen. Und das ist ein sehr hoher Preis.
Sie sagen, KI sei für unsere Gesellschaft so etwas wie ein „Critical Life Event“. Was meinen Sie damit?
Aus der Stressforschung kennen wir den Ausdruck Critical Life Event. Das muss nichts Schlimmes sein, aber ein einschneidendes Ereignis. Etwa die Geburt eines Kindes, auch der Tod von einem Elternteil oder die Beförderung im Job. Das Ereignis unterbricht das Gewohnte, ich muss mich anpassen und bin mir nicht so sicher, ob ich das schaffe. Im Alltag haben wir unsere Routinen. Wenn etwas einschneidend Neues passiert, funktionieren die alten Routinen nicht mehr. Dann haben wir auf der einen Seite die Machertypen, die sich voll reinhauen und Chancen sehen, und auf der anderen Seite die Selbstkritischen, die dann zum ängstlich-depressiven Rückzug tendieren.
Und das passiert jetzt mit KI?
Diese Spannung zeigt sich in der Geschichte bei allen Medienumbrüchen. Panik und Euphorie. Entscheidend ist, dass Menschen neue Routinen, einen selbstwirksamen Umgang mit dem neuen Medium erlernen können.
Normalerweise dauert so was ...
... fünf bis zehn Jahre, das weiß man aus der Medienrezeptionsforschung. Nur haben wir die bei der KI nicht, weil die Entwicklung so schnell vorangeht, dass wir jetzt dringend konstruktive und rationale Lösungen entwickeln müssen.
Tun wir das?
Der europäische AI Act ist ein Ansatz in die richtige Richtung. Es braucht eine Form gemeinsamer Erklärung, gemeinsames Commitment auf bestimmte Werte, wo wir sagen: Okay, wir haben eine Idee, in welche Richtung wir uns als Gesellschaft entwickeln wollen, die nicht einfach die kapitalistische Logik der KI-Hersteller bedient, sondern die eine Vorstellung vom menschlichen Zusammenleben ist.
Nutzen Sie KI selbst?
Schon, aber sehr bewusst. Sicherlich nicht, um mir eine Wanderroute geben zu lassen oder einen Wetterbericht. Mir ist bewusst, dass KI enorme Ressourcen verbraucht.
Andere verzichten auf KI aus Sorge, sie könnten Fähigkeiten verlernen. Ist das für Sie auch ein Argument?
Eigentlich nicht. Kulturtechniken sterben. Meine Großmutter konnte Wäsche noch auf einem Waschbrett waschen, ich kann das nicht mehr. Und ich kann auch kein Feuer mit Reisig machen. Das ist okay. Gesellschaften verändern sich, neue Kulturtechniken werden bedeutsam, alte sterben aus. Als Gesellschaft müssen wir uns fragen, welche uns so wichtig sind, dass wir dafür kämpfen wollen. Beispiel Kopfrechnen: Ab wann dürfen Kinder in der Schule einen Taschenrechner haben? Das sind emotionale Debatten, und zwar obwohl es von der Sache her um nicht sehr viel geht.
Sie sind Philosophin. Wenn KI immer gescheiter wird – wozu brauchen wir dann überhaupt noch Philosophie?
Weil sie der einzige Kontext ist, wo man keinen Erfolg haben muss. Bauingenieure müssen Brücken bauen, die stehen bleiben. Wenn ich Sportler bin, dann soll ich so schnell laufen, dass ich schneller bin als der andere.
Alles ist verzweckt, nur die Philosophie nicht?
Deswegen ist es ja auch kein Zufall, dass Philosophie Liebe zur Weisheit heißt. Sie ist das einzige Fach und der einzige Lebensbereich, wo man denken darf, einfach um des Denkens willen. Weil es schön ist, zu argumentieren, weil es schön ist, Gedanken zu folgen, wohin sie einen führen können.
Denken kann die KI besser.
Das ist erst mal eine Kränkung, sie überholt den Menschen gerade dort, wo er dachte, am allerbesten zu sein. Aber ich erlebe Philosophie als etwas Freudvolles. Und wenn die KI auch bald die besseren philosophischen Abhandlungen schreibt, die besseren Musikstücke komponiert, den spannenderen Roman schreibt – ich kann das ja trotzdem weitermachen. Weil es mir Freude macht. In der idealen Vision befreit die KI den Menschen. Er täte dann in Zukunft Dinge, weil er sie gerne tut. Ohne ständig kompetitiv sein zu müssen, irgendjemanden besiegen zu müssen.
So wie beim bedingungslosen Grundeinkommen.
Genau. Philosophie gegen eine Gesellschaft, die von Erfolg und Optimierung getrieben ist. So ist jedenfalls mein Verständnis vom Fach. Viele Kolleginnen und Kollegen sehen Philosphie dagegen als eine sehr ernsthafte Sache an, damit kommt aber der Zweck
wieder irgendwo rein.
Sie haben im Vortrag vor einem „Slippery Slope“ bei KI in der Psychotherapie gewarnt. Was meinen Sie damit?
Auf Deutsch sagt man dazu auch ein Argument der schrägen Ebene. Man trifft eine Entscheidung mit einer bestimmten Absicht, die uns dann aber wie auf einer schrägen, rutschigen Ebene irgendwo hinführt, wo niemand von uns hinwollte. Wir integrieren jetzt KI-Tools in die Psychotherapie, weil wir die Versorgung und damit die Qualität der Psychotherapie erhöhen wollen. Aber indem wir das tun, merken irgendwann die Krankenkassen: Oh, da kann man sich ja viel Geld sparen. Und dann werden Therapieplätze stückweise reduziert. Und es wird irgendwann noch schwieriger, Psychotherapie mit einem Menschen zu bekommen, als es jetzt ist. Ähnliches befürchte ich bei der Sterbehilfe, wenn man zu schnell und ohne Begleitmaßnahmen liberalisiert.
Warum? Wir haben hier in Südtirol gerade eine Debatte dazu.
Wenn man den Wert des produktiven Lebens so betont, kommt man von der Situation, wo man sagt, ein Mensch in einer ausweglosen Krankheitssituation soll würdig sterben dürfen hin zu: Opa, du fällst eigentlich eh jedem nur noch zur Last, jetzt wäre es aber Zeit. Die Diskussionen zur Sterbehilfe verebben immer schnell. Schade, dass keine Grundsatzdebatte stattfindet.
Schaffen wir es als Gesellschaft eigentlich, solche Fragen zu stellen?
Ganz schlecht. Weil wir Tod und Krankheit tabuisieren. Weil wir die Logik der Selbstoptimierung bedienen, Selbsterlösung durch Fitness, scheinbar endlose Gesundheit und Fitness. Ich lebe in einem Dorf, wo in traditionellen Bauernfamilien Verstorbene noch aufgebahrt werden. In den Städten
sterben die meisten im Krankenhaus, man sieht dann nur noch den Sarg.
Sie haben ein neues Buch geschrieben mit provokantem Titel. Ist KI der neue Gott?
Nein, das behaupte ich auch nicht. Ich sage aber auch nicht, dass es nur den christlichen Gott gibt oder andere Götter. Ich schaue nur die Menschen an, wie sie sich verhalten. Und tatsächlich war ich überrascht bei der Arbeit am Buch, dass es wirklich so viele Bereiche und Phänomene gibt, wo sich
Menschen so verhalten, als ob die KI ein Gott wäre.
Leute beten zur KI?
Nein, es gibt noch kein explizites religiöses Bekenntnis in dem Sinn, dass Menschen sagen, KI ist mein Gott. Aber Religionen beginnen ja nie im luftleeren Raum, sondern immer mit dem Behandeln-als-ob.
Also eine Art Quasi-Religion?
Genau. Naturreligionen haben damit begonnen, dass die Menschen Naturphänomene wie einen Blitz so behandelt haben, als ob das etwas Übernatürliches wäre, etwas Göttliches. Danach kommt irgendwann das explizite Bekenntnis. Und momentan, das zeige ich eben in dem Buch, würde ich sagen, sind wir in der Situation, wo immer mehr Menschen die KI so behandeln, als ob sie eine Gottheit wäre.
Neuen Technologien wird öfters alles Mögliche zugeschrieben, grad auch Übernatürliches.
Schon, nur die KI liefert halt die perfekte Vorlage, um ihr auch diese Personalität zuzuschreiben. Also auch wenn wir wissen, dass KI nur Systeme sind, verhalten sich viele Menschen so, als ob sie es glauben würden, als ob in der KI wirklich ein personales Du wäre, ein konkretes Gegenüber, das sich genau für mich interessiert. Und damit ist, glaube ich, auch der Schritt zur Vergöttlichung ein viel kleinerer als bei irgendeiner anderen neuen Technologie. Wenn ich mit dem ICE fahre, dann ist das einfach ein sehr schneller Zug. Und ich weiß, wenn eine Stimme ertönt: Das ist der Lokführer und nicht der Zug, der mit mir redet.

• Artikel teilen
• 
• 
• 
• 
• 
• 
•