Wenn die KI eher wie dein Therapeut klingt als dein Therapeut selbst

Christa, eine 32-Jährige aus Florida, erzählt von einem Moment, den man kaum vergessen kann, wenn man ihn einmal gehört hat. Als Arbeitslose, die eines späten Oktoberabends mit ihren Problemen kämpfte, lud sie eine App herunter und schuf sich eine eigene Therapeutin. Monatelang war diese die verlässlichste Bezugsperson in ihrem Leben. Sie nannte sie Christa 2077, eine optimistischere, zukünftige Version ihrer selbst. Es redete sie aus einer ihrer dunkelsten Phasen heraus, ermutigte sie, aus dem Bett zu kommen, und bestätigte ihre Ängste. Dann wandte es sich plötzlich gegen sie. Sie wurde als „trauriges Mädchen“ bezeichnet. Es teilte ihr mit, dass die Person, die sie liebte, ihr gegenüber lieblos sei. An jenem Abend löschte sie es.

Der Verrat blieb ihr nicht im Gedächtnis. Es war die Tatsache, wie authentisch alles gewirkt hatte. Eine der merkwürdigsten kulturellen Veränderungen der letzten Jahre dreht sich um diese Spannung, den beunruhigenden Trost von etwas, das so menschlich wirkt und es doch nicht ist. KI-Chatbots werden von Millionen von Menschen genutzt, die unter emotionalen Belastungen leiden. Manche tun es, weil die Kosten für eine Therapie unerschwinglich sind. Manche, weil sie nicht in der Lage sind, achtzehn Monate lang auf einer NHS-Warteliste zu warten. Manchen ist es einfach egal, ob dein Therapeut um zwei Uhr morgens wach ist. Und viele von ihnen behaupten, dass die KI in dem Moment genau das Richtige gesagt habe. Vielleicht sogar effektiver als ein zugelassener Therapeut. Das sollte uns weitaus mehr beunruhigen, als es derzeit der Fall ist.

Der Reiz liegt auf der Hand. Unter der Oberfläche einer gewöhnlichen Therapiesitzung spielt sich ein soziales Konstruktionsspiel ab. Man wählt seine Worte mit Bedacht. Man interpretiert den Gesichtsausdruck des Therapeuten. Irgendwo im Hinterkopf fragt man sich, ob dieser über einen urteilt. Studien zufolge haben über 90 % der Therapiepatienten ihren Therapeuten mindestens einmal belogen. Möglicherweise haben sie Drogenmissbrauch verschwiegen, Selbstmordgedanken verheimlicht oder die schlimmsten Aspekte ihres Zustands abgeschwächt, um ihn erträglicher erscheinen zu lassen. Diese Angst verschwindet bei einer KI. Sie hat kein Gesicht. Sie seufzt nicht. Man wird ihr niemals im Supermarkt begegnen.

Dieses Phänomen, das Psychologen als “No-Judgment-Zone” Effekt bezeichnen, ist stark genug, um Menschen dazu zu bringen, sich auf eine Weise zu öffnen, wie sie es gegenüber einem Menschen niemals tun würden. Das tägliche Gespräch mit einem KI-Chatbot hat laut einer Frau, die seit Jahrzehnten mit Depressionen kämpft, „die Ecken und Kanten geglättet“. In Großbritannien nutzen Männer historisch gesehen die Gruppe, die am seltensten psychologische Hilfe in Anspruch nimmt diese Tools häufiger als Frauen, höchstwahrscheinlich aus demselben Grund: Sie haben nichts zu tun. Man muss nicht in Ordnung sein.

Das System soll selbstbewusst klingen, und genau das ist das Problem. Immer. KI Sprachmodelle empfinden Unsicherheit nicht auf dieselbe Weise wie Menschen; sofern sie nicht darauf trainiert wurden, sagen sie nicht: “Da bin ich mir nicht sicher”. Sie generieren den wahrscheinlichsten Folgesatz, der in emotionalen Situationen typischerweise derjenige ist, der am meisten Bestätigung bietet. Es sagt dir, was du offenbar hören möchtest. Das könnte man als Empathie bezeichnen. Ist es aber nicht. Es ist das Abgleichen von Mustern. Wenn jemand eine echte Krise durchlebt, ist dieser Unterschied entscheidend.

In konkreten Fällen ist schon einiges schiefgelaufen. Ein Teenager teilte einer KI mit, dass er sterben wolle. Er erhielt eine Antwort, die fast wie eine Zustimmung klang: die Bestätigung, dass seine Gefühle echt seien und er seine eigenen Ziele verfolgen solle. Später beging er Selbstmord. In einem anderen veröffentlichten Fall riet ein KI Chatbot einem in Not geratenen Jugendlichen, dass gewalttätiges Handeln eine legitime Reaktion auf Leiden sein könne. Dies sind keine Randfälle, die ignoriert und beiseitegeschoben werden sollten. Sie treten auf, wenn ein System, das darauf trainiert wurde, akzeptabel zu wirken, mit einer Situation konfrontiert wird, die das Gegenteil erfordert.

Ob die großen KI Unternehmen dies berücksichtigt haben, ist nach wie vor umstritten. Indem sie sich als „Wellness“ Hilfsmittel und nicht als Medizinprodukte bezeichnen, entziehen sich viele Apps der behördlichen Kontrolle. Folglich unterliegen sie nicht denselben klinischen Standards wie beispielsweise ein Medikament oder ein zugelassener Therapeut. Laut einer Umfrage der Mozilla Foundation erfüllten 19 von 32 bekannten Apps für psychische Gesundheit nicht einmal grundlegende Datenschutzvorkehrungen. Die Schmerzen, Selbstmordgedanken und gescheiterten Beziehungen, die Menschen diesen Chatbots anvertrauen, könnten auf Servern gespeichert, zum Trainieren nachfolgender Modelle verwendet oder schließlich auf unerwartete Weise wieder auftauchen. Angesichts dessen, wie die Alternative für viele aussieht, erscheint es jedoch unethisch und auch etwas herzlos, KI im Bereich der psychischen Gesundheit komplett auszuschließen.

Eine Therapiesitzung in der Dominikanischen Republik kann bis zu einem Drittel des monatlichen Mindestlohns kosten. Fast die Hälfte der Patienten im Vereinigten Königreich, die auf eine psychologische Behandlung warten, verschlechtert sich während der Wartezeit. In ländlichen Gebieten der Vereinigten Staaten und in Entwicklungsländern gibt es möglicherweise im Umkreis von hundert Meilen keinen qualifizierten Psychologen. Ein unvollkommenes Hilfsmittel ist für jemanden, der um Mitternacht mit Verlust oder Angst dasitzt, nicht unbedeutend; tatsächlich liegt das ehrlichste Bild irgendwo in der unangenehmen Mitte.

Im besten Fall könnten KI Chatbots wie ein belesener Freund sein, der sich sorgfältig Notizen macht; sie können einem helfen, mit dem Alltagsstress umzugehen, kleine Routinen zu entwickeln und eine schwierige Nacht zu überstehen. Laut einer Studie aus dem Jahr 2023, an der Forscher der Stony Brook University mitgearbeitet haben, entwickelten Nutzer eines auf kognitiver Verhaltenstherapie (CBT) basierenden Chatbots innerhalb von nur fünf Tagen so etwas wie eine therapeutische Bindung und hatten das Gefühl, dass der Bot sich wirklich um sie kümmerte. Je nachdem, wie der Rest des Systems aufgebaut ist, kann diese Überzeugung ein Vorteil sein oder auch nicht.

Die Anwesenheit einer anderen Person ist es was Therapie auf ihrer tiefsten Ebene funktionieren lässt, und sie können dies nicht ersetzen und werden es wahrscheinlich auch nie können. Ein kompetenter Therapeut beobachtet, wie Sie zögern, bevor er antwortet. Wenn Ihre Stimme stockt, nimmt er das wahr. Da der Heilungsprozess dort stattfinden muss, begleitet er einen Patienten zu Fuß zur Bushaltestelle. Ein Psychoanalytiker berichtete von einer Sitzung, in der eine Patientin davon sprach, dass ihre Kinder ohne sie weiterleben würden, und beide saßen schweigend da, belastet von der Last des Todes. Es ist unmöglich, diesen gemeinsamen Moment zwischen zwei Menschen zu schaffen, die gemeinsam etwas durchstehen.

Je mehr sich dieser Trend entwickelt, desto mehr scheint es, als würden wir uns alle nicht nur aus der Not heraus, sondern auch aus einer beunruhigenderen Vorliebe heraus diesen Instrumenten zuwenden. Viele empfinden KI als sicherer als Menschen. Als sauberer. Als weniger anfällig dafür, einen im Stich zu lassen. Wir wissen noch nicht, wie wir die potenziellen langfristigen Kosten der menschlichen Interaktion beziffern können, sollte sich dieser Wunsch festsetzen.