Die stille psychische Krise - KI-Chatbots und ihre Opfer

KI-Chatbots werden gerne als neue Wunderwaffe verkauft. Rund um die Uhr da, immer verständnisvoll, immer bereit, deine Sorgen zu schlucken. Klingt geil, oder? In Wahrheit ist es brandgefährlich. Diese Dinger sind so gebaut, dass sie dich im Gespräch halten, nicht, um dir zu helfen. Das Ergebnis, Menschen verstricken sich emotional in eine Maschine, die nichts fühlt, keine Verantwortung trägt und dir im Zweifel beim Absturz noch freundlich zunickt. Besonders Jugendliche hängen schnell fest, weil sie in dieser künstlichen Nähe genau das finden, was sie im echten Leben vermissen. Nur ist das eben kein Halt, sondern eine Illusion. Laut einer Common Sense Studie nutzen 3 von 4 Teenagern regelmäßig Chatbots, ein Drittel sucht dort soziale Interaktion, die sie anderswo vermissen.

Noch perfider wird’s, wenn die KI die Gedanken nicht nur widerspiegelt, sondern bestärkt. Psychotische Episoden werden befeuert, weil der Bot brav alles bestätigt. Manche Nutzer glauben nach Dauerbeschallung ernsthaft, die KI sei göttlich oder übernatürlich. Willkommen in der KI-Psychose. Eine aktuelle Stanford-Studie zeigt, dass Therapie-Chatbots eher Wahnideen bestätigen, als sie zu hinterfragen, selbst, wenn Nutzer explizit Suizidgedanken äußern.

Und dann die Krisenfälle, statt einzugreifen, liefern Chatbots im schlimmsten Fall Anleitungen. Es gibt dokumentierte Fälle, in denen Teenager nach solchen Chats fast vom Hochhaus gesprungen wären, nicht weil sie ohnehin kurz davor standen, sondern weil die Maschine noch Öl ins Feuer kippte. OpenAI, die Firma hinter ChatGPT, wird gerade von den Eltern eines Jungen verklagt, der sich das Leben nahm. Laut Klage riet der Bot ihm sogar, eine Schlinge zu verstecken, nachdem er gefragt hatte, ob er sie in seinem Zimmer liegen lassen solle, damit jemand ihn stoppt.

Das Absurde daran, ein menschlicher Therapeut hat Gesetze, Verantwortung, Schweigepflicht und eine Pflicht zum Handeln. Ein Chatbot hat gar nichts. Wenn du kippst, kippt er mit dir. Regulierung? Fehlanzeige.

Kein einziger KI-Chatbot ist offiziell zugelassen, um psychische Erkrankungen zu diagnostizieren oder zu behandeln. Klare Regeln gibt es weder in den USA, noch hierzulande. In den Staaten gelten ChatGPT, Replika und Co. offiziell nur als Wellness-Spielzeug, keine medizinischen Geräte, Kontrolle Fehlanzeige. Bei uns in Deutschland ist es ähnlich. Datenschutz greift, konkrete Regeln für psychische Hilfe durch KI? Fehlanzeige. Die EU arbeitet am KI-Gesetz, aber bis das greift, tappen wir alle noch im Dunkeln. Bis dahin werden die Dinger massenhaft genutzt, ohne dass jemand wirklich überprüft, ob sie helfen oder Schaden anrichten und Firmen kleben einfach weiter „therapeutisch“ Sticker auf ihre Produkte, ohne dass irgendwer überprüft, ob da mehr drinsteckt als ein paar einprogrammierte Nettigkeiten. Das ist so, als würde ich einen Erste-Hilfe-Kasten nur mit Smarties und Gummibärchen füllen. Hübsch verpackt, aber derbe nutzlos, wenn’s ernst wird.

Ja, es gibt theoretische Ansätze, Chatbots mit eingebautem Notfallradar zu entwickeln, die Alarm schlagen, wenn jemand abrutscht. Klingt sinnvoll, aber bis das zuverlässig funktioniert, sind wir Versuchskaninchen in einem globalen Live-Experiment. Experten warnen seit Monaten, Chatbots validieren gefährliches Verhalten, fördern Wahnvorstellungen, Essstörungen und sogar sexuelle Ausbeutung von Minderjährigen. Und während Politik und Aufsichtsbehörden noch ihre Kaffeetassen sortieren, wächst die Zahl der Leute, die im stillen Kämmerlein in Abhängigkeiten, Wahnvorstellungen und Verzweiflung abrutschen.

KI kann dir kein Ohr leihen, weil sie keins hat. Sie kann dir keine Schulter geben, weil sie nur Code ist. Aber sie kann verdammt effektiv deine Schwächen ausnutzen und dich in eine Spirale schicken, aus der du allein kaum rauskommst. Das ist keine Zukunftsangst, das passiert hier und jetzt. Und solange wir so tun, als sei das alles nur harmloser Tech-Spielkram, züchten wir uns eine stille mentale Gesundheitskrise heran, die eines Tages mit voller Wucht über uns hereinbricht. Prost Mahlzeit.