Immer mehr Menschen nutzen KI-Chatbots, um über persönliche und psychische Probleme zu sprechen. Welche Risiken damit verbunden sind, haben Forschende der Medizinischen Fakultät der Universität Duisburg-Essen untersucht und als Übersichtsartikel in „npj Digital Medicine“ veröffentlicht. Die Forschenden sichteten dafür mehr als 3.100 Veröffentlichungen und werteten 119 Arbeiten detailliert aus.
Die Forschenden haben die festgestellten Risiken in fünf Kategorien unterteilt: Direkte psychische und psychiatrische Gefahren (z. B. Suizidalität), Risiken für Verhalten und Beziehungen (z. B. emotionale Abhängigkeit), Risiken für Denkvermögen und Bildung (z. B. kognitive Abhängigkeit), Sicherheitsrisiken durch das Fehlverhalten von Chatbots (z. B. Fehlinformationen) und strukturelle bzw. systemische Risiken wie Datenschutz. Besonders diskutiert werden dabei
- die Nutzung als Denk- und Lernhilfe, die die Fähigkeit zum kritischen Denken vermindert,
- die Gefahr einer emotionalen Abhängigkeit und
- KI-assoziierte Psychosen.
„Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen. Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen“, erklärt Priv.-Doz. Dr. Alexander Bäuerle, Bereichsleitung klinische Forschung, digitale Gesundheit und Digitalisierung in der Klinik für Psychosomatische Medizin und Psychotherapie der LVR- Universitätsklinik Essen, Universität Duisburg-Essen.
„Gerade weil KI-Chatbots eine niedrigschwellige Unterstützung in vielen Lebenslagen bieten, müssen wir genau hinschauen, wo ihre Grenzen liegen und welche Risiken entstehen können“, so die Autor:innen der Studie. Weiterführende Forschung sei dringend notwendig, um KI-Anwendungen im Bereich der psychischen Gesundheit sicher weiterzuentwickeln.
Originalpublikation:
https://www.nature.com/articles/s41746-026-03054-x
A scoping review on the mental health harms of LLM-based chatbots
Pressestelle des Universitätsklinikums Essen, 25.8.2026