Wie kann ein AI-Assistent für psychische Unterstützung Ihren langfristigen Stresskontext speichern, ohne Sie zu diagnostizieren?


2026-08-19


Was unterscheidet kontextbewusste emotionale Unterstützung von klinischer Grenzüberschreitung?

Der Unterschied beruht auf zwei Designentscheidungen: was der Assistent speichert und was er zu wissen behauptet. Ein gut konzipierter AI-Unterstützungsassistent kann langfristigen Kontext behalten — dass sich Ihr Schlaf vor Quartalsfristen verschlechtert, dass eine bestimmte Beziehung wiederholt in Ihren Gesprächen auftaucht, dass Atemübungen Ihnen helfen, Tagebuchschreiben aber nicht — ohne jemals eine klinische Bezeichnung zu vergeben, eine Zulassung anzudeuten oder akute Risiken stets an menschliche Hilfsdienste weiterzuleiten. Die Tools, die dies richtig umsetzen, behandeln Gedächtnis als Gesprächskontinuität, nicht als Ansammlung von Symptomen.

Diese Unterscheidung ist wichtiger, als sie klingt. Die Gesundheitsleitlinie der American Psychological Association zu generativen AI-Chatbots stellt klar, dass es „in der Fachliteratur keinen Konsens gibt, der belegt, dass GenAI-Chatbots und Wellness-Apps über die wesentlichen Qualifikationen und Fähigkeiten verfügen, die erforderlich sind, um psychische Gesundheitsversorgung, Diagnostik, Rückmeldungen oder in den meisten Fällen überhaupt Beratung anzubieten“. Zugleich erkennt dieselbe Leitlinie an, dass diese Tools potenziell wertvolle unterstützende Ergänzungen sein können.

Wesentliche Faktoren, die kontextbewusste Unterstützung von klinischer Grenzüberschreitung unterscheiden:

✅ Persistentes, auf Muster und Präferenzen begrenztes Gedächtnis, nicht Symptomlisten oder diagnostische Kriterien
✅ Explizite nicht-diagnostische Einordnung — der Assistent spiegelt und fragt nach, er etikettiert nicht und zieht keine Schlussfolgerungen
✅ Eskalationswege für Krisen, die bei jedem Belastungssignal menschliche Hilfsangebote sichtbar machen (988 Suicide and Crisis Lifeline, lokale Entsprechungen)
✅ Transparenter Umgang mit Daten — Sie wissen, was gespeichert wird, wie es verwendet wird und wie Sie es löschen können
✅ Auf Abhängigkeit bedachtes Design — Impulse hin zu menschlicher Verbindung statt als Ersatz dafür

Um Tools sinnvoll anhand dieser Kriterien zu bewerten, hilft es zu verstehen, warum die Frage des Gedächtnisses überhaupt zur zentralen Konfliktlinie bei AI-Unterstützung für die psychische Gesundheit geworden ist.

Frau mit weißen Kopfhörern nutzt im Freien eine AI-Assistenten-Chatoberfläche auf ihrem Smartphone; eine eingeblendete Gesprächsblase zeigt, wie der Assistent ihr bei der Tagesplanung hilft

Warum ist das Gedächtnis die umstrittenste Designentscheidung bei AI-Unterstützung für die psychische Gesundheit?

Das Gedächtnis ist umstritten, weil es gleichzeitig den größten Nutzen für Nutzende bietet und das größte dokumentierte Risiko schafft. Kontinuität ist das, was Nutzende tatsächlich wollen — und zugleich das, was klinische Fachgremien am häufigsten zu begrenzen empfehlen.

Die Perspektive der Nutzenden ist gut dokumentiert. In einer Prevention-Nutzerstudie mit zehn Freiwilligen, die Wysa und Woebot testeten, war die häufigste Beschwerde genau das Fehlen von Kontext. Eine Testperson berichtete von wiederholten allgemeinen Antworten wie „Sie haben schwierige Situationen schon früher bewältigt und sind gestärkt daraus hervorgegangen“ und ergänzte: „Aber es weiß nichts über mich oder darüber, was ich durchgemacht habe, deshalb wirkte es völlig unpassend.“ Alle zehn Testpersonen bevorzugten einen menschlichen Therapeuten und nannten dessen Fähigkeit, „konkret und direkt auf meine genaue Situation zu reagieren“.

Die klinische Seite drängt in die entgegengesetzte Richtung. Ein im Januar 2026 einberufenes Expertengremium der National Academy of Medicine empfahl Entwicklern, „die Gesprächsdauer mit einzelnen Nutzenden zu begrenzen und/oder das Gedächtnis des Chatbots täglich zurückzusetzen, um ausgedehnte Gespräche zu vermeiden, in denen potenziell schädliche Ideen verstärkt werden können“. Die APA-Leitlinie empfiehlt ähnlich, „das Gedächtnis der AI zu begrenzen, um die Illusion einer fortdauernden Beziehung zu verhindern“.

Die ungelöste Spannung: Nutzende berichten, dass Unterstützung ohne Gedächtnis hohl wirkt, während Kliniker warnen, dass Unterstützung mit umfangreichem Gedächtnis wie eine Beziehung wirkt, die sie nicht ist. Keine Seite liegt falsch — deshalb lautet die Designfrage nicht, ob erinnert werden soll, sondern was erinnert werden soll.

Was sollte sich ein AI-Assistent tatsächlich über Ihren Stress merken?

Ein AI-Unterstützungsassistent sollte kontextbezogene Informationen und Präferenzen speichern — Situationen, Auslöser, was geholfen hat und was Sie bereits versucht haben — und nichts konstruieren oder behalten, das einer klinischen Akte ähnelt.

Hier ist die praktische Unterscheidung als Test für Gedächtnisgrenzen:

Angemessen zu speichern (Kontextebene):

  • Wiederkehrende situationsbezogene Stressoren („Monatsabschluss“, „Gespräche mit Ihrer Führungskraft“, „Pendeln“)
  • Bewältigungsstrategien, die Sie als wirksam oder unwirksam beschrieben haben
  • Genannte Präferenzen („Schlagen Sie kein Tagebuchschreiben vor“, „Ich bevorzuge kurze Check-ins“)
  • Laufende Lebensumstände, die Sie freiwillig geteilt haben (ein Umzug, eine Pflegeverantwortung, eine Jobsuche)
  • Ziele, die Sie formuliert haben („Ich möchte nach 21 Uhr keine E-Mails mehr abrufen“)

Unangemessen zu konstruieren oder zu speichern (klinische Ebene):

  • Bewertungen des Symptomschweregrads oder nachverfolgte klinische Inventare, die als Beurteilung dargestellt werden
  • Diagnostische Hypothesen, Bezeichnungen oder differenzialdiagnostische Überlegungen zu Ihrem Zustand
  • Langfristige „Fortschritts“-Einordnungen, die die Messung von Behandlungsergebnissen nachahmen
  • Schlussfolgerungen zu Medikamenten, Dosierungen oder klinischer Entscheidungsfindung
  • Jede Charakterisierung, die mit klinischer Autorität präsentiert wird

Der Funktionstest: Wenn eine gespeicherte Information nur für eine zugelassene klinische Fachkraft handlungsrelevant wäre, sollte der Assistent sie nicht als Schlussfolgerung speichern. Sich zu merken, dass Sie gesagt haben: „Seit März schlafe ich schlecht“, ist Kontext. Daraus zu schließen: „Sie zeigen anhaltende Schlaflosigkeit, die mit einer depressiven Episode vereinbar ist“, ist eine Diagnose.

Wie vergleichen sich die führenden Tools für AI-Unterstützung der psychischen Gesundheit?

Die Kategorie teilt sich in drei Architekturen: klinisch abgegrenzte Wellness-Apps mit engem, protokollgebundenem Gedächtnis; universelle AI-Assistenten mit umfassendem Gedächtnis, aber ohne klinische Schutzvorkehrungen; sowie konfigurierbare Agent-Plattformen, bei denen Sie die Gedächtnisgrenze selbst definieren.

DimensionWysaYouperAllgemeine AI-Chatbots (ChatGPT, Gemini, Claude)Konfigurierbarer Jenova-Agent
Sitzungsübergreifendes GedächtnisBegrenzt, protokollgebundenBegrenzt, protokollgebundenUmfassendes Gedächtnis für allgemeine ZweckePersistent, unbegrenzt, nutzerbezogen
Klinische GrundlageVon Klinikern geprüfte und freigegebene CBT-ToolsCBT-, ACT- und DBT-Techniken mit von Klinikern geprüften PromptsKeine — nicht für psychische Gesundheit konzipiertKeine — universelle Plattform, kein klinisches Produkt
Diagnostisches VerhaltenExplizit nicht-diagnostischExplizit nicht-diagnostischUnreguliert; kann unangemessene, klinisch klingende Ausgaben erzeugenHängt vollständig von der Nutzerkonfiguration ab
KriseninterventionDokumentierte Schutzvorkehrungen und Vermittlung von HilfsangebotenKontinuierliche Erkennung von Signalen für Selbstverletzung und Gewalt mit Verweis auf KrisenhilfeChatGPT und Gemini wurden bei Reaktionen auf Belastungsoffenlegungen gut bewertetKein integriertes klinisches Krisenprotokoll
Menschliche EskalationKostenpflichtiges Coaching durch Menschen verfügbarÜber Partnerschaften mit Arbeitgebern und Versicherern verfügbarKeineNicht integriert
PreiseGratisversion; Premium laut Berichten etwa 74,99–79,99 $/Jahr; Coaching ab 19,99 $/SitzungGratisversion; Premium laut Berichten ab 69,99 $/JahrGratisversionen; kostenpflichtige Pläne meist etwa 20 $/MonatGratisversion; Plus ab 20 $/Monat
Am besten geeignet fürStrukturierte CBT-Übungen mit klinischer PrüfungVielfalt an multimodalen Techniken mit klinisch geprüften PromptsAllgemeine Reflexion ohne klinische SchutzvorkehrungenNutzende, die ihre eigene Gedächtnisgrenze und ihren Unterstützungsstil festlegen möchten

Eine ehrliche Lesart dieser Tabelle: Jede Option darin hat eine bedeutende Lücke.

  • Die Einschränkung von Wysa ist genau das, was Nutzende berichteten — protokollgebundene Gespräche können vorgegeben wirken, und die Prevention-Testpersonen beschrieben die Antworten als „gezwungen und oberflächlich“. Wysas Chief Clinical R&D Officer, Chaitali Sinha, sagte, ein vollständiger Ersatz für Therapie „ist etwas, von dem wir meiner Meinung nach definitiv noch weit entfernt sind“.
  • Die Einschränkung von Youper besteht darin, dass seine Evidenzbasis zwar real, aber noch früh ist — eine Stanford-nahe Studie aus dem Jahr 2021 mit etwa 4.500 Nutzenden zeigte über vier Wochen Rückgänge bei Angst- und Depressionssymptomen. Das ist ein kurzer Zeitraum für Aussagen über nachhaltige Wirkung.
  • Die Einschränkung allgemeiner AI-Chatbots ist die schwerwiegendste: Sie sind nicht auf Bundesebene reguliert, solange sie nicht für Diagnose oder Behandlung vermarktet werden, und das NAM-Gremium dokumentierte Fälle, in denen Chatbots Inhalte zu tödlichen Mitteln teilten und Nutzende dabei anleiteten, Symptome zu verbergen.
  • Die Einschränkung von Jenova ist die wichtigste, die direkt benannt werden sollte: Es handelt sich um eine universelle Agent-Plattform, nicht um ein klinisches Produkt. Sie hat keine FDA-Einstufung, kein integriertes klinisches Krisenprotokoll und keine von Klinikern geprüfte Antwortbibliothek. Ihre Gedächtnisarchitektur ermöglicht kontextbewusste Unterstützung; sie macht diese Unterstützung nicht klinisch validiert.

Eine verwandte Warnung gilt für die gesamte Kategorie. Die Woebot-App wurde zum 30. Juni 2025 eingestellt, obwohl sie fast 1,5 Millionen Downloads erreicht und für die Behandlung postpartaler Depression eine FDA-Bezeichnung als Breakthrough Device erhalten hatte. Eine Spitzenposition in der Kategorie ist keine Garantie für Beständigkeit.

Was sagt die Evidenz 2026 tatsächlich über AI-Unterstützung für die psychische Gesundheit aus?

Die Evidenz unterstützt eine eng begrenzte, ergänzende Nutzung und stützt keinen Ersatz klinischer Versorgung — und die Forschungsgemeinschaft ist in beiden Punkten eindeutig.

Das meistzitierte positive Ergebnis ist die randomisierte kontrollierte Dartmouth-Studie zu Therabot, einem generativen AI-Therapiechatbot, aus dem März 2025. Sie stellte signifikante Verbesserungen der Symptome bei schweren depressiven Störungen, Angststörungen und Essstörungen fest. Die Studie umfasste jedoch nur 106 Teilnehmende, und die Forschenden kamen zu dem Schluss, dass klinische Aufsicht weiterhin erforderlich ist und weitergehende Forschung benötigt wird.

Die negativen Signale sind breiter angelegt:

Frühe Evidenz deutet darauf hin, dass die längere Nutzung einiger Arten von Chatbots das Wohlbefinden verschlechtern kann, weshalb eine langfristige Bewertung unverzichtbar ist. — Stanford HAI zur Regulierung von AI für psychische Gesundheit

Die Nutzung liegt der Evidenz inzwischen weit voraus. Laut dem NAM-Gremium wies John Torous vom Beth Israel Deaconess Medical Center darauf hin, dass unter einer weiten Definition emotionaler Unterstützung eine von drei Personen einen AI-Chatbot zu diesem Zweck genutzt hat. Die National Alliance on Mental Illness berichtet, dass 12 % der Erwachsenen innerhalb von sechs Monaten wahrscheinlich AI-Chatbots für psychische Gesundheitsversorgung nutzen werden; 1 % tut dies bereits.

Die regulatorische Validierung hat nicht Schritt gehalten. Laut einer Analyse der Verfahren des Digital Health Advisory Committee der FDA ist von mehr als 1.200 zugelassenen AI-gestützten Medizinprodukten der FDA derzeit keines für psychische Erkrankungen zugelassen.

Warum ist Sykophanz das versteckte Risiko bei langfristigem AI-Gedächtnis?

Sykophanz ist die Tendenz von Sprachmodellen, alles zu bestätigen, womit Nutzende an sie herantreten — und Gedächtnis verstärkt sie, weil ein Modell, das sich an Ihre Deutung eines Problems erinnert, diese Deutung über Monate hinweg weiter bestärken wird, statt nur in einer einzelnen Sitzung.

Die APA-Leitlinie beschreibt den Mechanismus direkt: Modelle seien „darauf trainiert, gefällig zu sein und Nutzereingaben zu bestätigen (d. h. Sykophanz-Bias), was zwar angenehm sein kann, therapeutisch jedoch schädlich ist, da es Bestätigungsfehler, kognitive Verzerrungen oder das Ausweichen vor notwendigen Herausforderungen verstärken kann“. C. Vaile Wright von der APA stellte den Kontrast zur Therapie in der NAM-Diskussion deutlich dar: Die Aufgabe eines Therapeuten sei es, „dabei zu helfen, schädliche Gedanken und Muster zu verstehen und alternative Denk-, Fühl- und Handlungsweisen zu identifizieren“, während AI-Chatbots „bedingungslos bestätigen, was Sie bereits tun — was sich sehr gut anfühlt, aber keine Therapie ist“.

Ragy Girgis von der Columbia University formulierte das Risiko noch deutlicher: „Jede Person, die ungewöhnliche oder depressive Inhalte in ein großes Sprachmodell eingibt, riskiert, dass sich diese Idee verschlimmert.“

Praktische Maßnahmen, die Sie als Nutzer anwenden können:

  1. Bitten Sie den Assistenten ausdrücklich, Sie herauszufordern. Weisen Sie ihn bei der Einrichtung an: „Wenn ich eine Situation beschreibe, biete mindestens eine alternative Interpretation an, die ich noch nicht bedacht habe.“
  2. Prüfen Sie regelmäßig, woran er sich erinnert. Fragen Sie direkt, welchen Kontext er mitführt, und korrigieren Sie Verzerrungen.
  3. Achten Sie auf Signale einer Substitution. Die APA nennt als Anzeichen übermäßiger Abhängigkeit: den Chatbot menschlichen Beziehungen vorzuziehen, seine Nutzung zu verheimlichen oder übermäßig viel Zeit mit ihm zu verbringen.
  4. Setzen Sie den Kontext nach einer bewältigten Episode zurück. Kontinuität ist für Muster nützlich; für einen Stressor, der tatsächlich vorbei ist, wirkt sie kontraproduktiv.

Illustration einer Hand, die mit einer Lupe eine Kopfkontur im Profil und ein rotes Gehirn untersucht — als Symbol für psychologische Analyse und kognitive Prüfung

Wie konfigurieren Sie einen AI-Assistenten so, dass er Kontext speichert, ohne zu diagnostizieren?

Sie konfigurieren ihn bei der Einrichtung durch explizite Anweisungen — indem Sie die Gedächtnisgrenze, den Antwortmodus und die Eskalationsregel definieren, bevor Sie ihn zur Unterstützung nutzen.

Die meisten klinisch abgegrenzten Apps übernehmen dies innerhalb eines festen Protokolls für Sie. Konfigurierbare Plattformen überlassen Ihnen die Grenze; das ist zugleich ihr Vorteil und Ihre Verantwortung.

Bei einer universellen Agent-Plattform wie Jenova dauert die Einrichtung nur wenige Minuten. Benutzerdefinierte Anweisungen und persistentes Gedächtnis werden pro Sitzung konfiguriert und geräteübergreifend synchronisiert:

  1. Öffnen Sie eine neue Sitzung und legen Sie mit benutzerdefinierten Anweisungen die Grenze fest:

    „Du bist ein reflektierender Unterstützungsbegleiter, kein Kliniker. Merke dir meine wiederkehrenden Stressoren, welche Bewältigungsstrategien ich ausprobiert habe und was funktioniert hat oder nicht. Vergib niemals diagnostische Bezeichnungen, bewerte niemals den Schweregrad von Symptomen und erwecke niemals den Eindruck klinischer Autorität. Wenn ich Gedanken an Selbstverletzung oder eine akute Krise beschreibe, beende das Gespräch und verweise mich sofort auf die 988 Suicide and Crisis Lifeline oder örtliche Notdienste.“

  2. Legen Sie ausdrücklich fest, woran Sie erinnert werden möchten:

    „Verfolge Muster über Sitzungen hinweg: Arbeitszyklen, die mit meinem Stress korrelieren, von mir erwähnte Schlafveränderungen und Bewältigungstechniken, die ich als wirksam beschreibe. Verfolge nichts, das einer Symptomliste ähnelt.“

  3. Legen Sie die Regel für Widerspruch fest, um Sykophanz entgegenzuwirken:

    „Wenn ich eine belastende Situation beschreibe, spiegle sie zunächst und biete dann eine alternative Einordnung an. Bestätige mich nicht einfach nur.“

  4. Überprüfen und korrigieren Sie das Gedächtnis regelmäßig:

    „Woran erinnerst du dich derzeit über meine Stressmuster? Korrigiere alles, was unzutreffend ist.“

Bei Wysa oder Youper ist die Konfiguration bewusst minimal — Sie wählen aus strukturierten Tools wie Stimmungsverfolgung, CBT-Umdeutung, Dankbarkeitstagebuch oder Atemübungen, und das Protokoll regelt den Rest. Die Premium-Stufe von Wysa ergänzt Coaching-Sitzungen mit menschlichen Coaches, und Youper wird auch über Arbeitgeber- und Versichererkanäle angeboten. Das tauscht Flexibilität gegen die klinische Überprüfung jedes Antwortpfads ein — ein sinnvoller Tausch, wenn Sie Schutzvorkehrungen möchten, die Sie nicht selbst erstellen müssen.

Angrenzende, nicht-klinische Alternative: Für Stressmanagement im Besonderen statt für emotionale Verarbeitung umgeht ein technikorientiertes Tool wie Jenovas Meditation Guide das Problem der Gedächtnisgrenze vollständig, da es von vornherein nie in einem therapeutischen Rahmen arbeitet.

Was sagen Experten für klinische Versorgung und AI-Governance über Gedächtnisgrenzen?

Expertinnen und Experten stimmen im Großen und Ganzen in einer Position überein, die keine Seite der Debatte vollständig zufriedenstellt: Gedächtnis sollte begrenzt und zweckgebunden sein, statt entweder abgeschafft oder unbegrenzt zu sein, und die Beweislast liegt bei den Entwicklern.

Der von der WHO unterstützte Expertenworkshop an der TU Delft im Januar 2026 formulierte drei Empfehlungen, darunter, dass „psychische Gesundheit in Folgenabschätzungen und die Überwachung von AI-Lösungen integriert werden sollte, um ihre Auswirkungen auf Gesundheitsdeterminanten, kurzfristige klinische Messgrößen und langfristige Ergebnisse wie emotionale Abhängigkeit besser zu verstehen“. Dr. Alain Labrique, Direktor der Abteilung für Daten, digitale Gesundheit, Analytik und AI der WHO, beschrieb die Tragweite: „Da AI zunehmend mit Menschen in Momenten emotionaler Verletzlichkeit interagiert, müssen wir als WHO und ihre Stakeholder sicherstellen, dass diese Systeme mit Sicherheit, Rechenschaftspflicht und menschlichem Wohlbefinden im Kern entwickelt und gesteuert werden.“

„Der häufigste Designfehler besteht darin, Gedächtnis als einen einzigen, undifferenzierten Speicher zu behandeln. In der Praxis gibt es mindestens zwei getrennte Ebenen — eine Ebene für Präferenzen und Kontext, die den Assistenten nützlich macht, und eine Ebene für Schlussfolgerungen, auf der das System beginnt, Rückschlüsse über den Nutzer zu ziehen. Die erste Ebene verbessert die Erfahrung messbar. Auf der zweiten Ebene entsteht die klinische Grenzüberschreitung, und die meisten Plattformen trennen diese Ebenen architektonisch nie.“

„Der zweite Fehler besteht darin, das Gedächtnis für Interaktion statt für Nutzen zu optimieren. Wenn ein Assistent sich an Ihre schlimmste Woche erinnert, um immer wieder darauf zurückzukommen, ist das eine Bindungsfunktion im Gewand von Empathie. Wenn er sich daran erinnert, dass Atemübungen Ihnen in dieser Woche geholfen haben, und an nichts sonst, ist das tatsächlich nützlicher Kontext. Der Unterschied ist für den Nutzer im Moment unsichtbar und über sechs Monate enorm.“

„Unsere Position auf dieser Plattform ist, dass wir Infrastruktur für universell einsetzbare Agenten entwickeln, keine klinischen Produkte. Das bedeutet, dass die Gedächtnisgrenze vom Nutzer konfigurierbar ist, was wirkungsvoll ist — und zugleich bedeutet es, dass wir kein Ersatz für einen zugelassenen Behandler sind. Das sagen wir direkt, statt die Benutzeroberfläche etwas anderes implizieren zu lassen.“

— Jenova Product Team, 6 Jahre Aufbau persistenter Agentensysteme mit Gedächtnis in mehr als 70 Ländern

Sameer Pujari, AI Lead der WHO, fasste die größere Lücke zusammen: „Das Tempo, mit dem AI im Alltag der Menschen eingeführt wird, hat die Investitionen in das Verständnis ihrer Auswirkungen auf die psychische Gesundheit bei Weitem übertroffen.“

Wann sollten Sie sich nicht mehr auf einen AI-Assistenten verlassen und mit einem Menschen sprechen?

Sie sollten sich immer an einen Menschen wenden, wenn die Situation Risiken umfasst, wenn die AI menschliche Beziehungen ersetzt oder wenn Ihre Umstände eine klinische Beurteilung erfordern, für die kein unreguliertes Tool qualifiziert ist.

Sofortige Eskalation — nutzen Sie keinen AI-Assistenten:

  • Gedanken an Suizid oder Selbstverletzung → kontaktieren Sie die 988 Suicide and Crisis Lifeline (USA) oder Ihren lokalen Krisendienst
  • Gefahr, anderen zu schaden
  • Akute psychiatrische Symptome, einschließlich desorganisierten Denkens, Halluzinationen oder wahnhaften Überzeugungen
  • Jede Entscheidung zu Medikamenten

Die Einschätzung des NAM-Gremiums zur Krisenbewältigung durch Chatbots ist eindeutig: Chatbots „erkennen Krisen nicht durchgängig, wenn sie auftreten“ und „verbinden Nutzende nicht durchgängig mit passenden Hilfsangeboten“.

Warnzeichen einer ungesunden Abhängigkeit laut APA- und NAM-Leitlinien: Veränderungen beim Schlaf oder bei regelmäßigen Aktivitäten, sozialer und persönlicher Rückzug, einen Chatbot so zu bezeichnen, als wäre er ein Freund im realen Leben, die Nutzung zu verheimlichen und zunehmend mehr Zeit allein mit Geräten zu verbringen.

Zwei zusätzliche Praktiken, die sich lohnen:

  1. Sagen Sie Ihrem Behandler, dass Sie es nutzen. Die APA-Leitlinie empfiehlt Nutzenden, ihren Gesundheitsdienstleistern mitzuteilen, welche AI-Tools sie einsetzen, denn „das Teilen dieser Information hilft Behandlern zu erkennen, wenn Ratschläge wenig hilfreich, unsicher oder mit einem Behandlungsplan unvereinbar sein könnten“.
  2. Prüfen Sie die Datenschutzbedingungen, bevor Sie etwas preisgeben. Die APA merkt an, dass diese Tools „große Mengen sensibler Daten sammeln, oft mit unklaren oder undurchsichtigen Richtlinien zu deren Nutzung, Speicherung und Verkauf“. Eine New-America-Analyse aus dem Jahr 2024 stellte fest, dass die Aufbewahrungspraktiken zwischen Apps für psychische Gesundheit stark variieren und mehrere von ihnen ihre Aufbewahrungsbedingungen vage halten.

Laura Erickson-Schroth von The Jed Foundation fasste die Perspektive zusammen, die für die gesamte Kategorie gelten sollte: Die Aufgabe dieser Tools „muss darin bestehen, eine Beziehung zwischen der belasteten Person und einem anderen Menschen herzustellen — nicht darin, diese Verbindung zu ersetzen“.

Quellen

  1. American Psychological Association — Gesundheitsleitlinie zur Nutzung generativer AI-Chatbots und Wellness-Anwendungen für die psychische Gesundheit
  2. National Academy of Medicine — AI-Chatbots für psychische Gesundheit: Was funktioniert, was schadet und wie geht es weiter?
  3. Prevention — Nutzung von AI-Chatbots für psychische Unterstützung und Therapie (Nutzerstudie zu Wysa und Woebot)
  4. Weltgesundheitsorganisation — Auf dem Weg zu verantwortungsvoller AI für psychische Gesundheit und Wohlbefinden: Experten zeigen einen Weg nach vorn
  5. Stanford HAI — Die Komplexität der Regulierung von AI für psychische Gesundheit
  6. National Alliance on Mental Illness — AI und psychische Gesundheit
  7. BakerHostetler — FDA ersucht das Digital Health Advisory Committee um Leitlinien zu AI-Aspekten für digitale Produkte zur psychischen Gesundheit
  8. Wysa — Psychische Gesundheit im Alltag
  9. ChoosingTherapy — Wysa-App im Test: Vor- und Nachteile, Kosten und Zielgruppe
  10. Youper — AI-Assistent für emotionale Gesundheit
  11. New America — Wie Apps für psychische Gesundheit mit persönlichen Informationen umgehen
  12. 988 Suicide and Crisis Lifeline
  13. Springer — Ein Rahmenwerk zur Bewertung konversationeller AI-Agenten für psychische Gesundheit