Saara Huhanantti
Vortragende
Über die reine Compliance hinaus entwickelt: Menschliche Unterstützung ergänzen, nicht ersetzen
Vortrag
Sekasin Chat ist Finnlands meistgenutzter niedrigschwelliger Dienst für psychische Gesundheit für 12- bis 29-Jährige und bietet kostenlose, anonyme Einzelunterstützung durch professionelle Berater:innen und geschulte Freiwillige. Trotz dieser großen Reichweite führten im Jahr 2024 nur 26 % der jährlich 160.000 Kontaktversuche durch die Warteschlange tatsächlich zu einem Gespräch. Dies verdeutlicht eine anhaltende Kapazitätslücke zwischen der Nachfrage und der verfügbaren menschlichen Unterstützung.
Als Reaktion darauf wurde AI Mood Support, ein rund um die Uhr verfügbarer niedrigschwelliger Chatbot für psychische Gesundheit, in Zusammenarbeit mit Sekasin entwickelt und im Januar 2025 eingeführt. Der Chatbot wurde nicht als Ersatz für menschliche Betreuung konzipiert, sondern um Lücken im bestehenden System zu schließen. Er bietet außerhalb der Öffnungszeiten und zu Spitzenzeiten eine Option „ohne Zugangsschwelle“ und dient zugleich als Brücke zu weiterführender Unterstützung.
Die Entwicklung orientierte sich an einer Frage, die über regulatorische Anforderungen hinausgeht: Was sollte KI in diesem Kontext tatsächlich leisten, und was dient jungen Menschen wirklich? Die Einhaltung der DSGVO, des EU AI Act und der Datenschutzanforderungen bildete lediglich die Grundlage. Im Zentrum der eigentlichen Entwicklungsarbeit standen Sicherheit und Ethik: aktive Moderation bei Suizidalität, klinisch validierte Inhalte, kein Profiling oder Tracking, eine Logik der Fürsorge statt der Nutzerbindung, eine klare Unterscheidung zwischen Mensch und KI sowie Schutzmaßnahmen gegen die Entstehung emotionaler Abhängigkeit. Nachrichten, die auf Suizidgedanken oder Selbstverletzung hinweisen, werden niemals von der KI bearbeitet. Sie werden kontinuierlich überwacht und in speziell dafür vorgesehene, von Menschen entwickelte Abläufe weitergeleitet, die gemeinsam mit dem Suicide Prevention Center erarbeitet wurden.
In den ersten 18 Monaten verzeichnete der Chatbot 45.000 Gespräche, von denen 25 % außerhalb der Öffnungszeiten der von Menschen angebotenen Dienste stattfanden. Damit adressierte er unmittelbar die Zugangslücke, die den Anstoß für das Projekt gegeben hatte. Eine separate, konsequent datenschutzorientierte Analyse von 22.600 Gesprächen und 331.000 Nachrichten untersuchte, mit welchen Anliegen sich junge Menschen an den Chatbot wandten und wie sie auf ihn reagierten. Die Themenanalyse zeigte, dass ihr wichtigstes Bedürfnis darin bestand, gehört zu werden – deutlich mehr als Informationen zu erhalten. Dennoch berichteten 75 % der Befragten von positiven Auswirkungen und nannten dabei am häufigsten Tipps und Ratschläge, eine verbesserte Stimmung und neue Perspektiven. Die Sentimentanalyse zeigte im Verlauf der Gespräche eine durchschnittliche Verbesserung der Stimmung um 11 %, mit Verbesserungen in 9 von 10 Themenkategorien. Am deutlichsten waren diese bei Nutzer:innen, die zu Beginn besonders stark belastet waren. Eine Person berichtete: „Für mich war es sogar einfacher, mit dem Bot zu sprechen als mit einem Menschen.“
Dieselbe Architektur – einschließlich ihrer Schutzmechanismen, validierten Inhalte und ihres konsequent menschenzentrierten Designs – wurde inzwischen für weitere Zielgruppen angepasst, darunter Betroffene häuslicher Gewalt, Eltern und Sporttrainer:innen. Zusätzlich wurde ein Volunteer Training Tool entwickelt, das mithilfe von KI Gespräche mit Klient:innen simuliert, sodass Freiwillige in einem sicheren Rahmen üben und strukturiertes Feedback erhalten können.
Die Ergebnisse deuten darauf hin, dass klar begrenzte und konsequent ethikorientierte KI-Tools den Zugang zur Unterstützung der psychischen Gesundheit junger Menschen erweitern können, ohne menschliche Beziehungen zu verdrängen. Damit bieten sie ein Modell dafür, wie Technologie und direkte psychosoziale Versorgung verantwortungsvoll zusammenwirken können.