Stéphane With-Augustin

Vortrag

Generative KI ermöglicht heute konversationelle Agenten, die kontextbewusst und sozial abgestimmt erscheinen. Dieser Vortrag untersucht die psychologischen Folgen der Interaktion mit Agenten, die als geistig wahrgenommen werden. Unter Synthese von Erkenntnissen aus Mensch-Computer-Interaktion und klinischer Psychologie zeige ich, wie die Wahrnehmung eines Geistes und Anthropomorphismus emotionale Bindungen, parasoziale Beziehungen und Abhängigkeit fördern können. Ich unterscheide Designrisiken (überzeugende Interaktionsschleifen, mehrdeutige Haftungsausschlüsse, Empathiesimulation) von Beziehungsrisiken, die in menschlichen Bindungsprozessen verwurzelt sind.
Ich schlage einen praktischen Rahmen vor, um Anzeichen problematischer KI-Bindung zu identifizieren — zwanghafte Nutzung, Ersatz menschlicher Unterstützung, Stress bei Zugangsunterbrechungen, unsichere Überoffenbarung und Abhängigkeit bei akutem Risiko — und analysiere deren Auswirkungen auf Hilfesuchprozesse. Für Krisen- und Notdienste untersuche ich, wie wahrgenommene Handlungsfähigkeit von Chatbots den Kontakt mit menschlichen Helfern verzögern oder erleichtern kann, und skizziere Schutzmaßnahmen für psychische Gesundheits-Chatbots (Übergabelogik, Risikoerkennung, Transparenz).
Abschließend stelle ich kontrollierte Trainingsanwendungen vor, die skriptbasierte KI-Interaktionen nutzen, um Empathie, Deeskalation und Krisentriage-Fähigkeiten bei psychischen Gesundheitsfachkräften zu fördern, zusammen mit Bewertungsstrategien zum Schutz von Auszubildenden und Klienten. Das Ziel ist pragmatisch: KI-gestützte Unterstützung zu nutzen und dabei die unersetzliche Rolle menschlichen Urteils und Präsenz in der Krisenversorgung zu bewahren.