Tim Vanhove

Vortrag bei der Pre-Congress-Konferenz

Was ist konversationelle Künstliche Intelligenz, und wie können Chatbots wie ChatGPT Beratungs- und Unterstützungsdienste beeinflussen?

Welche rechtlichen und ethischen Implikationen hat ihr möglicher Einsatz bei Helplines?

Videoaufzeichnung des Vortrags (Pre-Congress-Konferenz 14.11.2025)

Vortrag

Was ist konversationelle KI und wie können Chatbots wie ChatGPT Beratungs-Hotlines beeinflussen? Welche rechtlichen und ethischen Implikationen hat ihr möglicher Einsatz in Hotlines?
Mit der zunehmenden Popularität konversationeller KI-Werkzeuge stehen Chat-Beratungs-Hotlines vor drängenden Fragen, ob und wie diese Technologien verantwortungsvoll eingesetzt werden können. Es besteht ein dringender Bedarf, die ethischen Grundlagen zu berücksichtigen, die einen solchen Einsatz leiten sollten, insbesondere im Hinblick auf den Grad der Autonomie von KI-Chatbots. Über das Ausmaß, in dem KI-Systeme ohne menschliches Eingreifen selbstständig mit Nutzerinnen in der Chat-Beratung interagieren sollten, ist bislang wenig bekannt. Die Definition dieser ethischen Grenzen ist entscheidend, insbesondere in sensiblen Kontexten (wie Missbrauch oder Suizid) und bei vulnerablen Bevölkerungsgruppen. In dieser Sitzung werden wir diese ethischen Optionen und ihre möglichen Auswirkungen auf Nutzerinnen diskutieren. Wir zeigen, welche Effekte ethisch trainierte KI-Chatbots auf ihr Verhalten haben können. Die Diskussion über die Autonomie von KI-Chatbots wird sich als eine sehr menschliche erweisen.