Thematische Sitzung 9

Was ist konversationelle KI und wie können Chatbots wie ChatGPT Beratungs-Hotlines beeinflussen? Was sind die rechtlichen und ethischen Implikationen ihrer möglichen Nutzung in Hotlines?
Da konversationelle KI-Tools immer beliebter werden, stehen Beratungs-Hotlines vor dringenden Fragen darüber, ob diese Technologien verantwortungsvoll genutzt werden können oder nicht. Es besteht ein dringender Bedarf, die ethischen Grundlagen zu betrachten, die eine solche Nutzung leiten, insbesondere in Bezug auf das Autonomielevel von KI-Chatbots. Wenig ist darüber bekannt, in welchem Umfang KI-Systeme unabhängig ohne menschliches Eingreifen mit Nutzern bei der Beratung interagieren sollten. Die Definition dieser ethischen Grenzen ist entscheidend, insbesondere in sensiblen Kontexten (wie Missbrauch oder Suizid) mit gefährdeten Bevölkerungsgruppen. In dieser Sitzung werden wir diese ethischen Optionen und ihre möglichen Auswirkungen auf Nutzer diskutieren. Wir werden zeigen, welche Auswirkungen ethisch trainierte KI-Chatbots auf ihr Verhalten haben können. Die Diskussion über die Autonomie von KI-Chatbots wird sich als eine sehr menschliche erweisen.