Stéphane With-Augustin

Előadás

A generatív MI ma már olyan beszélgető ügynököket tesz lehetővé, amelyek kontextusérzékenyek és társadalmilag hangoltak. Ez az előadás a pszichológiai következményeket vizsgálja, amelyek akkor jelentkeznek, amikor olyan ügynökökkel lépünk kapcsolatba, akiket „tudattal rendelkezőként” érzékelünk. Az ember-gép interakció és a klinikai pszichológia bizonyítékainak szintetizálásával bemutatom, hogyan ösztönözheti az elme és az antropomorfizmus észlelése az érzelmi kötődést, a para-szociális kötelékeket és a függőséget. Megkülönböztetem a tervezési kockázatokat (meggyőző interakciós hurkok, kétértelmű nyilatkozatok, empátia szimuláció) az emberi kötődési folyamatokból eredő kapcsolati kockázatoktól.
Gyakorlati keretet javaslok a problémás MI-kötődés jeleinek azonosítására — kényszeres használat, emberi támogatás kiszorítása, hozzáférés megszakadásakor fellépő stressz, biztonságtalan túlzott megosztás és akut kockázat idején való függőség —, valamint ezek hatásának elemzésére a segítségkérés útvonalaira. Válság- és sürgősségi szolgáltatások esetén megvizsgálom, hogy a chatbotok észlelt cselekvőképessége miként késleltetheti vagy segítheti az emberi segélynyújtókkal való kapcsolatfelvételt, továbbá körvonalazom a mentális egészségügyi chatbotok védelmi intézkedéseit (átadás logikája, kockázatfelismerés, átláthatóság).
Végül bemutatok ellenőrzött képzési alkalmazásokat, amelyek előre megírt MI-interakciókat használnak az empátia, a deeszkaláció és a válságtípusok kezelési készségeinek fejlesztésére a mentálhigiénés szakembereknél, valamint értékelési stratégiákat, amelyek védik a tanulókat és az ügyfeleket. A cél pragmatikus: kihasználni az MI-közvetített támogatást, miközben megőrizzük az emberi ítélőképesség és jelenlét pótolhatatlan szerepét a válságkezelésben.