¿Qué es la inteligencia artificial conversacional y cómo pueden los chatbots como ChatGPT influir en las líneas de ayuda?
¿Cuáles son las implicaciones legales y éticas de su posible uso en estos servicios?Grabación en video del discurso (Conferencia precongreso 14.11.2025)
¿Qué es la IA conversacional y cómo pueden los chatbots como ChatGPT influir en las líneas de ayuda de orientación? ¿Cuáles son las implicaciones legales y éticas de su posible uso en las líneas de ayuda?
A medida que las herramientas de IA conversacional se vuelven cada vez más populares, las líneas de ayuda de orientación por chat se enfrentan a preguntas urgentes sobre si estas tecnologías pueden utilizarse de manera responsable. Existe una necesidad apremiante de considerar los fundamentos éticos que deben guiar dicho uso, en particular en lo relativo al nivel de autonomía de los chatbots de IA. Se sabe poco sobre el grado en que los sistemas de IA deberían interactuar de forma independiente con los usuarios sin intervención humana en la orientación por chat. Definir estos límites éticos es crucial, especialmente en contextos sensibles (como el abuso o el suicidio) y con poblaciones vulnerables. En esta sesión debatiremos estas opciones éticas y sus posibles efectos en los usuarios. Mostraremos cuáles pueden ser los efectos de chatbots de IA entrenados éticamente en su comportamiento. El debate sobre la autonomía de los chatbots de IA resultará ser profundamente humano.
Tim Vanhove es un sociólogo con más de 20 años de experiencia en investigación y desarrollo en el Departamento de Trabajo Social de la Universidad de Ciencias Aplicadas Artevelde en Gante, Bélgica.
Su experiencia radica en la investigación participativa basada en la práctica y la implementación en el mundo real de tecnologías digitales en los ámbitos del bienestar y el cuidado.
En los últimos años, se ha centrado en el potencial y el impacto de la inteligencia artificial conversacional en la salud mental y el trabajo social. En su proyecto actual sobre las (im)posibilidades de integrar la IA en las líneas de ayuda de consejería basadas en chat, explora los límites prácticos, éticos y legales del uso de la IA conversacional basada en modelos de lenguaje de gran escala entrenados.