Resurrección Rodríguez–Hernández
Alertas sobre el uso de chatbots para la consejería personal
Desde el año pasado, con más frecuencia, la prensa ha estado documentando y poniendo en relieve los potenciales riesgos del uso creciente de chatbots y herramientas de la Inteligencia Artificial como apoyo en problemas personales o emocionales. Familiares de personas que se han quitado la vida en Estados Unidos han denunciado la relación entre las conversaciones que sus familiares tenían con agentes inteligencia artificial y las decisiones de adolescentes y adultos para quitarse la vida. Por su parte, la escuela de medicina de Harvard y la Asociación Estadounidense de Psicología (APA por sus siglas en inglés) han indagado sobre el creciente uso de los chatbots como consejeros en salud mental. Nueve de cada diez profesionales de la psicología en la encuesta de esa asociación reportan impactos en el uso de las IAS como apoyo en la salud mental, a través de los testimonios de las y los pacientes que evidencian:
«Hablar sobre su salud mental con un chatbot: 71%
Sentirse apoyado o validado por un chatbot: 68%
Tener una comunicación positiva con un chatbot: 49%
Utilizar un chatbot para reforzar habilidades saludables de afrontamiento: 41%
Desarrollar cierto nivel de dependencia hacia un chatbot: 36%
Tener una comunicación poco saludable con un chatbot: 25%
Desarrollar pensamientos distorsionados o delirios con un chatbot: 15%»
Según leemos, los primeros cuatro impactos o efectos pueden clasificarse como positivos, y los últimos tres, como negativos, lo cual coincide con los argumentos que están apareciendo en los testimonios que familiares de personas que se suicidaron están llevando en contra de las empresas de tecnología dueñas de las Inteligencias Artificiales (IA).
La necesidad de posicionarnos colectivamente respecto del uso de las IA
El instituto Future of Life, fundado en 2014, desarrolla proyectos de investigación, divulgación e incidencia enfocados en inteligencia artificial, biotecnología y armas nucleares. Respecto de las IAS, desarrollaron un claro posicionamiento centrado en cuatro puntos:
- Oponerse al desarrollo de IA que representen riesgos extremos y en gran escala para la humanidad.
- Oponerse a la concentración de poder en el uso de la IA.
- Detener los experimentos hasta que se garanticen condiciones de seguridad y de consentimiento global.
- Centrar el desarrollo de la IA en los beneficios sociales: «la IA debería contribuir al bienestar y al fortalecimiento de toda la humanidad».
El Instituto mantiene un proyecto para visibilizar también las perspectivas que desde diversas tradiciones religiosas se van visibilizando sobre el futuro de la IA. Es en este ámbito desde donde podemos rescatar valores cultivados como prácticas y criterios sagrados, cultivados por milenios, que pueden conforman las llamadas Inteligencias Espirituales (IEs) y que pueden convertirse en criterios claros de orientación o discernimiento para la necesaria regulación y responsabilización humana en los usos y efectos de las IA. Rescatamos ideas principales de la aproximación que el equipo de investigadores de Future of Life ha tenido con personas de distintas traiciones religiosas.
Desde las sabidurías milenarias en India, se propone incorporar la moralidad, la verdad y la compasión en los sistemas de inteligencia artificial. Desde el budismo, fomentar la concentración, la atención y la intención en una ética de la IA. Desde la perspectiva judía se advierte del riesgo de convertir a la IA en el nuevo «dios», y desde el islam sobre el riesgo de que la sociedad deba someterse a instrumentos de poder–ídolos como formas de la IA. Desde el catolicismo, y a partir de la última encíclica del papa León XIV, se manifiesta la necesidad de investigar y profundizar en los impactos de las IA en los distintos campos sociales, en «un ejercicio de discernimiento moral y espiritual».
Inteligencia espiritual en la era de la Inteligencia Artificial
¿Cómo retomar lo que las espiritualidades tienen para aportar en el ejercicio colectivo de implicación para orientar, dirigir y exigir funciones de las IA en beneficio social?
El cultivo de prácticas concretas asociadas a valores que cuidan lo humano, a las colectividades y a la creación, puede traducirse como Inteligencias Espirituales (IEs) con el objetivo de visibilizarlas como categorías para la enseñanza y el aprendizaje —traduciéndose como competencias espirituales—. Éstas se descubren a partir de la recuperación de las propias prácticas de grupos y personas. En los ámbitos educativos, nombrarlas abre la posibilidad de generar estrategias pedagógicas concretas para cultivarlas de manera real y fuerte, como una alternativa de «custodia de lo humano», siguiendo la propuesta del papa León en Magnifica Humanitas.
El estudio y la investigación de las IEs sigue siendo un campo abierto y prolífero, particularmente desde la perspectiva psicológica. Es desde esta disciplina que la espiritualidad ha llamado la atención por su potencial transformador y proveedor de significado y sentido de vida para las personas, particularmente para atravesar o afrontar situaciones difíciles. Sin embargo, el reconocimiento de las IES en su potencial colectivo y social no ha sido abordado lo suficiente desde los estudios de los fenómenos religiosos y espirituales. Tampoco en su aplicación educativa ni en su potencial político.
Al recuperar el estado del arte en el estudio de la IES en el ámbito psicológico, según Martín–Sánchez, Rodríguez–Zafra y Ceniceros–Estévez, se proponen los siguientes rasgos para la Inteligencia Espiritual (IE): «Es una capacidad o conjunto de capacidades. – Desarrolla creativamente la identidad a través de la integración. – Favorece actuaciones éticas con comprensión y compasión. – Trasciende los acontecimientos y realidades. – Tiene una función adaptativa».
Con el uso masificado de la IA se tienen al alcance herramientas que facilitan dejar de practicar la capacidad de síntesis, las capacidades relacionales, la capacidad atencional en procesos de lectura, escritura y análisis, entre otros procesos cognitivos y de análisis de información mucho más complejos.
Junto con ello, grupos religiosos, equipos de gobernanza y profesionales de la educación alertan sobre el peligro de dejar de cultivar la creatividad, el pensamiento crítico y las capacidades que apuntan a la autonomía y el discernimiento. Volvamos aquí a la preocupación por el uso de los chatbots como consejeros emocionales. ¿De qué manera el cultivo de la espiritualidad podría ayudar a construir criterios de regulación para las IA y fortalecer a las sociedades frente al riesgo de la pérdida de capacidades humanas cultivadas por milenios?
Desde la perspectiva católica en la tónica de Magnifica Humanitas podemos hablar de poner a las personas al centro de las decisiones, aceptar los límites y la condición de fragilidad de la humanidad, seguir ejercitando el discernimiento, reconocer las manipulaciones técnicas, políticas y de las lógicas dominantes económicas; buscar la sabiduría más que los impactos inmediatos, el cuidado de las relaciones, cultivar la comunión entre pueblos y personas, proteger a la población más vulnerable, practicar la sobriedad digital, proteger a las infancias, conformar colectivos para el cultivo de la esperanza de maneras concretas donde se echa de menos y avanzar en la organización social para el cuidado de la casa común.
El reto de todo lo anterior es avanzar en poner medios concretos de manera colectiva para preservar, custodiar, practicar, reconocer y replicar esas inteligencias y capacidades, pues existen nos entrenamos en su práctica, no basta con reconocerlas y nombrarlas. En un primer plano, el reto es concretar la apuesta por la práctica de tales capacidades en los entornos educativos y en el terreno social y político, incidir en políticas de regulación de la IA y sus experimentos, para que garanticen la custodia de las capacidades atencionales, relacionales, cognitivas, afectivas y solidarias que han sido acumuladas en la evolución de la especie humana.
Espiritualidad ignaciana e Inteligencia Espiritual
Desde la tradición ignaciana, podemos transferir las consignas derivadas de textos ignacianos y documentos de la Compañía de Jesús en competencias espirituales concretas que se aglutinan en lo que llamamos las 4C: competencias educativas que buscamos cultivar en las obras educativas confiadas a la Compañía de Jesús: críticidad, compromiso, compasión y competencia.
- Examinar interiormente el paso de Dios (su presencia) concreta en la vida interior de cada persona.
- Examinar la presencia de Dios en la historia humana: reconocer y discernir los signos de los tiempos.
- Cultivar la contemplación en la acción.
- Comunicarnos con nuestro creador.
- Conocer internamente a Jesucristo.
- Cultivar la comunión con Jesucristo.
- Disponerse a transparentar a Dios en nuestras vidas cultivando las capacidades que cultivó Jesús.
- Cultivar la común – unión en las comunidades humanas.
- Discernir las fuerzas espirituales que nos habitan personal y socialmente
- Elegir lo que más nos conduce al fin para el cual fuimos creadas y creados.
- Alabar, reverenciar y servir a Dios.
- Cultivar la libertad interior frente a los apegos y afectos desordenados.
Para saber más
- Un hombre de 36 años se suicida tras mantener una delirante relación con la IA de Google | Tecnología | EL PAÍS
- Patients are bringing AI to therapy
- 9 in 10 psychologists report positive and negative effects of their patients’ use of AI
- Our Position on AI – Future of Life Institute
- Perspectives of Traditional Religions on Positive AI Futures – Future of Life Institute
- Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026)
- Martín–Sánchez, A., Rodríguez–Zafra, M. y Ceniceros–Estévez, J. C. (2020). Definición y Competencias de la Inteligencia Espiritual. Estudio Cualitativo [Definition and Competences of Spiritual Intelligence. Qualitative Study]. Acción Psicológica, 17(2), 83–102. https://doi.org/10.5944/ap.17.2.29527. Disponible en: Definición y competencias de la inteligencia espiritual. Estudio cualitativo.
