El equipo encargado del área de inteligencia artificial en el ITESO esperaba con entusiasmo, pero también con cierta preocupación, la encíclica del Papa León XIV. Nos preguntábamos si el documento plantearía un rechazo al uso de las tecnologías o si su postura podría cuestionar la vigencia de nuestro programa.
Sin embargo, al leer sus páginas, la encíclica nos aclaró y reafirmó la postura que nuestra universidad busca procurar: proteger la dignidad humana en medio de una sociedad cada vez más tecnológica. Ningún individuo ni institución debe enfrentar en soledad los desafíos actuales. La revolución digital exige una actitud activa, capaz de orientar el desarrollo tecnológico hacia fines humanos y comunitarios, así como una reflexión ética que integre el progreso técnico con el respeto a los límites humanos, la justicia social y el bien común.
De cierta manera, el documento representa una reafirmación del camino que ReflexIA 2.0 ha construido durante los últimos ocho meses, mediante un proceso de colaboración y discernimiento con representación de las distintas áreas del ITESO, guiados por la misión de
«promover la apropiación ética, pedagógica, crítica y humana de la IA en la comunidad universitaria, impulsando un ecosistema colaborativo que fortalezca la innovación, la investigación interdisciplinaria, el acompañamiento institucional y la incidencia social».
Por ello, podemos afirmar que es posible construir proyectos universitarios que nos permitan acercarnos a la inteligencia artificial con sentido social, ético, estratégico y pedagógico, que inviten a la reconstrucción de un nuevo Jerusalén evitando caer en la edificación de una torre de Babel.
Para quienes aún no se han formado en literacidad en IA, o no han explorado plenamente su potencial, sus capacidades y beneficios, pero tampoco sus errores, sesgos, alucinaciones y riesgos, espero que la encíclica se convierta en una invitación a reflexionar con detenimiento y discernimiento sobre el impacto de la inteligencia artificial y convertirse en agentes de cambio.
Desde mi labor como coordinador de ReflexIA, les comparto tres puntos que considero fundamentales para reflexionar y estudiar con detenimiento en la encíclica.
IA y su impacto
El Papa León XIV advierte que la velocidad con la que la inteligencia artificial avanza en múltiples direcciones. Al mismo tiempo, reconoce que la tecnología puede curar, conectar y contribuir al cuidado de la Casa común. Sin embargo, también puede dividir, excluir y generar nuevas formas de injusticia, afectando nuestra manera de vivir, relacionarnos y tomar decisiones.
Es necesario comprender que, desde los algoritmos previos a la IA generativa, estos ya se usaban para clasificar información, predecir comportamientos, anticipar consumos e influir en decisiones colectivas. Se crearon plataformas diseñadas para captar la atención, o para orientar decisiones políticas o sociales y están causando mucho daño a la sociedad, este es un ejemplo de cómo la tecnología puede generar formas de manipulación cuando se separa de criterios éticos, democráticos y orientados al bien común.
Pero no olvidemos que existen casos donde el criterio, la ética y la humanidad afloran y estos mismos algoritmos contribuyen a la salud, la investigación, la prevención de riesgos y otros avances científicos, mostrando que la tecnología puede ponerse al servicio de la vida cuando está acompañada de responsabilidad, supervisión y finalidad humana.
Pero ¿qué diferencia introduce la IA generativa? ¿Por qué se habla de un nuevo poder? Desde la perspectiva de la encíclica, esta tecnología puede comprenderse mediante dos imágenes bíblicas: la torre de Babel y la reconstrucción de Jerusalén. La primera advierte sobre una construcción grandiosa, pero inhumana, guiada por el dominio y la autosuficiencia. La segunda recuerda el camino de Nehemías, donde la ciudad se reconstruye pieza por pieza mediante una responsabilidad compartida.
Desde este enfoque la IA generativa por su rápido avance y posibilidades, amplifica el problema y la solución. Para comprender mejor este punto, conviene iniciar definiendo qué es la inteligencia artificial generativa (GenAI): como su nombre lo indica, la GenIA es capaz de generar textos, imágenes, voz, música, videos y código, debido a su entrenamiento y la capacidad de predicción a partir de grandes cantidades de información con las que fue entrenada y ajustada. No «piensa» ni «comprende» como una persona; más bien, aprende patrones del lenguaje y de datos, usando tokens, embedings, atención, redes neuronales, operaciones y modelos matemáticos para predecir cuál es la siguiente palabra, pixel o estructura más probable y coherente según la información que «conoce» y la instrucción que recibe, inclusive ajustando su propia salida o compitiendo por la respuesta más probable. Puede ser usada de manera agentica, para que se autogestione y atender a nuevas tareas. Dicho de manera sencilla, la IA generativa funciona como un sistema que ha transformado y procesado enormes volúmenes de datos «ejemplos», y con base en ese entrenamiento y ajustes humanos, puede generar nuevas combinaciones a partir de esos «ejemplos», siguiendo probabilidades, esto hace que sus salidas parezcan nuevas, creativas, útiles o inteligentes. Su capacidad principal no es tener conciencia, intención moral o sabiduría humana, sino reconocer patrones y anticipar posibilidades. (es cierto que se han encontrado comportamientos emergentes sutiles y misteriosos, como lo comenta Christopher Olah)
Las capacidades de los modelos de inteligencia artificial mejoran día con día, impulsadas principalmente por empresas y concentradas en pocos (USA, China, Europa). Este avance, muchas veces acompañado de marcos regulatorios insuficientes y poca transparencia sobre los datos de entrenamiento, evidencia el riesgo señalado por el Papa León XIV respecto a la propiedad, uso y soberanía de los datos. Por ello se hace énfasis que no deben quedar sólo en manos del sector privado, sino regularse con responsabilidad y sentido de bien común. Por ello, resultan relevantes los esfuerzos de la Unión Europea, Chile y México para construir modelos y normas que mitiguen sesgos y representen mejor a sus pueblos.
Desde ahí se comprende mejor por qué la IA puede ser una ayuda valiosa y, al mismo tiempo, una herramienta que exige prudencia. El director Daniel Roher lo expresa muy bien en el The AI Doc: Or How I Became an Apocaloptimis, el riesgo apocalíptico que esta desalineado de la humanidad y el potencial optimista que permite resolver crisis, pero no se trata de uno u otro, como humanidad debemos enfocarnos en un equilibrio con discernimiento.
La IA y la educación
El Papa León XIV recuerda que a cada persona le corresponde su tramo de muralla. En el ámbito educativo, esto implica orientar a las nuevas generaciones y construir formas de cooperación que respeten los distintos niveles de la comunidad.
La encíclica alienta a academias y universidades a revisar sus formas de enseñanza para responder a los tiempos actuales. Esto supone cultivar una verdadera higiene de la atención, con espacios para el silencio, el estudio reflexivo, la lectura y el análisis ponderado. También exige fortalecer la formación continua de los docentes, de modo que puedan dialogar positivamente con las tecnologías y ayudar a los estudiantes a usarlas de manera responsable, crítica y creativa.
La GenIA no debe entenderse como un instrumento que simplemente debe usarse bien. Requiere formar una sociedad con literacidad en IA, capaz de pedir prudencia, controles rigurosos y, cuando sea necesario, una adopción más pausada. Ralentizar ciertos usos no significa oponerse al progreso, sino reconocer que una innovación puede requerir discernimiento antes de incorporarse a procesos que afectan aprendizajes, derechos, reputación y libertad.
Lo dice muy bien, no conviene bendecir entusiasmos ingenuos ni alimentar miedos estériles. La tarea educativa consiste en traducir criterios de discernimiento en prácticas concretas. El Papa recuerda que vivimos un cambio de época. Mientras algunos disputan el futuro de las tecnologías y otros reflexionan sobre ellas, muchas personas observan desde lejos y confían en que todo saldrá bien. Esa postura pasiva es insuficiente. Si no formamos a la juventud, podemos acostumbrarla a delegar demasiado, buscar respuestas rápidas y debilitar el juicio personal, la creatividad y el deseo de encuentro real con los otros.
LA IA en el trabajo
Es realista temer una reducción significativa y rápida de ciertos puestos de trabajo, con efectos profundos en las familias. En el campo tecnológico ya se observan tareas incorporadas a sistemas de IA con distintos niveles de supervisión y sin supervisión. Sin embargo, el fenómeno es multifactorial: no todo desplazamiento laboral se explica por la automatización, pues también intervienen decisiones económicas, modelos de inversión, reorganizaciones empresariales y nuevas formas de competencia.
Aun así, la búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo ni generen miedo social. La encíclica subraya la responsabilidad política y empresarial de proteger el trabajo y la dignidad humana. El trabajo no es un simple instrumento de producción; expresa, sostiene y acrecienta la dignidad de la vida.
Por ello, en la encíclica se insiste en la creación de políticas activas que hagan accesibles la formación continua y las transiciones profesionales. La innovación puede convertirse en aliada de un trabajo más seguro, creativo y digno, siempre que la automatización y la IA estén acompañadas por medidas verificables de protección del empleo, recualificación y participación de los trabajadores.
La grandeza de la persona frente a las promesas de la IA, radica en recordar que ninguna tecnología puede sustituir la conciencia, la libertad, la responsabilidad ni la apertura al otro. La cuestión central no es únicamente cuánto poder técnico podemos alcanzar, sino qué humanidad queremos preservar mientras avanzamos, evitando delegar en la IA lo que nos toca como personas.
Si aún no has leído la encíclica, espero que estos puntos despierten tu curiosidad y te inviten a estudiarla con profundidad, sin reducirla a un podcast, un video o un resumen generado por IA. Antes de mediarla tecnológicamente, conviene leerla, dialogarla y dejarnos interpelar por sus preguntas de fondo.
