Luego de nuestra tertulia sobre este tema, creemos oportuno compartir individualmente las intervenciones que nuestros compañeros prepararon para esa tertulia, con el fin de ayudar a nuestros lectores a profundizar individualmente en los alcances que encontramos en grupo al mensaje que conlleva este importante documento, en estos momentos de desarrollo de la Inteligencia Artificial.
Haz click aquí para disfrutar de la intervención de William Mejía : https://youtu.be/xR9vTibUFos
Exjesuitas en tertulia – 02 de Julio, 2026
Este texto busca recopilar lo que dice textualmente la carta encíclica Magnifica Humanitas de León XIV sobre la IA, antes que entrar a interpretarla u opinar acerca de ella. Por eso, la mayor parte de lo escrito está entrecomillado.
Tratándose de una encíclica sobre la inteligencia artificial, es necesario establecer cómo la define. Su numeral (99) responde que “No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos”.
Sin definirla plenamente, la encíclica habla de inteligencia artificial en plural, lo que contribuye a ampliar el marco de su definición: “ (…) las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones, ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio. Incluso cuando dichos instrumentos se presentan como capaces de “aprender”, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior”.
La encíclica solo menciona dos veces LAS inteligencias artificiales. La segunda vez dice que “cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas. (…) Todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. (98)
Las Características de la inteligencia artificial
Curiosamente, Inteligencia artificial aparece solo 12 veces en la encíclica, mientras que IA lo hace en 74 ocasiones. Las características que siguen responden a la sumatoria de ambas expresiones:
– Nos está cambiando: “En los últimos años se ha hecho cada vez más evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo.” (4)
– Debe entenderse “como una transformación que interpela desde dentro las categorías de la Doctrina social y exige un mayor desarrollo de la misma, en fidelidad al Evangelio”, y no como “un apéndice temático, o como una emergencia que hay que gestionar.” (17)
– “Cambia el modo de informarse, de comunicar y de acceder a los servicios”, debido a “la difusión de redes globales, plataformas y sistemas de IA”. (80)
– No es neutral, como tampoco lo son “…otras innovaciones tecnológicas (… que) “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión.” (85)
– Al tiempo con las demás tecnologías emergentes, la IA y ellas “ya son parte de nuestra vida cotidiana.” (90)
– IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología, (…) por su poder, pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político”. (93)
– Cualquier afirmación sobre ella “corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas. En segundo lugar, todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo”. (98)
– Está en desarrollo permanente, pues “los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. En consecuencia, los aspectos científicos fundamentales ‒como las representaciones internas y los procesos computacionales de estos sistemas‒ siguen siendo desconocidos”. (98)
– No es moralmente neutra, pues “todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es un simple instrumento que “hay que usar correctamente”; introduce ya un criterio que contradice la dignidad inalienable de la persona. Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían.” (104)
– “Tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. A la luz del bien común y del destino universal de los bienes, este fenómeno suscita seria preocupación: pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos.” (108).
– Es “un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.” (110)
– Sus herramientas permiten “manipular imágenes y videos”, porque en “la red no son raros los fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos”. (141)
– Está “transformando rápidamente la estructura misma del trabajo”, al combinarse con la automatización y la robótica. “Se dice que esto traerá grandes mejoras para todos. En realidad, los “nuevos modos” de trabajar no son necesariamente mejores, porque mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan.
Así, contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente “desespecializar” a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la propia capacidad de obrar de los trabajadores y ahogar las capacidades innovadoras que están llamados a aportar en su trabajo.” (150)
– En su mundo, “nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, de una extensa red de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas.” (173)
– Se sustenta “en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos ‒a menudo pésimos‒ y entrenamiento de modelos. En muchos casos se trata de jóvenes, en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas.” (173)
– Se basa “en una cadena de explotación que se mantiene deliberadamente oculta” y en “la extracción de los recursos necesarios para la producción de los dispositivos y microprocesadores. (…) En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras.” (173)
– Entra, “como factor de aceleración” en “la gramática de los conflictos. A la guerra visible se suman formas híbridas: ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas.” (183)
– “Puede potenciar la defensa y la protección de los civiles, pero también puede bajar el umbral del uso de la fuerza, hacer opacas las responsabilidades y alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un ‘daño colateral’.” (183)
– Su desarrollo, junto con “las redes digitales y la economía globalizada”, crea “vínculos cada vez más estrechos, conectando en tiempo real las decisiones tomadas en un lugar con los efectos que producen en otro.” (187)
– “No libera al conflicto de su intrínseca inhumanidad: solo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos.” (198).
El uso de la inteligencia artificial
Definidas las características de la inteligencia artificial, cabe pensar en el uso de la misma. Esto dice la encíclica:
“A la luz de cuanto se ha dicho, podemos comprender mejor por qué la IA puede ser una valiosa ayuda y, al mismo tiempo, exije un enfoque prudente y cauteloso. En los últimos años su uso privado ha crecido notablemente, y desde distintos ámbitos se reflexiona sobre las oportunidades y los riesgos vinculados a su rápida difusión.
En el uso personal, tres aspectos, en particular, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana.
La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad.
La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar corre el riesgo de hacernos olvidar que éstas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos.
La imitación artificial de una comunicación humana positiva ‒palabras de consejo, de empatía, de amistad, de amor‒ puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. Cuando la palabra es simulada, no construye una relación, sino una apariencia. La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra, sino que pierda el deseo mismo de buscar realmente al otro.” (100)
“Ampliando la mirada al uso de la IA en nuestras sociedades, constatamos que ya está presente en procesos de decisión en todos los ámbitos y a diversos niveles: en la comunicación, la gestión y el control. Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental.
Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía. Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común.” (101)
“El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo, pudiendo así producir nuevas formas de descarte. Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado.” (102)
“Es indispensable que el uso de la IA ‒sobre todo cuando involucra bienes públicos y derechos fundamentales‒ esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia. Además, la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos. (108)
“Toda tecnología educa a quien la utiliza. Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla. La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas, que sólo da fruto con el tiempo”. (140)
“En los últimos años, la literatura psicológica y psiquiátrica ha documentado con creciente insistencia cómo una exposición precoz y sin supervisión a los dispositivos digitales y a las redes sociales puede afectar negativamente al sueño, a la atención, a la regulación emocional y a las relaciones, especialmente en las edades más vulnerables, con consecuencias a veces dramáticas. A esto se suma la facilidad de acceso a escenas violentas o crueles que hieren la sensibilidad, a contenidos pornográficos e hipersexualizados, a mensajes que banalizan el cuerpo y la afectividad, y a propuestas que normalizan comportamientos de riesgo. En la red no son raros los fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y videos.” (141)
“El desarrollo y el uso de la IA en el ámbito bélico deben estar sujetos a las restricciones éticas más rigurosas, y al respeto de la dignidad humana y de la sacralidad de la vida, evitando una carrera armamentista.” (197)
Esta lectura parcial de la encíclica puede enriquecerse con otras vetas de su rico contenido, como ‒por ejemplo‒ bien común e IA, dignidad humana e IA, desarrollo humano e IA, ética e IA, educación e IA, exigencias e interrogantes que plantea la IA.
William Mejía Botero
Julio, 2026
1 comentario
William, tu artículo nos ayuda mucho a leer la encíclica. Gracias.