La primera encíclica de León XIV no es solo un texto sobre inteligencia artificial. Es una advertencia sobre el poder, la dignidad humana y el mundo que estamos construyendo.
El viernes pasado, durante Café Para Tres, una persona nos preguntó por la más reciente encíclica papal. La pregunta era pertinente porque el documento toca un tema que dejó de pertenecerle a las empresas tecnológicas o a los futurólogos de LinkedIn: la inteligencia artificial.
La primera encíclica del papa León XIV, titulada Magnifica humanitas, fue firmada el 15 de mayo y publicada oficialmente el 25 de mayo. Su subtítulo ya marca el terreno: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.
Es decir: el Papa no está preguntando si la inteligencia artificial es útil, impresionante, rentable, inevitable o peligrosa. Está haciendo una pregunta más profunda: qué pasa con el ser humano cuando la tecnología empieza a ordenar la vida, el trabajo, la información, la guerra, la educación, la economía, la política y hasta nuestras relaciones.
En ese contexto el tema claramente deja de ser “religioso” en el sentido estrecho de la palabra.
Por supuesto, estamos ante un documento de la Iglesia Católica. Su lenguaje, sus fundamentos y su horizonte son cristianos. Habla de Dios, de la dignidad de la persona creada a su imagen y semejanza, de la Doctrina Social de la Iglesia, de la civilización del amor, de la familia, de la vida desde la concepción hasta su fin natural, de la paz, del pecado, del perdón y de la responsabilidad moral.
Pero sería un error leerlo únicamente como un texto para católicos.
La encíclica importa porque una institución global, con dos mil años de historia, está intentando intervenir en una de las discusiones decisivas (¿quizá la más decisiva?) de nuestro tiempo: quién controla la inteligencia artificial, con qué criterios, en beneficio de quién y a costa de quién.
Eso, seamos creyentes o no, nos debería importar mucho.
El eco deliberado de León XIII
Para entender la importancia de Magnifica humanitas hay que empezar por su gesto simbólico más evidente.
León XIV firmó su primera encíclica el 15 de mayo, exactamente 135 años después de la publicación de Rerum novarum, la famosa encíclica de León XIII sobre la cuestión obrera, el trabajo, el capital, la propiedad, la pobreza y los conflictos sociales de la revolución industrial.
Ni es casualidad, ni es guiño decorativo ni es una movida pretenciosa. Es absolutamente intencional y está claramente justificado.
Rerum novarum fue una respuesta de la Iglesia a un mundo que cambiaba violentamente bajo el impulso de la industrialización. Las máquinas, las fábricas, el capital concentrado, las nuevas formas de explotación y la desprotección obrera obligaron a la Iglesia a formular con más claridad su pensamiento social moderno.
León XIV está diciendo (con razón), desde el arranque, que la inteligencia artificial representa una transformación de escala comparable. No idéntica, desde luego, pero sí equivalente en su capacidad de alterar la organización del trabajo, la distribución del poder, la concentración de riqueza, la vida cotidiana y la idea misma de persona.
En otras palabras: si la revolución industrial obligó a preguntarse qué pasaba con el obrero frente a la fábrica, la revolución digital obliga a preguntarse qué pasa con el ser humano frente al algoritmo. Así de grande es el tamaño de la apuesta.
Valga aclarar: no estamos ante una encíclica tecnófoba. El Papa no dice que la inteligencia artificial sea mala por naturaleza. De hecho, reconoce su potencial para aliviar sufrimientos, ampliar capacidades y abrir posibilidades reales de bien. El problema, insiste, es otro: la tecnología no es neutral. Y esa frase es clave.
La tecnología toma el rostro de quien la diseña, la financia, la regula, la usa y la despliega. Puede servir al bien común o puede convertirse en instrumento de dominio. Puede ampliar oportunidades o profundizar exclusiones. Puede liberar tiempo humano o precarizar el trabajo. Puede ayudar a diagnosticar enfermedades o negar acceso a servicios por datos sesgados. Puede mejorar la educación o volver inútil, ante los ojos de un estudiante, el propio acto de pensar.
Por eso el Papa no plantea la alternativa como entusiasmo contra miedo. La plantea como una elección entre dos formas de progreso: uno al servicio de la persona y de los pueblos, u otro al servicio de las lógicas de poder. No sorprende entonces que, para apoyar sus ideas, haya citado nada más y nada menos que a Gandalf:
No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”.
La persona no es un recurso
El corazón de la encíclica es sencillo de formular y lamentablemente difícil de sostener en el mundo real: la persona humana no es un recurso.
No es un dato.
No es una variable.
No es una unidad de producción.
No es un perfil de consumo.
No es una probabilidad de riesgo.
No es una métrica de rendimiento.
No es un usuario cautivo.
No es una fuente de entrenamiento para modelos.
No es una pieza descartable en la cadena de eficiencia.
La dignidad humana, dice León XIV, no se adquiere, no debe ganarse y no necesita ser demostrada.
Esa idea puede sonar romántica y deseable hasta que uno observa con calma el mundo digital que estamos construyendo. Buena parte de la economía tecnológica funciona precisamente convirtiendo nuestras vidas en datos explotables: qué vemos, cuánto tiempo miramos, qué nos indigna, qué compramos, qué tememos, qué opinamos, con quién hablamos, por dónde nos movemos, qué enfermedades podríamos tener, qué preferencias políticas podrían activarnos, qué fragilidades emocionales podrían retenernos frente a una pantalla.
La persona, en ese ecosistema, corre el riesgo de convertirse en materia prima. Instagram tiene semanas mostrándome ofertas de lavadoras. Yo automáticamente puedo sentirme casi agradecido de que me ayuden a resolver esa necesidad. Esa sensación y, por supuesto, el acto final de compra a través de la plataforma, es exactamente lo que la compañía quiere de mí.
Ahí es donde la encíclica introduce uno de sus planteamientos más relevantes: los datos, los algoritmos, las plataformas digitales, las infraestructuras tecnológicas y el conocimiento asociado a la inteligencia artificial no deben quedar concentrados en pocas manos como si fueran simples propiedades privadas sin consecuencias sociales.
Desde la Doctrina Social de la Iglesia, el Papa recuerda el principio del destino universal de los bienes. Traducido al presente: si la economía digital depende de datos, infraestructura, cómputo, plataformas y conocimiento, entonces la discusión sobre quién posee y controla esos bienes no es meramente empresarial. Es una discusión de justicia. Valga decir, desde la perspectiva de la Iglesia, es una discusión que vamos perdiendo por goleada.
La posición de la encíclica, eso sí, no significa negar la innovación privada ni demonizar a las empresas tecnológicas. Significa algo más básico: ningún poder capaz de reorganizar la vida de millones de personas debería operar sin límites, sin transparencia y sin responsabilidad pública.
Y sí, esto interpela directamente a Silicon Valley, a los Estados, a las universidades, a los ejércitos, a los mercados financieros, a los medios de comunicación y también a cada uno de nosotros.
“Desarmar la IA”
La frase más llamativa del documento es probablemente esta: hay que desarmar la inteligencia artificial.
León XIV sabe que la palabra es fuerte y la usa deliberadamente. No quiere decir “apagar la IA”, “prohibirla” o “volver a las cavernas”. Quiere decir sustraerla de las lógicas que la convierten en herramienta de dominio, exclusión o muerte.
Desarmarla significa impedir que la inteligencia artificial quede atrapada en una carrera militar, económica y cognitiva donde gana quien acumula más datos, más capacidad de cómputo, más infraestructura, más usuarios, más dependencia y más poder.
Desarmarla significa romper la equivalencia entre poder técnico y derecho a gobernar.
Esa es una advertencia de primer orden porque la inteligencia artificial ya no es una herramienta externa que usamos de vez en cuando. Se está convirtiendo en ambiente. En infraestructura cotidiana que nos acompaña hasta en el sueño. En filtro de acceso. En sistema de clasificación. En arquitectura de visibilidad. En una capa que media entre nosotros y la información, el trabajo, la salud, la educación, la seguridad, el crédito, la política, el consumo, ¡el amor! y, sí, la guerra
Pienso, por ejemplo, en una conversación muy interesante que tuve este viernes con la gente de GS1 Costa Rica. Para el grueso de nosotros son “los maes de los códigos de barras”. Y sí, claro, también son eso. Pero son bastante más. La referencia me permite compartirles un momento simpático de la conversación: coincidimos en que el impacto de GS1 es como el aire. Nos rodea, lo damos por sentado, no lo tenemos activamente presente, pero si falta, colapsa todo.
GS1 no es tecnología vistosa —no sirve para hacer memes de Studio Ghibli—, pero sí es una arquitectura invisible que toca de todo: eficiencia, trazabilidad, comercio, pymes, logística, salud, agro, consumo, falsificación, contrabando, digitalización y confianza del consumidor. La diferencia con el salvaje oeste de la IA es que los estándares bajo los que trabaja GS1 no nacieron como ocurrencias privadas lanzadas al mundo a toda velocidad, sino como una gramática compartida, interoperable y gobernada para que los mercados funcionen mejor y para que consumidores y pacientes puedan confiar más en la información que reciben.
La preocupación del Papa es que, con la IA, el mundo pareciera estar más bien jugando con una caja de Pandora que todavía no sabe cómo cerrar en caso de que fuera necesario. La IA decide, sugiere, jerarquiza, predice, recomienda, perfila, amplifica y oculta. Y aunque lo haga sin “voluntad” propia, no lo hace sin consecuencias.
Por eso el Papa insiste en la responsabilidad. No hay que dejarse engañar por el lenguaje cómodo de la automatización. Cuando un sistema discrimina, excluye, invisibiliza, explota o mata, no basta decir “lo hizo el algoritmo”. Detrás hubo decisiones humanas: de diseño, financiamiento, entrenamiento, regulación, implementación y uso.
La pregunta ética no desaparece porque la decisión pase por una máquina. Al contrario: se vuelve más urgente, porque muchas veces la máquina dificulta ver quién debe responder.
La guerra, el algoritmo y el rostro del otro
Uno de los apartados más fuertes de la encíclica es el dedicado a la guerra.
León XIV advierte que la revolución digital está modificando la gramática de los conflictos. Drones, sistemas autónomos, vigilancia masiva, ciberataques, desinformación, perfiles de riesgo, selección automatizada de objetivos, propaganda algorítmica y decisiones cada vez más impersonales sobre vida y muerte.
La frase central aquí es contundente: no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable.
El problema no es solo que la IA pueda usarse para matar. El problema es que puede reducir de forma escalofriante todavía más el umbral moral del conflicto. Cuando se ataca sin ver el rostro del otro, cuando las víctimas se convierten en puntos, patrones o daños colaterales calculables, la violencia puede parecer más limpia, más eficiente, más administrable. Pero no lo es.
El Papa conecta esa preocupación con una crítica más amplia a la normalización de la guerra. Señala una cultura del poder que vuelve a presentar el rearme como realismo, la violencia como inevitabilidad, la fuerza como política internacional ordinaria y la paz como ingenuidad. León XIV se convierte así, acaso sin proponérselo, en el cronista más preciso de nuestros tiempos.
Ahí la encíclica es particularmente relevante para este momento histórico. Sobrevivimos (porque no hay otra forma de ponerlo) una época en la que el lenguaje de la fuerza ha recuperado "prestigio". La idea de que hay que “hacer lo necesario”, “aplastar al enemigo”, “defenderse primero”, “golpear antes”, “imponer orden” o “no pedir permiso” circula con enorme facilidad en política internacional y doméstica.
La inteligencia artificial, advierte el Papa, puede acelerar esa lógica. Puede hacer la guerra más rápida, más distante, más opaca y más fácil de justificar. Por eso León XIV pide superar incluso la vieja teoría de la “guerra justa”, salvo el derecho a la legítima defensa en sentido estricto, y relanzar el diálogo, la diplomacia, el multilateralismo y la paz como tarea activa.
A algunos esto les parecerá ingenuo. A mí me parece exactamente lo contrario: en tiempos en los que la brutalidad suele venderse como madurez, defender límites morales es una forma bastante seria de realismo.
La verdad como bien común
Otro punto especialmente importante de Magnifica humanitas tiene que ver con la verdad. La encíclica entiende la verdad como un bien común. Eso debería interesarnos particularmente a quienes trabajamos en periodismo.
En el entorno digital, la mentira no circula sola. Circula amplificada, optimizada, segmentada, monetizada y muchas veces premiada por sistemas diseñados para capturar atención. La arquitectura de las plataformas no es inocente: decide qué vemos, qué se vuelve visible, qué se premia, qué se hunde, qué nos indigna y qué nos mantiene conectados.
León XIV habla de una necesaria “ecología de la comunicación”. La idea es potente porque no se limita a pedir que la gente “se informe mejor”. Eso sería demasiado fácil. La encíclica reconoce que la información circula dentro de ambientes diseñados, financiados y explotados por intereses concretos.
Por eso pide transparencia en los criterios de selección y amplificación de contenidos, protección de datos personales, educación crítica, responsabilidad pública y un periodismo serio basado en argumentación y verificación. Ese punto se alinea con un llamado previo que hizo a elegir "conscientemente y con valentía el camino de la comunicación pacífica”.
En un momento en el que la prensa es atacada desde el poder, despreciada por sectores de la ciudadanía, debilitada económicamente y empujada a competir contra fábricas de contenido, propaganda, influencers ideológicos y automatización barata, que una encíclica subraye el valor del periodismo serio tiene peso.
La verdad no sobrevive sola. Necesita instituciones, hábitos, medios, escuelas, lectores, editores, periodistas, ciudadanía y una cultura que todavía distinga entre hecho y ficción.
Aquí el tema de la IA vuelve a ser decisivo. Si el costo de producir texto, imagen, audio y video falsos tiende a cero, el costo social de verificar, contextualizar y jerarquizar información se vuelve más alto. En ese mundo, el periodismo no pierde importancia. La gana. Siempre y cuando recuerde para qué existe y a quién sirve.
El trabajo no puede ser una variable de ajuste
La encíclica también entra de lleno al mundo laboral.
La promesa tecnológica suele presentarse así: la automatización eliminará tareas repetitivas, liberará tiempo humano, elevará productividad y permitirá nuevas formas de creatividad. Todo eso puede ser cierto. Pero también puede ser cierto lo contrario: pérdida de empleos, vigilancia automatizada, degradación de oficios, precarización, concentración de ingresos y trabajadores convertidos en operadores marginales de sistemas diseñados lejos de ellos.
León XIV no rechaza la automatización. Lo que rechaza es que el trabajo humano sea tratado como una simple variable de reducción de costos. El trabajo, para la Doctrina Social de la Iglesia, no es solo un medio para ganarse la vida. Es parte de la dignidad humana, de la participación social, de la construcción de identidad, de la contribución al mundo común. Por eso el Papa reclama que toda introducción de automatización esté acompañada de medidas verificables de protección del empleo, recualificación y participación de los trabajadores.
Esto toca una discusión que apenas empieza. ¿Quién se beneficia de los aumentos de productividad generados por IA? ¿Las empresas? ¿Los accionistas? ¿Los usuarios? ¿Los trabajadores? ¿El Estado? ¿La sociedad? ¿Quién paga los costos de transición? ¿Quién protege a quienes quedan desfasados? ¿Quién decide qué trabajos merecen seguir existiendo aunque una máquina pueda hacerlos más barato?
La encíclica no ofrece una política pública cerrada. No pretende hacerlo. Pero sí fija un criterio: la eficiencia no puede ser el único dios del sistema. Ese criterio es especialmente importante en sociedades como la nuestra, donde la palabra “eficiencia” suele usarse con demasiada facilidad para justificar cualquier cosa, incluso cuando nadie pregunta eficiencia para quién, a costa de quién y con qué consecuencias.
Ahí se las dejo picando.
Educar también es enseñar cuándo no usar IA
Uno de los pasajes más interesantes del documento tiene que ver con la educación. León XIV advierte que la IA puede apagar en los jóvenes el deseo de hacer preguntas si las máquinas perfectas hacen parecer inútil el pensamiento humano. La frase es fuerte porque captura una inquietud muy real: no se trata solo de que los estudiantes “hagan trampa” usando inteligencia artificial. Ese es el problema más superficial.
La pregunta de fondo es otra: qué pasa con la formación humana cuando delegamos demasiado pronto el esfuerzo de pensar. Pensar cuesta. Leer cuesta. Escribir cuesta. Dudar cuesta. Investigar cuesta. Argumentar cuesta. Equivocarse cuesta. Y precisamente por eso forma, capacita y educa.
Si una herramienta responde de inmediato, resume de inmediato, redacta de inmediato, traduce de inmediato, resuelve de inmediato y aparenta comprender de inmediato, la tentación natural es dejar de ejercitar aquello que nos vuelve capaces de juicio propio. Por eso el Papa habla incluso de educarnos en una especie de “ayuno de la IA”.
La idea no es rechazar la herramienta. Es aprender cuándo usarla, para qué usarla y cuándo conviene no usarla. Esto aplica para estudiantes, docentes, periodistas, abogados, médicos, políticos, empresarios y, sí, también para quienes usamos estas herramientas todos los días.
La inteligencia artificial puede ser un apoyo formidable. Pero si se convierte en prótesis permanente del pensamiento, el músculo crítico se atrofia. Y ¿adivinen qué? Una ciudadanía con pensamiento atrofiado es mucho más fácil de manipular.
La apariencia de relación
Hay otro punto de la encíclica que puede parecer menos relevante, pero no lo es: el riesgo de confundir interacción con relación.
Las máquinas ya pueden conversar, simular empatía, recordar preferencias, ajustar tono, acompañar rutinas, responder con calidez, producir consuelo y generar una apariencia de presencia. Para personas solas, vulnerables o emocionalmente agotadas, esa apariencia puede ser (¡y suele ser!) muy poderosa.
Por favor recuerden lo siguiente: No hay que burlarse de eso. La soledad contemporánea es real. La necesidad de compañía también.
Pero precisamente por eso es oportuno (y urgente) tomar el asunto con seriedad. Una máquina puede simular atención, pero no comparte destino. Puede ajustar respuestas, pero no ama. Puede acompañar una noche difícil, pero no construye comunidad. Puede imitar cercanía, pero no reemplaza el vínculo humano.
Desde la mirada cristiana de la encíclica, la inteligencia humana es cualitativamente distinta a la artificial porque está abierta a la relación, al amor, a la compasión, al dolor, al cuidado, a la entrega y al misterio.
Incluso para quien no comparta esa formulación religiosa, la advertencia conserva valor: no deberíamos permitir que la tecnología nos vuelva más incapaces de relacionarnos entre nosotros. Si la IA termina sirviendo para que cada quien viva encerrado en una burbuja perfectamente adaptada a sus preferencias, sus heridas, sus miedos y sus sesgos, no estaremos ante progreso humano. Estaremos ante una forma sofisticada de aislamiento digna de un episodio distópico de Black Mirror.
La parte incómoda: la Iglesia también se mira a sí misma
Un elemento relevante del documento es que la Iglesia no solo habla hacia afuera. También se exige hacia adentro. La encíclica reconoce la necesidad de escuchar a víctimas de abusos espirituales, económicos, institucionales, sexuales, de poder y de conciencia. También agradece el trabajo de periodistas que han ayudado a sacar a la luz injusticias y abusos dentro de la Iglesia.
Ese punto importa porque cualquier discurso moral pierde legitimidad si se pronuncia desde una supuesta pureza institucional. León XIV (siguiendo los pasos de Francisco) parece entenderlo: la Iglesia puede y quiere participar en la conversación sobre IA, pero no como una entidad que jamás se equivoca, sino como una tradición que también debe examinar sus propias estructuras, daños, silencios y retrasos.
De hecho, la encíclica también pide perdón por la tardanza histórica con que la Iglesia condenó la esclavitud. Lo hace para subrayar un punto que dialoga directamente con el presente: cuando una injusticia se normaliza durante demasiado tiempo, las instituciones suelen despertar tarde.
Esa es una advertencia seria. También para la inteligencia artificial. Porque el día en que ciertos abusos tecnológicos sean evidentes para todo el mundo, quizá ya será demasiado tarde para muchas personas que habrán sido explotadas, vigiladas, manipuladas, desplazadas, descartadas o convertidas en datos sin haber tenido nunca verdadera voz en la discusión.
Por qué esto importa aunque usted no sea católico
Ahora bien, ¿qué hacemos con todo esto desde Costa Rica, desde Delfino.CR, desde una audiencia plural donde hay creyentes, no creyentes, católicos practicantes, católicos culturales, personas críticas de la Iglesia y personas sencillamente interesadas en entender el mundo?
Yo diría que lo primero es leer la encíclica sin pereza y sin caricatura. Quien busque un documento “progre” quedará insatisfecho. Quien busque un documento “conservador” en sentido partidario también. Magnifica humanitas no entra cómodamente en las cajitas ideológicas habituales. Defiende la vida desde la concepción hasta su fin natural, reafirma la familia fundada en la unión estable entre hombre y mujer, critica el aborto y la eutanasia, pero al mismo tiempo denuncia la concentración corporativa, las derivas tecnocráticas y poshumanistas, la explotación laboral, el colonialismo de datos, la injusticia migratoria, el daño ambiental, la desinformación, el debilitamiento del multilateralismo, el militarismo y la idolatría del lucro.
Dicho de otra forma: es profundamente católica. Y por eso mismo no se deja domesticar del todo por los bandos de moda. A mí, no lo escondo, me parece un documento excepcional, de altísimo valor. En una época en la que casi todo discurso público parece obligado a convertirse en munición de una tribu, la encíclica intenta hacer algo distinto: recordarnos que el centro de la discusión no debería ser la eficiencia, la rentabilidad, la soberanía tecnológica, la competencia geopolítica o el entusiasmo por la innovación, sino la dignidad humana.
Eso puede sonar abstracto pero no lo es. Implica preguntarse si una herramienta sirve a las personas o las somete. Si mejora la vida común o concentra poder. Si amplía libertad o perfecciona control. Si protege a los vulnerables o los vuelve invisibles. Si fortalece la verdad o premia la manipulación. Si dignifica el trabajo o convierte a los trabajadores en excedente. Si educa mejor o debilita el pensamiento. Si facilita vínculos o profundiza la soledad. Si ayuda a la paz o hace más fácil matar.
Esas preguntas no son religiosas. Son humanas.
La política también debería leerla
Sería deseable que este documento no se leyera solo en ambientes eclesiales, académicos o tecnológicos. También debería leerse en política. Costa Rica todavía discute la inteligencia artificial como si fuera un tema de productividad, modernización institucional, educación o competitividad. Todo eso importa, claro. Pero la encíclica ayuda a ver que la discusión es mucho más amplia.
¿Quién regulará el uso de IA en el Estado? ¿Cómo se protegerán los datos personales? ¿Qué límites tendrán las plataformas? ¿Cómo se evitarán sesgos en sistemas que afecten acceso a servicios? ¿Qué pasará con empleos vulnerables a automatización? ¿Cómo se formará a docentes y estudiantes? ¿Qué papel tendrá la IA en campañas políticas? ¿Cómo se enfrentarán los deepfakes? ¿Qué garantías tendrá la ciudadanía cuando una decisión automatizada la perjudique? ¿Qué tipo de periodismo sobrevivirá en un ecosistema saturado de contenido sintético? ¿Qué infraestructura tecnológica dependerá de proveedores privados extranjeros? ¿Qué pasará con los países pequeños si la IA concentra todavía más poder en pocas corporaciones y potencias?
No son preguntas de ciencia ficción. Son preguntas de política pública. Y no puedo evitar arrugar la cara al plantearlas recordando que Uber entró a Costa Rica hace (casi) 11 años y todavía no hemos podido regularlo. Me preocupa, lo digo con crudeza y honestidad, la capacidad que tenga nuestra Asamblea Legislativa de genuinamente terminar de entender frente a qué tipo de desafío estamos ubicados. Sobre todo, de responder a tiempo y de forma oportuna, no de tropiezo en tropiezo.
Sobre el título: la magnífica humanidad (herida)
El título de la encíclica es hermoso porque contiene una tensión evidente de entrada. La humanidad es magnífica, sí, pero también está herida. Ese doble reconocimiento evita dos errores frecuentes. El primero es el optimismo tecnológico ingenuo: creer que toda innovación, por el simple hecho de ser nueva, nos acerca automáticamente a un mundo mejor. El segundo es el pesimismo paralizante: asumir que toda tecnología poderosa terminará necesariamente degradándonos.
León XIV no cae en ninguno de los dos. Su punto es más exigente: la tecnología puede ser buena, pero debe ser orientada. El progreso puede ser real, pero debe ser humano. La inteligencia artificial puede ayudar, pero no puede sustituir la conciencia moral. La máquina puede procesar información, pero no puede sentir el amor, la culpa, la compasión, la esperanza. Ahí está la frontera.
Tal vez por eso esta encíclica llega en un momento tan oportuno. Porque buena parte de la conversación contemporánea sobre IA parece atrapada entre quienes la venden como salvación y quienes la anuncian como apocalipsis. León XIV propone una tercera vía: tratarla como poder y recordar que todo poder debe tener límites. Sí, eso incluye al Ejecutivo.
No porque toda persona poderosa sea mala. No porque toda empresa tecnológica sea enemiga. No porque todo algoritmo esconda una conspiración. Sino porque la historia humana ha enseñado, con suficiente dolor, que ningún poder concentrado debería descansar únicamente en la buena voluntad de quienes lo ejercen.
La pregunta de fondo
A mí me parece que el valor de Magnifica humanitas está menos en sus respuestas concretas que en la calidad de sus preguntas. La Iglesia no pretende saber más que los ingenieros sobre cómo entrenar modelos. No pretende reemplazar a científicos, reguladores, programadores, docentes, empresas o Estados. Lo que hace es aportar una tradición moral para recordarle al mundo que la pregunta técnica nunca basta. Y heme aquí: agradeciéndoselo.
Porque no alcanza con preguntar qué puede hacer la IA. Hay que preguntar todo lo demás a lo que aludimos en este texto (límites, responsabilidades, consecuencias, costos, beneficios, etc). Ese es el aporte de la encíclica. Recordarnos que sigue siendo nuestra responsabilidad "encauzar" el progreso para evitar un escenario en el que termine pasándonos por encima.
La gran tentación de esta problemática será (y en buena medida ya está siendo) fingir que lo inevitable no necesita deliberación. Que si algo puede hacerse, entonces se hará. Que si mejora la eficiencia, entonces conviene. Que si aumenta la productividad, entonces basta. Que si una empresa lo ofrece, el mercado sabrá. Que si una potencia lo desarrolla, las demás deben correr. Que si un algoritmo decide, alguien habrá calculado bien.
La encíclica dice: cuidado. No con miedo. Con responsabilidad. Porque el futuro no se delega en una máquina. Tampoco en una empresa, un Estado, un laboratorio, una plataforma o una élite que habla en nombre del progreso. El futuro se discierne, se discute, se regula, se educa, se limita y se construye.
O, para usar la imagen más fuerte del documento: podemos levantar otra torre de Babel o podemos edificar una ciudad habitable. La diferencia no estará en la potencia de nuestras máquinas, sino en la calidad moral de nuestras decisiones. Y ese, para creyentes y no creyentes, es un recordatorio necesario: la inteligencia artificial podrá simular muchas cosas, pero la responsabilidad de seguir siendo humanos sigue siendo enteramente nuestra.