Las cinco claves de la encíclica del papa León XIV sobre la inteligencia artificial

Este lunes 25 de mayo, la primera encíclica del papa León XIV vio la luz. Con el nombre de "Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial", el sumo Pontífice aborda los desafíos que presenta la IA, una herramienta que “no es neutral” y que precisa de regulación: “Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad. Pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto”.En la encíclica, León XIV recuerda que, en 1891, León XIII publicó Rerum novarum, un documento en el que impulsaba “aquella reflexión sobre la sociedad, la economía y la política que hoy llamamos «Doctrina social de la Iglesia»“. Al recordar a su predecesor, explica que, tal como en su momento, identificaron los ”asuntos nuevos", hoy la Iglesia busca “pedirle a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, en particular los avances de la técnica”.Creada con IA. No existe, pero tiene 400.000 seguidores en Instagram y acuerdos con grandes marcas“En los últimos años se ha hecho cada vez más evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo”, explica Su Santidad. Señala que la técnica no debe considerarse en sí misma como algo antagónico a la persona, ya que está vinculado a la autonomía y a la libertad del hombre; el desarrollo tecnológico ha contribuido a una mejora de las condiciones de vida de la humanidad, aunque, “cada etapa del progreso también ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien”. La gran novedad que trae la actualidad es que la tecnología está en todos los ámbitos de nuestra vida: “Hoy, sin embargo, nos encontramos ante una situación nueva, en la que el poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo: «Nunca la humanidad tuvo tanto poder sobre sí misma»“. En ese sentido, explica que las nuevas tecnologías pueden tener un impacto y efectos a largo plazo sobre la dignidad de las personas y el bien común difíciles de medir. ¿Cómo solucionarlo? El Papa explica que para asumir los nuevos desafíos es necesario adoptar “instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico”. Aunque advierte que la solución no se limita a la regulación, sino que es necesario preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta.“No es neutral”El Papa destaca el potencial que tiene la tecnología, señala que no es un mal en sí, a la vez que resalta que su uso dependerá de el fin para el que se la use: “No es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza” (...) “Los descubrimientos científicos son un talento entregado a la humanidad para que lo haga fructificar (cf.Mt25,14-30). La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias“.Anima a evitar el “síndrome de Babel”, aludiendo a la escena bíblica, en la que el pueblo busca construir una torre que llegue al cielo, en la que “quieren así asegurarse estabilidad y poder, y sobre todo “perpetuarse un nombre”, temiendo ser dispersados por la tierra". En ese contexto, el papa anima a evitar “la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo”. ¿Llegarán a la Argentina? Así funcionan los autos que se manejan solos y que podés pedir como taxi en varias ciudadesEn su primer capítulo, León hace un extenso recorrido por el aporte de cada uno de los papas del siglo XIX y XX a la Doctrina Social de La Iglesia. Explica que esta “no es fruto de un proyecto elaborado en un escritorio, sino el resultado de un proceso paciente, en el que cada Pontífice —junto con el Concilio Vaticano II— ha aportado una contribución original a la luz de los “nuevos asuntos” de su tiempo. En el segundo capítulo, el Papa se detiene en algunos fundamentos y principios de la Doctrina social que ayudan a leer los “nuevos asuntos” de nuestro tiempo a la luz de la dignidad fundamental de la persona humana —dignidad, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia social— y los aplica al momento actual. El Papa explica la igual dignidad de los seres humanos, señala los derechos humanos que responde a esa dignidad y explica que “al observar nuestro tiempo, no podemos ignorar que la tutela de los derechos humanos hoy está expuesta a dos riesgos particularmente graves”. El primero es el de una declaración puramente formal, mientras que, junto con el progreso tecnológico, avanzan de manera disimulada o evidente violaciones de la dignidad humana. El segundo, que en realidad está en la base del primero, es el de no poder reconocer el fundamento de su universalidad, porque se ha renunciado a la «búsqueda de los fundamentos más sólidos que están detrás de nuestras opciones y también de nuestras leyes».El papa invita a todos a pensar en formas de cooperación y de instituciones internacionales más eficaces, capaces de cuidar el bien común global sin anular la legítima pluralidad de los pueblos y de los estados. “En efecto, la promoción del bien común nunca puede separarse del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su propia originalidad a la familia de las naciones”.“Transparencia, responsabilidad y formas reales de participación”El Papa se refirió al principio de subsidariedad y señaló que, en el ámbito de la IA y de la revolución digital, este principio “vale de manera particular”. Explica que en este contexto el nivel superior no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común: “El nivel que absorbe competencias, datos y capacidad decisional está constituido por empresas y plataformas, que definen condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”. En ese contexto, el Sumo Pontífice anima a adoptar ciertas virtudes: “La subsidiariedad requiere que dichos procesos no se impongan desde lo alto de modo opaco y unilateral, sino que estén orientados al bien común mediante la transparencia, la responsabilidad y formas reales de participación (auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación)”.Además, agregó: “En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos, sino que es necesario construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común”.El Papa también se refirió a la solidaridad y a que, en un mundo marcado por relaciones cada vez más estrechas entre personas, comunidades y naciones, la solidaridad asume también una dimensión global: “Hoy esta responsabilidad se extiende también a las infraestructuras digitales e informativas; como el ambiente natural, también el «ecosistema digital» puede ser cuidado o explotado, compartido o monopolizado. La solidaridad requiere que las decisiones en materia de datos, algoritmos, plataformas e IA tengan en cuenta no sólo el beneficio inmediato de algunos, sino el impacto en todos los pueblos y en las generaciones futuras“. Con extorsión incluida. Preocupación por una nueva modalidad de robo de iPhones en LondresAlude al concepto de la justicia social en el momento actual, un término que también deben confrontar las nuevas tecnologías. “La difusión de redes globales, plataformas y sistemas de IA cambia el modo de informarse, de comunicar y de acceder a los servicios. La justicia exige que se impida el surgimiento de nuevas formas de exclusión y privación de la libertad: personas y pueblos a los que se les niega o dificulta el acceso a las tecnologías básicas, comunidades expuestas a vigilancia invasiva y grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones. Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos”. “La Doctrina social no es sólo una palabra dirigida a la sociedad; es también un examen de conciencia para la Iglesia, casa y escuela de comunión, siempre llamada a verificar que los principios expuestos en este capítulo se vivan sobre todo en su interior”, concluye el papa. “Desarmar la IA”Este capítulo analiza el «paradigma tecnocrático», un concepto que ya utilizaba el papa francisco y que León XIV define como la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas. Explica que este paradigma se ha extendido rápidamente en los últimos años, “también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología” y, por ello, “necesitan un nuevo marco espiritual, ético y político”.En ese contexto, explica que el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue: “Si el desarrollo tecnológico avanza sin