Un gran impacto ha causado la primera Carta Encíclica que lanzó el Papa León XIV en el Vaticano, llamada Magnifica Humanitas, donde aborda el desarrollo de la Inteligencia Artificial y la importancia de poner al ser humano en el centro de esta discusión.
Es la primera vez que un Sumo Pontífice está presente en el lanzamiento de una encíclica, la que se hizo mediante una ceremonia, donde además estuvo invitado el cofundador de una de las empresas de IA más importantes del último tiempo, Christopher Olah, de la startup estadounidense Anthropic. Todo esto denota la fuerte preocupación del Vaticano por el impulso que ha tomado la IA en los últimos años y cómo se está desarrollando a nivel global.
En su presentación, el Papa hace una referencia histórica a la encíclica Rerum novarum de 1891 del Papa León XIII, donde se analizaba la Revolución Industrial y cómo ésta impactó en los trabajadores y en la sociedad completa. Magnifica Humanitas ofrece un paralelismo entre ambas eras y llama a la reflexión respecto de tener en cuenta la dignidad humana a medida que avanza la tecnología.
Uno de los puntos centrales de la Carta Encíclica del Vaticano es que el Papa hace un llamado a mantener a la persona humana en el centro del debate tecnológico que se ha generado en esta era de revolución digital, e incluso hace referencia a que la IA no puede ser considerada “moralmente neutra”, por lo mismo “conviene desarmarla” y así “impedir que domine al ser humano”.
Asimismo, el Sumo Pontífice sostiene que se hace crucial tener un código ético común sobre la IA, donde existan “marcos legales sólidos, supervisión independiente, usuarios informados y un sistema político que no eluda la responsabilidad”, agregando que “una IA más moral no es suficiente si esa moralidad la determinan unos pocos”.
Un referente para el debate en torno a la IA
Desde Chile, el llamado que ha hecho el Papa a través de su primera encíclica también ha tenido repercusión, y en general ha sido bien recibido, especialmente por el mundo empresarial y por quienes se dedican a la Inteligencia Artificial. Alejandra Acuña, directora de la Asociación Chilena de Empresas de Tecnologías de Información, resaltó que se trata de un emplazamiento “muy pertinente” y valoró la mirada que la Iglesia ha puesto en el centro, porque “recuerda algo básico: la legitimidad de la IA no va a depender sólo de su sofisticación técnica, sino de si fortalece o debilita la autonomía, la libertad y la dignidad de las personas”.
Acuña, además, declaró que el debate se ha “deshumanizado” en el último tiempo, argumentando que “ha estado dominado por velocidad, escala, inversión y capacidad de cómputo, reduciendo el misterio de la persona humana a simples datos y rendimientos, lo que dejado en segundo plano preguntas sobre educación, trabajo, pensamiento crítico, concentración de poder y desigualdad. La encíclica ayuda justamente a corregir ese desequilibrio: vuelve a poner a la persona, y no al sistema, en el centro del debate”.
En esta línea, Federico Morello, Socio Líder de Consultoría de PwC Chile, resaltó que el llamado del Papa, más que pertinente, es “urgente”, y destacó que “en los últimos años tuvimos una discusión muy tecnocéntrica sobre la IA, enfocada en métricas, capacidad de cómputo, escalabilidad o eficiencia energética, pero mucho menos en las consecuencias humanas de esta revolución tecnológica. Cuando el criterio principal pasa a ser ‘qué puede hacer la tecnología’ en lugar de ‘qué debería hacer para servir al ser humano’, se pierde el eje ético de la conversación. Creo que el Papa León XIV intenta hacer con la IA algo parecido a lo que León XIII hizo durante la revolución industrial con la Rerum Novarum: recordar que el progreso tecnológico, sin una reflexión moral, puede terminar generando nuevas formas de desigualdad y exclusión”.
La reflexión a la que invitó el Pontífice a través de la encíclica ha calado hondo. Juan Pablo Swett, economista, emprendedor y presidente de la Multigremial Nacional de Emprendedores, aseguró que este documento “puede transformarse en un referente mundial y un punto de discusión más allá de los negocios. Incorporar una mirada humana y valórica es necesario en un debate dominado solo por la tecnología y el mercado”.
En este punto coincide Nicolás Silva, director de Tecnología de Asimov Consultores, quien valoró que el Vaticano entre en la discusión, ya que pone en perspectiva temas que no siempre son abordados desde lo técnico. “Hoy la conversación sobre IA está muy enfocada en la tecnología, la plata y la competencia entre empresas, entonces que una institución como la Iglesia entre a hablar del tema, obliga a mirar también el impacto que esto puede tener en las personas”.
Morello, por su parte, planteó que la encíclica “introduce una nueva voz: la ética humanista y civilizatoria. Además, el documento aparece en una etapa todavía temprana de la revolución de la IA, y eso le da potencial de influencia de largo plazo. El Vaticano está planteando que estamos frente a una transformación equivalente a la Revolución Industrial en escala histórica, y por eso busca intervenir desde ahora en la discusión”.
La importancia de liderazgos responsables en la tecnología
En este punto, la invitación a Christopher Olah, cofundador de Anthropic, a intervenir en la ceremonia de presentación de la encíclica, quiso precisamente lograr generar un impacto especial y directo en el mundo tecnológico.
Y las palabras de Olah no pasaron desapercibidas. Dijo que las empresas ligadas a la IA “operan dentro de un conjunto de incentivos y restricciones que, a veces, pueden entrar en conflicto con hacer lo correcto”. E identificó tres de aquellas presiones: una comercial, otra geopolítica y otra relacionada con el orgullo y la ambición. A raíz de eso, agradeció a la Iglesia y al Papa León XIV por asumir esa labor de discernimiento que necesita la industria para salir de esos incentivos.
Asimismo, Olah terminó su discurso con una petición: que comunidades religiosas, la sociedad civil, académicos y gobiernos puedan “tomarse esto en serio. Necesitamos críticos informados que les digan a los laboratorios cuánto estamos fallando, voces morales que los incentivos no puedan doblegar”.
Para Swett, las palabras del cofundador de Anthropic “demuestran que incluso quienes lideran esta revolución entienden que no basta con innovar rápido, también se necesita responsabilidad y límites claros, pero a la vez confirma un tema alarmante: la IA se nos puede ir de las manos”.
Y afirmó que “los líderes empresariales tienen un rol clave mucho más allá de la productividad e impactos empresariales de la IA. Debemos preocuparnos de cómo esta tecnología impactará el empleo, la privacidad y las oportunidades de las personas, donde la visión de las pymes es fundamental, porque representan gran parte del empleo en Chile. Muchas pequeñas empresas aún no tienen las herramientas para adaptarse a esta revolución tecnológica, y si esto no se hace bien, podríamos profundizar desigualdades, concentrar aún más nuestra economía y afectar puestos de trabajo”.
En esto coincide la directora de ACTI, Alejandra Acuña, quien valoró la intervención de Olah en el Vaticano y aseguró que “los líderes empresariales ya no pueden limitarse a desarrollar productos y capturar mercados, también deben asumir responsabilidad sobre los efectos sociales, laborales, educativos e informacionales de las tecnologías que impulsan. Eso, en nuestra opinión, implica al menos cuatro tareas: promover el uso responsable, fortalecer la transparencia y rendición de cuentas, anticipar impactos sobre empleo y desinformación, y contribuir a una gobernanza más seria de la IA. La discusión ya no admite una postura pasiva, los directivos van a ser evaluados por cuánto innovan, pero también por su manera de gestionar riesgos, cómo protegen a las personas y qué tipo de desarrollo tecnológico ayudan a construir”.
Para Morello, en tanto, “los líderes tecnológicos hoy cumplen un rol comparable al que tuvieron los grandes industriales del siglo XIX o los líderes nucleares del siglo XX: están tomando decisiones que afectan educación, democracia, trabajo, seguridad, acceso a la información y hasta la manera en que las personas se relacionan entre sí”.
Silva, por su parte, enfatizó que la Inteligencia Artificial ya está aportando muchísimo en áreas como salud, educación, productividad y acceso a la información. A pesar de esto, aseguró que las palabras de Olah ayudan a entender la importancia que tienen los líderes y directivos de las empresas que desarrollan la IA frente a las presiones. “Al final son ellos quienes deciden cómo se desarrollan estas herramientas y hasta dónde llegan. El problema es que hoy existe mucha presión por avanzar rápido y no quedarse atrás, y eso puede hacer que algunos temas éticos queden en segundo plano. Por eso, es importante que existan voces distintas participando en esta discusión”, afirmó.
El desafío de una regulación global: no frenar la innovación
Uno de los puntos reflexivos que marcó el Sumo Pontífice tiene que ver con la necesidad de consensuar una ética y moral global que pueda regular el avance de la Inteligencia Artificial, algo en lo que concuerdan fuertemente en nuestro país.
Federico Morello explicó que “la IA tiene características que hacen insuficientes las regulaciones puramente nacionales: operan de manera transnacional, afecta infraestructura crítica, puede alterar procesos democráticos y, además, tiene aplicaciones militares y geopolíticas muy sensibles. El problema es que ningún país quiere quedarse atrás”.
Según datos de PwC, la IA podría aportar alrededor de US$ 15 billones a la economía mundial hacia 2035, lo que hace urgente una regulación, aunque advierte que apurar esto puede provocar una normativa demasiado restrictiva en algunos países que termine afectando su competitividad frente a otros. “Por eso, regular no debería significar frenar la innovación indiscriminadamente. El verdadero desafío es construir un marco que logre preservar simultáneamente innovación, competencia y dignidad humana. Probablemente terminemos viendo algo parecido a lo que ocurrió con la energía nuclear o la bioética: estándares internacionales mínimos sobre transparencia, responsabilidad, privacidad, uso militar, manipulación informativa y supervisión humana en decisiones críticas”.
El presidente de la Multigremial hace un llamado amplio y pide “avanzar hacia principios éticos globales”, y afirma que un rayado de cancha para la Inteligencia Artificial es necesario pero sin caer en regulaciones excesivas. “El desafío es encontrar un equilibrio entre innovación y protección de las personas”.
Silva coincidió en este punto y advirtió a las autoridades sobre la importancia de ser pertinentes en la regulación. “La tecnología avanza muchísimo más rápido que las leyes, y muchas veces cuando los gobiernos intentan regular algo tecnológico, terminan creando normas que quedan obsoletas muy rápido o que frenan la innovación. La IA no es una tecnología que se pueda detener fácilmente desde un solo país o región. Hoy cualquier persona puede acceder a modelos open source o desarrollar herramientas desde cualquier parte del mundo. Entonces, el desafío no pasa tanto por intentar frenar el avance, sino por generar estándares razonables, transparencia y buenas prácticas que permitan avanzar de forma responsable sin matar la innovación”, sostuvo.
Finalmente, Acuña explicó que “distintos países están siguiendo caminos distintos, y por eso Latinoamérica tiene la oportunidad de empujar una visión propia: una IA que no se mida sólo por la eficiencia o escala, sino también por la inclusión, la confianza pública, el desarrollo humano y el fortalecimiento democrático. La regulación ética será útil si ayuda a ordenar ese equilibrio y a evitar que la IA amplíe desigualdades en vez de reducirlas”.