AP.- Hay que apartar a la inteligencia artificial "de lógicas que la convierten en un instrumento de dominación, exclusión y muerte", dijo León XIV este lunes en el Vaticano durante la presentación de su primera encíclica, uno de los documentos doctrinales de mayor rango que puede emitir un papa. 

Por esta razón, el pontífice señaló que se debe hacer una regulación sólida de la inteligencia artificial (IA) y que sus desarrolladores trabajen por el bien común en lugar de por el lucro. 

"Magnifica Humanitas" (Humanidad Magnífica), nombre que León XIV dio a su primera encíclica, es un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras la tecnología impacta en todo, desde el trabajo hasta la guerra.

El documento ha sido esperado con entusiasmo desde que Robert Prevost, el primer papa nacido en Estados Unidos, anunció, días después de su elección, que consideraba que la IA era el mayor desafío que enfrenta hoy la humanidad. También porque el pontífice decidió en contra de la costumbre dar un discurso en su presentación.

Sin nombres, enfrentamiento con Donald Trump

El papa de origen estadounidense denunció en la encíclica la "cultura del poder" que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia.

Declaró que "no es permisible" confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre León XIV y el gobierno del presidente de Estados Unidos, Donald Trump, quien ha trabajado de manera agresiva para desregular el desarrollo de la IA.

Incluso, en sus capítulos más contundentes, León denunció cómo la IA había ayudado a acelerar la "normalización de la guerra" al insensibilizar a las personas ante su costo. No mencionó conflictos específicos, pero citó "imperialismos contrapuestos, entre potencias que quieren conservar su primacía y potencias que aspiran a conquistarla".

Expertos de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia tanto para responsables de políticas públicas como para investigadores y ciudadanos corrientes.

La encíclica llega en un momento en que los avances casi diarios de la tecnología disparan el aumento de las preocupaciones por la sustitución de empleos humanos por la IA e incluso por el reemplazo de la inteligencia humana.

"Esto se presta a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas como ¿qué significa ser humano?", comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.

"No basta invocar genéricamente a la ética"

Christopher Olah, cofundador de Anthropic, una de las compañías desarrolladoras de IA más prominentes, estuvo presente en el acto en el Vaticano, que decidió involucrarla como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA.

A pesar de esa presencia, León XIV arremetió en su texto repetidamente contra la concentración de poder y datos en manos de tan pocas personas en el sector privado como un peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.

"No basta invocar genéricamente a la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea", escribió.

"No serviría de nada una IA más moral, si esta moral es decidida por unos pocos": papa León XIV

León apeló varias veces a los desarrolladores de IA y a los líderes políticos responsables de regularlos para que simplemente reduzcan la velocidad y reflexionen sobre lo que están haciendo. Los instó a seguir pautas éticas y espirituales para tomar la decisión de trabajar no por su propio lucro o poder, sino por el mejoramiento de la humanidad.

Las empresas OpenAI y Anthropic son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, a pesar de que la segunda está actualmente inmersa en una batalla legal con el gobierno de Trump, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchas naciones.

Necesitamos voces informadas, morales e indoblegables

Olah, acogió con satisfacción las críticas y la preocupación de León. Dijo que esos controles externos sobre la IA y los investigadores que la desarrollan son fundamentales para que la tecnología "salga bien" para la humanidad, dado lo mucho que está en juego, que describió como "una posibilidad real de que la IA desplace el trabajo humano a una escala muy grande".

"Necesitamos que más del mundo —comunidades religiosas, sociedad civil, académicos, gobiernos— haga lo que Su Santidad ha hecho aquí: tomarse esto en serio, mirar de cerca y empujar los acontecimientos en una mejor dirección", dijo Olah.

"Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar".

"Estoy convencido de que esto demostrará ser un documento definitorio para nuestra era, un documento profundo y profético", dijo Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente del consejo de supervisión de Meta.

Carozza afirmó que "el papa León ofrece una voz clara, integral y coherente que nos insta a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos".

Tradición de justicia social de la Iglesia

León firmó el texto el 15 de mayo, día del 135º aniversario de la publicación de "Rerum Novarum" (De las cosas nuevas), el documento de enseñanza más importante del papa León XIII, a quien Prevost admira y porque escogió su nombre de pontífice.

Aquel documento abordó los derechos de los trabajadores, los límites del capitalismo y las obligaciones que los Estados y los empleadores debían a los trabajadores mientras avanzaba la Revolución Industrial.

Se convirtió en la base del pensamiento social católico moderno, y el actual papa lo citó al inicio de su pontificado en relación con la revolución de la IA, que cree que plantea las mismas preguntas existenciales que planteó la Revolución Industrial hace más de un siglo.

"Magnifica Humanitas" se convierte así en el capítulo más reciente de una historia de un siglo de papas que adaptan "Rerum Novarum" a las cuestiones sociales de su tiempo, a menudo deteniéndose en la dignidad del trabajo para el florecimiento humano.