El papa León XIV pidió el lunes una regulación rigurosa de la inteligencia artificial y que sus desarrolladores trabajen por el bien común en lugar de por el lucro, emitiendo un amplio manifiesto sobre la protección de la humanidad, ya que la tecnología impacta en todo, desde el trabajo hasta la guerra.
«Magnifica Humanitas» (Magnífica Humanidad), la primera encíclica de León XIII , ha sido esperada con gran expectación desde que el primer papa nacido en Estados Unidos anunciara, días después de su elección, que consideraba que la IA era el mayor desafío al que se enfrenta la humanidad hoy en día.
En el texto, León XIII denunció la «cultura del poder» que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia.
Declaró que «no es permisible» confiar decisiones irreversibles y letales a los sistemas de IA, lo que generó un nuevo conflicto entre el papa estadounidense y la administración Trump, que ha trabajado agresivamente para desregular el desarrollo de la IA.
«La inteligencia artificial exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión y muerte», dijo el papa en una presentación especial en el Vaticano de la encíclica, uno de los tipos de documentos doctrinales más autorizados que un papa puede emitir.
Expertos de la industria tecnológica, el mundo académico y la moral católica afirman que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia para políticos, investigadores y ciudadanos por igual.
Esto ocurre en un contexto de avances tecnológicos casi diarios que generan creciente preocupación sobre la posibilidad de que la IA reemplace empleos humanos e incluso la inteligencia humana.
«Esto invita a las personas que están a la vanguardia de estas herramientas y que pueden ver las cosas increíbles que son capaces de hacer, a plantearse preguntas sobre su propio ‘¿Qué significa ser humano?», dijo Taylor Black, ejecutivo de IA de Microsoft y director del instituto de IA de la Universidad Católica de América.
El acto de presentación en el Vaticano también incluyó unas palabras del cofundador de Anthropic, empresa que actualmente se encuentra inmersa en una batalla legal con la administración Trump por el acceso a su tecnología de IA.
El Vaticano decidió involucrar a Anthropic como parte de su iniciativa, que lleva una década impulsando el diálogo con Silicon Valley sobre el coste humano de la IA.
Sin embargo, en su texto, Leo criticó repetidamente la concentración de poder y datos en manos de tan pocas personas en el sector privado, calificándola de peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.
«No basta con invocar la ética en abstracto; se requieren marcos legales sólidos, supervisión independiente, usuarios informados y un sistema político que no eluda su responsabilidad», escribió.
«Una IA más moral no es suficiente si esa moralidad la determinan unos pocos».
Leo hizo varios llamamientos a los desarrolladores de IA y a los líderes políticos responsables de su regulación para que reflexionaran sobre sus acciones.
Les instó a guiarse por principios éticos y espirituales para elegir trabajar no por su propio beneficio o poder, sino por el bien de la humanidad.
Las empresas competidoras en el sector de la inteligencia artificial, OpenAI y Anthropic, son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchos países.
Christopher Olah, cofundador de Anthropic, acogió con beneplácito las críticas y la preocupación de Leo. Afirmó que este tipo de controles externos sobre la IA y los investigadores que la desarrollan son fundamentales para que la tecnología funcione correctamente para la humanidad, dado lo mucho que está en juego: «la posibilidad real de que la IA desplace el trabajo humano a gran escala».
«Necesitamos que más personas en el mundo —comunidades religiosas, sociedad civil, académicos, gobiernos— hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, analizarlo detenidamente e impulsar los acontecimientos en una mejor dirección», dijo Olah.
«Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos».
En un texto metódico, el papa, licenciado en matemáticas, repasó la historia de la doctrina social de la Iglesia Católica y aplicó sus conceptos fundamentales —justicia, solidaridad, la dignidad del trabajo y el destino universal de los recursos— a la revolución digital.
«Estoy convencido de que este será un documento decisivo para nuestra era, un documento profundo y profético», dijo Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente del consejo de supervisión de Meta.
«El Papa León ofrece una voz clara, completa y coherente que nos insta a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos», afirmó. En sus capítulos más contundentes, Leo denunció cómo la IA había contribuido a acelerar la «normalización de la guerra» al insensibilizar a la gente ante su coste.
No mencionó conflictos específicos, pero citó «imperialismos opuestos, entre potencias que desean preservar su supremacía y aquellas que aspiran a arrebatársela».
Exigió transparencia y rendición de cuentas a los desarrolladores de IA para que se conozca siempre la cadena de mando y decisión en la ordenación de ataques con armamento de IA. Declaró que la teoría de la «guerra justa» de la Iglesia Católica, que establece criterios específicos para justificar el uso de la fuerza, estaba ahora «obsoleta» dados los avances tecnológicos en la guerra.
Leo firmó el texto el 15 de mayo, en el 135 aniversario de la publicación de «Rerum Novarum» (Sobre las cosas nuevas), el documento didáctico más importante de su héroe y homónimo, el papa León XIII.
Dicho documento abordaba los derechos de los trabajadores, los límites del capitalismo y las obligaciones que los estados y los empleadores tenían para con los trabajadores en plena Revolución Industrial.Se convirtió en el fundamento del pensamiento social católico moderno, y el actual papa la citó al inicio de su pontificado en relación con la revolución de la IA , que, según él, plantea las mismas cuestiones existenciales que la Revolución Industrial planteó hace más de un siglo.
Así, «Magnifica Humanitas» se convierte en el capítulo más reciente de una historia centenaria de papas que adaptan «Rerum Novarum» a las cuestiones sociales de su tiempo, haciendo hincapié a menudo en la dignidad del trabajo para el florecimiento humano.
La inteligencia artificial está suscitando tanto temores existenciales como visiones utópicas en medio de un debate cada vez más intenso sobre si se convertirá en un catalizador que enriquezca a la humanidad o en una toxina tecnológica que embota la inteligencia humana al tiempo que elimina millones de empleos bien remunerados.
«La búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo, porque la persona humana es un fin, no un medio, y el orden económico debe permanecer subordinado a la dignidad humana y al bien común», escribió Leo.
León extendió su preocupación por defender la dignidad humana en el trabajo hasta emitir la primera disculpa papal de la historia por el papel que desempeñó la Santa Sede en la legitimación de la esclavitud, al otorgar a los soberanos europeos autoridad explícita para subyugar y esclavizar a los «infieles».
Los funcionarios del Vaticano se negaron a revelar quiénes contribuyeron exactamente a la encíclica de León. Sin embargo, funcionarios del Vaticano y de la Iglesia han mantenido un diálogo con empresas tecnológicas de Silicon Valley durante una década.
Hacia el final de su pontificado, el Papa Francisco comenzó a pronunciarse con mayor frecuencia sobre la inteligencia artificial y los riesgos que esta representa para la humanidad.
La decisión de incluir a Anthropic en el lanzamiento en el Vaticano fue criticada por algunos que la consideraron un sello de aprobación papal a la empresa de IA, que actualmente está demandando a la administración Trump después de que esta ordenara a todas las agencias estadounidenses que dejaran de usar la tecnología de Anthropic por su negativa a permitir que el ejército estadounidense la utilizara sin restricciones.
Brian Boyd, enlace con las religiones en Estados Unidos de la organización sin ánimo de lucro Future of Life Institute, interpretó la inclusión de Olah, cofundador de Anthropic, como algo similar a una audiencia papal con un jefe de Estado: no como un respaldo.»Creo que se trata más bien de un reconocimiento de que esta es una empresa extremadamente poderosa que actualmente está ganando la carrera por reemplazar a los trabajadores humanos», dijo Boyd.
Anthropic es una «enorme corporación que está asumiendo un riesgo y una responsabilidad enormes», continuó Boyd, pero afirmó que la empresa ha «demostrado una genuina buena voluntad, integridad e interés en el diálogo».
:AP
