“No podemos considerar la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones”, reza el primero de los mensajes publicados hoy por el pontífice de la Iglesia Católica.
El papa León XIV argumenta que “el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían”.
“Para que la IA respete la dignidad humana y sirva realmente el bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas”, declara el segundo mensaje.
Agrega que debe ser posible identificar quién debe “rendir cuentas” de las decisiones tomadas en base a inteligencia artificial, controlar esas herramientas y, “cuando es necesario, remediar los daños que derivan de ellas”.
Magnifica Humanitas
El pasado 25 de mayo, el papa León XIV publicó la encíclica Magnifica Humanitas, en la que delinea la doctrina social de la Iglesia Católica en una era definida por el uso de la inteligencia artificial e insta a los católicos del mundo a promover la verdad, la dignidad del trabajo, la justicia social y la paz en ese contexto tecnológico.
Lea más: León XIV presenta su primera encíclica “Magnifica Humanitas”: detalle a detalle los temas que aborda
En ese texto, el papa advertía que “la dignidad humana corre el riesgo de ser aniquilada u olvidada, sustituida por funciones, automatismos y simulaciones” y señaló el peligro de que la IA se convierta en un “un oráculo” que “pueda erosionar las capacidades humanas, influir en el debate público mediante algoritmos y ‘chatbots’, y favorecer la desinformación o la manipulación emocional”.
En consecuencia, hizo un llamado a la “transparencia, regulación adecuada y una acción coordinada de gobiernos, empresas, instituciones y comunidades religiosas”.