El Vaticano asegura que la IA puede construir “una sociedad más justa y fraterna” si está "dirigida por la inteligencia humana y no al revés”

“El uso mismo de la palabra 'inteligencia' en referencia a la IA es engañoso y corre el riesgo de descuidar lo más valioso de la persona humana”. Con esas palabras se refieren, en una nota conjunta los Dicasterios para la Doctrina de la Fe y para la Cultura y la Educación a la relación entre la IA y la inteligencia Humana. En esta nota de 117 párrafos se abordan, no solo las cuestiones antropológicas y de fondo, sino que también cuestiones éticas, se alerta de los riesgos y se invita a la comunidad científica a un desarrollo tecnológico que sirva al bien común. 

Bajo el título 'Antiqua et Nova' (en referencia a la inteligencia antigua y nueva), este documento aprobado por el Papa y publicada el 28 de enero de 2025, no solo se dirige a la comunidad eclesial (padres, maestros, pastores y obispos), sino a un público más amplio "que comparte la necesidad de un desarrollo científico y tecnológico que esté al servicio de la persona y del bien común".

Las diferencias básicas entre la IA y la inteligencia Humana

La nota establece una clara distinción entre la inteligencia artificial y la inteligencia humana, destacando que esta última, no se limita al cálculo o la resolución de problemas, sino que involucra "la capacidad de conocer y comprender, como la de querer, amar, elegir, desear". Además, la inteligencia humana se caracteriza por la capacidad de "discernimiento moral" y de "establecer auténticas relaciones", cualidades que la IA no puede replicar. La nota también destaca la importancia de la "apertura desinteresada a lo que es Verdadero, Bueno y Bello" como parte de la inteligencia humana.

Este documento señala como límite de la IA la imposibilidad de replicar la "amplitud de comprensión" de la mente humana. La inteligencia humana está "inserta en una historia de formación intelectual y moral vivida a nivel personal", que incluye "las dimensiones física, emotiva, social, moral y espiritual". La IA, al carecer de esta experiencia vital, puede llevar a "perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio".

Los riesgos y desafíos éticos de la IA

En este documento se enumeran diversos riesgos asociados al desarrollo y uso de la IA. Destaca el riesgo de aumentar la desigualdad socioeconómica. La nota advierte que podría beneficiar a "pocas empresas" en detrimento de otras, aumente la "brecha digital" y genere "nuevas formas de pobreza". A su vez, la a concentración de la IA en manos de pocas empresas plantea "riesgos" de "manipulación" para "ganancias personales o empresariales, o para orientar la opinión pública hacia el interés de un sector".

También se advierte sobre el riesgo de un "paradigma tecnocrático" donde la tecnología se convierta en la única solución a los problemas, dejando de lado "la dignidad humana y la fraternidad". Algo que, como también señala el texto, puede llevar a que el trabajo humano “pierda su valor”. En ese sentido, se alerta sobre el riesgo de sustituir "relaciones humanas genuinas" por interacciones con máquinas. Esto podría llevar a "esquemas de interacción que entienden las relaciones humanas de manera utilitarista"

Tal y como ya ha alertado el Papa Francisco durante el Jubileo del mundo de la Comunicación, en la nota se asegura que la IA puede generar "contenidos manipulados e información falsa", dificultando la distinción entre datos reales y falsos, lo cual puede "minar el proceso educativo". Además, la IA puede usarse para "formas de control tanto sutiles como invasivas", violando la privacidad y la libertad de las personas.

La IA: un mundo de oportunidades y potencial

Este documento no solo alerta de esos riesgos y dificultades éticas de un desarrollo descontrolado sin pensar en el bien común, también se reconoce el potencial de la IA como una herramienta muy valioso. De hecho, se asegura que la IA puede "contribuir al desarrollo humano" y la construcción de "una sociedad más justa y fraterna"

Por ejemplo, en el campo de la medicina, la IA tiene aplicaciones prometedoras en el diagnóstico y tratamiento de enfermedades, con el potencial de "ampliar el acceso a la atención de calidad". La tecnología podría mejorar la "cercanía llena de compasión y ternura" de los profesionales de la salud hacia los enfermos. También la IA puede mejorar “el acceso a la educación” y ofrecer apoyo personalizado a los estudiantes, siempre que se utilice dentro de una “relación real entre profesor y alumno”. También puede ayudar a "proteger la biodiversidad" y optimizar el consumo de energía. Incluso, como señala la misma nota, la IA puede ser utilizada como "ayuda en la comprensión de hechos complejos" y como guía en la "búsqueda de la verdad".

La especial preocupación del Vaticano por el usa de la IA en la guerra

En este documento aprobado por el Papa Francisco, se enfatiza en los peligros del uso de la IA en el ámbito militar. Concretamente, se advierte sobre los peligros de "sistemas de armas autónomas", haciendo un llamamiento a prohibir el desarrollo y uso de estas armas letales, pues "ninguna máquina debería jamás elegir quitar la vida a un ser humano".

En definitiva, la nota pide responsabilidad en el uso y desarrollo de la IA, destacando que esta responsabilidad recae en todos los actores: "los usuarios, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y las organizaciones internacionales". Se insiste en que la IA debe ser "dirigida por la inteligencia humana" y no al revés. Además, la nota promueve una ética basada en "una visión del bien común, una ética de libertad, responsabilidad y fraternidad".