Paolo Benanti, el franciscano que aconseja al Papa Francisco sobre inteligencia artificial: “Podría multiplicar la injusticia o la caridad social”

Si le preguntas en una iglesia, te dirá que es franciscano. Si le ves en clase, profesor. Y si les ves en algún congreso internacional, experto en IA. Paolo Benanti (Roma, 20 de julio de 1973), franciscano de la Tercera Orden Regular (TOR), con hábito incluido, se ha convertida en una referencia para todo el mundo, no solo para la Iglesia, en materia de Inteligencia Artificial.

Tanto es así que, no solo asesora al Papa Francisco directamente sobre este asunto, sino que también, entre su extenso currículum encontramos que es profesor de la Pontificia Universidad Gregoriana, experto en bioética y ética de la tecnología, presidente de la Comisión para el estudio del impacto de la inteligencia artificial en el periodismo y los medios de la Presidencia del Consejo Italiano, y miembro de la comisión de expertos de la ONU en materia de IA.

Asegura que estamos en un cambio de época, concretamente la 'Era Digital'. “Intento centrarme en el significado ético y antropológico de la tecnología para el Homo sapiens: somos una especie que habita el mundo desde hace 70.000 años, transformándolo, la condición humana es una condición tecnohumana”, dice en su página web.

¿Cómo ha llegado un franciscano a convertirse en una referencia en este asunto? ¿Qué le preocupa al Papa Francisco sobre la inteligencia artificial? ¿Es este el mejor momento para desarrollar la IA? De todo ello habla en su visita a COPE.

de franciscano a experto en ia: la trayectoria de paolo benanti

PREGUNTA: Usted es uno de los expertos designado por la ONU para el estudio y regulación de la inteligencia artificial, y también tiene un encargo por parte del estado italiano. ¿Cuál es ese encargo concretamente?

RESPUESTA: Digamos que esto ha sido una serie de círculos concéntricos. Desde la actividad académica se pasó a operaciones de mediación, como la 'Rome Call for AI Ethics', un intento desde abajo de reunir a varios sujetos diferentes. De ahí, luego hubo un encargo para las Naciones Unidas en este comité, que es el comité que ayudó al secretario general Guterres a tratar de tener un esquema para la gobernanza de la IA, en el que también había como presidenta, una mujer española, Carme Artigas. 

Después de esto, hubo ese encargo de esta comisión de estudio que la Presidencia del Consejo de Ministros, es decir, el conjunto del gobierno italiano, ha querido poner en marcha para estudiar el impacto de la inteligencia artificial en la información y el mundo de los medios de comunicación. ¿Por qué? Porque detrás de la democracia hay una apuesta fundamental: que el ciudadano pueda formarse una opinión sobre los hechos. Para que esto sea posible, se necesita de algunas figuras profesionales, que son los periodistas, pero para que los periodistas puedan hacer su trabajo se necesita un sector industrial, los medios, que logre sobrevivir. Y, por lo tanto, evitar que la inteligencia artificial haga desaparecer a los periodistas y destruya el sector industrial de los medios es algo que interesa a la democracia porque apoya el funcionamiento democrático.

P: Franciscano, teólogo, experto en inteligencia artificial. ¿Con cuál de todas estas acepciones se siente más identificado Paolo Benanti?

R: Diría que depende. Si nos vemos por la mañana en la iglesia diría franciscano. Si nos vemos en clase, profesor; y si nos vemos en algún comité internacional, también experto en inteligencia artificial.

P: Que dentro de la Iglesia hay expertos en un montón de materias no es nuevo. Sin embargo, ¿Considera una novedad que otras instituciones fuera de la Iglesia reconozcan el trabajo de profesionales de dentro y los tengan como referencia?

R: En este caso lo interesante es el perfil académico. Yo me ocupo del impacto ético y social de estas tecnologías. La inteligencia artificial es una tecnología particular, que no es solo un ámbito tecnológico, sino que también debe estudiarse en relación con el impacto social, debe estudiarse también en relación con cómo esto cambia la sociedad y, por lo tanto, se necesitaban figuras con esta competencia académica, y mi currículum hizo el resto

regular no es lo mismo que limitar: el caso “ferrari o lamborghini”

P: Cuando usted lee noticias sobre que la inteligencia artificial es capaz de hacer cada vez más cosas, lo hace con miedo, con entusiasmo. ¿Cómo cómo afronta usted las novedades sobre el desarrollo de la inteligencia artificial?

R: Desde cierto punto de vista, no hay tecnología que de alguna manera no hable de la grandeza del hombre. Y desde el punto de vista de la fe, esto es algo que diríamos de nuestro Creador. Pero también debemos ser conscientes de algo que es muy antiguo. Tan antiguo como el hombre. Cuando hace 60.000 años estábamos en una caverna, y por primera vez tomamos en la mano una clava, un bastón, ¿era un utensilio para abrir más cocos o era un arma para abrir más cráneos? 

Existe esta dualidad de la tecnología. Y entonces, cuando hoy escuchamos estos grandes prodigios de la inteligencia artificial, debemos ser conscientes de que pueden ser grandes prodigios que ayudarán a los médicos a ser mejor médicos, a los jueces a ser mejores jueces, nos ayudarán a vivir mejor como hombres.... o podrían ser armas mortales que aumentarán las diferencias, las desigualdades, que serán lo que permita a unos pocos controlar a muchos.

P: Regular la inteligencia artificial, ¿es limitarla?

R: Bien, este es un término que hay que aclarar porque podríamos pensar que la ética o el derecho tienen como única función la de ser un collar como el que se le pone a un perro, ¿no?, para evitar que se vaya. Si lo entendemos en este sentido, no le estamos haciendo un servicio ni a la inteligencia artificial, ni a la ética, ni al derecho.

Hace unos 100 años, por primera vez, realizamos máquinas que iban más rápido que el hombre, el automóvil. Pues bien, hicimos una forma de regulación que no servía para que los automóviles no fueran a donde queríamos, sino que servía para evitar accidentes entre el hombre y la máquina. Pues bien, ese código de circulación no ha evitado que el automóvil se desarrolle. Hemos tenido el Ferrari, el Lamborghini, coches también muy rápidos, pero se han evitado accidentes, y hoy se trata de hacer lo mismo. Se trata de poner unas barreras de protección que de alguna manera permitan que la máquina no haga daño al hombre.

P: La Iglesia se ha convertido en una referencia en materia de IA. Cuando usted ha comentado estos temas en el Vaticano con el propio Papa Francisco, ¿cuáles son sus principales preocupaciones?

R: Este es un pontificado de frontera. El primer acto que hizo el Papa fue ir a Lampedusa con los migrantes y “abrió el melón”, como decís vosotros, sobre el tema de las migraciones. Después de eso, hubo la encíclica ‘Laudato Sí’ y se inició un debate, que es el debate sobre la crisis ecológica. Con la inteligencia artificial es la misma cosa. Sí la Iglesia y la Iglesia de Francisco está en la frontera... está allí donde suceden los principales desafíos hoy. No es casualidad que el Papa también fuera invitado a hablar en el G7, la reunión de los siete grandes de las economías mundiales. No estuvo invitado a hablar en el G7 de un tema como podría ser la caridad u otro, sino de un tema tecnológico, ese tema de frontera que es el tema sobre el cual todo el mundo se está interrogando. Aquí, la Iglesia vive en la plaza, absorbe lo que sucede en la plaza. La inteligencia artificial es uno de los nuevos compañeros que encontramos en la plaza y con el cual debemos convivir.

¿qué aporta la iglesia al desarrollo de la ia?

P: Usted, también el Papa Francisco, insistís en la idea de que es fundamental “poner al hombre en el centro del desarrollo de la IA”. Pero esto, ¿en qué se concreta? ¿Qué es poner al hombre en el centro del desarrollo de la inteligencia artificial?

R: Podemos tener una máquina que cada vez más tome el lugar del hombre. Pensemos en el periodismo. Podríamos tener una máquina que de hecho tome el lugar de todo periodista y simplemente hemos quitado al hombre del centro de esta innovación. O podríamos tener una serie de sistemas que permitan al periodista hacer mejor su trabajo, ver mejor la perspectiva de las noticias, hacer un fact cheking, tener una comprensión mayor y más rápida de lo que sucede. Son los mismos algoritmos, pero con dos modelos de desarrollo muy diferentes. Por un lado, hay una máquina que reemplaza al hombre, por otro, hay una máquina que aumenta las capacidades del hombre. Esto es lo que entiende el Papa, una máquina que deje al hombre un control significativo de lo que sucede y nos ayude a ser más humanos

P: La relación del hombre con las máquinas no es nueva. La humanidad ha vivido la Revolución Industrial, que hasta el momento ha sido la gran interacción entre hombre y máquina que más transformaciones sociales ha provocado. ¿Qué diferencias y similitudes ves con aquella época?

R: Desde un primer punto de vista, podemos considerar la inteligencia artificial como el último eslabón temporal de esta cadena, que es una cadena de automatización, cuando la máquina empezó a ocupar el lugar de los músculos del hombre y nos ayudó a hacer más cosas. Esta vez, sin embargo, utilizamos la información para controlar la máquina y esto crea una máquina que es capaz de hacer algo que ninguna máquina hacía hasta ahora. Y cuando tenemos, por ejemplo, uno de esos robots que barre el suelo, que limpia la habitación, he aquí que de repente no solo ocupa el lugar de nuestra fatiga, sino que adquiere de nosotros un fin, limpiar, y luego elige los medios con los que limpiar. He aquí, una máquina que adapta los medios al fin es una máquina que nunca hemos visto y debemos recordar que el fin no justifica los medios.

P: Y, ¿cómo nos va a transformar a la sociedad? Es decir, ¿qué patrimonio va a dejar de ser exclusivamente humano para tenerlo compartido con la inteligencia artificial?

R: Esta es la pregunta clave y este es quizás también el motivo por el que la Iglesia está tan en el centro de este debate. No podemos evitar preguntarnos o hacernos preguntas sobre la máquina sin que de repente no surjan preguntas sobre el hombre, sobre quiénes somos o sobre cuál es nuestra especificidad. Entonces esto es interesantísimo porque después de una temporada en la que pensamos que los grandes simios eran humanos como nosotros, he aquí que de repente una máquina que se comporta como nosotros, nos hace reconocer que hay algo único en nuestra condición. Y entonces estamos en este cambio de época, esta era digital, como llamo uno de mis textos, que simplemente nos muestra que debemos tener la fuerza de decirnos a nosotros mismos quiénes somos y cuál es nuestro destino.

P: ¿Cuál es la aportación más importante que da la Iglesia al estudio de la inteligencia artificial?

R: Nosotros tenemos esta larga tradición de reflexión que es la Doctrina Social de la Iglesia, y en la doctrina social de la Iglesia hay algunos principios fundamentales. Lo que debemos reconocer es que la inteligencia artificial es un multiplicador, logra multiplicar lo que encuentra, podría multiplicar la injusticia o multiplicar nuestros esfuerzos de caridad política, de caridad social y por lo tanto de justicia. Desde un punto de vista de la Doctrina Social de la Iglesia, este es el tema más importante, es decir, transformar la innovación que es la capacidad de hacer mejor algo en una forma de desarrollo, algo que contribuya al bien común. Esta es la perspectiva quizás principal que en este momento vemos sobre la inteligencia artificial.

P: Y para eso es fundamental crear un lenguaje común que entrene la inteligencia artificial. No sé si el momento actual, de grandes conflictos y tensiones, es un momento idóneo para el desarrollo de la inteligencia artificial. ¿No debería estar en una nevera, de momento?

R: Cuando Juan XXIII escribió la 'Pacem in terris' no era un momento mejor que este en algunos aspectos. Y sin embargo la Iglesia sabe que tiene una misión en el tiempo que es esta misión de evangelización, y si renunciáramos a buscar este lenguaje común ya habríamos dicho que renunciamos a llevar la esperanza dentro de la historia; y acabamos de abrir el Jubileo que es un jubileo de esperanza. Entonces este es un elemento típico de la Iglesia. Pero sabemos que lo común aquí es lo que hace importante al lenguaje. 

Por eso una iniciativa como la Rome Call For AI Ethics, esta iniciativa ética en torno a la inteligencia artificial que nació en 2020 en Roma, firmada por la Iglesia, pero firmada también por Microsoft, por IBM, por las grandes compañías, poco a poco se ha extendido a otras religiones. Han firmado los musulmanes, han firmado los judíos. El pasado julio en Hiroshima firmaron 21 religiones mundiales. He aquí que este lenguaje de lo humano y de la ética de repente se vuelve universal, de repente trata de volverse común para resolver esos problemas, incluso en un mundo muy fragmentado.

P: ¿La inteligencia artificial puede ayudarnos a conocer más a Dios o aumentar nuestra vida de fe? O ese campo no es el suyo...

R: Digamos que la inteligencia artificial puede hacer algo diferente. Cambia la forma en que accedemos a la información y debemos reconocer que cada uno de nosotros cree en algo. Si preguntara si creemos que la realidad está hecha de átomos, todas las personas dirían que sí. ¿Pero cuántas personas han visto los átomos?

Todos creen en una información leída en alguna parte. Entonces, creer no es solo cosa de quien tiene fe. Pues bien, la inteligencia artificial, al ser la interfaz que nos trae la información, ha hecho que cuando le preguntaron a la inteligencia artificial quién era, tuvo que creer en lo que la inteligencia artificial le decía. Solo que la inteligencia artificial une datos entre sí de una manera no diferente a como en el pasado un sacerdote en un templo unía las entrañas de un pollo a las estrellas del cielo. Así que podríamos generar una nueva creencia en estos nuevos oráculos.

Es aquí donde la fe y toda la reflexión teológica de la Iglesia nos ayudan a reconocer si estamos mirando a la inteligencia artificial con una perspectiva científica o con una perspectiva pseudoreligiosa, que creo que no nos lleva por buen camino.