Carlos López Segovia, experto en regulación de la IA, explica "las líneas que no se pueden cruzar para no vulnerar derechos fundamentales"

La mitad de las empresas en nuestro país utilizan la Inteligencia Artificial. Se aplican en el ámbito educativo, sanitario o del medioambiente, lo cual está permitiendo la apertura de muchas vías. Pero también tiene sus riesgos. De ahí que el Papa Francisco haya reclamado a las autoridades europeas su regulación en el uso. 

De hecho, el uso ético de la IA será obligatoria y sancionable en la Unión Europea a partir del verano de 2026. El vicesecretario para Asuntos Generales de la Conferencia Episcopal Española, Carlos López Segovia, que además es experto en regulación de la IA, ha comentado en 'Ecclesia al día' que el objetivo de la regulación es por una necesidad “de marcar los límites a las nuevas tecnologías porque, una vez que surgen, es necesario ver las líneas que no se pueden cruzar para no vulnerar derechos fundamentales”.

Y es que como advierte López Segovia, la IA está capacitada para analizar una gran cantidad de datos en un breve espacio de tiempo, y que en muchos casos revelan rasgos de nuestra personalidad como aficiones, ideología o religión que, de no estar protegidos, pueden revelarse: “Cuando les damos datos sin consentimiento expreso y no están protegidos, es posible que se analicen y den lugar a situaciones de riesgo”, ha explicado.

López Segovia advierte de cómo las nuevas tecnologías pueden mermar nuestra capacidad de retención

El vicesecretario para Asuntos Generales de la Conferencia Episcopal ha alertado a su vez que la aparición de herramientas como Google, ya ha tenido consecuencias para nuestras capacidades humanas, que se verán agudizadas con la implantación de la Inteligencia Artificial: “Está probado científicamente que Google ha provocado una merma en nuestras capacidades de retención, si no nos acordamos de algo acudimos a Google. Hemos perdido un dato de nuestra memoria por la facilidad con la que lo encontramos”.

A su vez, López Segovia comenta que la IA tendrá otro tipo de repercusiones, como generar una mayor brecha digital “entre quienes sepan y no utilizarla”.

La implementación de la IA en las escuelas es otro de los asuntos a debatir. Y es que si bien ofrece ventajas, también entraña riesgos como elaborar trabajos que realiza la tecnología. En este sentido, el experto explica que la Inteligencia Artificial es una aliada “para buscar ideas como campo de entrada a lo que quiero desarrollar, como síntesis de apuntes, esquemas, preguntas y respuestas”, pero puede hacerse un mal uso de él cuando es la IA la que trabaja por el alumno, lo que afecta a la capacidad de retención del alumno.

López Segovia alerta que algunas personas "adoran la IA, la veneran como deidad"

Por otro lado, Carlos López Segovia ha hecho hincapié en el riesgo que supone otorgar a la IA un referente de la veracidad, ya que “comete fallos porque los sistemas no están habituados o no les hacemos las preguntas con la necesaria precisión”.

Al hilo de esta idea, el sacerdote experto en IA ha alertado sobre los precedentes que existen de personas que han orientado su religiosidad a esta nueva herramienta: “Adoran a la IA, la veneran como deidad. En EEUU ha habido confesiones religiosas en torno a esta idea, utilizar la IA como sistema de culto”, ha detallado.

Cuestionado por cómo puede ayudar la IA en la labor pastoral de un sacerdote, López Segovia ha compartido su experiencia: “Mi tarea pastoral está circunscrita a la Conferencia Episcopal, pero lo que es contestar correos y correos pues simplifica la tarea y te permite disponer de tiempo para otras cosas más importantes”, ha señalado.