Google levanta la prohibición sobre el uso de inteligencia artificial en armamento y vigilancia

La inteligencia artificial sigue revolucionando todos los sectores y no para de sorprendernos a pasos agigantados. En Poniendo las Calles hablamos con Juan Diego Polo, formador y consultor de inteligencia artificial, al que podemos encontrar en juandiegopolo.com , sobre la decisión de Google sobre el uso de IA en armamento, la expansión de OpenAI en Europa, el nuevo programa de Meta para lenguas poco representadas y el acceso sin cuenta a ChatGPT Search.

GOOGLE Y OPEN AI

Google, una de las empresas tecnológicas más influyentes del mundo, ha generado controversia al levantar su prohibición sobre el uso de inteligencia artificial en el desarrollo de armas y herramientas de vigilancia. Esta decisión ha sido muy criticada por organismos de derechos humanos, que advierten sobre los riesgos de permitir que la IA influya en conflictos militares y en la seguridad global. Polo, ha comentado que: "Google ha revertido su política de 2018, argumentando que las democracias deben liderar el desarrollo de IA en defensa para evitar que regímenes autoritarios tomen la delantera. Esto les permitirá trabajar con el ejército en tecnología avanzada de IA aplicada a defensa".

En cuanto a los posibles problemas y preocupaciones sobre esta medida, Juan Diego Polo, formador en Inteligencia Artificial, y bastante activo en LinkedIn, nos indica que: "La principal preocupación es el desarrollo de armas autónomas sin supervisión humana, lo que podría derivar en conflictos más impredecibles. También preocupa la falta de regulación internacional para estas tecnologías". Una decisión que podría acelerar la carrera armamentista tecnológica y forzar a otras empresas a seguir el mismo camino, lo que generaría tensiones en la regulación de IA en el ámbito militar.

Además, Polo ha comentado que OpenAI, la empresa desarrolladora de ChatGPT, tiene previsto abrir una oficina en Múnich (Alemania) durante los próximos meses como parte de su plan de expansión en Europa. "OpenAI busca fortalecer su presencia en Europa, un mercado clave para el desarrollo y regulación de la inteligencia artificial. La oficina en Múnich se enfocará en contrataciones estratégicas y colaboraciones con universidades, empresas y gobiernos", señala Polo. También añade que OpenAI podrá influir en las discusiones sobre regulación y adaptación de IA en sectores como la salud y la manufactura, aunque también enfrentará más escrutinio en temas de privacidad y transparencia.

META

Juan Diego Polo, formador en IA y responsable por WWWhatsnew.com, también habla en Poniendo las Calles sobre Meta y su programa de traducción para lenguas poco representadas, Language Technology Partner Program. Una iniciativa que como indica Polo, busca mejorar la traducción automática y el reconocimiento de voz en idiomas con poca presencia digital. En colaboración con la UNESCO, recopilarán datos lingüísticos para entrenar modelos de IA. 

Una iniciativa que, como señala Polo: "Puede ayudar a preservar idiomas en riesgo de desaparición y permitir que más personas accedan a tecnología en su lengua materna. Sin embargo, la calidad de la traducción y la ética en el uso de datos son desafíos clave". También, las organizaciones y gobiernos pueden contribuir con grabaciones y textos para ayudar a entrenar los modelos de IA. Meta también ha lanzado un benchmark de código abierto para evaluar la calidad de las traducciones generadas. 

Hablando de nuevo de OpenAI, ha dado el esperado golpe sobre la mesa que muchos estaban esperando y que podría dar un giro de 180 grados a cómo haces tus búsquedas en internet. ChatGPT Search, el buscador impulsado por inteligencia artificial de la empresa fundada por Sam Altman, ya no necesita una cuenta para que cualquier lo use. "Ahora cualquiera puede utilizar ChatGPT Search sin cuenta, permitiendo búsquedas en tiempo real con respuestas generadas por IA basadas en el modelo GPT-4o. Además, ofrece citas y referencias verificadas para mayor transparencia", explica Polo.

Una medida que puede tener sus riesgos: "Aún no han detallado medidas concretas, pero el principal reto será garantizar la fiabilidad de la información, evitar sesgos y mejorar la seguridad contra el uso malintencionado del modelo. Para ello seguramente los integrará con los modelos de razonamiento que tiene disponibles", termina explicando Polo.