Ciberseguridad: Microsoft anuncia que retira algunas capacidades de análisis facial y comparte su estándar de IA responsable

Las últimas noticias sobre tecnología con COPE Internet, redes sociales, móviles, gadgets, software, seguridad.

Microsoft ha anunciado que retirará los productos que integren tecnología de reconocimiento facial y tengan la capacidad de reconocer las emociones de los usuarios, a la vez que ha compartido públicamente su estándar de Inteligencia Artificial (IA).

La compañía tecnológica ofrece 'software' de reconocimiento facial con servicios como Azure Face, que forma parte de Azure Cognitive Services, que presenta algoritmos de IA capaces de detectar, reconocer y analizar caras humanas.

A pesar de que esta tecnología puede beneficiar a los usuarios en distintas acciones, como el control de acceso sin contacto o la verificación de identidad, organismos a favor de los derechos humanos han cuestionado sus métodos, ya que consideran que ponen en peligro la privacidad de los usuarios.

Tanto es así que en junio de 2020 Microsoft dejó de vender tecnología de reconocimiento facial a los departamentos de Policía de Estados Unidos, a la espera de la resolución de un reglamento estricto cimentado en los derechos humanos.

Actualmente, distintos legisladores en Estados Unidos y Europa están sopesando las limitaciones legales de estos servicios, que en muchas ocasiones son tachados de poco confiables o invasivos.

Con el objetivo de construir sistemas de IA de forma responsable, Microsoft ha compartido su marco estándar en un documento público, en el que ha detallado por primera vez cómo desarrolla y aplica esta tecnología, que se basa en una serie de principios: justicia, fiabilidad, privacidad y seguridad, inclusividad, transparencia y responsabilidad.

Microsoft también ha anunciado que en el último año, investigadores, ingenieros y expertos en políticas de privacidad han elaborado la segunda versión de su estándar inicial, que se lanzó internamente en 2019.

Asimismo, ha desvelado que, tras conocer un estudio académico realizado por Stanford Computational Policy Lab, en el que se reveló que la tecnología de texto a voz discriminaba a la población negra y afroamericana, se centró en solucionar dicho problema con un estándar de IA que acabara con esa brecha.

Por otra parte, el fabricante ha destacado que ha revisado el potencial de la tecnología Custom Neural Voice, de Azure AI, que permite crear voces artificiales prácticamente idénticas a las originales.

Tras ese análisis, ha adoptado un marco de control por capas para evitar el mal uso de este sistema y ha anunciado que está limitando el acceso a estos servicios a ciertos clientes y socios.

Asimismo, Microsoft ha advertido que, como parte de su trabajo para alinear su servicio Azure Face con los requisitos del nuevo estándar, está retirando las capacidades "que infieren en estados emocionales y atributos de identidad, como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje".

En este sentido, la compañía ha anunciado que a partir de ahora los nuevos clientes deberán solicitar acceso para utilizar las operaciones de reconocimiento facial en servicios como Azure Face API, Computer Vision y Video Indezer.

Por el contrario, los clientes ya existentes disponen de un año para solicitar y recibir la aprobación correspondiente para acceder a estos servicios. De ese modo, a partir del 30 de junio de 2023, estos clientes ya no podrán acceder a las capacidades de reconocimiento facial si su solicitud no ha sido aprobada.

Esta limitación no incluye las capacidades de detección facial, incluida la borrosidad, la exposición, el ruido o el cuadro delimitador facial, que permanecerán disponibles y no requieren una aplicaicón adicional.

Sin embargo, Microsoft sí retirará las capacidades de análisis facial "que pretenden inferir estados emocionales y atributos de identidad como género, edad, sonrisa, vello facial, cabello y maquillaje", según se puede leer en este escrito.

La empresa ha tomado esta decisión después de colaborar con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología, así como sus desventajas.

"En el caso específico de la clasificación de las emociones, estos esfuerzos plantearon cuestiones importantes sobre la privacidad, la falta de consenso sobre una definición de las 'emociones' y la incapacidad de generalizar el vínculo entre la expresión facial y el estado emocional en los casos de uso, las regiones y la demografía", ha subrayado.

La detección de atributos físicos, como la sonrisa, el cabello o el vello facial, ya no está disponible para nuevos usuarios, mientras que los ya existentes tienen hasta el 30 de junio de 2023 para interrumpir esta actividad.

Finalmente, Microsoft ha aclarado que este nuevo estándar "es un paso importante en el camino de la IA" y "un documento vivo", de manera que, a medida que avance en su implementación, irá abordando nuevas tecnologías para lograr una solución responsable.

Puedes leer nuestra sección de tecnología para leer más noticias de tu sección favorita.

Toda la información actualizada de forma constante en la web del diario, así como en las redes sociales del mismo: Facebook, Twitter e Instagram.

Además, si todavía no recibes las alertas de última hora en tu móvil para conocer la información antes que nadie, puedes bajarte sin ningún coste la aplicación de COPE para iOS (iPhone) y Android.

La aplicación de COPE es el mejor canal para escuchar la radio en directo, pero es también un completo medio de información digital que cuenta las noticias cuando se están produciendo, que te alerta de lo que sucede mediante notificaciones en tu móvil. Continúa leyendo las últimas noticias de actualidad en nuestra página web para estar siempre informado de lo que está pasando.