Microsoft limita las herramientas de reconocimiento facial
Microsoft anunció que está restringiendo el acceso a ciertas herramientas de reconocimiento facial y eliminando la venta de servicios que adivinan las emociones de una persona en función de imágenes, como parte de los intentos de reducir los riesgos que los sistemas de inteligencia artificial representan para la sociedad.
En un blog, la directora responsable de IA, Natasha Crampton, dio a conocer un marco estándar de IA responsable diseñado para guiar cómo Microsoft construye sistemas.
El marco detalla cómo cree la empresa que los sistemas de IA deben ejecutarse y desarrollarse, poniendo en primer plano valores como la equidad, la confiabilidad, la seguridad, la privacidad, la inclusión, la transparencia y la responsabilidad.
Como parte de su impulso, la empresa decidió retirar el “reconocimiento emocional”, que infiere “estados emocionales y atributos de identidad como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje”, dijo.
Ver más: Biometría y protección de datos, un binomio inseparable
Mal identificado
Crampton explicó que el reconocimiento facial se había convertido en una preocupación creciente por los derechos civiles y la privacidad, y los estudios habían demostrado que la tecnología identificaba erróneamente a sujetos femeninos y aquellos con tonos de piel más oscuros, lo que creaba serias implicaciones en situaciones de vigilancia.
Los clientes existentes tendrán un año antes de perder el acceso a la herramienta.
La compañía también está agregando límites a su servicio de reconocimiento facial de Azure, y ahora los usuarios deben presentar una solicitud para usar la herramienta y decirle a la compañía exactamente cómo y dónde planean usarla.
Microsoft también está agregando restricciones a su función Custom Neural Voice, lo que permite a los clientes crear voces basadas en grabaciones.
“Reconocemos que para que los sistemas de IA sean confiables, deben ser soluciones adecuadas a los problemas para los que están diseñados”, dijo Crampton.
