Amazon pone en pausa la venta de su sistema de reconocimiento facial

Apenas dos días después de que IBM anunciase su decisión de suspender el desarrollo de tecnologías de reconocimiento facial, Amazon ha seguido un camino similar. Como explica la compañía brevemente en su blog corporativo, la empresa ha aprobado una moratoria de un año en la venta de esta tecnología para su uso por parte de los departamentos de policía.

Amazon Rekognition seguirá estando disponible sin embargo para otras organizaciones como Thorn, the International Center for Missing and Exploited Children, o Marinus Analytics, que utilizan estas capacidades de reconocimiento facial para rescatar a víctimas de la trata de seres humanos o encontrar a niños desparecidos.

¿Y por qué una moratoria de un año? Porque según Amazon, este es el tiempo que espera que los distintos gobiernos necesitan para poner en marcha «regulaciones más estrictas que rijan el uso ético de la tecnología de reconocimiento facial». En el comunicado no se apunta sin embargo, a la posición que adoptaría la empresa si transcurrido este periodo de tiempo no ha habido ningún cambio sustancial.

Tanto la decisión de Amazon como la de IBM se producen en un ambiente cada vez más caldeado, con la muerte de George Floyd a manos de la policía como telón de fondo, y protestas diarias que piden limitar el presupuesto asignado a los distintos cuerpos.

Como no hay dos sin tres, también hemos sabido que en los últimos días más de 250 empleados de Microsoft han firmado una petición para que la compañía siga los mismos pasos y en este caso, cancele los contratos con los que proporciona tecnología de reconocimiento facial al departamento de policía de Seattle y otros organismos.

Un problema de discriminación racial

En un momento en que el movimiento «Black Lives Matter» ha conseguido despertar una conciencia global sobre el enorme problema que el racismo representa, tecnologías como Amazon Recoknition han sido puestos en el punto de mira y no sólo por la invasión en la privacidad que suponen.

Como se desprende de una investigación puesta en marcha por el Instituto Nacional de Standards y Tecnología del Departamento de Comercio de Estados Unidos (NIST), la mayor parte de estos sistemas presentan  sesgos raciales. En este sentido, los expertos de NIST explican que el software de reconocimiento facial de compañías como Amazon, funcionan mucho mejor a la hora de identificar hombres blancos y peor para mujeres de piel oscura. En estos casos, la tasa de errores y falsos positivos se dispara.

Los problemas del sistema de hecho han provocado que ya haya sido eliminado por completo de las calles de San Francisco, donde las cámaras de reconocimiento facial cometían errores tan graves como confundir a todo tipo de personas de piel oscura con criminales registrados.

En el caso de la UE, la Comisión Europea, manifestó hace meses que las tecnologías de reconocimiento facial debían ser compliance con la GDPR y otros sistemas de protección de los datos personales de los ciudadanos, instando en este caso a su prohibición durante los próximos cinco años hasta que se diseñe un sistema más apropiado.