Tecnología de reconocimiento facial de Amazon confundió a 26 legisladores de California con criminales

14 Agosto 2019.

Foto: latimes.com –

Por: Univision.

El asambleísta Phil Ting utilizó los resultados del experimento realizado por la Unión Americana de Libertades Civiles para impulsar el proyecto de ley AB 1215, que busca prohibir el uso de tecnologías de reconocimiento facial en las cámaras que los agentes del orden portan en sus uniformes.

El asambleísta estatal por San Francisco, Phil Ting, jamás ha sido arrestado. Su colega Reggie Jones-Sawyer, representante por Los Ángeles, tampoco cuenta con antecedentes penales. Pero eso no impidió que estos dos legisladores de California -junto a decenas más- fueran confundidos con criminales por un software de reconocimiento facial desarrollado y comercializado por la compañía Amazon.

Ambos asambleístas se unieron este martes a varias organizaciones sin fines de lucro para impulsar el proyecto de ley AB 1215, que busca prohibir que las tecnologías de reconocimiento facial sea utilizadas en las cámaras que los agentes del orden portan en sus uniformes. Y es que para Ting y Jones-Sawyer esta cruzada también es personal, pues sus fotografías estaban entre las de 26 asambleístas californianos que arrojaron coincidencias positivas cuando se les comparó con una base de datos que contenía las imágenes de más de 25,000 fichas criminales.

La Unión Americana de Libertades Civiles (ACLU) es una de las organizaciones que apoya esta medida y la que puso a prueba el programa ‘ Rekognition’, un software que Amazon ofrece al público para «identificar a personas en fotos y videos» de forma «rápida y precisa». Los resultados del experimento demostraron que 1 de cada 5 legisladores estatales -15 asambleístas y 11 senadores en total- fueron seleccionados por el programa como personas que habían sido previamente arrestadas cuando se les comparó con la base de datos. Un experimento similar realizado el año pasado, tuvo los mismos resultados con 28 congresistas federales.

Con la prueba realizada por ACLU, Ting busca demostrar que la tecnología de reconocimiento facial no es confiable, a la vez que espera que su iniciativa reciba el apoyo del senado estatal y del propio gobernador de California para convertirse en ley. “Es claro que este software no está listo para ser usado en toda su capacidad en las agencias del orden. Si eres arrestado y eso queda en tus antecedentes, puede ser muy difícil conseguir vivienda o trabajo. Tiene impactos reales”, dijo el asambleísta.

El legislador Reggie Jones-Sawyer, presidente del Comité de Seguridad Pública de la Asamblea estatal, fue más allá al advertir sobre los riesgos que este tipo de tecnologías representan especialmente para las minorías. “A menudo los miembros de las minorías son confundidos por otros. He escuchado demasiados casos de confusión de identidad que terminan en arrestos y en el peor de los casos a la muerte”, indico.

“La semana pasada vimos cómo una de las mayores redadas migratorias destruyó a casi 600 familias en Mississippi. Una de las claves para permitir ese nivel de trauma es la vigilancia de alta tecnología, incluyendo al reconocimiento facial”, señaló Steven Renderos, codirector de Media Justice, otra de las organizaciones sin fines de lucro que apoya el proyecto de ley del asambleísta Ting.

Las estrategias de vigilancia

El uso de tecnología de reconocimiento facial es una de las más recientes técnicas implementadas por los Servicios de Inmigración y Aduanas (ICE) para el rastreo de indocumentados. El mes pasado el diario The New York Times reportó que la agencia ha tenido acceso a la información de las bases de datos de las licencias de conducir en estados que ofrecen licencias de conducir para indocumentados. Sin embargo, esta no es la primera vez que echan mano de este tipo de recursos.