235 Luis Pérez Orozco software para “entrenar” los sistemas. No se afirma que estos sistemas incluyan algoritmos directamente discriminatorios, sino que su precisión es considerablemente menor en tanto se trata de reconocer imágenes faciales de mujeres con tez oscura en comparación con las imágenes de hombres de tez clara. Este sesgo sería especialmente preocupante si el sistema de reconocimiento facial se implementara en procesos automatizados de toma de decisiones (Carrasco, 2020, p. 103). En otro caso en los Estados Unidos, la señora PorchaWoodruff, residente de Detroit fue arrestada de manera injusta debido a un error en el sistema de reconocimiento facial utilizado por la policía. Todo comenzó cuando la policía de ese lugar, en respuesta a un informe de robo a mano armada, arrestó a Porcha Woodruff bajo cargos de atraco y robo con violencia de un vehículo. Este arresto tuvo lugar frente a su hogar cuando la señora estaba preparando a sus hijas para ir a la escuela. La situación se tornó aún más angustiosa debido a que ella estaba embarazada de ocho meses en ese momento. Fue esposada y trasladada al centro de detenciones de la ciudad, donde permaneció detenida durante 11 horas. Durante ese tiempo, Woodruff sufrió contracciones y dolores agudos en la espalda. El fundamento de su arresto fue un sistema de reconocimiento facial que vinculó erróneamente su rostro con una fotografía de una base de datos policial. Este error se produjo a pesar de que Woodruff no tenía ninguna conexión real con el delito en cuestión. Finalmente, tras pagar una fianza personal de 100.000 dólares, fue liberada esa misma noche. Sin embargo, las secuelas físicas y emocionales del arresto injusto persistieron, y al punto de tener que ser tratada en un hospital. El informe policial reveló que la identificación errónea se basó en la comparación de una foto policial de Woodruff de 2015, en lugar de utilizar una foto más reciente de su licencia de conducir de 2021. Este suceso se vio exacerbado por el testimonio de un testigo que identificó a la señora como la mujer relacionada con el robo. Este caso no es un incidente aislado en Detroit, ya que es el tercero que involucra a la policía de dicha ciudad y el uso de reconocimiento facial. Allí las fuerzas policiales realizan un promedio de 125 búsquedas con esa tecnología al año, la mayoría de las cuales involucran a hombres negros. La preocupación radica en sus deficiencias
RkJQdWJsaXNoZXIy MjEzNzYz