Daños ocasionados por sistemas de inteligencia artificial: desarrollo vs derechos 234 En Estados Unidos se han reportado los primeros casos de sesgo discriminatorio a partir del uso de la tecnología de reconocimiento facial Ousmane Bah, estudiante de 18 años de edad y residente de Nueva York (Estados Unidos), interpuso una demanda en la que solicita la indemnización de 1.000 millones de dólares a la multinacional Apple Inc. El demandante alegó que el software de reconocimiento facial de dicha empresa lo vinculó de manera errónea con una serie de robos en tiendas Apple, lo que resultó en su arresto. Bah fue arrestado en su domicilio bajo la acusación de haber cometido un robo en una de las tiendas Apple. La orden de arresto presentaba una fotografía que, según Bah, no se parecía a él en absoluto. Además, uno de los actos ilícitos atribuidos a él tuvo lugar en Boston el mismo día en que asistía a su fiesta de graduación en Manhattan, lo que refutaba la posibilidad de su implicación en el robo. Bah alegó que había perdido previamente un permiso de conducir de aprendizaje sin fotografía, que el ladrón real pudo haber utilizado como identificación en las tiendas de Apple. Esto llevó a una supuesta asociación errónea de su nombre con la imagen del ladrón en el sistema de reconocimiento facial utilizado por Apple para rastrear a personas sospechosas de robo. En consecuencia, Bah sufrió graves acusaciones que resultaron en estrés y dificultades significativas para él. Si bien el reconocimiento facial de Apple es un componente crucial de su seguridad en tiendas minoristas, diseñado para identificar a posibles delincuentes, este caso plantea interrogantes sobre la precisión y la fiabilidad de dicho sistema, así como sobre las implicaciones legales de su uso en situaciones erróneas. El uso de la tecnología de reconocimiento facial por parte de las fuerzas del orden ha suscitado una serie de preocupaciones en todo el mundo en lo que respecta a la precisión y las posibles implicaciones para los derechos individuales. A partir del análisis de la sentencia del Alto Tribunal de Justicia de Inglaterra y Gales de 4 de septiembre de 2019, Izquierdo Carrasco (2020) explica que: esta resolución judicial rechaza la idea de que el uso de sistemas de reconocimiento facial viole el principio de no discriminación aplicable a las acciones de las autoridades públicas. Existe una opinión generalizada que sostiene que estos sistemas pueden tener sesgos discriminatorios, los cuales dependen de los conjuntos de datos utilizados por las empresas desarrolladoras de
RkJQdWJsaXNoZXIy MjEzNzYz