Inteligencia Artificial para un futuro sostenible: desafíos jurídicos y éticos

237 Luis Pérez Orozco En ese mismo país, en abril de 2018, VíaQuatro, concesionaria del metro de São Paulo, implementó una tecnología que implicaba la recopilación de datos personales sin informar adecuadamente ni obtener el consentimiento de los pasajeros. Este sistema no solo recogía información biométrica, sino también datos sobre género, edad e incluso el estado de ánimo de las personas que utilizaban el transporte público. Ante estos hechos, el Instituto Brasileño de Defensa del Consumidor entabló una demanda colectiva con el propósito de detener la recolección ilegal de datos biométricos a través de las puertas interactivas digitales instaladas en ciertas estaciones de la Línea 4 del metro paulista. La justicia brasileña resolvió el asunto en una sentencia considerada histórica al confirmar la ilegalidad del sistema de cámaras de reconocimiento facial instalado por ViaQuatro. La conducta de la parte demandada vulnera el derecho a la imagen de los consumidores y viola las disposiciones de protección de datos y derechos de los consumidores. Por tanto, la solicitud de una orden de no hacer es justificada y se debe obtener consentimiento previo para recopilar datos biométricos. El uso de reconocimiento facial sin autorización revela un comportamiento reprochable que afecta a valores morales y colectivos, especialmente si se considera el gran número de personas afectadas, incluyendo niños y adolescentes (São Paulo, 2021). A partir de ese momento, a VíaQuatro le quedó prohibida la posibilidad de registrar imágenes, sonidos o cualquier dato personal sin autorización expresa, debe cumplir así con la obligación de obtener el consentimiento informado establecido por la legislación brasileña de protección de datos personales. La autorización expresa garantiza que las personas tengan el control sobre cómo se recopilan, utilizan y almacenan sus datos personales, debido a las implicaciones en el ámbito de su privacidad. Estos datos pueden revelar detalles sensibles sobre la identidad, ubicación, comportamiento y otros aspectos de la vida. La autorización expresa implica que la persona debe otorgar su consentimiento de manera clara, informada y específica antes de que se registren sus datos personales. Cualquier enfoque para abordar las insuficiencias del actual sistema de responsabilidad ante los sistemas de IA debe considerar la amplia variedad de aplicaciones tecnológicas en diferentes sectores e industrias. Una solución general sería poco efectiva, y exis-

RkJQdWJsaXNoZXIy MjEzNzYz