Anais do XXI Seminário Internacional Nanotecnologias, Sociedade e Meio Ambiente desafios jurídicos éticos e sociais para a “grande transição sustentável” (XXI SEMINANOSOMA) 84 impossível evitar ambos os atropelamentos. Contudo, o VA tinha sido programado para colectar dados da internet e acabou por “aprender autonomamente” directrizes éticas que determinavam que, em caso de ser necessário decidir entre salvar a vida a uma pessoa ou salvar a vida a várias, se devia optar por salvar várias, atropelando só uma pessoa. Imagine-se, agora, que o VA decide seguir estas directrizes (por ter evoluído por si, indo além da sua programação) e atropela uma criança para evitar atropelar um casal de idosos. Deixando de lado as questões éticas – pois toda a vida humana merece o mesmo respeito e tem a mesma dignidade –, este exemplo permite perceber o quão perigoso pode ser deixar a IA evoluir por si, sem supervisão humana49. Ora, apesar de certos defeitos não serem cognoscíveis à data em que o VA foi lançado no comércio (e, por isso, o produtor, em princípio, não deva responder pelos danos causados por eles), há que considerar que o produtor tem a obrigação de vigiar o desenvolvimento da técnica e do estado da arte e um dever de sequela e de vigilância sobre os produtos que colocou no mercado, “sob pena de ser responsabilizado com base na culpa provada (art. 483.º) ou presumida (art. 493.º, n.º 2) do produtor médio ou com base no risco tendo como arquétipo o produtor ideal”50. Nos termos do art. 6.º, n.º 1, al. b), do DL n.º 69/2005, o produtor é obrigado “[a] tomar medidas apropriadas (…) incluindo a retirada do mercado, o aviso aos consumidores em termos adequados e eficazes ou a recolha do pro- duto junto destes”. Assim, no caso dos VA, pode justificar-se a recolha do veículo para correcção de programação que, no futuro, venha a revelar-se defeituosa ou lacunosa, instalação de novas diretrizes ou upgrades que, à luz do desenvolvimento da ciência e da evolução que o próprio veículo atingiu por si, sejam exigíveis para garantir a segu- rança legitimamente esperada pelo público. Se a programação per- mite ao VA alterar a sua própria programação, é de exigir ao produtor que vigie esta evolução, para garantir que o VA não se torna num pro49 No entanto, colocando dúvidas sobre se o produtor deve responder por estes danos, aten- dendo à autonomia do veículo e questionando até se este regime não assumirá “contornos persecutórios”, Manuel Felício, «Responsabilidade civil extracontratual por acidente de viação causado por veículo automatizado», op. cit., pp. 508-509. O autor parece preferir a responsabilização do proprietário ou do utilizador, por ser “o sujeito que maior proximida- de manterá da actuação do veículo autónomo – fonte do risco – e aquele que do sistema de condução autónoma retira mais comodidades”, explorando as presunções legais de culpa dos art. 491.º e ss., bem como dos arts. 500.º e 503.º, todos do Código Civil. Idem, pp. 509 e ss. 50 João Calvão da Silva, Compra e Venda de Coisas Defeituosas (Conformidade e Segurança), op. cit., pp. 210-211.
RkJQdWJsaXNoZXIy MjEzNzYz