Desafios éticos, jurídicos e de governança para o desenvolvimento de sistemas de IA voltados à sustentabilidade ambiental 30 devem ser robustos, viáveis e seguros em todo o ciclo de vida da IA, por sua vez os potenciais riscos devem ser avaliados, questionados e gerenciados em todas as etapas e momentos; v] as organização e pessoas que desenvolvem, utilizam ou são responsáveis pela gestão de sistemas de IA devem responder pelo seu correto funcionamento em consonância com os princípios elencados (Organisation for Economic Co-Operation and Development [OECD], 2019). Para monitorar os incidentes e riscos da IA, a OCDE criou o “Monitor de Incidentes de IA” que documenta os incidentes e auxilia os decisores políticos, profissionais de IA e todas as partes interessadas para uma compreensão coletiva de possíveis incidentes. Em novembro de 2023, os países membros da OCDE atualizaram o conceito de IA, assim posicionado: Um sistema de IA é um sistema baseado em máquina que, para objetivos explícitos ou implícitos, infere, a partir das informações que recebe, como gerar resultados como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais Diferentes sistemas de IA variam nos seus níveis de autonomia e adaptabilidade após a implantação (Organisation for Economic Co-Operation and Development [OECD] , 2023). Na União Europeia, outros importantes documentos foram elaborados para minimizar os riscos da IA, dentre os quais registra- -se que, no dia 13 de março de 2024, foi aprovado pela maioria dos Eurodeputados o marco regulatório para a IA nominado “Artificial Intelligence Act (AI Act)”, sendo que na sequência passará por um processo de validação junto ao Conselho Europeu, retificação e análise de juristas e linguistas. O AI ACT está baseado na classificação de riscos, e insere novas proibições para sistemas de IA considerados de risco elevado e inaceitável. A responsabilidade pela IA de alto risco está centralizada no fornecedor, independente de ser ou não a pessoa que concebeu ou desenvolveu o sistema. O fornecedor tem o dever de cuidado, segurança, zelo e respeito aos princípios e diretivas, com a imposição da formalização de termos de declaração e de conformidade. Atividades policiais e judiciais também estão classificadas como sistemas de alto risco. O art. 28º do AI ACT atribui as mesmas obrigações e responsabilidades do fornecedor ao responsável pela implementação, importador e distribuidor de sistemas de Inte-
RkJQdWJsaXNoZXIy MjEzNzYz