Análise de Dados e IA Aplicada ao DireitoRegulação da IA: AI Act europeu e abordagem baseada em riscoNível 3
Uma empresa brasileira desenvolve três produtos e pretende comercializá-los na União Europeia: (1) um chatbot de atendimento que conversa com consumidores; (2) um sistema destinado a auxiliar autoridades judiciárias na pesquisa e interpretação de fatos e do direito; (3) um sistema para que órgãos públicos atribuam pontuação social aos cidadãos com base em seu comportamento.
À luz da abordagem baseada em risco do AI Act europeu (Regulamento UE 2024/1689), assinale a alternativa correta.
AO sistema de apoio a autoridades judiciárias é de alto risco, sujeito a requisitos como gestão de riscos, documentação e supervisão humana.✓ correta
BO chatbot é de risco inaceitável, pois conversa com consumidores sem a presença de um atendente humano.
CA pontuação social por órgãos públicos é de alto risco, sendo permitida desde que haja auditoria anual independente.
DNenhum dos produtos se submete ao AI Act, porque a empresa desenvolvedora está sediada fora da União Europeia.
EA classificação de risco depende da técnica usada (simbólica ou aprendizado de máquina), e não da finalidade do sistema.
Resposta correta: alternativa A
💡 Explicação
A alternativa A está correta: o AI Act classifica como de alto risco os sistemas destinados a auxiliar autoridades judiciárias na pesquisa e interpretação de fatos e do direito, impondo requisitos como gestão de riscos, governança de dados, documentação técnica e supervisão humana. O chatbot (B) está, em regra, sujeito apenas a obrigações de transparência (risco limitado), como informar que o usuário interage com uma máquina. A pontuação social (C) está entre as práticas proibidas, de risco inaceitável. A alternativa D erra porque o regulamento alcança fornecedores de fora da UE que coloquem sistemas no mercado europeu, e a E erra porque a classificação depende da finalidade e do contexto de uso.Questão enviada por Equipe Canetinha ao banco público do Canetinha.