Análise de Dados e IA Aplicada ao DireitoTransparência, explicabilidade e supervisão humanaNível 2
Um órgão estadual de assistência social adotou um modelo de aprendizado de máquina, adquirido de empresa privada, para indicar quais pedidos de benefício devem ser indeferidos por suspeita de fraude. Cidadãos indeferidos recebem apenas a mensagem "perfil de risco elevado", e nem os servidores sabem quais fatores pesaram na indicação.
A medida mais adequada para enfrentar o problema descrito é
Amanter o sistema como está, pois a eficiência administrativa prevalece sobre a motivação dos atos em decisões em massa.
Bsubstituir o modelo por um LLM, já que ferramentas de IA generativa são, por natureza, plenamente explicáveis.
Cdivulgar o código-fonte completo do modelo, medida que por si só torna suas decisões compreensíveis aos cidadãos.
Dexigir apenas declaração escrita do fornecedor de que o modelo não é discriminatório, dispensando outras verificações.
Eexigir explicabilidade dos critérios, auditoria periódica do modelo e revisão humana efetiva das indicações de indeferimento.✓ correta
Resposta correta: alternativa E
💡 Explicação
A alternativa E está correta: o problema é a opacidade (caixa-preta) de um modelo que afeta direitos, e as respostas adequadas são explicabilidade dos fatores relevantes, auditoria para detectar erros e vieses e supervisão humana efetiva. Isso decorre do dever de motivação dos atos administrativos, do devido processo e do direito de revisão de decisões automatizadas previsto na LGPD. A alternativa A está errada porque eficiência não afasta a motivação. A alternativa B é falsa, pois LLMs também são pouco explicáveis, e a C erra porque publicar código não equivale a explicar ao cidadão por que seu pedido foi negado.Questão enviada por Equipe Canetinha ao banco público do Canetinha.