Análise de Dados e IA Aplicada ao DireitoVieses algorítmicos em decisões penais: caso COMPASNível 2
Em seminário sobre IA e Direito Penal, o professor menciona o caso COMPAS, ferramenta usada em jurisdições dos Estados Unidos para estimar o risco de reincidência de acusados, como referência obrigatória no debate sobre algoritmos no sistema de justiça.
O caso é citado principalmente porque
Ademonstrou que algoritmos de avaliação de risco eliminam a influência de preconceitos humanos nas decisões criminais.
Banálises independentes apontaram disparidades raciais nos erros da ferramenta e dificuldade de escrutínio de sua metodologia.✓ correta
Cfoi o primeiro sistema a substituir integralmente juízes na prolação de sentenças condenatórias nos Estados Unidos.
Dtratou-se de modelo de IA generativa que redigia sozinho as decisões sobre liberdade provisória dos acusados.
Efoi declarado inconstitucional no Brasil, servindo de base para a proibição do uso de IA em matéria penal.
Resposta correta: alternativa B
💡 Explicação
A alternativa B está correta: o COMPAS tornou-se referência porque uma análise jornalística independente de 2016 apontou que réus negros eram mais frequentemente classificados, de forma equivocada, como de alto risco, e porque a metodologia proprietária dificultava a contestação pela defesa. O caso ilustra viés algorítmico e opacidade em decisões que afetam a liberdade. A alternativa A afirma o oposto do que o caso revelou. As alternativas C e D descrevem funções que a ferramenta não tinha, pois ela produzia uma pontuação de risco usada como subsídio, e a E é falsa, já que não se trata de sistema brasileiro.Questão enviada por Equipe Canetinha ao banco público do Canetinha.