Considere um estudo hipotético em que um sistema de reconhecimento facial foi testado para identificar suspeitos em imagens de câmeras de vigilância. A precisão média do sistema foi alta, mas os erros não se distribuíram de forma igual: a taxa de falsos positivos (quando o sistema aponta como suspeita uma pessoa que não é) foi muito maior para mulheres e para pessoas de pele mais escura. Os pesquisadores verificaram que o banco de imagens usado no treinamento era formado majoritariamente por homens de pele clara. Em um dos testes de campo, uma mulher negra inocente foi abordada por agentes após ser apontada pelo sistema.
Considerando o texto, avalie as afirmações a seguir.
I. O viés observado pode decorrer da composição desequilibrada dos dados de treinamento, e não de uma intenção do sistema.
II. Por ser automatizado, o sistema produz decisões objetivas, que dispensam revisão humana antes de qualquer abordagem.
III. Erros desiguais entre grupos podem reproduzir e ampliar discriminações já existentes, afetando direitos como a liberdade de locomoção e a presunção de inocência.
IV. Elevar a precisão média geral do sistema é suficiente para eliminar o problema da discriminação entre grupos.
É correto o que se afirma em