Análise de Dados e IA Aplicada ao DireitoIA preditiva e riscos para a independência judicialNível 3
Uma vara cível passou a usar um sistema que, ao receber os autos conclusos, apresenta uma minuta de sentença e a indicação "resultado provável: improcedência", calculada a partir do histórico de decisões da própria unidade. Após alguns meses, a corregedoria percebe que quase todas as minutas foram assinadas sem alteração relevante, inclusive em casos com particularidades não tratadas no texto sugerido.
O risco que melhor descreve essa situação é
Ao viés de automação, em que a sugestão da máquina é acolhida sem exame crítico, comprometendo a independência e a fundamentação.✓ correta
Ba alucinação, pois o sistema inventou precedentes inexistentes para justificar a improcedência sugerida nas minutas.
Ca violação ao segredo comercial do fornecedor, pois as minutas assinadas revelam os critérios usados pelo modelo.
Do aprendizado não supervisionado, já que o sistema agrupou os processos sem que houvesse rótulos prévios.
Ea perda da janela de contexto, pois o sistema não consegue ler os autos completos antes de sugerir a minuta.
Resposta correta: alternativa A
💡 Explicação
A alternativa A está correta: o viés de automação é a tendência de aceitar a sugestão do sistema sem análise crítica, o que ameaça a independência judicial e o dever de fundamentação das decisões (art. 93, IX, da Constituição e art. 489 do CPC), além de perpetuar o histórico da unidade, já que as novas decisões realimentam o padrão. As resoluções do CNJ sobre IA exigem supervisão humana efetiva e mantêm o magistrado como responsável pela decisão. A alternativa B estaria certa apenas se houvesse precedentes inventados, o que o enunciado não descreve. A alternativa E aponta uma limitação técnica que não explica a assinatura reiterada sem revisão.Questão enviada por Equipe Canetinha ao banco público do Canetinha.