Ciência, tecnologia e sociedadeIA e riscos éticos: explicabilidade e supervisão humana em aplicações de saúdeNível 2
Um hospital público passou a usar um sistema de inteligência artificial para analisar radiografias de tórax e sinalizar exames com suspeita de pneumonia, que são deslocados para o início da fila de avaliação. Para cada exame sinalizado, o sistema destaca as regiões da imagem que mais influenciaram o resultado, o que permite ao médico entender e contestar a indicação. A decisão sobre diagnóstico e tratamento continua sendo do profissional de saúde, e uma comissão interna acompanha mensalmente os acertos e erros do sistema, inclusive comparando o desempenho entre diferentes grupos de pacientes.
A partir do texto, é correto afirmar que o modelo adotado pelo hospital
Ademonstra que sistemas de inteligência artificial já podem substituir integralmente os médicos na interpretação de exames de imagem.
Bcombina explicabilidade e supervisão humana, aproveitando ganhos de agilidade sem transferir ao sistema a responsabilidade pela decisão clínica.✓ correta
Ctorna desnecessário destacar as regiões da imagem, pois um sistema preciso não precisa ter seus resultados compreendidos pelos profissionais.
Dnão traz benefício aos pacientes, já que a ordem da fila de avaliação não interfere no tempo de atendimento de casos graves.
Etransfere ao programa de computador a responsabilidade jurídica e ética por eventuais erros de diagnóstico cometidos no hospital.
Resposta correta: alternativa B
💡 Explicação
A alternativa B está correta porque o texto descreve a explicação das regiões que influenciaram o resultado (explicabilidade), a decisão final mantida com o médico e o monitoramento contínuo (supervisão humana), além do ganho de agilidade com a priorização da fila. A alternativa A contradiz o texto, que preserva o papel do profissional. A alternativa C ignora que compreender o resultado é o que permite ao médico contestá-lo. A alternativa D desconsidera o benefício de priorizar casos suspeitos, e a E atribui responsabilidade a uma ferramenta, quando ela cabe às pessoas e instituições que a utilizam.Questão enviada por Equipe Canetinha ao banco público do Canetinha.