Ciência, tecnologia e sociedadeRiscos e ética da IA: alucinação em IA generativaNível 2
Ao preparar o trabalho de conclusão de curso, Rafael pediu a um assistente de inteligência artificial generativa uma lista de artigos científicos sobre acessibilidade em museus. Recebeu dez referências bem formatadas, com títulos plausíveis e nomes de pesquisadores que de fato atuam na área. Ao procurá-las em bases acadêmicas, porém, descobriu que seis artigos não existiam. A orientadora explicou que esses sistemas produzem textos calculando quais sequências de palavras são mais prováveis a partir dos padrões aprendidos, e que nem sempre consultam uma base de informações verificadas antes de responder. Por isso, podem gerar conteúdos convincentes, mas falsos, fenômeno que costuma ser chamado de alucinação.
Com base no texto, assinale a alternativa correta.
AO assistente mentiu de forma intencional para Rafael, pois pretendia induzi-lo a erro em seu trabalho acadêmico.
BO problema ocorreu apenas porque Rafael formulou mal a pergunta, e comandos bem escritos eliminam esse tipo de erro.
CSistemas de inteligência artificial generativa sempre consultam bases científicas confiáveis, de modo que as referências inexistentes devem ser falhas das bases acadêmicas.
DA alucinação descrita decorre do funcionamento probabilístico desses sistemas e exige que as informações sejam conferidas em fontes confiáveis.✓ correta
EA situação demonstra que ferramentas de inteligência artificial generativa devem ser proibidas em todas as atividades universitárias.
Resposta correta: alternativa D
💡 Explicação
A alternativa D está correta porque o texto explica que o sistema calcula sequências de palavras prováveis e nem sempre consulta informações verificadas, o que pode gerar conteúdos convincentes, mas falsos, chamados de alucinação. A alternativa A atribui ao sistema uma intenção que ele não tem. A alternativa B exagera o papel da pergunta: um bom comando pode reduzir o erro, mas não o elimina. A alternativa C contradiz o texto, e a E propõe uma proibição total, quando o caso pede uso crítico e checagem das fontes.Questão enviada por Equipe Canetinha ao banco público do Canetinha.