O que significa "Alucinações Extrínsecas"?
Índice
Alucinações extrínsecas acontecem quando um modelo, tipo um chatbot ou um sistema de entendimento de vídeo, gera informações que não são verdadeiras ou que não têm a ver com o contexto atual. Isso significa que o modelo cria detalhes ou fatos que não têm suporte em nenhuma evidência real ou nas informações que recebeu.
Tipos de Alucinações Extrínsecas
Tem dois tipos principais de alucinações extrínsecas:
Alucinações Fatuais Extrínsecas: Essas envolvem o modelo dando informações que parecem verdadeiras, mas na real são erradas. Por exemplo, pode mencionar uma pessoa ou evento que não existe na conversa ou nos dados que tem.
Alucinações Não-Fatuais Extrínsecas: Esse tipo inclui afirmações que não têm nada a ver com fatos reais. Pode envolver cenários inventados ou detalhes que não têm fundamento na realidade.
Importância de Detectar Alucinações Extrínsecas
Detectar esses tipos de alucinações é importante porque podem causar confusão ou desinformação. Quando um modelo compartilha informações falsas, pode enganar os usuários, atrapalhar conversas e diminuir a qualidade geral da interação.
Ao focar em identificar e reduzir alucinações extrínsecas, os desenvolvedores podem melhorar como os modelos respondem, tornando-os mais confiáveis e relevantes para o que os usuários precisam.