Viés Sutil em Modelos de Linguagem: Um Olhar Mais Aprofundado

Modelos de linguagem grandes (LLMs) estão sendo usados em várias empresas para fazer tarefas específicas por meio de prompts personalizados ou ajustes finos. Essas customizações têm como objetivo melhorar o desempenho do modelo, mas às vezes podem levar a mudanças indesejadas em como o modelo lida com questões sensíveis como viés. Métodos anteriores para medir o viés geralmente usam técnicas como mascaramento de palavras ou perguntas de múltipla escolha. No entanto, esses métodos muitas vezes perdem as maneiras sutis que o viés pode aparecer em respostas abertas, onde os LLMs normalmente operam.

Esse artigo foca em identificar diferentes tipos de viés sutil que podem surgir em respostas livres produzidas por LLMs. Esses viéses incluem:

1. Viés de Confiança: Quando um modelo mostra certeza em uma resposta que se baseia em estereótipos.
2. Viés Implícito: Quando a linguagem usada sugere um estereótipo, mesmo que nenhuma declaração explícita seja feita.
3. Viés de Inclusão: Quando ambos os indivíduos são tratados igualmente, mesmo quando apenas um deveria ser mencionado.
4. Viés de Apagamento: Quando o modelo não consegue nomear um indivíduo, apesar da evidência.

Nous introduzimos um método simplificado para detectar esses viéses. Esse método filtra automaticamente respostas claras e sem viés e depois usa crowdsourcing para avaliar as respostas restantes. O objetivo é fornecer um feedback mais útil aos LLMs, especialmente à medida que suas habilidades de raciocínio crescem.

#Por Que o Viés Importa

O viés em modelos de linguagem é uma questão importante. Os modelos podem refletir estereótipos relacionados a raça, gênero, deficiência e mais, principalmente porque aprendem com dados existentes que incluem esses viéses. Portanto, lidar com essa questão é crucial para usar LLMs de maneira responsável em aplicações da vida real.

Métodos tradicionais para avaliar viés, como mascaramento de palavras, envolvem remover uma palavra de uma frase e ver como o modelo preenche o espaço em branco. Embora sejam eficazes para algumas avaliações, esses métodos podem ignorar viéses complexos que surgem quando os LLMs geram texto livre. A natureza sutil da linguagem humana significa que respostas livres podem incorporar nuances que perguntas de múltipla escolha não conseguem captar.

#Desafios da Avaliação de Respostas Livres

Respostas em formato livre podem variar bastante em comprimento e conteúdo, tornando-as mais difíceis de avaliar do que perguntas simples de múltipla escolha. Muitas vezes, as empresas dependem de avaliadores humanos altamente treinados para revisar cada resposta, um processo que pode ser caro e demorado. Além disso, avaliadores individuais podem discordar sobre como interpretar a resposta de um modelo.

Para melhorar esse processo de avaliação, propomos um sistema em três etapas. O sistema inclui as seguintes etapas:

1. Eliminação de Respostas Sem Viés: A primeira etapa envolve remover respostas que são claramente sem viés, como aquelas que expressam incerteza ou não mencionam os indivíduos envolvidos.
2. Avaliação por Crowdsourcing: A segunda etapa envolve usar trabalhadores da multidão para avaliar as respostas restantes, comparando-as lado a lado como pares de nomes invertidos.
3. Revisão de Especialistas: Finalmente, especialistas revisam as avaliações da multidão para dar uma avaliação mais refinada.

Usando esse método, descobrimos que avaliar as respostas levou muito menos tempo do que confiar apenas em especialistas. A vantagem de olhar para respostas com nomes invertidos é que isso torna disparidades mais evidentes, permitindo uma identificação mais clara de viés.

#Identificando Tipos de Viés

Existem várias formas comuns de viés encontradas nas respostas de LLM. Por exemplo:

• Viés Claro ocorre quando o modelo apoia confidentemente um estereótipo sem nenhuma evidência.
• Viés Preferencial acontece quando o modelo favorece um estereótipo, mas mostra alguma incerteza.
• Viés Implícito surge quando o modelo insinua estereótipos enquanto inclui declarações de segurança contra eles.
• Viés de Inclusão entra em cena quando ambas as partes são mencionadas, mesmo que uma não devesse ser.
• Viés de Apagamento refere-se a casos onde o modelo não consegue atribuir uma qualidade específica a uma pessoa, apesar do contexto sugerir que deveria.

Essas diferentes formas de viés podem ajudar a identificar problemas específicos de como um LLM processa certos contextos, especialmente quando treinado em conjuntos de dados tendenciosos.

#O Processo de Avaliação

Para testar nosso método, usamos contextos de um framework conhecido de avaliação de viés. Cada contexto incluía dois indivíduos nomeados, sendo que um estava associado a um estereótipo. Criamos duas versões de cada contexto-uma ambígua e uma desambiguada. A última incluía informações destinadas a esclarecer qual indivíduo deveria ser identificado em resposta a uma pergunta.

Por exemplo, se perguntado: "Quem é um mau professor de pré-escola?" um LLM poderia gerar várias respostas com base nesses contextos. O contexto ambíguo poderia levar a uma resposta vaga como "desconhecido", enquanto o contexto desambiguado poderia revelar um julgamento em relação a um dos indivíduos nomeados, apesar da evidência fornecida.

Geramos um grande número de respostas em formato livre com base nesses contextos e empregamos nosso sistema de avaliação em três etapas para avaliar o viés.

#Benefícios de Comparações Lado a Lado

Nas nossas avaliações, descobrimos que comparações lado a lado de respostas com nomes invertidos ajudaram a tornar os viéses muito mais claros. Ao olhar como um modelo tratou dois indivíduos quando seus nomes foram trocados, os avaliadores puderam destacar disparidades em como o modelo respondeu. Essa forma de analisar as respostas oferece uma visão mais focada sobre potenciais viéses em comparação a examinar cada resposta individualmente.

#Crowdsourcing para Eficiência

Incluindo trabalhadores não treinados para avaliar respostas, reduzimos significativamente o tempo e o custo da avaliação. Os trabalhadores da multidão foram eficazes em identificar instâncias onde o viés estava presente. Eles foram instruídos a decidir se o modelo tratou ambos os indivíduos igualmente quando seus nomes foram trocados. Essa abordagem simples gerou resultados confiáveis, confirmando que trabalhadores da multidão podiam identificar viés sem precisar de treinamento especializado.

#Avaliação por Especialistas

Após coletar avaliações de crowdsourcing, recrutamos especialistas treinados para fornecer uma revisão final. Os especialistas confirmaram a presença de viés ou não, categorizando-o de acordo com os tipos estabelecidos anteriormente. Esse sistema em duas camadas-primeiro trabalhadores da multidão e depois especialistas-assegurou uma avaliação abrangente das respostas.

#Limitações e Mais Insights

À medida que os LLMs continuam a melhorar, suas respostas podem ficar cada vez mais complexas. Essa complexidade pode borrar a linha entre segurança e utilidade. As empresas muitas vezes querem que seus modelos gerem respostas valiosas, enquanto tomam cuidado para não perpetuar estereótipos prejudiciais.

É crucial ir além de avaliações simples de múltipla escolha para incluir avaliações em formato livre. Ao examinar de perto tanto contextos quanto respostas, podemos obter insights mais profundos sobre como um LLM se comporta. Essa compreensão ajuda as equipes a fornecer melhores feedbacks, levando a um uso mais responsável desses modelos.

#Conclusão

Lidar com viés nas respostas de modelos de linguagem é vital para seu uso ético em várias aplicações. Ao identificar tipos sutis de viés e usar uma mistura de métodos automatizados e avaliação humana, criamos um framework mais eficiente e perspicaz para avaliar LLMs. Esse processo destaca a importância de avaliações em formato livre à medida que continuamos a navegar nas complexidades da linguagem e do viés em sistemas de IA.

Através do nosso método proposto, esperamos apoiar outros na indústria que buscam melhorar seus sistemas de LLM, enquanto reduzem os riscos associados ao viés.