O que significa "Preconceitos sociais"?
Índice
- Como os Preconceitos Sociais se Manifestam?
- Por Que os Preconceitos Sociais Importam?
- Uma Nova Forma de Medir Preconceitos
- As Descobertas
Os preconceitos sociais são atitudes ou estereótipos injustos que a galera pode ter sobre diferentes grupos com base em características como gênero, raça, idade, entre outras. Esses preconceitos aparecem em várias áreas da vida, incluindo os dados de linguagem que as máquinas usam, tipo os modelos de linguagem.
Como os Preconceitos Sociais se Manifestam?
Modelos de linguagem são programas de computador que aprendem com um montão de dados textuais. Se esses dados tiverem preconceitos, os modelos podem acabar refletindo esses preconceitos nas respostas que dão. Por exemplo, se um modelo de linguagem é treinado com dados que mostram uma preferência por homens em vez de mulheres, ele pode gerar respostas que favorecem os homens.
Por Que os Preconceitos Sociais Importam?
À medida que as redes sociais crescem e evoluem, os dados usados para treinar os modelos de linguagem também mudam. Isso levanta preocupações sobre se os preconceitos nesses modelos podem acabar se intensificando com o tempo. Monitorar esses preconceitos é fundamental porque eles podem influenciar como as pessoas percebem e interagem com diferentes grupos na sociedade.
Uma Nova Forma de Medir Preconceitos
Para lidar com a necessidade de entender melhor os preconceitos sociais, novos conjuntos de dados foram criados para avaliar como esses preconceitos aparecem nos modelos de linguagem, especialmente em contextos culturais diferentes. Um desses conjuntos foca na Índia, capturando preconceitos locais relacionados a gênero, religião, casta, e por aí vai. Estudando esses preconceitos, dá pra ver como diferentes grupos são representados e tratados pelos modelos de linguagem.
As Descobertas
Pesquisas mostram que preconceitos sociais existem em vários modelos de linguagem, mas muitos deles tendem a se manter estáveis ao longo do tempo. No entanto, alguns modelos mostram preferência por grupos específicos, como favorecer homens em relação a mulheres. Entender esses padrões ajuda a identificar onde os preconceitos precisam ser enfrentados pra garantir justiça e inclusão no uso da linguagem.