Justiça em Redes Neurais Profundas Através de Técnicas de Dropout

Esse trabalho faz várias perguntas-chave sobre como melhorar a Justiça em redes neurais profundas (DNNS) usando técnicas de dropout:

1. Quão eficazes são os Algoritmos Aleatórios em melhorar a justiça das DNNs?
2. As estratégias de dropout podem melhorar tanto a justiça quanto a utilidade ao mesmo tempo?
3. Quais fatores de design devem ser levados em conta para algoritmos de busca que buscam melhorar a justiça através de métodos de dropout?
4. Como as estratégias de dropout se saem em comparação com métodos avançados usados para reduzir o viés?

#Conjuntos de Dados e Modelos

Para responder a essas perguntas, cinco conjuntos de dados diferentes conhecidos por problemas de justiça foram analisados. Em alguns casos, dois grupos protegidos diferentes foram observados, resultando em um total de sete comparações. Os conjuntos de dados incluem:

• Renda do Censo Adulto: Isso analisa se a renda de um indivíduo ultrapassa um limite específico.
• Marketing Bancário: Isso examina se uma pessoa está propensa a assinar um produto.
• Software Compas: Isso verifica se um indivíduo irá reincidir.
• Crédito Default: Isso prevê se uma pessoa vai atrasar o pagamento de um cartão de crédito.
• Gastos Médicos (MEPS16): Isso avalia se alguém usará benefícios médicos.

Modelos baseados em redes neurais profundas foram treinados nesses conjuntos de dados. Cada conjunto de dados foi combinado com uma arquitetura DNN específica, e diferentes taxas de dropout foram aplicadas durante o treinamento para testar seus efeitos na justiça e no desempenho.

#Detalhes Técnicos

Os experimentos foram realizados em um computador desktop equipado com um processador Intel Core i7, RAM suficiente e um disco rígido. O framework de machine learning e as bibliotecas usados para a implementação incluíram Python e outros para tarefas numéricas e de machine learning.

Durante os experimentos, o desempenho foi avaliado usando diferentes sementes aleatórias para garantir que os resultados fossem confiáveis e não apenas um produto de um treinamento específico. Os dados de treinamento, validação e teste foram selecionados aleatoriamente, e os modelos foram treinados usando técnicas específicas para manter sua precisão.

#Configuração Experimental

Para cada conjunto de dados, os modelos foram treinados usando uma proporção definida de dados para treinamento, validação e teste. O principal objetivo durante o treinamento era equilibrar o desempenho do modelo enquanto garantiam justiça entre os grupos protegidos. Os Hiperparâmetros foram ajustados com cuidado, incluindo os limites para melhorias aceitáveis de justiça.

#Eficácia dos Algoritmos Aleatórios na Mitigação da Justiça

A primeira pergunta de pesquisa examina se algoritmos aleatórios podem efetivamente reduzir o viés através de técnicas de dropout. Os resultados mostraram uma melhoria constante na justiça ao longo do tempo, à medida que os algoritmos buscavam melhores subconjuntos de neurônios para desativar.

No geral, as estratégias aleatórias conseguiram melhorar a justiça em um número significativo de casos, com ambos os algoritmos apresentando resultados animadores. Contudo, um algoritmo, conhecido como resfriamento simulado (SA), teve um desempenho melhor que o algoritmo de caminhada aleatória (RW) em vários conjuntos de dados. Em alguns casos, a justiça melhorou para quase 69%.

#Melhorando a Justiça e a Utilidade

A segunda pergunta analisa se podemos aumentar tanto a justiça quanto a utilidade. Normalmente, à medida que a justiça melhora, outras métricas como o F1 tendem a cair, o que sugere um trade-off entre justiça e utilidade do modelo. No entanto, em alguns conjuntos de dados, a precisão realmente melhorou enquanto se alcançou uma maior justiça.

Os conjuntos de dados frequentemente apresentavam um desequilíbrio de classes, o que afetava como a precisão e as pontuações F1 se alinhavam. À medida que mais neurônios eram descartados, os modelos tendiam a prever negativos com mais frequência, levando a uma melhora na precisão geral, apesar da queda na pontuação F1.

#Hiperparâmetros dos Algoritmos Aleatórios

Os algoritmos utilizaram vários hiperparâmetros, que incluíam multiplicadores para os limites de F1 e limites para o dropout de neurônios. Ajustar esses parâmetros pode ter efeitos significativos tanto na justiça quanto no desempenho do modelo.

Em particular, reduzir o limite para as pontuações F1 pode influenciar positivamente a justiça. Aumentar o número de neurônios descartados e estender o tempo de busca também pode levar a melhores resultados. Ajustar esses hiperparâmetros permite uma abordagem mais personalizada para melhorar a justiça nos modelos.

#Comparando com Técnicas de Ponta

A última pergunta de pesquisa avalia como essas estratégias de dropout se comparam a técnicas avançadas de pós-processamento projetadas para reduzir o viés. Um desses métodos envolve direcionar neurônios específicos que influenciam significativamente a justiça. A eficácia desse método é limitada, pois avalia apenas um neurônio por vez, enquanto as técnicas de dropout podem avaliar múltiplos neurônios simultaneamente.

Os resultados mostram que o método de dropout superou essa técnica avançada em melhorar a justiça em todos os conjuntos de dados examinados. A vantagem, especialmente notável em certos conjuntos de dados, onde a diferença na melhoria da justiça foi significativa, foi clara.

#Conclusões

Em resumo, algoritmos aleatórios mostram grande potencial em melhorar a justiça nas DNNs através de técnicas de dropout. Embora melhorar a justiça frequentemente venha com um custo para outras métricas de desempenho como a pontuação F1, algumas estratégias podem ajudar a equilibrar esses aspectos.

Os achados sugerem que, com hiperparâmetros bem ajustados e considerações de design cuidadosas, é realmente possível trabalhar em direção a modelos mais justos sem sacrificar muito em termos de utilidade. A capacidade desses métodos de superar técnicas existentes de ponta na melhoria da justiça destaca sua eficácia.

Seguindo em frente, os pesquisadores podem explorar mais sobre a interação entre justiça, utilidade e os parâmetros que influenciam algoritmos aleatórios. Ao focar nesses aspectos, o caminho se torna claro para gerar modelos de machine learning mais inclusivos e equitativos.