Como Previsões Moldam Comportamentos e Escolhas
Esse estudo explora o impacto das previsões nas ações e resultados individuais.
― 8 min ler
Em muitas situações, a forma como fazemos previsões pode mudar os resultados que estamos tentando prever. Por exemplo, quando as pessoas se candidatam a empregos, muitas vezes mudam seus currículos pra atender o que acham que os empregadores querem. Isso pode alterar como os empregadores veem suas qualificações. Essas mudanças de comportamento baseadas em previsões são bem comuns em contextos sociais. Mas, a verdade é que não temos muitos recursos ou métodos pra estudar essas mudanças de maneira eficaz.
Pra resolver isso, apresentamos um novo método que analisa como as previsões podem moldar as escolhas. Essa abordagem é inspirada em um modelo da economia que explica como as pessoas se comportam no mercado de trabalho. A gente propõe um modelo onde as previsões causam mudanças através de Ações específicas que as pessoas tomam. Nossa abordagem oferece uma forma sistemática de aprender como essas previsões afetam comportamentos e distribuições, ajudando a melhorar nossos métodos de Previsão.
O Impacto das Previsões
Modelos preditivos frequentemente guiam escolhas em várias áreas, como finanças e prevenção de crimes. No entanto, os efeitos indesejados dessas previsões muitas vezes são deixados de lado. Por exemplo, um banco que avalia riscos de empréstimos pode aumentar as taxas de juros para pessoas mais arriscadas. Essa ação pode fazer com que essas pessoas acabem não conseguindo pagar os empréstimos, criando um ciclo de risco aumentado. Da mesma forma, as pessoas podem ajustar suas candidaturas pra parecerem menos arriscadas e conseguirem taxas melhores.
Esses tipos de efeitos não são raros. Na aplicação da lei, previsões sobre crimes podem levar a diferentes alocações de recursos, que por sua vez podem afetar as taxas de criminalidade. A tendência de julgar mal com base nas previsões pode ser resumida por um princípio conhecido como a lei de Goodhart, que sugere que uma vez que uma medida se torna um objetivo, ela perde sua confiabilidade.
Quando as previsões causam mudanças, essas mudanças podem ser rastreadas de volta a como as pessoas ajustam seus atributos ao longo do tempo. Por exemplo, no caso dos riscos de empréstimos, tomadores de empréstimos que ajustam seus perfis podem mudar a Distribuição de candidatos, tornando mais difícil avaliar o risco com precisão. Enquanto muitos no campo tendem a re-treinar seus modelos quando enfrentam essas mudanças, uma abordagem melhor é olhar pra essas mudanças durante o processo de treinamento. Isso é conhecido como previsão estratégica ou performativa.
Reformulando o Problema
No nosso estudo, redefinimos como pensar sobre a conexão entre previsões e mudanças comportamentais. Consideramos uma situação em que as pessoas mudam como se apresentam com base nas previsões de um modelo. As distribuições resultantes dependem exclusivamente das ações tomadas em resposta a essas previsões.
Seguimos com o objetivo de coletar mais dados pra entender esses deslocamentos nas distribuições. Assumimos que a pessoa envolvida tem amostras suficientes de cada grupo e pode até saber certos aspectos dos dados previamente. O que ainda é desconhecido é como encontrar as distribuições efetivas das ações tomadas pelas pessoas com base nas suas respostas às previsões.
Pra explicar melhor isso, nos baseamos em um modelo da economia de mercados de trabalho. Nesse modelo, as pessoas escolhem ações que maximizam seus benefícios com base nos Custos que enfrentam. Essa visão nos permite moldar nosso entendimento de como as pessoas reagem às previsões e ajustam suas ações.
Estimando as Respostas
Pra estimar como as pessoas vão agir com base nas previsões, podemos nos basear no modelo econômico de mercados de trabalho. Nesse modelo, as pessoas ponderam os benefícios de tomar uma certa ação contra os custos envolvidos. Nossa abordagem assume que os custos envolvidos em tomar diferentes ações podem ser aleatórios e dependem das circunstâncias individuais.
Estudando esses cenários de custo-benefício, podemos obter insights sobre como as pessoas se comportam em resposta às previsões. Fazemos isso usando um conjunto limitado de ações, simplificando nosso estudo, mas também fornecendo insights fortes. O objetivo final é aprender como essas distribuições mudam e como podem ser modeladas de forma eficaz com base nas respostas das pessoas às previsões.
Generalizando a Abordagem
Embora comecemos com uma estratégia focada em modelos econômicos, também mostramos que nossa abordagem pode ser generalizada. Ao adicionar aleatoriedade aos custos que as pessoas enfrentam, conseguimos aplicar nosso framework a vários cenários, até mesmo aqueles que envolvem agentes não estratégicos.
Em termos práticos, isso significa que mesmo que duas pessoas comecem nas mesmas condições, elas podem acabar em lugares diferentes se seus custos variarem aleatoriamente. Esse aspecto do nosso modelo abrange uma gama mais ampla de situações do mundo real e ajuda a entender a complexidade dos ajustes comportamentais baseados em previsões.
Aprendendo com os Dados
Na nossa exploração de como medir mudanças nas respostas às previsões, apresentamos um algoritmo específico desenhado pra analisar os dados de forma eficaz. Esse algoritmo foca em estimar as distribuições subjacentes das ações tomadas em resposta a diferentes tipos de previsões.
Consideramos dois casos principais: um onde temos acesso direto às ações tomadas pelas pessoas e outro onde o acesso é limitado. Quando conseguimos ver as ações diretamente, podemos calcular as proporções de pessoas tomando certas ações facilmente. No entanto, quando esses dados não estão disponíveis, podemos usar diferentes estratégias, como ajustar nossos modelos preditivos com base nas informações que conseguimos acessar.
Em ambos os casos, o objetivo final continua o mesmo: aprender sobre as distribuições de ações e como elas se relacionam com as previsões que fazemos. Os algoritmos que apresentamos focam em fornecer estimativas que sejam o mais precisas possível, mesmo quando enfrentamos incógnitas.
Projetando Melhores Modelos
Uma vez que temos uma melhor compreensão das distribuições e de como as ações mudam em resposta às previsões, trabalhamos na otimização de nossos modelos preditivos. O objetivo aqui é limitar os erros que podem surgir de previsões incorretas.
Pra conseguir isso, propomos um algoritmo de design que ajuda a determinar como tirar proveito dessas distribuições pra minimizar o erro geral em nossas previsões. Essa nova abordagem de design é baseada na necessidade de equilibrar exploração (coletar novos dados) e exploração (fazer o melhor uso dos dados existentes).
Introduzimos uma abordagem estruturada pra tirar proveito do modelo em vários episódios, cada um contribuindo pra refinar nossas estimativas. Esse método permite uma exploração mais sistemática dos dados, que é essencial pra capturar a natureza dinâmica das interações entre previsões e ações individuais.
Arrependimento
Entendendo oUm aspecto vital de melhorar os modelos de previsão é analisar quanto erro ou "arrependimento" acumulamos com base nas nossas decisões. Esse arrependimento vem da diferença entre as previsões que fazemos e os resultados reais que se seguem. Ao estudar esse arrependimento, podemos refinar ainda mais nossos modelos.
A gente aborda o conceito de arrependimento examinando como nossas estratégias de previsão podem ser melhoradas ao longo do tempo. Focamos em minimizar o arrependimento total enquanto implementamos modelos preditivos, equilibrando continuamente exploração e exploração em nossos métodos.
Ao quantificar o arrependimento associado às nossas escolhas preditivas, conseguimos construir uma imagem mais clara de como nossas estratégias são eficazes e onde melhorias podem ser feitas.
Pensamentos Finais
Nosso trabalho se concentra em como as previsões podem afetar as escolhas dos usuários e como medir e se adaptar a essas mudanças. Ao alavancar conceitos da economia e construir sobre a literatura existente, apresentamos uma abordagem estruturada pra entender as conexões entre previsões e comportamento.
Nossas descobertas sugerem que as interações entre previsões e respostas são complexas, mas podem ser estudadas de forma sistemática. Com um design adequado e medições cuidadosas, buscamos tornar o desafio de minimizar erros de previsão mais fácil de gerenciar pra profissionais em várias áreas.
Seguindo em frente, vemos potencial pra aplicar nossos métodos em muitos contextos onde previsões desempenham um papel crucial. Ao melhorar nosso entendimento de como as pessoas se adaptam em resposta a modelos preditivos, podemos trabalhar em direção a estratégias de previsão mais confiáveis e eficazes que levem em conta a natureza dinâmica da tomada de decisão.
Conforme expandimos esse trabalho, imaginamos um futuro onde a integração desses achados ajude a refinar modelos preditivos, resultando, em última análise, em processos de tomada de decisão melhores em vários setores. Nossa esperança é que, focando nas ações das pessoas e como elas respondem às previsões, possamos abrir caminho para frameworks preditivos mais robustos e adaptativos.
Título: Learning the Distribution Map in Reverse Causal Performative Prediction
Resumo: In numerous predictive scenarios, the predictive model affects the sampling distribution; for example, job applicants often meticulously craft their resumes to navigate through a screening systems. Such shifts in distribution are particularly prevalent in the realm of social computing, yet, the strategies to learn these shifts from data remain remarkably limited. Inspired by a microeconomic model that adeptly characterizes agents' behavior within labor markets, we introduce a novel approach to learn the distribution shift. Our method is predicated on a reverse causal model, wherein the predictive model instigates a distribution shift exclusively through a finite set of agents' actions. Within this framework, we employ a microfoundation model for the agents' actions and develop a statistically justified methodology to learn the distribution shift map, which we demonstrate to be effective in minimizing the performative prediction risk.
Autores: Daniele Bracale, Subha Maity, Moulinath Banerjee, Yuekai Sun
Última atualização: 2024-05-23 00:00:00
Idioma: English
Fonte URL: https://arxiv.org/abs/2405.15172
Fonte PDF: https://arxiv.org/pdf/2405.15172
Licença: https://creativecommons.org/licenses/by/4.0/
Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.
Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.