O Papel das Segundas Opiniões na Tomada de Decisões da IA
Esse trabalho estuda como segundas opiniões influenciam o uso de IA na tomada de decisões.
― 6 min ler
Índice
- O Problema de Confiar na IA
- Perguntas de Pesquisa
- Experimentos Realizados
- Experimento 1: Segundas Opiniões Sempre Dadas
- Experimento 2: Segundas Opiniões de Fontes Diferentes
- Experimento 3: Pedindo Segundas Opiniões
- Principais Descobertas
- Aplicações no Mundo Real
- Conclusão
- Fonte original
- Ligações de referência
A Inteligência Artificial (IA) agora faz parte de muitos empregos, ajudando as pessoas a tomar decisões em áreas como negócios, saúde, educação e muito mais. Mas, enquanto a IA pode oferecer Conselhos úteis, algumas pessoas confiam demais ou de menos nela. Isso pode levar a decisões ruins. O objetivo deste trabalho é ver como obter segundas opiniões pode ajudar as pessoas a usarem a IA de forma melhor ao tomar decisões.
O Problema de Confiar na IA
Quando as pessoas usam IA para ajudar, muitas vezes não confiam o suficiente no conselho da IA ou confiam demais. Isso significa que podem ignorar sugestões ótimas ou, pelo contrário, seguir conselhos ruins sem pensar. Pesquisas foram feitas para encontrar maneiras de ajudar as pessoas a usarem a IA de forma mais eficaz, mas os resultados foram mistos.
A questão de como as pessoas aceitam conselhos não é nova. De forma simples, quando alguém recebe conselho de outra pessoa, pode não escutar o que foi dito corretamente. Elas podem ignorar bons conselhos ou aceitar conselhos ruins com muita facilidade.
Uma maneira de ajudar as pessoas a tomarem melhores decisões é oferecer uma segunda opinião. Em situações tradicionais de conselhos, ter outra voz pode ajudar as pessoas a ver as coisas de forma diferente e tomar melhores decisões.
Perguntas de Pesquisa
Com isso em mente, queríamos responder algumas perguntas:
- Como as segundas opiniões de pessoas afetam quanto alguém confia na IA?
- Importa quem dá a segunda opinião? Muda se for de outro modelo de IA em vez de uma pessoa?
- Se as pessoas podem pedir uma segunda opinião quando querem, isso ajuda elas a tomarem melhores decisões?
Experimentos Realizados
Para entender essas perguntas, três experimentos diferentes foram feitos.
Experimento 1: Segundas Opiniões Sempre Dadas
No primeiro experimento, as pessoas fizeram uma tarefa onde tinham que julgar críticas de filmes como boas ou ruins com a ajuda da IA. Alguns participantes receberam o conselho da IA junto com um feedback de um colega que tinha feito o mesmo julgamento antes.
Testamos diferentes grupos:
- Grupo Controle: Apenas recebeu conselho da IA.
- Grupo de Alta Concordância: Recebeu feedback de um colega que concordava com a IA na maioria das vezes.
- Grupo de Concordância Média: Feedback de um colega que geralmente concordava com a IA.
- Grupo de Baixa Concordância: Feedback de um colega que frequentemente discordava da IA.
Os resultados mostraram que dar segundas opiniões fez as pessoas confiarem menos na IA, especialmente quando a segunda opinião discordava da IA. No entanto, isso também fez com que as pessoas usassem menos a IA quando ela tinha bons conselhos. Isso significa que, enquanto segundas opiniões podem ajudar, elas também podem confundir as pessoas, levando-as a duvidar de boas sugestões.
Experimento 2: Segundas Opiniões de Fontes Diferentes
No segundo experimento, queríamos ver se a fonte da segunda opinião importava. Usamos a mesma tarefa de crítica de filmes, mas alguns participantes receberam feedback de um colega e outros receberam feedback de outro modelo de IA.
Novamente, os resultados mostraram que as pessoas que receberam segundas opiniões tendiam a confiar menos no conselho da IA, independentemente de a segunda opinião ser de uma pessoa ou de outra IA. O principal aqui era a quantidade de concordância entre a segunda opinião e a recomendação da IA.
Experimento 3: Pedindo Segundas Opiniões
No terceiro experimento, permitimos que os participantes pedissem uma segunda opinião quando quisessem, em vez de darmos automaticamente. Isso visava ver se as pessoas seriam mais reflexivas em suas decisões se só recebessem ajuda quando precisassem.
Os participantes ainda realizaram a tarefa de crítica de filmes, mas agora podiam clicar em um botão para solicitar uma segunda opinião.
Os resultados mostraram que as pessoas que pediram segundas opiniões reduziram sua dependência excessiva da IA sem aumentar a falta de Confiança quando a segunda opinião combinava com o conselho da IA. Isso sugere que dar às pessoas a opção de pedir ajuda quando quiserem pode levar a uma melhor Tomada de decisão.
Principais Descobertas
A partir desses experimentos, fica claro que segundas opiniões podem ser úteis na tomada de decisões assistida por IA, mas há alguns pontos importantes a considerar:
Dependência Excessiva e Falta de Confiança: Oferecer segundas opiniões geralmente ajuda a reduzir a dependência excessiva da IA. No entanto, pode levar a uma falta de confiança em bons conselhos da IA.
Fonte das Segundas Opiniões: Se a segunda opinião vem de uma pessoa ou de outra IA não muda significativamente como as pessoas respondem. É mais sobre quanta concordância existe entre o conselho e a sugestão da IA.
Solicitação Ativa de Opiniões: Permitir que as pessoas decidam quando querem uma segunda opinião ajuda a tomar melhores escolhas e reduz a confusão. Essa flexibilidade pode apoiar uma melhor colaboração entre humanos e IA.
Aplicações no Mundo Real
Entender como as segundas opiniões funcionam em ambientes assistidos por IA pode ser útil em várias situações da vida real. Por exemplo, na saúde, um médico pode receber insights de pacientes gerados pela IA e, em seguida, consultar um colega para confirmar o diagnóstico.
Nos negócios, gerentes podem confiar na IA para orientar suas decisões sobre investimentos ou estratégias, mas também podem buscar opiniões de analistas financeiros para conferir as sugestões da IA.
A principal lição desses experimentos é que, enquanto a IA é uma ferramenta poderosa para a tomada de decisão, a forma como o conselho é apresentado e a disponibilidade de segundas opiniões podem impactar muito como é utilizada.
Conclusão
Em conclusão, o papel das segundas opiniões pode melhorar muito a forma como as pessoas interagem com a IA na tomada de decisões. No entanto, é essencial apresentar essas opiniões de maneira cuidadosa, considerando sua fonte e se são dadas automaticamente ou solicitadas. Equilibrar a quantidade de ajuda oferecida pode levar a uma melhor tomada de decisão e resultados mais positivos.
Pesquisas futuras devem continuar a explorar essas dinâmicas, focando em como melhor integrar segundas opiniões em sistemas de IA para obter o máximo benefício. Além disso, entender as diferenças nas preferências entre os usuários poderia fornecer insights mais profundos sobre como otimizar a colaboração entre humanos e IA. Ao focar nessas áreas, podemos aproveitar melhor o potencial da IA para ajudar na tomada de decisões em vários campos.
Título: Does More Advice Help? The Effects of Second Opinions in AI-Assisted Decision Making
Resumo: AI assistance in decision-making has become popular, yet people's inappropriate reliance on AI often leads to unsatisfactory human-AI collaboration performance. In this paper, through three pre-registered, randomized human subject experiments, we explore whether and how the provision of {second opinions} may affect decision-makers' behavior and performance in AI-assisted decision-making. We find that if both the AI model's decision recommendation and a second opinion are always presented together, decision-makers reduce their over-reliance on AI while increase their under-reliance on AI, regardless whether the second opinion is generated by a peer or another AI model. However, if decision-makers have the control to decide when to solicit a peer's second opinion, we find that their active solicitations of second opinions have the potential to mitigate over-reliance on AI without inducing increased under-reliance in some cases. We conclude by discussing the implications of our findings for promoting effective human-AI collaborations in decision-making.
Autores: Zhuoran Lu, Dakuo Wang, Ming Yin
Última atualização: 2024-01-13 00:00:00
Idioma: English
Fonte URL: https://arxiv.org/abs/2401.07058
Fonte PDF: https://arxiv.org/pdf/2401.07058
Licença: https://creativecommons.org/licenses/by/4.0/
Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.
Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.