Simple Science

Ciência de ponta explicada de forma simples

# Finanças Quantitativas# Interação Homem-Computador# Inteligência Artificial# Economia Geral# Economia

O Impacto dos Assistentes de IA na Comunicação da Equipe

Este estudo analisa como os assistentes de IA afetam a dinâmica de trabalho em equipe e a comunicação.

― 7 min ler


O Papel da IA nasO Papel da IA nasMudanças na Dinâmica daEquipese comunica.jeito que a galera trabalha em equipe eOs assistentes de IA mudam muito o
Índice

O uso de assistentes de IA em equipes tá virando comum em várias áreas de trabalho. Esse estudo analisa como um assistente de IA pode mudar a forma como as equipes humanas prestam atenção nas tarefas e se comunicam. A gente trabalhou com 20 grupos de pessoas, cada um com três a quatro indivíduos, junto com um assistente de IA só de voz enquanto resolviam um quebra-cabeça desafiador. Esses grupos foram divididos em dois tipos de vozes de IA: uma que soava humana e outra que soava robótica. A IA também forneceu informações úteis ou enganosas.

O Papel da Atenção Coletiva

A atenção coletiva é sobre como bem os membros da equipe compartilham o foco em tarefas específicas. Isso é essencial para o sucesso do trabalho em equipe. Quando indivíduos trabalham em grupo, eles costumam alinhar a atenção uns com os outros. Esse alinhamento pode facilitar a coordenação das ações do grupo e melhorar o desempenho. Quando todo mundo foca na mesma tarefa, ajuda a equipe a alcançar seus objetivos de forma mais eficaz.

O estudo foca em como assistentes de IA influenciam essa atenção coletiva nas equipes humanas. Enquanto já se falou muito sobre como a IA afeta interações individuais entre pessoas e máquinas, tem-se muito menos entendimento de como a IA impacta grupos de pessoas trabalhando juntas.

Uso da Linguagem e Alinhamento Cognitivo

A linguagem desempenha um papel importante em como as equipes pensam e se comunicam. Quando os membros da equipe usam uma linguagem parecida, isso significa que eles compartilham um entendimento comum, o que pode facilitar a colaboração eficaz. Essa linguagem compartilhada ajuda a alinhar seus pensamentos e ações para um trabalho em equipe melhor. A gente estudou como a IA afeta não só no que as equipes prestam atenção, mas também como falam sobre suas tarefas.

Descobrimos que as equipes tendem a adotar a linguagem introduzida pela IA, mesmo quando não confiam nela ou acreditam que ela não é competente. Ao mudar a forma como falam, as equipes direcionam seu foco e alinham seus modelos mentais, influenciando seu desempenho geral.

Visão Geral do Experimento

No nosso experimento, as equipes trabalharam em uma tarefa de quebra-cabeça enquanto recebiam ajuda de um assistente de IA. O objetivo era ver como a qualidade e a voz da IA afetavam a Comunicação do grupo. Monitoramos três aspectos principais da atenção: o que as equipes discutiam, como discutiam e quão bem seus modelos mentais estavam alinhados.

Cada vez que o assistente de IA forneceu informações, consideramos isso uma oportunidade para observar como as equipes ajustavam suas conversas. A gente acompanhou as discussões da equipe e os termos que usaram para ver como se alinhavam com a terminologia da IA.

Efeitos da IA nas Discussões da Equipe

A presença de um assistente de IA teve um impacto visível nas discussões da equipe. Logo depois que a IA mencionou um objeto relacionado à tarefa, as equipes eram mais propensas a discutir aquele objeto. A IA teve uma forte influência sobre o que as equipes focavam, mostrando que a IA pode guiar as discussões da equipe, mesmo sem interação humana direta.

As equipes eram mais propensas a discutir itens mencionados pela IA em comparação com aqueles que não eram foco da contribuição da IA. Isso sugere que a IA pode mudar a atenção da equipe simplesmente trazendo certos tópicos à tona.

Adaptação da Linguagem com a IA

Nossa pesquisa revelou uma tendência significativa: as equipes adaptaram sua linguagem para alinhar com os termos usados pelo assistente de IA. Mesmo quando os membros da equipe duvidavam da orientação da IA, começaram a usar termos relacionados à IA para se referir a marcos importantes na tarefa.

Por exemplo, uma equipe passou a chamar pedras preciosas de "gems" em vez de "diamonds" depois que a IA mencionou esse termo. Essa adaptação ocorreu mesmo entre grupos que reconheciam que as informações da IA eram de baixa qualidade ou enganosas. Curiosamente, as equipes alinharam sua linguagem mais de perto com a terminologia da IA quando a voz da IA soava humana, em comparação com quando tinha um tom robótico.

Percepção do Papel da IA

Apesar da influência da IA nas discussões e na linguagem, os participantes geralmente não viam a IA como um membro da equipe. A maioria relatou que não sentiu que a IA fizesse parte do time deles. Essa percepção permitiu que eles criassem uma dinâmica de "nós contra eles", onde a IA era vista como separada da equipe humana. Essa separação pode fortalecer as conexões humanas contrastando-as com a IA, promovendo assim o alinhamento cognitivo entre os membros da equipe.

Em grupos onde a IA era percebida como robótica e não útil, os membros tendiam a concordar mais nas suas estratégias e linguagem. Em contraste, quando a IA tinha uma voz humana mas era enganosa, as equipes achavam mais desafiador alinhar seus pensamentos e linguagem.

Confiança e Dinâmicas de Comunicação

A confiança na IA influenciou significativamente como as equipes interagiam com ela. Quando as equipes confiavam na IA, estavam mais dispostas a alinhar sua comunicação com suas sugestões. Quando a confiança era baixa, especialmente com uma IA robótica, as equipes tendiam a ignorar suas sugestões, especialmente nas tarefas críticas.

No entanto, mesmo em cenários onde os membros da equipe não confiavam na IA, ainda assim adotavam seu vocabulário para itens menos importantes. Isso sugere que a voz e a qualidade da IA importam na formação das dinâmicas e comunicação da equipe.

Implicações para o Design de IA

As descobertas desse estudo destacam a necessidade de considerar cuidadosamente o design da IA. Sistemas de IA devem ser projetados para melhorar o trabalho em equipe e comunicação, ao invés de interrompê-los. Idealmente, a IA deve ajudar a moldar a atenção coletiva e apoiar o entendimento compartilhado entre os membros da equipe.

As interações da IA não devem apenas fornecer informações precisas, mas também promover confiança e colaboração dentro das equipes. À medida que a IA se torna cada vez mais integrada ao trabalho em equipe, entender seu impacto nas dinâmicas de comunicação será essencial para otimizar o desempenho.

Conclusão

Resumindo, assistentes de IA têm um impacto profundo no trabalho em equipe ao influenciar a atenção coletiva e a comunicação. Ao moldar discussões e o uso da linguagem, a IA pode guiar as equipes em focos específicos, mesmo se sua qualidade for questionável. Nossas descobertas mostram a importância de confiar na IA e reconhecer seu papel nas dinâmicas de equipe.

À medida que a IA continua a ser uma entidade proeminente no local de trabalho, entender essas interações é crucial para melhorar a colaboração e o desempenho do grupo. Uma integração cuidadosa da IA pode levar a uma equipe mais inteligente e eficaz.


Ao entender como sistemas de IA podem influenciar atenção, linguagem e confiança dentro das equipes, podemos projetar melhores ferramentas que promovam comunicação e colaboração eficazes em diversos ambientes profissionais. Essa pesquisa serve como um trampolim para otimizar o papel da IA no trabalho em equipe, encorajando interações mais eficientes e produtivas entre equipes humanas.

Fonte original

Título: Collective Attention in Human-AI Teams

Resumo: How does the presence of an AI assistant affect the collective attention of a team? We study 20 human teams of 3-4 individuals paired with one voice-only AI assistant during a challenging puzzle task. Teams are randomly assigned to an AI assistant with a human- or robotic-sounding voice that provides either helpful or misleading information about the task. Treating each individual AI interjection as a treatment intervention, we identify the causal effects of the AI on dynamic group processes involving language use. Our findings demonstrate that the AI significantly affects what teams discuss, how they discuss it, and the alignment of their mental models. Teams adopt AI-introduced language for both terms directly related to the task and for peripheral terms, even when they (a) recognize the unhelpful nature of the AI, (b) do not consider the AI a genuine team member, and (c) do not trust the AI. The process of language adaptation appears to be automatic, despite doubts about the AI's competence. The presence of an AI assistant significantly impacts team collective attention by modulating various aspects of shared cognition. This study contributes to human-AI teaming research by highlighting collective attention as a central mechanism through which AI systems in team settings influence team performance. Understanding this mechanism will help CSCW researchers design AI systems that enhance team collective intelligence by optimizing collective attention.

Autores: Josie Zvelebilova, Saiph Savage, Christoph Riedl

Última atualização: 2024-07-03 00:00:00

Idioma: English

Fonte URL: https://arxiv.org/abs/2407.17489

Fonte PDF: https://arxiv.org/pdf/2407.17489

Licença: https://creativecommons.org/licenses/by/4.0/

Alterações: Este resumo foi elaborado com a assistência da AI e pode conter imprecisões. Para obter informações exactas, consulte os documentos originais ligados aqui.

Obrigado ao arxiv pela utilização da sua interoperabilidade de acesso aberto.

Mais de autores

Artigos semelhantes