Melhorando a busca por especialistas em política com LDA

Em muitas organizações políticas, como os parlamentos, as pessoas frequentemente precisam encontrar políticos que entendam de Tópicos específicos. Pra isso, a gente primeiro precisa criar perfis desses políticos, que incluam suas áreas de interesse. Essa informação pode ser coletada automaticamente de seus discursos. Como um político pode ser especialista em várias áreas, a gente pode criar subperfis pra cada área de especialidade.

Este estudo apresenta um jeito novo de criar esses perfis usando um método chamado Alocação de Dirichlet Latente (LDA). O LDA ajuda a identificar os principais tópicos discutidos nos discursos políticos e organiza os termos relacionados em diferentes subperfis baseados em tópicos. Pra isso, a gente usou quinze medidas de distância e similaridade pra descobrir a melhor quantidade de tópicos discutidos em um discurso. No final, essas medidas geralmente se resumem a cinco estratégias: Euclidiana, Dice, Sorensen, Cosseno e Sobreposição. Nossos testes mostraram que as pontuações de precisão das estratégias propostas geralmente eram melhores do que as de métodos padrão usados pra recomendações de especialistas, e usar um número apropriado de tópicos era crucial.

#A Importância de Encontrar Especialistas

O contexto maior desse trabalho são sistemas de recomendação baseados em conteúdo que sugerem itens aos usuários com base em suas descrições textuais e preferências individuais. Quando se trata de recomendar pessoas, estamos especificamente buscando os melhores indivíduos pra lidar com certas tarefas ou questões. No nosso caso, esses indivíduos são políticos que são especialistas em certas áreas.

Por exemplo, um Deputado (MP) que faz parte da Comissão de Agricultura deve ter um entendimento profundo de várias questões agrícolas, como leis relevantes, problemas, iniciativas, subsídios e tipos de cultivo em diferentes locais. O mesmo vale pra MPs que atuam em outras comissões que focam em saúde, cultura, economia, educação e mais.

Quando alguém enfrenta um problema específico, como calor excessivo nas salas de aula no final do ano letivo, ou busca informações sobre níveis crescentes de ruído durante a noite em áreas residenciais, o primeiro passo é identificar a pessoa certa pra contatar. Uma abordagem pode ser usar motores de busca gerais pra encontrar listas de políticos, mas isso pode ser demorado e ineficiente, já que a informação está espalhada e é pouco confiável. Alternativamente, um sistema especializado de busca de especialistas pode armazenar informações textuais sobre políticos, permitindo que os usuários enviem consultas e recebam uma lista de MPs relevantes. Esse sistema pode ajudar os usuários a alcançar facilmente o político certo que pode ajudá-los com suas questões.

As informações textuais sobre cada especialista incluem seus interesses e áreas de especialidade, que podem ser obtidas de várias fontes, como relatórios, Documentos e transcrições de seus discursos em debates parlamentares. Analisando essas informações, conseguimos aprender sobre os especialistas com base no que eles dizem.

Pra recomendar os especialistas certos, precisamos representar suas áreas de especialidade de forma clara. A forma mais comum de fazer isso é usando termos que descrevem seus interesses e especialidades. Quando um candidato tem interesses diversos, por exemplo, em saúde, educação e meio ambiente, pode não fazer sentido combinar tudo em um único perfil. Isso pode levar a uma sub-representação de certos tópicos. Separando-os em subperfis mais focados, conseguimos fornecer representações mais claras e úteis de sua especialidade.

#Quebrando Perfis pra Melhores Recomendações

O objetivo desse artigo é encontrar um método pra quebrar um único perfil diversificado-criado a partir de todos os termos coletados dos discursos de um político-em múltiplos subperfis focados. Ao determinar com precisão os interesses de um candidato, conseguimos oferecer melhores recomendações.

Pra alcançar isso, vamos usar o LDA pra identificar tópicos dentro dos documentos associados aos políticos. Um estudo anterior abordou o mesmo problema usando técnicas de clustering em vez de modelos de tópicos.

Neste estudo, nossa intenção é usar o LDA de uma forma diferente do que é convencionalmente combinado com a busca de especialistas. A maioria das abordagens representa documentos e perfis usando vetores de termos (bag-of-words). Nossa abordagem vai utilizar um modelo de tópicos como o LDA pra mudar a representação de termos pra tópicos. A gente não vai apenas separar documentos em subdocumentos ligados a diferentes tópicos, mas também vamos mantê-los no espaço de termos em vez de convertê-los para o espaço de tópicos. Os subdocumentos pertencentes ao mesmo tópico serão então combinados pra formar os subperfis. Como isso pode levar a um número esmagador de subperfis pra alguns candidatos, especialmente aqueles com termos limitados, também criamos um método pra simplificar esse processo selecionando apenas os tópicos mais relevantes.

O foco do nosso estudo gira em torno da eficácia do LDA em criar subperfis de especialistas em um contexto político. As principais contribuições incluem:

1. Investigar como o LDA pode gerar múltiplos subperfis de termos focados pra busca de especialistas dentro de um cenário político.
2. Propor uma estratégia pra dividir documentos em subdocumentos temáticos distribuindo os termos com base nas matrizes geradas pelo LDA.
3. Desenvolver uma abordagem sistemática pra atribuir uma seleção ótima de tópicos a cada documento com base em medidas de distância e similaridade.
4. Conduzir testes extensivos comparando nossas propostas com vários modelos de referência.

#Trabalhos Relacionados

Métodos de busca de especialistas visam conectar indivíduos com áreas específicas de especialidade, e tem havido um interesse crescente nesses sistemas, com várias aplicações, incluindo:

• Atribuir revisores a artigos submetidos pra conferências ou revistas.
• Identificar colaboradores adequados para projetos.
• Encontrar especialistas em ambientes acadêmicos, redes sociais, organizações ou na web mais ampla.

Nos domínios políticos, aqueles que já enfrentaram a busca de especialistas incluem os autores deste estudo.

Duas abordagens fundamentais na busca de especialistas são:

1. Métodos baseados em perfil, que constroem um perfil pra cada especialista combinando documentos relevantes.
2. Métodos baseados em documentos, que preservam documentos relacionados a um especialista como entidades individuais e recuperam documentos relevantes com base em consultas de usuários.

No nosso caso, vamos empregar uma abordagem baseada em documentos, já que os documentos se referem a discursos individuais dos MPs. Embora os métodos baseados em documentos geralmente tenham um desempenho melhor, alguns estudos mostraram resultados mistos.

No nosso trabalho, vamos focar em modelos de tópicos, especialmente o LDA, já que muitos métodos existentes usam análise semântica latente probabilística (pLSA) em sistemas de perguntas e respostas comunitárias (CQA). O modelo pLSA pode representar usuários com base em distribuições de tópicos agregadas de suas perguntas ou como documentos refletindo as perguntas relacionadas a um usuário.

Nos modelos baseados em documentos, as probabilidades dos termos de consulta são comumente estimadas usando máxima verossimilhança e suavização de Dirichlet. No entanto, alguns métodos integraram tópicos aprendidos pelo LDA de coleções de documentos nas representações dos usuários, melhorando o processo de busca de especialistas.

Vários outros modelos de tópicos existem, como o modelo Autor-Persona-Tópico (APT), que pode recomendar revisores para artigos submetidos representando cada autor com uma distribuição sobre tópicos ocultos refletindo vários papéis.

O objetivo do nosso estudo é explorar uma abordagem especializada que foca na criação de subperfis homogêneos a partir dos discursos dos MPs.

#O Processo de Busca de Especialistas Usando Análise de Discurso

Vamos considerar uma situação onde temos um grupo de candidatos potenciais a especialistas e uma coleção de documentos associados a eles. No nosso caso, os candidatos serão MPs, e cada documento está vinculado a seus discursos em debates parlamentares.

Nossa intenção é quebrar o perfil diversificado contendo termos de todos os documentos relacionados a um MP em subperfis temáticos mais focados. Pra isso, vamos primeiro aplicar o LDA pra identificar os vários tópicos dentro da coleção de documentos.

Quando o LDA é usado em uma coleção de documentos, ele gera duas matrizes, onde:

• Cada entrada indica a probabilidade de um termo associado a um tópico.
• Cada entrada reflete a probabilidade de um tópico estar vinculada a um documento.

Depois que o LDA identifica os tópicos, o próximo passo é separar cada documento em múltiplos subdocumentos com base nos diferentes tópicos discutidos.

Nesse exemplo, se um documento aborda dois tópicos, como "Saúde" e "Educação", os termos relevantes à saúde devem ir principalmente pra um subdocumento, enquanto os termos relacionados à educação devem ficar em outro. No entanto, alguns termos podem se relacionar a múltiplos tópicos, o que complica o processo de alocação.

Nosso método proposto distribui as ocorrências de cada termo entre os subdocumentos com base nas probabilidades derivadas do LDA. Calculamos essas probabilidades usando a relação entre termos, documentos e tópicos.

Depois de aplicar o processo de separação, vamos mesclar os subdocumentos ligados aos mesmos tópicos pra criar os subperfis dos candidatos. Embora possamos gerar um número alto de subperfis através desse método, podemos aplicar uma estratégia pra reduzir o número de subperfis selecionando apenas tópicos relevantes vinculados a cada documento.

#Selecionando o Número Ótimo de Subdocumentos

Selecionar o número de tópicos pode influenciar significativamente o resultado das nossas descobertas. Portanto, é importante abordar isso de forma sistemática. Pra isso, estabelecemos uma distribuição de probabilidade sobre os tópicos e determinamos o melhor índice pra selecionar os tópicos mais relevantes.

Podemos utilizar várias medidas de distância e similaridade pra nos ajudar nessa tarefa. O objetivo principal é encontrar um conjunto adequado de tópicos que nos dê o melhor desempenho.

Ao analisar diferentes medidas de distância e similaridade, encontramos várias métricas notáveis, incluindo:

• A medida de similaridade Cosseno.
• O coeficiente de Dice.
• O índice de similaridade Jaccard.
• A distância Euclidiana.
• O coeficiente de Sobreposição.

Na nossa exploração das medidas de distância e similaridade, determinamos que, embora tenhamos várias maneiras de calcular essas métricas, geralmente chegamos a apenas cinco diferentes estratégias de seleção.

Aplicando essas estratégias à nossa tarefa de busca de especialistas, conseguimos derivar um número mais preciso de subperfis pra representar os candidatos de forma eficaz.

#Conduzindo Experimentos

O objetivo principal deste estudo é determinar se usar o LDA pra construir subperfis de termos ajuda a melhorar a busca de especialistas em um contexto político. Pra validar isso, confiamos em dados derivados dos Registros das Atas Parlamentares. Essa coleção contém discursos de várias iniciativas discutidas no Parlamento da Andaluzia, incluindo contribuições de vários MPs diferentes.

Dividimos os documentos em conjuntos de treino e teste. O conjunto de treino é usado pra rodar o LDA e criar subperfis, enquanto o conjunto de teste é usado pra avaliar o sistema. Repetimos esse processo de amostragem várias vezes pra garantir previsões precisas.

Pra medir a eficácia do nosso sistema, computamos três métricas padrão de recuperação de informação: precisão, ganho acumulado normalizado descontado (NDCG) focado nos dez melhores MPs, e recall com base no total de MPs relevantes.

#Analisando Estratégias de Distribuição

Uma vez que analisamos como os termos de intervenção são distribuídos entre diferentes tópicos, podemos avaliar como isso afeta os subperfis criados para cada MP. A maneira como distribuímos os termos pode influenciar muito o ranking de MPs, o que é essencial pra recomendações efetivas.

Examinando o tamanho dos subperfis gerados usando várias estratégias de distribuição, conseguimos observar tendências. Especificamente, à medida que aumentamos o número de tópicos considerados, a quantidade de subperfis gerados tende a aumentar. No entanto, a média de termos contidos em cada subperfil tende a diminuir.

Essa observação se alinha com as expectativas: quando categorizamos os discursos dos MPs em tópicos mais específicos, conseguimos reconhecer padrões de especialização. Isso ajuda a criar uma compreensão mais clara da especialidade de cada MP.

Ao analisar a presença de subperfis pequenos-aqueles que contêm menos de cinquenta termos-identificamos possíveis problemas com a representatividade. Um número elevado desses pequenos subperfis pode criar desafios na hora de determinar os políticos mais relevantes.

#Avaliação de Desempenho

Depois de avaliar a eficácia de diferentes estratégias de distribuição, discutimos o desempenho de vários modelos, incluindo modelos baseados em termos e tópicos, assim como modelos de aprendizado profundo. Nossas descobertas sugerem que o domínio do termo tende a gerar melhores resultados em comparação ao domínio do tópico.

Ao conduzir testes sobre nossas abordagens propostas, descobrimos que as estratégias de distribuição geralmente superaram os modelos de referência. No entanto, o número de tópicos escolhidos desempenha um papel importante em determinar a eficácia geral.

Através de vários testes, ficou evidente que, embora existam pontos fortes únicos em cada estratégia de distribuição, a estratégia Sorensen se destacou especialmente na criação de perfis mais homogêneos.

#Conclusões e Direções Futuras

Esta pesquisa ilustra como aplicar o LDA pra minerar termos de discursos tem um impacto positivo nas recomendações de especialistas em um contexto político. Mostramos que uma abordagem bem estruturada usando LDA produz perfis valiosos baseados em tópicos. As diferentes estratégias de distribuição funcionam de forma eficaz pra criar distribuições coerentes de termos entre os tópicos.

Pra frente, temos a intenção de explorar como aspectos temporais podem influenciar a construção desses subperfis. Além disso, podemos olhar pra distribuir os termos dos documentos no nível do parágrafo em vez de apenas no nível do termo pra capturar melhor os tópicos essenciais dentro de um discurso. Por fim, estamos interessados em aplicar essas metodologias em vários domínios além da política pra validação adicional.