Aprimorando Grafos de Conhecimento Neuro-Simbólicos com Aumento de Regras

Grafos de Conhecimento (KGs) são sistemas que guardam informações sobre entidades do mundo real e as relações entre elas. Mas, muitas vezes, esses KGs têm lacunas nas informações que oferecem. Pra preencher essas lacunas, os pesquisadores têm trabalhado em métodos pra completar KGs usando uma combinação de redes neurais e raciocínio simbólico. Essa combinação é chamada de Completação de Grafos de Conhecimento Neuro-Simbólica (NS-KGC).

O sucesso dos modelos NS-KGC depende muito de ter Conjuntos de Regras eficazes que consigam guiar como a informação é inferida. Embora os esforços recentes estejam focados em usar redes neurais pra criar esses conjuntos de regras, testes iniciais mostram que esses métodos muitas vezes não cobrem tanto quanto desejado. Por isso, achar maneiras de melhorar a qualidade e a cobertura desses conjuntos de regras é essencial pra aumentar o desempenho do NS-KGC.

#Métodos Propostos

Nesse trabalho, apresentamos três abordagens simples pra melhorar os conjuntos de regras existentes:

1. Transformações Abductivas: Esse método converte regras dedutivas existentes em formas abductivas. O raciocínio abductivo tenta encontrar a melhor explicação pra um conjunto de observações. Usando essa técnica, conseguimos criar regras adicionais que poderiam ajudar a preencher lacunas onde a informação está faltando.

2. Geração de Regras Inversas: Essa abordagem gera novas regras utilizando as formas inversas das relações existentes. Cada relação em um KG tem uma inversa correspondente. Ao incluir essas relações inversas, ampliamos o alcance das possíveis conexões e implicações que podem ser tiradas dos dados existentes.

3. Caminhadas Aleatórias pra Novas Regras: Nesse método, criamos novas regras fazendo caminhadas aleatórias no KG. Começando de várias entidades, fazemos transições aleatórias pra outras entidades enquanto seguimos as relações do KG. Os caminhos que tomamos durante essas caminhadas aleatórias formam os corpos de novas regras, contribuindo com conhecimento adicional que pode ajudar na hora de fazer inferências.

Além disso, filtramos as regras de baixa qualidade que não atendem a um certo padrão, garantindo que as regras que mantemos sejam provavelmente eficazes.

#Contexto

Grafos de conhecimento são vastos, contendo fatos essenciais sobre o mundo. Porém, devido ao seu tamanho e à natureza dinâmica do conhecimento, é comum que esses grafos sejam incompletos. Métodos tradicionais pra completar KGs geralmente envolvem técnicas de incorporação. As incorporações de KG representam entidades e relações usando vetores densos, permitindo cálculos complexos pra prever fatos não vistos. Esses métodos baseados em incorporação geralmente têm um desempenho melhor, especialmente em KGs grandes.

Recentemente, a integração de técnicas neurais com raciocínio simbólico abriu portas pra novas abordagens. Esses métodos mantêm as vantagens das redes neurais enquanto tentam adicionar interpretabilidade por meio do uso de regras lógicas explícitas. Infelizmente, o sucesso dessas abordagens híbridas costuma ser prejudicado pela disponibilidade limitada de conjuntos de regras abrangentes.

Alguns métodos anteriores, como NeuralLP e DRUM, tentam aprender regras dentro de um único modelo. No entanto, seu desempenho geralmente não é competitivo com os métodos de incorporação. RNNLogic surgiu como um modelo mais eficaz, tendo um componente neural distinto que gera um conjunto de regras usadas pra ajustar parâmetros de inferência. Mesmo assim, testes preliminares com RNNLogic revelam que seu conjunto de regras carece da cobertura necessária, limitando sua capacidade de inferir de cada consulta possível.

Nosso objetivo é melhorar o componente de raciocínio simbólico nos modelos NS-KGC, melhorando assim o desempenho geral. Pra isso, propomos augmentações simples, mas eficazes, nos conjuntos de regras existentes.

#Implementando as Augmentações

#Criação de Regras Abductivas

Começamos transformando regras existentes em suas formas abductivas. A ideia aqui é pegar um fato conhecido e tentar derivar explicações ou hipóteses plausíveis com base no que já sabemos. Por exemplo, se sabemos a nacionalidade de uma pessoa e seu local de nascimento, podemos supor outras possíveis conexões entre essas entidades.

Ao sintetizar regras abductivas, aumentamos a cobertura dos conjuntos de regras existentes, mesmo que a precisão possa sofrer um pouco. Nosso modelo foi projetado pra pesar essas regras, permitindo que decida quais confiar com base no contexto.

#Relações Inversas

O próximo passo de augmentação é reescrever regras existentes incorporando relações inversas. Ao adicionar essas relações inversas ao conjunto de regras, enriquecemos significativamente as conexões potenciais que podem ser feitas entre entidades.

Por exemplo, se temos uma relação dizendo que "Alice é a mãe de Bob", podemos também incluir a regra inversa "Bob é o filho de Alice". Isso nos permite cobrir mais cenários onde as relações podem não estar explicitamente mencionadas, mas podem ser inferidas através de suas inversas.

#Caminhadas Aleatórias em Grafos de Conhecimento

A última abordagem de augmentação usa caminhadas aleatórias pra gerar novas regras. Começando de diferentes entidades, fazemos uma série de transições aleatórias com base nas relações disponíveis no KG. Os caminhos que descobrimos durante essas caminhadas irão gerar novas regras que transmitem informações valiosas sobre as relações entre entidades.

Essas novas regras trazem dimensões adicionais ao conjunto de regras existente, o que pode ser útil pra fazer inferências. Aí, avaliamos a qualidade dessas regras e mantemos apenas aquelas que atendem a certos padrões.

#Avaliação Experimental

Pra avaliar a eficácia das nossas augmentações, realizamos testes em quatro conjuntos de dados de KG: WN18RR, FB15K-237, Kinship e UMLS. Pra cada conjunto de dados, geramos consultas com base em como o conhecimento está estruturado. Medimos o desempenho com base em métricas como Ranking Recíproco Médio (MRR) e Hits@k (onde k = 1 e 10).

O estudo de ablação revela que as três augmentações levam consistentemente a um desempenho melhor em diferentes modelos. Observamos ganhos de desempenho significativos, com nossos métodos mostrando aumentos de até 7,1 pontos em MRR e 8,5 pontos em Hits@1.

#Comparação com Modelos Existentes

Também comparamos nosso método com modelos existentes como RNNLogic e ExpressGNN. Nossos resultados demonstram que aumentar os conjuntos de regras leva a um desempenho superior, provando que usar regras aumentadas de qualidade pode ser mais benéfico do que simplesmente contar com um número maior de regras do gerador sozinha.

Em particular, nossas regras de abdução e inversas aumentam o número de regras de alta qualidade, o que se correlaciona diretamente com o desempenho melhorado. Também notamos que as augmentações melhoram a interpretabilidade do modelo, tornando as regras mais compreensíveis para os usuários humanos.

#Análise e Insights

#Qualidade das Novas Regras

Avaliamos a qualidade das regras geradas através das nossas técnicas de augmentação aplicando métricas de pontuação específicas. Nossas análises indicam que tanto as regras abductivas quanto as inversas resultam em um aumento substancial no número de regras de alta qualidade. As regras produzidas por caminhadas aleatórias também mostram pontuações altas, melhorando a qualidade geral do conjunto de regras.

#Contribuição de Cada Augmentação

Realizamos um estudo de ablação pra quantificar a contribuição individual de diferentes tipos de augmentações. As descobertas revelam que o raciocínio abductivo é o que mais contribui pra melhoria do desempenho, embora todos os tipos de augmentações desempenhem um papel valioso em aumentar a eficácia do modelo.

#Troca entre Tempo de Treinamento

Embora nossas augmentações aumentem significativamente o desempenho, elas também vêm com um aumento nos tempos de treinamento. Descobrimos que, enquanto a duração do treinamento aumenta de 5 a 6 vezes, filtrar regras de baixa qualidade pode mitigar esse efeito, levando a menos do que o dobro do tempo de treinamento original, enquanto mantém alto desempenho.

#Geração de Regras vs. Aumento de Regras

Pra entender melhor o impacto das augmentações, comparamos nosso método com um cenário onde apenas aumentamos o número de regras geradas pelo modelo. Nossos experimentos mostram que as augmentações produzem melhorias de desempenho maiores do que simplesmente aumentar o número de regras, destacando a importância de focar na qualidade em vez da quantidade.

#Interpretabilidade das Regras Aumentadas

Por último, analisamos a interpretabilidade das regras geradas através dos nossos métodos. Ao coletar amostras de regras, avaliamos como os usuários humanos classificam sua qualidade. Nossas regras aumentadas tiveram uma pontuação significativamente mais alta em interpretabilidade, o que é vital pra garantir que as conclusões tiradas do modelo possam ser compreendidas e confiadas.

#Conclusão

Em resumo, apresentamos augmentações simples aos conjuntos de regras existentes usados na Completação de Grafos de Conhecimento Neuro-Simbólica. Essas augmentações - que incluem raciocínio abductivo, geração de regras inversas e caminhadas aleatórias - demonstram uma capacidade consistente de melhorar o desempenho em múltiplos conjuntos de dados.

Nossas descobertas indicam que aumentar conjuntos de regras deveria se tornar uma prática padrão pra modelos NS-KGC. Com esse trabalho, buscamos encorajar uma maior exploração e otimização de conjuntos de regras, abrindo novos caminhos pra métodos de completamento de grafos de conhecimento mais eficazes.

Pesquisas futuras poderiam examinar como essas augmentações poderiam ser benéficas quando aplicadas de forma iterativa em modelos como o RNNLogic, podendo levar a melhorias de desempenho adicionais. Embora nossas técnicas mostrem grande potencial, entender como gerenciar de forma eficiente o aumento nos tempos de treinamento e nas demandas computacionais continua a ser uma consideração importante para desenvolvimentos futuros.