Vulnerabilidades de Redes Neurais Gráficas na Previsão de Links

Redes Neurais Gráficas (GNNs) são modelos avançados que analisam dados estruturados em gráficos, tipo redes sociais ou sistemas de transporte. Esses modelos têm se mostrado bem eficazes em várias aplicações do dia a dia. Mas, pesquisas recentes mostram que eles têm fraquezas de segurança, especialmente contra ataques chamados de backdoor.

Ataques backdoor envolvem inserir gatilhos escondidos no modelo durante o treinamento. Quando esses gatilhos aparecem em novos dados, eles fazem o modelo dar previsões erradas. Por exemplo, se o modelo geralmente prevê que dois nós não estão conectados, inserir um gatilho pode fazê-lo concluir erroneamente que eles estão. Isso é um problema sério para a segurança das GNNs, principalmente quando os dados de treinamento vêm de fontes não confiáveis.

A maioria das pesquisas atuais sobre ataques backdoor focou em classificação de gráficos e classificação de nós. Há pouca informação sobre como esses ataques afetam tarefas de Previsão de Links, que são cruciais para funções como recomendar amigos em redes sociais ou preencher informações faltantes em gráficos de conhecimento.

#Previsão de Links e Sua Importância

Previsão de links é sobre estimar se uma conexão existe entre dois nós em um gráfico. Essa tarefa é vital para várias aplicações, como recomendar conexões nas redes sociais ou prever interações em redes biológicas. GNNs levam em conta tanto as características dos nós quanto a estrutura do gráfico para fazer previsões precisas sobre links.

Apesar de serem eficazes, as GNNs são suscetíveis a ataques backdoor que podem manipular suas previsões. É essencial reconhecer essas vulnerabilidades para melhorar a segurança de aplicações que dependem de previsão de links.

#O Que São Ataques Backdoor?

Ataques backdoor são um tipo de ataque malicioso onde padrões específicos, chamados de gatilhos, são introduzidos nos dados de treinamento. Isso permite que os atacantes controlem o comportamento do modelo uma vez que ele é usado para fazer previsões. Em um ataque backdoor, o modelo aprende a associar a presença de um gatilho com um resultado específico, resultando em previsões erradas quando ativado.

Por exemplo, se um modelo é treinado para prever se dois nós estão conectados e aprende que certas características representam uma conexão só quando um gatilho está presente, isso pode levar a suposições erradas quando aquele gatilho é usado.

Esses tipos de ataques são particularmente preocupantes porque podem passar despercebidos até ser tarde demais. Um modelo com backdoor pode se sair bem em condições normais, mas falha espetacularmente quando apresentado a dados contendo gatilhos. Isso representa um risco severo para a confiabilidade dos modelos GNN em aplicações práticas.

#Pesquisas Existentes sobre Ataques Backdoor

Enquanto ataques backdoor foram bem estudados em áreas como processamento de imagem e processamento de linguagem, seu impacto nas GNNs é menos compreendido. A maioria dos trabalhos existentes focou em tarefas de classificação de gráficos e classificação de nós. Os poucos estudos focando em previsão de links, como LB e DLB, enfatizaram gráficos dinâmicos e o uso de gatilhos complexos.

LB foca em otimizar um subgráfico aleatório para servir como um gatilho, o que requer uma quantidade significativa de recursos de ataque. DLB, por outro lado, opera em gráficos dinâmicos e tem como objetivo projetar gatilhos variáveis.

No entanto, ambos os métodos são limitados em praticidade e furtividade. Nosso artigo apresenta uma nova abordagem para ataques backdoor em previsão de links, usando um único nó como gatilho, o que é menos perceptível e mais fácil de implementar.

#Nossa Proposta para Ataques Backdoor em Previsão de Links

Este artigo oferece um método inovador para realizar ataques backdoor em tarefas de previsão de links usando GNNs. A ideia principal é usar um único nó como gatilho, o que permite uma abordagem eficiente e discreta para inserir um backdoor no modelo.

#Os Passos do Nosso Ataque

1. Criação do Nó Gatilho: Um novo nó é criado para servir como gatilho. As características desse nó são geradas para garantir que ele seja distinto de outros nós do gráfico. Analisando a frequência de características dentro do conjunto de dados, podemos selecionar características para o gatilho que ocorrem com menos frequência entre nós normais.

2. Selecionando Pares de Nós Alvo: Em seguida, escolhemos pares de nós não ligados no gráfico onde o gatilho será injetado. O processo de seleção foca em pares com características escassas, ou seja, os nós têm menos elementos não nulos em seus vetores de características.

3. Envenenando o Conjunto de Dados: Os pares de nós-alvo selecionados são então ligados ao nó gatilho. Isso efetivamente transforma os pares não ligados em pares ligados durante a fase de treinamento do modelo, inserindo o backdoor no modelo.

4. Ativando o Backdoor: Durante a fase de previsão, se o nó gatilho estiver conectado a algum dos pares-alvo, o modelo vai prever incorretamente que um link existe. Quando o gatilho está ausente da entrada, o modelo funcionará corretamente.

#Avaliação Experimental

Para validar a eficácia do nosso ataque backdoor, realizamos experimentos usando quatro modelos populares em quatro Conjuntos de dados de referência. Avaliamos a taxa de sucesso do ataque, ou seja, com que frequência o modelo fez previsões incorretas devido ao backdoor quando foi ativado.

#Conjuntos de Dados e Modelos Usados

Os conjuntos de dados utilizados em nossos experimentos incluem Cora, CiteSeer, CS e Physics. Cada conjunto de dados consiste em uma estrutura de gráfico onde os nós representam entidades como artigos de pesquisa, e as arestas representam relações entre eles.

Testamos nosso ataque em quatro modelos diferentes de GNN:

• Graph Auto-Encoder (GAE)
• Variational Graph Auto-Encoder (VGAE)
• Adversarial Regularized Graph Auto-Encoder (ARGA)
• Adversarial Regularized Variational Graph Auto-Encoder (ARVGA)

Esses modelos utilizam diferentes técnicas para previsão de links e nos ajudam a avaliar a eficácia do nosso ataque em várias configurações.

#Resultados e Análise

Os resultados dos nossos experimentos mostraram que nosso ataque backdoor manteve altas taxas de sucesso com impacto mínimo na precisão geral do modelo. Quando o ataque ativou o backdoor, conseguimos taxas de sucesso superiores a 89% na maioria dos cenários, com apenas uma leve diminuição na precisão das previsões limpas feitas pelo modelo.

Os experimentos também confirmaram que as taxas de envenenamento, que medem a proporção do conjunto de dados que alteramos, eram baixas. Isso indica que nosso ataque é tanto eficaz quanto furtivo, já que minimiza as chances de detecção.

#Comparando com Métodos Existentes

Ao comparar nosso método com métodos existentes de ataque backdoor, descobrimos que nossa abordagem não só é eficaz, mas também mais eficiente. O uso de um único nó como gatilho permite um nível menor de interferência com os dados de treinamento, tornando mais difícil a detecção. Métodos tradicionais que dependem de subgráficos complexos requerem mais recursos e têm maior chance de serem reconhecidos como manipulação.

#Conclusão e Trabalho Futuro

Este artigo destaca uma vulnerabilidade significativa das GNNs no contexto da previsão de links, mostrando a eficácia de um ataque backdoor usando um único nó gatilho. À medida que as GNNs encontram ampla aplicação em vários campos, é crucial abordar essas ameaças de segurança e desenvolver defesas mais robustas contra possíveis ataques.

Pesquisas futuras devem focar em criar defesas contra tais ataques backdoor e explorar ainda mais o impacto dessas vulnerabilidades em cenários do mundo real. Com o interesse em GNNs crescendo, garantir a segurança desses modelos será vital para manter a confiança em aplicações orientadas por dados.