O que significa "Vazamento Profundo de Gradientes"?

Índice

Vazamento Profundo de Gradientes é um problema de segurança que rola em aprendizado de máquina, principalmente em sistemas onde vários usuários contribuem com seus dados, conhecido como aprendizado federado. Nesse esquema, os dados de cada usuário ficam privados enquanto o modelo aprende com as entradas deles.

Mas, durante o processo de aprendizado, algumas informações sobre os dados dos usuários podem vazar através do que chamamos de gradientes. Esses gradientes podem revelar demais sobre as contribuições de cada usuário, levantando preocupações sobre privacidade. Um atacante pode usar essas informações vazadas para adivinhar ou reconstruir os dados reais usados para o treinamento.

Vários métodos foram criados para proteger contra esse vazamento. Alguns deles incluem técnicas que alteram os gradientes antes de serem compartilhados, como Máscara e Recorte. Esses métodos têm como objetivo reduzir o risco de expor informações sensíveis enquanto mantém o desempenho do sistema de aprendizado.

Pesquisas mostram que usar essas estratégias defensivas pode minimizar a quantidade de informação exposta, ajudando a manter os dados dos usuários seguros mesmo diante de ameaças potenciais.