Aprendizado Contínuo Federado para Fluxos de Dados Dinâmicos

Recentemente, o aprendizado federado tem chamado atenção como uma forma de diferentes clientes trabalharem juntos sem compartilhar dados sensíveis. Isso é importante porque os clientes locais muitas vezes precisam aprender novas tarefas de forma contínua. Um bom exemplo é a classificação de novas variantes do COVID-19, onde novas cepas aparecem com o tempo. Os métodos tradicionais de aprendizado federado não consideram a necessidade de lidar com essas novas classes à medida que surgem.

Para resolver esse problema, surgiu um novo conceito chamado Aprendizado Contínuo Federado (FCL). O FCL permite que os clientes locais aprendam continuamente com fluxos de dados em andamento, o que significa que eles podem adicionar novas classes a qualquer momento. Isso cria uma combinação única de aprendizado federado e aprendizado contínuo, mas também traz desafios. Um desafio notável no aprendizado contínuo é um problema chamado Esquecimento Catastrófico. Quando um modelo se concentra demais em novas tarefas, ele pode esquecer seu conhecimento anterior.

Atualmente, muitos métodos para FCL utilizam soluções generativas que criam dados sintéticos para preservar o conhecimento passado. No entanto, esses métodos exigem que os dados sejam coletados e armazenados antecipadamente, o que não é prático em muitas situações da vida real, onde os dados chegam em pequenos lotes. Além disso, a maioria dos métodos existentes foca principalmente em tarefas visuais, tornando-os menos adaptáveis a outros tipos de dados.

Nós propomos uma nova abordagem flexível que não depende de nenhum tipo específico de dado. Nosso método é projetado para funcionar em um ambiente online, onde novos dados chegam em mini-lotes que podem ser analisados apenas uma vez. Para combater o esquecimento catastrófico, introduzimos uma abordagem baseada em memória que leva em conta a incerteza. Em termos simples, queremos focar nos dados mais importantes e incertos para reduzir os impactos negativos do esquecimento.

#Um Olhar Mais Próximo sobre o Aprendizado Federado

O aprendizado federado é um processo que permite que múltiplos clientes aprendam um modelo compartilhado enquanto mantêm seus dados locais. A principal vantagem é que informações sensíveis não precisam sair do dispositivo do cliente, tornando-se uma opção mais segura para treinar modelos. Mesmo que o aprendizado federado seja benéfico, a maioria dos modelos tradicionais se baseia na suposição de que tarefas e dados permanecerão estáticos. Essa suposição não é realista, especialmente em situações dinâmicas onde novos dados podem chegar continuamente.

O setor de saúde fornece um exemplo perfeito das limitações do aprendizado federado tradicional. Por exemplo, hospitais que colaboram para rastrear e classificar novas variantes do COVID-19 podem ter dificuldades, pois precisam se adaptar a dados em constante mudança. Nesse caso, novas tarefas surgem à medida que novas variantes aparecem, tornando essencial repensar como o aprendizado federado é aplicado.

A introdução do aprendizado contínuo federado aproveita os benefícios do aprendizado federado e adiciona a capacidade de aprender continuamente com dados em mudança. Isso significa que os clientes locais podem continuar aprendendo com fluxos de dados que chegam enquanto ainda mantêm a privacidade. No entanto, esse novo método não elimina os desafios enfrentados pelo aprendizado contínuo, particularmente o esquecimento catastrófico.

#Entendendo o Esquecimento Catastrófico

O esquecimento catastrófico ocorre quando um modelo de aprendizado esquece informações aprendidas anteriormente à medida que se concentra em novas tarefas. Essa é uma preocupação típica em cenários de aprendizado contínuo e pode levar a quedas significativas no desempenho em tarefas mais antigas.

Para ilustrar o problema, considere um modelo que aprendeu a identificar diferentes tipos de frutas. Se ele for posteriormente treinado para reconhecer uma nova fruta, digamos uma pitaya, pode esquecer como identificar maçãs ou bananas. Isso pode acontecer porque o modelo atualiza seu conhecimento principalmente com base no que vê mais recentemente.

Existem várias estratégias para combater o esquecimento catastrófico. Alguns métodos incluem técnicas baseadas em memória que armazenam exemplos anteriores, enquanto outros utilizam métodos generativos para criar dados sintéticos que se assemelham às tarefas antigas. Também existem técnicas de regularização que ajustam como o modelo aprende novas informações.

A maioria das abordagens existentes para o aprendizado contínuo federado se baseia em modelos generativos. No entanto, esses modelos exigem muitos dados que precisam ser armazenados e processados, o que não é prático quando os dados chegam em pequenos lotes. Essa limitação nos levou a propor uma nova solução que pode lidar com dados que chegam de forma mais eficaz sem depender apenas de métodos generativos.

#Nossa Solução Proposta

Nossa estrutura é projetada para abordar as limitações dos métodos atuais de aprendizado contínuo federado. Queremos fornecer uma solução mais adaptável e eficaz, permitindo que os clientes aprendam continuamente a partir de fluxos de dados. Nosso método se concentra em gerenciar a memória de uma maneira que mantenha os dados mais relevantes para o modelo.

#Gerenciamento de Memória

Para cada cliente, usamos um buffer de memória de tamanho fixo para armazenar amostras de dados. A ideia é manter amostras que representem as diferentes classes que o modelo aprendeu, particularmente quando os dados que chegam estão desbalanceados. Isso é crucial porque, se certas classes estiverem sub-representadas, isso pode prejudicar o desempenho do modelo.

Em vez de selecionar aleatoriamente amostras para manter no buffer de memória, tomamos decisões com base na Incerteza Preditiva. Amostras com baixa incerteza são as mais representativas de suas respectivas classes, enquanto amostras com alta incerteza podem estar próximas à fronteira de decisão ou serem outliers. Ao nos concentrarmos na incerteza preditiva, buscamos armazenar as amostras mais significativas, o que pode melhorar a capacidade do modelo de recordar informações passadas.

#Medição de Incerteza

Para gerenciar melhor a memória, usamos um método chamado Informação de Bregman (BI) para estimar a incerteza do modelo a nível de amostra. Isso nos ajuda a entender quão confiante o modelo está sobre suas previsões. Ao medir a incerteza preditiva, podemos selecionar efetivamente amostras para armazenar na memória.

A incerteza preditiva pode capturar tanto a incerteza inerente dos dados em si quanto a incerteza que surge do treinamento limitado do modelo. Nosso método visa identificar amostras com baixa incerteza epistêmica, onde o processo de geração de dados é bem compreendido, e essas são as amostras que queremos lembrar.

#O Cenário de Aprendizado Online

Introduzimos um cenário de aprendizado online onde cada cliente recebe dados em pequenos lotes que podem ser processados apenas uma vez. Isso significa que os clientes não podem revisitar os dados, e seus modelos devem aprender e atualizar com base nas informações atuais sem armazená-las para referência futura.

Nesse contexto, os clientes locais ocasionalmente se comunicam com um servidor central para atualizar o modelo compartilhado. No entanto, ao contrário do aprendizado federado tradicional, a comunicação acontece com mais frequência. Isso garante que o modelo esteja sempre atualizado e possa se adaptar rapidamente a novas tarefas.

Para preparar os modelos locais para comunicação, implementamos um período de “queima” durante o qual os modelos locais aprendem independentemente por alguns lotes antes de compartilhar atualizações. Isso ajuda a estabilizar o modelo enquanto ele começa a aprender sobre uma nova tarefa.

#Avaliação da Abordagem

Colocamos nosso método à prova em vários conjuntos de dados, incluindo conjuntos de dados padrão e cenários do mundo real na área médica. O objetivo é avaliar quão eficaz nossa abordagem é na redução do esquecimento catastrófico enquanto mantém um bom desempenho preditivo em diferentes tarefas.

Também comparamos nosso método a soluções existentes, incluindo métodos padrão de aprendizado federado e outras abordagens baseadas em memória. Os experimentos medem quão bem cada abordagem se sai em termos de precisão e o grau de esquecimento após aprender novas tarefas.

#Testando em Vários Conjuntos de Dados

Para entender quão bem nosso método funciona, o avaliamos no CIFAR-10, um conjunto de dados amplamente utilizado na área de aprendizado de máquina. Dividimos suas classes aleatoriamente em várias tarefas e atribuídas a diferentes clientes. Dessa forma, conseguimos ver como diferentes configurações afetavam o desempenho.

Além do CIFAR-10, testamos nossa solução em conjuntos de dados mais desafiadores do domínio médico, como imagens de amostras de tecido para câncer colorretal e seções de tecido renal. Esses conjuntos de dados geralmente têm classes desbalanceadas, o que adiciona outra camada de complexidade.

Também incluímos uma tarefa de classificação de texto usando o conjunto de dados 20NewsGroups. Isso nos ajudou a demonstrar que nossa abordagem pode lidar com vários tipos de dados, não apenas imagens.

#Resultados e Discussão

Das nossas experiências, percebemos que nossa abordagem constantemente reduz o esquecimento catastrófico em diferentes conjuntos de dados e configurações. Armazenar amostras representativas de classe (os pontos de dados menos incertos) provou melhorar significativamente o desempenho preditivo.

Nas tarefas de classificação de imagens médicas, nosso método superou os outros, confirmando sua eficácia em cenários do mundo real onde os dados costumam ser desbalanceados. Também demonstramos que nossa abordagem é flexível o suficiente para ser usada com diferentes tipos de dados, sugerindo sua aplicabilidade em vários campos além da classificação de imagens.

#Conclusão e Direções Futuras

Nosso trabalho destaca os desafios enfrentados em cenários de aprendizado contínuo federado do mundo real. Mostramos que usar uma técnica simples de gerenciamento de memória que foca na incerteza pode levar a um desempenho melhor enquanto reduz os riscos de esquecer tarefas anteriores.

Embora nossa abordagem mostre potencial, algumas limitações existem. Uma questão chave é que estimar incerteza requer recursos computacionais adicionais. No entanto, nosso método é simples de implementar e demonstra um desempenho eficaz em vários tipos de dados.

No futuro, esperamos refinar ainda mais nossa abordagem e explorar estratégias adicionais para gerenciar a memória. Pretendemos continuar melhorando como os modelos aprendem com fluxos de dados dinâmicos e contínuos, levando a um desempenho melhor em aplicações do mundo real.