Analisando Modelos de Visão com Ferramentas de Linguagem

Redes neurais profundas (DNNs) são ferramentas bem legais em várias áreas, especialmente no processamento de imagens. Mas conferir se essas redes tão funcionando direitinho é meio difícil. Esse desafio rola principalmente porque é complicado descrever o que a gente quer que essas redes façam usando regras claras, especialmente em tarefas de visão. Além disso, essas redes são bem complicadas e difíceis de entender, já que a gente não consegue ver como elas tomam decisões.

Pra resolver esses problemas, os pesquisadores começaram a usar um novo tipo de modelo chamado Modelos de visão-linguagem (VLMs) pra analisar DNNs baseadas em visão. Os VLMs são treinados em grandes coleções de imagens e suas descrições em palavras. Isso significa que eles conseguem reconhecer e entender conceitos de alto nível que se relacionam com as imagens. Usando VLMs, a gente consegue expressar nossas expectativas de um jeito mais fácil tanto pra humanos quanto pra máquinas.

#A Abordagem

Nosso método tem duas partes principais: o modelo de visão que a gente quer checar e o VLM que ajuda a analisar isso. O modelo de visão que a gente foca é um classificador de imagens, que pega imagens como entrada e prevê suas classes. Ele tem duas partes: um encoder, que transforma dados de imagem em nível baixo (como valores de pixels) em representações de nível mais alto, e uma cabeça que toma decisões com base nessas representações.

Por outro lado, o VLM usa dois encoders, um pra imagens e outro pra texto, pra mapear os dois tipos de entrada em um espaço de representação compartilhado. Isso permite que a gente compare imagens e textos diretamente, usando métodos como similaridade cosseno pra ver o quanto eles combinam.

A gente desenvolveu uma linguagem pra escrever especificações com base em conceitos que os humanos conseguem entender. Por exemplo, se a gente quer que um modelo diferencie entre gato, cachorro, pássaro, carro e caminhão, a gente pode usar conceitos como "metálico," "orelhas," e "rodas." Essa especificação funcional ajuda os especialistas a expressarem claramente o que eles esperam do modelo.

Uma ideia chave na nossa Linguagem de Especificação é o predicado de força. Esse predicado mostra a relação entre dois conceitos para classes dadas. Por exemplo, se a saída é "caminhão," a gente espera que o modelo foque mais em "metálico" e "rodas" do que em "orelhas."

#Checando Especificações

Pra checar se uma imagem atende a propriedades específicas, a gente pode transformar essa tarefa em uma verificação de similaridade entre a representação da imagem e combinações de predicados codificados no espaço de texto. Isso permite que a gente realize nossa verificação usando o espaço compartilhado do VLM, tornando isso uma solução escalável.

A gente demonstra nossas técnicas em um classificador de imagem específico treinado em um conjunto de dados chamado RIVAL-10, usando o modelo CLIP como VLM. O RIVAL-10 é um conjunto de dados menor que foi retirado do maior conjunto de dados ImageNet, contendo dez classes com atributos visuais ricos.

#Classificadores de Redes Neurais

Um classificador de rede neural é uma função que pega uma entrada (geralmente representada como vetores de alta dimensão) e produz um rótulo de classe. O processo de classificação fornece pontuações para cada classe, com a classe que tem a maior pontuação sendo selecionada como a saída do modelo.

Em geral, classificadores neurais consistem em duas partes principais: um encoder, que ajuda a extrair características da entrada, e uma cabeça, que faz a classificação final. Por exemplo, em uma rede neural convolucional, o encoder consiste em camadas convolucionais que extraem características, enquanto a cabeça pode consistir em camadas totalmente conectadas que derivam as previsões de classe.

#Similaridade Cosseno

A similaridade cosseno é um método usado pra medir quão similares dois vetores são. Dadas duas vetores, varia de -1 (exatamente oposto) a 1 (exatamente igual), com 0 significando que não estão relacionados. Essa métrica permite que a gente quantifique o quão próximos estão diferentes conceitos ou representações.

#Modelos de Visão-Linguagem

Os VLMs, como o CLIP, combinam processamento de imagem e texto. Eles são treinados em vastos conjuntos de dados contendo pares de imagens e legendas correspondentes. Pra qualquer imagem de entrada, um VLM pode determinar qual legenda melhor a descreve, com base na similaridade no espaço de representação compartilhada.

Através da classificação zero-shot, os VLMs conseguem classificar imagens sem esperar instâncias de treinamento específicas. Comparando embeddings de imagens contra um conjunto de descrições de classe, o VLM pode identificar a classe mais relacionada à imagem.

#Linguagem de Especificação

A gente desenvolveu uma linguagem de especificação de primeira ordem que permite que desenvolvedores criem especificações sobre classificadores neurais. Essa linguagem suporta a expressão de predicados que são fáceis de entender para os humanos.

A linguagem de especificação inclui variáveis, nomes de conceitos e rótulos de classificação. Os desenvolvedores podem escrever condições que expressam como certos conceitos se relacionam dentro da saída do modelo. Isso torna possível automatizar o processo de checagem.

Por exemplo, suponha que temos um classificador para as classes de gato, cachorro, pássaro, carro e caminhão. A gente pode definir os conceitos associados a essas classes, permitindo que a gente expresse restrições lógicas sobre as previsões de classe com base nesses conceitos.

#Representação de Conceito

Pra analisar redes neurais, a gente precisa investigar as representações de conceito que elas aprendem. Isso envolve mapear imagens de entrada para representações de conceito significativas usando o VLM. O VLM pode fornecer insights sobre as forças de diferentes conceitos em relação às classes previstas.

Usando métodos recentes, conseguimos criar um mapeamento entre os espaços de representação do modelo de visão e o VLM. Essa conexão nos permite checar propriedades específicas do modelo de visão em relação às propriedades de linguagem natural descritas pelo VLM.

#Construindo o Mapa

Pra alinhar os espaços de representação do modelo de visão e do VLM, a gente aprende uma transformação afim que conecta os dois. Esse mapeamento ajuda a garantir que estamos comparando efetivamente as mesmas representações em ambos os modelos.

O mapeamento aprendido é ótimo se minimizar a diferença entre os dois espaços de representação, permitindo que a gente valide os resultados ainda mais.

#Processo de Verificação

Uma vez que a gente estabelece o mapeamento entre os dois modelos, conseguimos realizar um processo de verificação. A verificação tem como objetivo identificar se as características (especificações) que estabelecemos são atendidas pelo modelo de visão.

O processo é eficiente porque nos permite reduzir a tarefa de verificação a checar propriedades no espaço de representação do VLM, ao invés de tentar verificar o modelo de visão diretamente, o que poderia ser caro em termos computacionais.

#Estudo de Caso

No nosso estudo de caso, aplicamos nosso método usando um modelo ResNet18 no conjunto de dados RIVAL10 com o VLM CLIP. Esse conjunto de dados é composto por imagens e rótulos com atributos, o que nos permite coletar conceitos relevantes e criar predicados pra verificação.

Usando os atributos fornecidos no conjunto de dados RIVAL10, escolhemos conceitos pra cada classe. Por exemplo, pra "caminhão," a gente pode incluir conceitos como "metálico," "rodas," e vários outros. Isso fornece uma estrutura pra validar as previsões do modelo de forma eficaz.

#Validação Estatística

Pra garantir que nossos mapeamentos e predicados são válidos, fizemos validações estatísticas. Usando o conjunto de dados de teste RIVAL10, verificamos se os predicados de força que formulamos se mantinham verdadeiros em várias entradas de imagem.

Medindo probabilidades de satisfação pros nossos predicados, avaliamos se as previsões do modelo de visão se alinhavam com as características esperadas com base nas imagens de entrada. Altas probabilidades de satisfação indicaram que nossas representações de conceito eram confiáveis.

#Resultados da Validação

Nossos resultados de validação produziram evidências fortes de que as representações de conceito obtidas usando o VLM eram de alta qualidade. Quando testamos os predicados de força, a maior parte se manteve verdadeira, indicando que o VLM capturou efetivamente os conceitos relevantes pra tarefas de classificação.

Além disso, também observamos casos em que os espaços de representação não estavam perfeitamente alinhados, revelando áreas de possível má classificação ou desvio entre os modelos. Isso destaca a necessidade de refinamento contínuo e melhorias em ambos os modelos e em nossas especificações.

#Verificação do Modelo de Visão

Expandimos nossos esforços de verificação pra incluir a análise do modelo ResNet18 em si. Definindo regiões de entrada dentro do espaço de embedding, conseguimos checar se nossas especificações se mantinham verdadeiras.

Esse processo de verificação nos permite determinar se o modelo fez previsões precisas com base nos conceitos relevantes que identificamos. Nosso foco estava em predicados de força estatisticamente significativos pra maximizar a validade dos nossos achados.

#Conclusão

Resumindo, ao aproveitar modelos de visão-linguagem, desenvolvemos um meio eficaz de analisar e verificar redes neurais profundas baseadas em visão. Nossa abordagem enfatiza a importância de especificações claras e compreensíveis enquanto utiliza as capacidades dos VLMs pra melhorar o processo de verificação.

Movendo pra frente, a gente pretende refinar ainda mais nossas metodologias, explorando mais modelos multimodais e suas aplicações em cenários do mundo real. A gente também busca abordar desafios de longa data, como distinguir entre dados em distribuição e fora de distribuição, pra garantir que nossos modelos funcionem de forma confiável em situações críticas de segurança.

Essa pesquisa destaca um passo na direção de unir sistemas de IA complexos e conceitos compreensíveis para humanos, tornando possível que especialistas validem e confiem nesses sistemas em aplicações críticas.