Aprimorando a Compreensão da IA Através de Esboços Humanos

Nos últimos anos, tem rolado um interesse crescente em deixar os sistemas de inteligência artificial (IA) mais fáceis de entender. Essa área é conhecida como IA Explicável (XAI). É importante que a galera saiba como a IA toma decisões, principalmente agora que esses sistemas estão ficando mais capazes que os humanos em várias tarefas. A maior parte das pesquisas em XAI focou em fotos e textos, mas esse artigo apresenta uma nova abordagem que lida com Esboços humanos.

Os esboços são únicos porque refletem a criatividade e a expressão humana. Há milhares de anos, as pessoas fazem esboços, seja em cavernas ou em dispositivos modernos como celulares e tablets. Os esboços podem representar não só objetos, mas também histórias e ideias. Por causa disso, eles podem ser uma forma útil de estudar como funcionam as explicações da IA.

#Por que Esboços?

Os esboços diferem muito das fotos. Enquanto as fotos são fixas e difíceis de mudar, os esboços são flexíveis e podem ser facilmente alterados. Essa flexibilidade vem do jeito que os esboços são feitos - eles são formados por traços, que podem ser movidos e ajustados sem perder o significado geral. Neste artigo, focamos em como os traços podem nos ajudar a entender melhor os sistemas de IA.

Todo esboço é composto por três atributos principais: forma, Localização e ordem. A forma de um traço define como ele parece, a localização diz onde ele é desenhado, e a ordem fala sobre a sequência em que os traços são feitos. Juntos, esses atributos criam um esboço único que reflete a intenção e a criatividade de uma pessoa.

#Apresentando o SketchXAINet

Para analisar esboços de forma eficaz e criar explicações, projetamos um novo modelo chamado SketchXAINet. Esse modelo foi feito para acomodar as propriedades únicas dos traços. Acreditamos que esse modelo vai fornecer explicações mais claras sobre como a IA toma decisões sobre esboços.

O SketchXAINet leva em conta a forma, localização e ordem dos traços. Para manter o design simples, dividimos os componentes do esboço e os alimentamos em uma arquitetura de modelo existente. Mesmo com esse arranjo simples, o SketchXAINet mostrou ser melhor que modelos anteriores de reconhecimento de esboços.

#A Tarefa de Explicabilidade: Inversão da Localização do Traço

Uma das principais tarefas que propomos para entender melhor os modelos de esboço se chama Inversão da Localização do Traço (SLI). Essa tarefa pergunta quão bem um modelo de esboço pode rearranjar os traços enquanto ainda identifica o esboço corretamente.

No SLI, começamos colocando os traços em novas localizações aleatoriamente. O modelo tenta descobrir se ainda consegue reconhecer o esboço com essa nova disposição. Isso nos ajuda a ver quanto o modelo aprendeu sobre esboços. A ideia é que, se o modelo conseguir recolocar os traços de volta em um esboço significativo, ele entendeu o conceito subjacente.

Esse método de gerar explicações cria um processo dinâmico e visual, diferente das abordagens tradicionais estáticas. Em vez de apenas mostrar mapas de calor ou pontuações de similaridade, o SLI nos permite ver os traços sendo manipulados de verdade.

#Experimentos

Realizamos experimentos usando um grande conjunto de dados de esboços para testar nosso modelo. O conjunto de dados é composto por várias categorias de esboços, cada uma com milhares de amostras. Dividimos os dados em conjuntos separados para treinamento, validação e teste.

Comparamos o SketchXAINet com vários modelos existentes, incluindo arquiteturas baseadas em CNN e Transformer. Nossos achados mostram que o SketchXAINet teve o melhor desempenho nas tarefas de reconhecimento de esboços.

#Resultados

Os resultados dos nossos experimentos indicam que o SLI é uma ferramenta eficaz para entender modelos de esboços. Não só permite visualizar o processo, mas também revela como a IA interpreta as nuances dos esboços.

Nas tarefas em que analisamos a recuperação, descobrimos que, mesmo que os esboços recuperados não parecessem exatamente com os originais, eles ainda representavam características-chave que ajudavam os espectadores a entender a categoria à qual o esboço pertencia. Por exemplo, em um teste, o classificador aprendeu a associar luz com o conceito de "sol". Em outro, o reposicionamento de um único traço transformou um desenho de um caule de flor em um tronco de árvore.

Durante as tarefas de transferência, onde os traços foram reposicionados para categorizar um esboço de forma diferente, observamos que as explicações geradas se tornaram menos eficazes. No entanto, o modelo ainda conseguiu representar características essenciais da nova categoria.

De forma geral, o processo SLI forneceu uma maneira de testar visualmente quão bem um modelo de esboço estava funcionando. As explicações geradas ajudaram a identificar áreas onde o modelo teve dificuldade e aquelas onde foi bem.

#Análise dos Achados

Além de testar o modelo, analisamos as incorporações de forma dos traços e como elas impactam a classificação. Agrupando os traços com base em suas Formas, descobrimos que nosso modelo agrupou efetivamente traços semelhantes, independentemente das categorias originais dos esboços.

Também examinamos a importância da ordem dos traços, que impactou no desempenho do modelo. Os resultados indicaram que os traços mais anteriores eram mais importantes para a classificação em comparação com os posteriores.

Nossa análise demonstrou que o modelo podia adaptar seu reconhecimento com base nas propriedades aprendidas dos traços. No geral, mostrou que entender melhor os traços melhora o processo de explicação.

#Limitações e Trabalhos Futuros

Apesar de nosso modelo ter alcançado resultados fortes, não está livre de limitações. Um desafio que enfrentamos foi que o SLI depende muito da otimização, o que pode às vezes levar a pontos de estagnação onde o modelo não consegue fazer mais melhorias. Notamos isso em alguns testes visuais onde o modelo oscilou entre configurações sem chegar a uma solução clara.

Apesar desses desafios, acreditamos que os esboços são uma excelente forma de dados para a pesquisa em explicabilidade de IA. Nosso trabalho enfatiza a necessidade de estudos futuros que se concentrem em dados centrados no humano para XAI, e esperamos inspirar outros pesquisadores a explorar esse campo empolgante.

#Conclusão

Resumindo, este artigo apresenta uma nova abordagem para entender modelos de IA usando esboços humanos. Ao focar nos traços e suas características únicas através do modelo SketchXAINet, estabelecemos as bases para uma nova tarefa em XAI: Inversão da Localização do Traço.

Nossos achados revelam o potencial de usar esboços como um meio para entender melhor a tomada de decisões da IA. Esperamos que este trabalho sirva como uma base para mais explorações em dados centrados no humano na área de IA explicável. À medida que a IA continua a crescer e evoluir, encontrar maneiras de torná-la mais compreensível será crucial.