Conectando Design de UX e Aprendizado de Máquina

Os designers de experiência do usuário (UX) enfrentam novos desafios ao criar aplicativos que usam aprendizado de máquina (ML). Tecnologias como AutoML e ensino de máquinas interativo facilitam para quem não tem conhecimento especializado trabalhar com ML. No entanto, não tem muita pesquisa sobre como essas ferramentas podem ajudar os designers de UX. Fizemos um estudo com 27 profissionais de UX para ver como a experiência prática com ML pode ajudar na criação de novos apps.

#Profissionais de Experiência do Usuário

Os profissionais de UX são pessoas que trabalham em diversos papéis no processo de desenvolvimento de produtos. Eles se concentram em entender as necessidades dos usuários e criar aplicativos que sejam fáceis de usar. Eles podem não ter um forte conhecimento em programação, mas buscam desenhar interfaces engajantes e funcionais.

#O Papel do Aprendizado de Máquina na Vida Diária

O ML tá cada vez mais presente nas nossas vidas. Ele ajuda em tarefas como prever o trânsito, corrigir nossa ortografia e recomendar músicas ou filmes. À medida que o ML melhora, ele se torna mais comum nos apps que as pessoas usam todo dia.

#Desafios para Profissionais de UX com Aprendizado de Máquina

Trabalhar com ML pode ser complicado para os profissionais de UX. Tem várias razões pra isso:

1. Ambiguidade: As capacidades do ML podem ser confusas e mudam o tempo todo.
2. Imprevisibilidade: Os resultados gerados pelos modelos de ML podem ser inesperados.
3. Erros: Assim como qualquer tecnologia, os sistemas de ML não são perfeitos e podem errar.

Esses desafios dificultam o trabalho dos designers em saber como usar o ML de forma eficaz.

#Falta de Educação e Recursos

Muitos profissionais de UX não têm formação formal em ML. Eles costumam se sentir desconectados da parte técnica e podem ver o ML como uma "caixa-preta". Essa falta de entendimento pode causar problemas na hora de criar apps que utilizam o ML. Também tem uma falta de recursos que permitam que os designers trabalhem com ML diretamente.

#Aprendizado de Máquina Interativo

O aprendizado de máquina interativo (IML) busca facilitar para não-expertos trabalharem com ML, permitindo que eles experimentem com dados e modelos. A maioria das pesquisas em IML focou nos usuários finais, e não nos profissionais de UX. Isso é importante porque os profissionais de UX atuam como uma ponte entre a tecnologia e os usuários, então as necessidades deles também precisam ser atendidas.

#Metodologia do Estudo

Queremos entender como o IML pode ajudar os profissionais de UX a lidarem com os desafios de trabalhar com ML. Para isso, usamos a Teachable Machine do Google, uma ferramenta simples que permite que os usuários construam seus próprios modelos de ML sem precisar programar.

Fizemos sessões de design baseadas em tarefas com 27 profissionais de UX. Eles tinham que criar uma prova de conceito para um app que ajuda os usuários a monitorarem seus hábitos alimentares usando um diário alimentar baseado em fotos.

#Estrutura do Estudo

Cada sessão durou duas horas. Os primeiros 90 minutos foram de uma atividade de design onde os participantes aprenderam a usar a Teachable Machine e depois criaram suas propostas de app. Os 30 minutos finais foram pra discutir as experiências e decisões de design deles.

#Recrutamento de Participantes

Recrutamos participantes por vários canais online e garantimos que eles tivessem pelo menos um ano de experiência em UX. A maioria dos participantes eram designers de UX, enquanto um grupo menor eram pesquisadores de UX. A maioria tinha experiência limitada com IA, mas alguns tinham sido expostos a isso por meio de workshops ou cursos.

#A Tarefa de Design

Os participantes receberam um desafio de design pra criar um app que utiliza ML para rastreamento de alimentos. Eles receberam recursos, como insights de pesquisa com usuários e conjuntos de dados, pra ajudar enquanto trabalhavam em suas ideias de app.

#Importância dos Dados de Treinamento

Durante a tarefa de design, os participantes acharam crucial explorar os dados de treinamento que usaram para seus modelos de ML. Essa exploração os ajudou a entender o desempenho do modelo e antecipar possíveis problemas em seus apps. Ao inspecionar as imagens de treinamento, os participantes podiam identificar que tipo de previsões o modelo poderia fazer.

#Interpretação Errada das Pontuações de Probabilidade

Os participantes frequentemente entenderam errado como interpretar as pontuações de probabilidade que o modelo de ML produziu. Em vez de ver essas pontuações como uma medida da confiança do modelo, muitos acharam que representavam a porcentagem da imagem identificada como pertencente a certas classes. Essa confusão afetou como eles avaliavam a precisão dos modelos deles.

#Explicando o Modelo para os Usuários

Os participantes reconheceram a importância de explicar as decisões do modelo para os usuários. Eles expressaram a necessidade de melhores ferramentas para fornecer informações mais claras sobre como as previsões eram feitas e como melhorar o desempenho do modelo. Muitos acreditavam que melhores explicações não só ajudariam eles, mas também melhorariam a experiência do usuário.

#Considerações Éticas

Enquanto os participantes trabalhavam em seus apps, eles identificaram várias questões éticas relacionadas ao uso de IA no rastreamento de alimentos. Eles expressaram preocupações sobre impactos negativos potenciais, como promover relações não saudáveis com a comida ou criar viés nas recomendações do app. Os participantes reconheceram a sensibilidade em torno dos temas alimentares e a necessidade de um design equilibrado e culturalmente consciente.

#Riscos Sociais e Técnicos

Os participantes viram vários riscos na aplicação de IA ao rastreamento de alimentos. Alguns mencionaram que imprecisões no modelo de ML poderiam impactar negativamente o comportamento dos usuários, levando a hábitos alimentares não saudáveis. Outros destacaram questões relacionadas à privacidade dos dados, enfatizando a importância de informar os usuários sobre como seus dados seriam usados.

#Ensino de Máquina Informado por Pesquisa (RIMT)

Propusemos um novo modelo chamado ensino de máquina informado por pesquisa (RIMT) como um guia para os profissionais de UX. O RIMT incentiva os designers a incorporar a pesquisa com usuários no processo de ensino do modelo de ML. Esse método busca garantir que o modelo se alinhe melhor às necessidades dos usuários finais.

#Integrando RIMT e IML

O RIMT pode coexistir com o IML em ferramentas de design, permitindo uma abordagem mais abrangente. Enquanto o IML foca em permitir iterações rápidas por meio do treinamento interativo do modelo, o RIMT enfatiza a importância da pesquisa com usuários para informar o desenvolvimento do modelo. Essa combinação pode ajudar os profissionais de UX a entenderem melhor como o ML pode atender às necessidades dos usuários.

#Conclusão

Os profissionais de UX enfrentam muitos desafios ao projetar apps que incorporam ML. Nosso estudo mostrou que a experiência prática com IML pode ajudá-los a entender melhor a tecnologia e melhorar seus processos de design. Considerações éticas também devem ser levadas em conta à medida que a IA se torna mais presente na vida diária. A introdução do RIMT oferece uma estrutura promissora para fechar a lacuna entre tecnologia e experiência do usuário, garantindo que as capacidades do ML sejam aproveitadas para atender efetivamente às necessidades dos usuários.

Acreditamos que a pesquisa contínua nessa área ajudará a abrir o caminho para aplicações de IA mais centradas no usuário.