Gerando Linguagem Informal com IA

Geração de Linguagem Natural (NLG) é uma área que se concentra em ensinar os computadores a criar texto que pareça ter sido escrito por um humano. Isso é útil em várias áreas, como suporte ao cliente, educação e entretenimento. A maioria dos sistemas de NLG tradicionais gera texto formal, mas a linguagem informal muitas vezes é mais eficaz para conectar com as pessoas. Este artigo apresenta uma nova forma de criar resumos informais de conteúdo online usando aprendizado de reforço offline.

#A Necessidade de Linguagem Informal

A linguagem informal inclui gírias, contrações e expressões casuais. Ela geralmente é mais envolvente e pode ajudar o público a se relacionar melhor com o conteúdo. No entanto, gerar uma linguagem informal que ainda faça sentido pode ser difícil. Por exemplo, a linguagem usada em um artigo de suporte ao cliente pode ser diferente da linguagem encontrada em uma postagem de mídia social.

#Nossa Abordagem

Nossa abordagem usa aprendizado de reforço offline, que nos permite treinar um modelo com uma grande quantidade de texto sem precisar de feedback humano. Comparamos nosso método a métodos existentes de geração de texto e mostramos que ele cria resumos informais que são mais envolventes e informativos.

#Componentes Chave do Nosso Método

1. Grande Corpus de Texto: Treinamos nosso modelo usando uma grande coleção de textos informais para entender os padrões da linguagem.
2. Aprendizado por Reforço: Isso ajuda o modelo a aprender como gerar resumos que são interessantes e informativos.
3. Raspagem da Web: Coletamos artigos online e postagens de redes sociais para usar como entrada na geração de resumos.
4. Modelo de Geração de Texto: Este modelo cria resumos com base nas informações coletadas da raspagem.

#Como Treinamos Nosso Modelo

Começamos ajustando dois modelos: RoBERTa e GPT-2.

#Ajuste do RoBERTa

O RoBERTa aprende a relação entre tweets e respostas analisando um conjunto de dados de exemplos rotulados. Ele recebe feedback com base em se uma resposta foi bem recebida ou não. Este modelo acaba ajudando a determinar quão boa é um resumo servindo como uma função de recompensa.

#Ajuste do GPT-2

O GPT-2 é um modelo poderoso de geração de texto. Inicialmente, o treinamos em um conjunto de dados amplo antes de ajustá-lo aos nossos dados específicos. O processo de ajuste modifica os parâmetros do modelo para garantir que ele gere respostas relevantes e coerentes.

#Aprendizado por Reforço

Uma vez que temos nossos modelos ajustados, aplicamos uma técnica de aprendizado por reforço chamada Proximal Policy Optimization (PPO). Isso nos ajuda a melhorar o texto gerado pelo GPT-2 utilizando um ciclo de feedback baseado na qualidade do texto.

#O Processo

No nosso método, o modelo GPT-2 gera uma resposta a um tweet de entrada. Depois de gerar uma resposta completa, usamos o modelo RoBERTa para avaliar sua qualidade. Esse feedback atua como um sinal de recompensa que ajuda a ajustar ainda mais o processo de geração de texto.

#Avaliação Experimental

Fizemos experimentos para ver quão bem nosso método funciona. Usando nossa função de recompensa baseada em PPO, comparamos seu desempenho com outros métodos existentes.

#Resultados

Nossos resultados mostram que usar PPO para gerar respostas leva a respostas de melhor qualidade. O texto gerado foi mais coerente e soou mais natural do que ao usar métodos alternativos.

#Preparação do Conjunto de Dados

Para conduzir esses experimentos, coletamos um conjunto de dados específico focado em tweets e suas respostas. Reunimos até 13.000 tweets para cada palavra-chave e incluímos até 20 respostas por tweet. Isso nos proporcionou dados suficientes para treinar e testar nossos modelos de forma eficaz.

#Exemplos de Respostas

Aqui estão alguns exemplos de respostas geradas com nosso método:

#Palavra-chave: Rainha Elizabeth

• Entrada do Usuário: "Eu consigo rastrear minha família até o século 15."
• Resposta: "É por isso que eles não querem que os Hitlers coloquem as mãos nisso. Não dá tempo de planejar seus planos malignos, faça o melhor que puder."

#Palavra-chave: COVID-19

• Entrada do Usuário: "Fauci e o NIH financiaram pesquisas de ganho de função em Wuhan."
• Resposta: "Isso é mais um tweet ‘bom’ sobre Covid? Ou só um ruim?"

#Palavra-chave: Bitcoin

• Entrada do Usuário: "Bitcoin e criptomoeda."
• Resposta: "Você se lembra quando era jovem e queria fazer algo que tornasse o mundo melhor?"

Esses exemplos mostram como nosso sistema gera respostas casuais, mas significativas, com base na entrada inicial do usuário.

#Benefícios Potenciais

Nosso método pode melhorar significativamente os serviços de suporte ao cliente automatizando a geração de respostas envolventes. Reduz a carga de trabalho dos agentes humanos, enquanto melhora a satisfação do usuário ao criar textos que ressoam com eles.

#Trabalho Futuro

No futuro, planejamos expandir nossa pesquisa além do Twitter e envolver outras plataformas como Facebook e Instagram. Também queremos adicionar um módulo que recupere informações relevantes das respostas para melhorar ainda mais a qualidade das respostas geradas.

#Conclusão

Resumindo, propomos um novo método para gerar resumos informais de conteúdo online através de aprendizado de reforço offline. Ao treinar modelos que entendem linguagem informal, podemos melhorar a experiência do usuário e aprimorar as interações de suporte ao cliente. Os resultados promissores de nossos experimentos destacam o potencial deste método para criar interações tão envolventes. Mais pesquisas são necessárias para explorar suas plenas capacidades e quaisquer limitações que possa ter.