Documentando Línguas Ameaçadas com IGT

Muitas línguas ao redor do mundo estão em risco de desaparecer. Essa perda representa uma ameaça séria à diversidade cultural e à identidade. Uma forma de ajudar essas línguas é através de um método chamado Texto Interlinear Glossado (TIG). O TIG envolve uma maneira detalhada de escrever a linguagem falada, o que pode ajudar na documentação e na criação de recursos para as comunidades que falam essas línguas. Normalmente, inclui quatro partes: transcrições, segmentação morfológica, glossas e traduções livres para uma língua mais falada.

Esse artigo apresenta uma nova tarefa que visa extrair automaticamente esses quatro componentes da linguagem falada. Para apoiar essa tarefa, um novo conjunto de dados foi criado. Esse conjunto contém gravações de fala, completo com as anotações necessárias para 37 línguas diferentes, tudo organizado de uma maneira padrão.

#A Importância da Documentação de Línguas Ameaçadas

Muitas línguas estão desaparecendo à medida que os falantes mudam para línguas mais dominantes. A documentação dessas línguas é crucial para preservar o patrimônio cultural. Isso envolve gravar a linguagem falada, transcrevê-la, traduzi-la e adicionar outras formas de anotações. O objetivo final é ter registros abrangentes que possam ser usados para fins educacionais e informativos.

O TIG é amplamente utilizado no campo da linguística documental. A maioria do TIG segue convenções específicas que ajudam linguistas e professores a entender a conexão entre a forma e a função da linguagem. No entanto, muitas gravações de campo não são transformadas em TIG. Transcrever apenas o áudio, por exemplo, pode levar um tempo significativo. Adicionar anotações extras torna o processo ainda mais longo, impedindo que muitas gravações sejam totalmente documentadas.

#Visão Geral do TIG

O TIG inclui vários elementos importantes. Esses elementos consistem em:

1. Transcrição (wd): Esta é a versão escrita das palavras faladas, sem nenhuma segmentação.
2. Representação Subjacente (ur): Isso serve como a forma fundamental da língua, mostrando a estrutura por trás da superfície.
3. Representação Superficial (sr): Isso mostra como a língua realmente soa quando falada.
4. Glosa (gl): Isso fornece uma explicação palavra por palavra dos elementos, ajudando a esclarecer o significado.
5. Tradução Livre (tr): Isso traduz o texto para uma língua mais comumente falada para melhor compreensão.

Esses elementos trabalham juntos para oferecer uma visão abrangente da linguagem falada e seu significado.

#Desafios na Documentação de Línguas

Criar TIG a partir de gravações de campo é desafiador. O tempo necessário apenas para a transcrição pode ser extenso. Esse gargalo impede que muitas gravações sejam totalmente aproveitadas. Embora os linguistas possam não conseguir mudar os fatores que levam ao perigo das línguas, os avanços na tecnologia podem ajudar a documentar essas línguas de forma mais eficaz.

Por exemplo, criar ferramentas que acelerem o processo de transcrição pode ajudar significativamente a documentar línguas ameaçadas. Pesquisadores na área de processamento de fala e linguagem natural podem desempenhar um papel importante no desenvolvimento dessas tecnologias. Fazer isso apoiaria o trabalho de linguistas e ativistas comunitários que estão se esforçando para gravar e preservar essas línguas.

#Soluções Propostas

Uma nova tarefa foi proposta que foca em gerar TIG diretamente da fala gravada. Essa tarefa funcionará pegando a linguagem falada como entrada e produzindo anotações alinhadas para transcrição, representação subjacente, glosa e tradução. O primeiro conjunto de dados especificamente projetado para essa tarefa foi criado, contendo arquivos de áudio e anotações de TIG.

O conjunto inclui fala de 37 línguas diferentes, coletadas de vários arquivos de dados linguísticos. O objetivo é fornecer um formato padrão e divisões claras para treinamento, desenvolvimento e teste.

#Benefícios do Novo Conjunto de Dados

Esse novo conjunto de dados apoiará várias atividades chave:

1. Previsão de Transcrição: Ajudará a gerar versões escritas precisas da linguagem falada.
2. Previsão de Representação Subjacente: Ajudará a entender a forma central da língua.
3. Glosa e Tradução: Facilitará a compreensão palavra por palavra da linguagem e fornecerá traduções acessíveis para falantes de línguas dominantes.

Essa abordagem estruturada permite que a comunidade de pesquisa se envolva ativamente na tarefa de documentação de línguas.

#Coleta e Processamento de Dados

O conjunto de dados inclui muitas línguas, cada uma com seus próprios desafios. As línguas selecionadas têm tanto áudio quanto anotações de TIG. Essa seleção envolveu verificações minuciosas para garantir qualidade. O processo inicial focou na coleta de dados de fontes que têm uma rica coleção de gravações linguísticas.

Os conjuntos de dados escolhidos incluem:

1. DoReCo: Oferece transcrições alinhadas por tempo para línguas com poucos recursos.
2. Multi-CAST: Uma coleção de fala anotada de várias línguas.
3. INEL: Foca na documentação de línguas indígenas.
4. COCOON: Um grande repositório de dados linguísticos de diferentes pesquisadores.

Cada um desses recursos foi cuidadosamente verificado para garantir que atendessem aos requisitos necessários para inclusão no novo conjunto de dados.

#Formatação e Anotação de Dados

Os dados anotados podem ter muitas formas. A maior parte dos dados no novo conjunto vem de formatos baseados em XML, particularmente ELAN. Esse formato organiza as anotações em diferentes camadas, permitindo fácil alinhamento temporal com o áudio. As anotações incluem partes essenciais como:

• Forma subjacente
• Forma superficial
• Transcrição
• Glosa
• ID único

O processo de coleta de dados incluiu a conversão de arquivos de áudio para um formato padrão e a organização das anotações de uma maneira que simplificasse o processamento.

#Dividindo o Conjunto de Dados

Uma vez que os dados foram compilados, precisaram ser divididos em conjuntos de treinamento, desenvolvimento e teste. Isso foi feito para manter o contexto de cada gravação, assegurando que os modelos desenvolvidos pudessem interpretar as informações de forma precisa.

As divisões foram baseadas no número de falas disponíveis para cada língua. Dependendo do número total de falas, o conjunto de dados foi dividido da seguinte forma:

1. Menos de 200 falas: Todos os dados vão para o conjunto de teste.
2. Entre 200 e 1.000 falas: 25% vai para o conjunto de desenvolvimento e o resto para o conjunto de teste.
3. Mais de 1.000 falas: Números fixos são alocados para cada conjunto, garantindo um bom equilíbrio para o treinamento do modelo.

Essa abordagem estruturada ajuda a manter a qualidade dos dados enquanto permite um treinamento eficaz dos modelos.

#Desenvolvimento de Modelos de Referência

Vários modelos de referência foram desenvolvidos para facilitar a extração de TIG da fala. O foco estava em modelos bem conhecidos usados em processamento de fala e linguagem natural.

#Modelos de Fim a Fim

Três das quatro tarefas envolvidas na geração de TIG compartilham semelhanças com o reconhecimento automático de fala (RAS). Métodos de treinamento padrão usados em RAS foram adaptados para funcionar nas previsões necessárias para TIG.

Diferentes tipos de modelos foram empregados, incluindo:

1. Modelos Auto-supervisionados: Esses modelos aprendem a partir de grandes quantidades de dados não rotulados.
2. Modelos Semi-supervisionados: Esses modelos utilizam tanto dados rotulados quanto não rotulados para treinamento.

No caso dos modelos auto-supervisionados, WavLM Large e XLS-R-300M foram usados. Esses modelos são conhecidos por sua precisão e eficiência em lidar com tarefas multilíngues, tornando-os particularmente adequados para as diversas línguas do conjunto de dados.

#Modelos em Cascata

Modelos em cascata também foram explorados, onde os melhores modelos de RAS forneciam saídas de transcrição que poderiam então ser alimentadas em modelos separados de texto para glosa. Dois modelos baseados em ByT5 foram usados para a última parte do processo.

Essa abordagem permite um melhor manejo das complexidades envolvidas na geração de TIG, mas pode levar a desafios com a propagação de erros. No entanto, resultados preliminares mostraram que esse método poderia melhorar a precisão das traduções.

#Resultados e Desempenho

Os resultados iniciais de desempenho dos modelos mostraram várias tendências. Por exemplo, modelos treinados em línguas que já tinham visto durante o treinamento se saíram melhor do que aqueles treinados em línguas não vistas. Essa tendência enfatiza os desafios enfrentados ao lidar com línguas de poucos recursos.

Além disso, foi descoberto que vocabulários pré-treinados tendem a ajudar nas tarefas de glosa e tradução. Modelos de tarefa única frequentemente superaram modelos de múltiplas tarefas, sugerindo que separar tarefas pode levar a uma melhor precisão geral.

#Discussão sobre Desafios e Trabalho Futuro

As descobertas destacam alguns dos desafios contínuos na melhoria da documentação de línguas ameaçadas. Embora certos sistemas mostrem promessa, o desempenho dos modelos ainda é menor do que o desejado em muitas tarefas.

Trabalhos futuros poderiam focar em mapear todas as transcrições para um vocabulário compartilhado, o que pode minimizar as diferenças entre as línguas. Pesquisadores também poderiam trabalhar no desenvolvimento de modelos que possam ter um bom desempenho sem treinamento prévio, ou seja, que consigam lidar com línguas que nunca foram explicitamente treinadas.

Há também uma necessidade de estar ciente das considerações éticas ao trabalhar com comunidades de línguas de poucos recursos. Os pesquisadores devem proceder com cautela, respeitando os direitos e a privacidade das pessoas representadas nos dados.

#Conclusão

Em resumo, essa nova tarefa de gerar TIG a partir da fala busca apoiar a documentação de línguas ameaçadas. A criação de um conjunto de dados estruturado marca um passo importante na compreensão e preservação dessas línguas. Ao desenvolver modelos eficazes, esse trabalho visa melhorar a qualidade dos recursos disponíveis para comunidades linguísticas em risco de perder seu patrimônio cultural.

Essa pesquisa estabelece as bases para futuros esforços destinados a refinar métodos de documentação de línguas, levando, em última análise, a uma maior compreensão e apreciação da diversidade linguística do mundo.