Construyendo reconocimiento de voz para lenguas indias

Crear tecnología que pueda entender el habla en varios idiomas es importante, sobre todo en un país diverso como India. Este proyecto se centra en reunir un conjunto de datos de habla que represente varios idiomas y dialectos indios. La meta es construir sistemas que puedan reconocer y trabajar con el lenguaje hablado en diferentes regiones.

#El Conjunto de Datos

Hemos recopilado una cantidad considerable de datos de habla, sumando más de 7348 horas. Estos datos incluyen diferentes tipos de habla, como habla leída (9%), habla extemporánea (espontánea) (74%) y habla conversacional (17%). Las grabaciones fueron hechas por 16237 hablantes de 145 distritos e incluyeron 22 idiomas de India.

#Estrategia de Recolección de datos

Para crear este conjunto de datos, seguimos un enfoque estructurado que incluyó:

1. Diversidad de Hablantes: Buscamos incluir hablantes de diferentes edades, géneros, niveles educativos y regiones. Esta diversidad ayuda a asegurar que el conjunto de datos represente a toda la población.

2. Variedad de Contenido: Nos aseguramos de que el contenido hablado cubriera múltiples dominios y temas. Esto evita la repetición y permite un vocabulario más rico.

3. Condiciones de Grabación: Recopilamos datos en varios entornos, incluidos lugares ruidosos, para imitar escenarios de uso real para sistemas de Reconocimiento de voz.

4. Planificación Estructurada: Desarrollamos un marco claro para la recolección de datos, que incluyó aplicaciones móviles y un repositorio de preguntas y temas para involucrar a los hablantes de manera efectiva.

#Modelo de Reconocimiento de Voz

Usando los datos recopilados, creamos un modelo de Reconocimiento Automático de Voz (ASR) llamado IndicASR. Este modelo puede trabajar con los 22 idiomas en los que nos enfocamos, permitiendo un mejor reconocimiento de la voz de diferentes partes de India.

#Desafíos Actuales en el Reconocimiento de Idiomas

Aunque ha habido avances en el reconocimiento de voz para idiomas como el inglés, no se puede decir lo mismo de muchos idiomas indios. Una razón clave es la falta de datos etiquetados para estos idiomas. Por lo tanto, nuestro proyecto aborda esta brecha directamente al recopilar y organizar un gran conjunto de datos de habla específicamente para idiomas indios.

#Proceso de Recolección de Datos

#Fase de Preparación

Antes de recopilar datos, tomamos varios pasos preparatorios:

• Creación de Preguntas y Escenarios: Diseñamos una variedad de preguntas y escenarios atractivos para obtener un habla natural de los participantes. Esto incluyó temas relacionados con la vida diaria, costumbres locales y conversaciones generales.

• Reclutamiento de Influencers Regionales: Reclutamos socios e influencers locales para ayudarnos a conectar con posibles hablantes en sus comunidades.

#Recolección de Datos en Campo

La recolección en el campo implicó varios pasos:

• Reclutamiento de Participantes: Se contrataron movilizadores locales para encontrar participantes que cumplieran con nuestros criterios de diversidad. Se informó a los participantes sobre el proyecto y su propósito.

• Uso de una Aplicación Móvil: Desarrollamos una app móvil para facilitar el proceso de grabación. Esta app permitió a los participantes realizar pequeñas tareas, como leer oraciones o responder preguntas.

• Directrices de Grabación: Los coordinadores estuvieron presentes durante la recolección de datos para ayudar a los participantes, asegurando que las grabaciones fueran de buena calidad.

#Control de Calidad

Para mantener la calidad de los datos recopilados, implementamos un robusto proceso de control de calidad:

1. Verificaciones Iniciales: Después de las grabaciones, los coordinadores realizaron verificaciones iniciales para confirmar la claridad y relevancia de las respuestas.

2. Equipo Centralizado de Control de Calidad: Un equipo dedicado revisó las grabaciones en busca de problemas, como ruido de fondo o respuestas incorrectas, asegurando que solo se usaran datos de alta calidad para el procesamiento posterior.

#Proceso de Transcripción

Transcribir los datos de audio fue un paso crucial. Usamos un sistema de transcripción de dos niveles:

• Nivel 1: Este nivel implicó transcribir exactamente lo que se dijo, capturando el flujo natural del habla.

• Nivel 2: El segundo nivel se centró en estandarizar el texto para alinearlo con las reglas del idioma adecuado, manteniendo la esencia del lenguaje hablado.

La transcripción es compleja, particularmente para idiomas con variaciones en la pronunciación, por lo que se desarrollaron directrices cuidadosas para guiar a los transcriptores.

#Potencial del Conjunto de Datos

Con este extenso conjunto de datos, hay muchas aplicaciones potenciales. Se puede usar para:

• Reconocimiento de Voz: Entrenar modelos para entender y transcribir mejor el lenguaje hablado en varios idiomas indios.

• Verificación de Hablantes: Identificar a diferentes hablantes en grabaciones de audio.

• Identificación de Idiomas: Reconocer qué idioma se está hablando en un clip de audio dado.

La rica diversidad en el conjunto de datos permite una mejora continua en la tecnología de voz y sirve como un recurso valioso para futuras investigaciones y aplicaciones.

#Conclusión

Nuestro proyecto de recopilación de datos de habla para idiomas indios es un paso significativo hacia la creación de sistemas de reconocimiento de voz más inclusivos y efectivos. Al centrarnos en hablantes y situaciones diversas, buscamos mejorar la tecnología que puede reconocer y entender la multitud de idiomas hablados en India.

Este conjunto de datos abrirá el camino para una mejor tecnología de comunicación y, en última instancia, ayudará a cerrar la brecha entre las personas y la tecnología a través de sus lenguas nativas. A medida que continuamos refinando nuestros métodos y recopilando más datos, esperamos ver avances que puedan beneficiar no solo a India, sino también a otras regiones multilingües en todo el mundo.