Avances en modelado 3D con técnicas de auto-supervisión
Nuevo método mejora la generación de modelos 3D a partir de fuentes 2D sin datos etiquetados.
― 6 minilectura
Tabla de contenidos
Self-Supervised Dual Contouring (SDC) es un nuevo método para crear modelos 3D detallados a partir de formas o imágenes 2D. Los métodos tradicionales suelen usar reglas complicadas y dependen mucho del entrenamiento supervisado, lo que significa que necesitan un montón de datos etiquetados ya existentes para aprender. Esto puede causar problemas como sesgos de los datos o dificultades para captar detalles intrincados de los objetos 3D.
Nuestra forma de hacerlo, SDC, cambia eso. En vez de depender de datos preetiquetados, creamos un marco que utiliza entrenamiento auto-supervisado. Esto significa que el modelo aprende de los datos que recibe sin necesidad de orientación externa. Este método no necesita Mallas de verdad, permitiendo que sea más flexible y adaptable en varias situaciones.
Contexto
Crear formas 3D a partir de imágenes 2D u otros formatos de datos es fundamental en campos como los gráficos por computadora y el modelado 3D. Se han desarrollado muchos métodos existentes a lo largo del tiempo. Por ejemplo, Marching Cubes es un método conocido para extraer mallas de superficie, pero a menudo tiene problemas para mantener las características nítidas. En cambio, Dual Contouring ha mostrado mejores resultados en mantener el detalle, pero todavía está limitado por su dependencia de la precisión de los datos de entrada.
Recientes avances han introducido métodos basados en aprendizaje que intentan predecir formas de malla usando redes neuronales. Estos métodos pueden potencialmente dar mejores resultados, pero a menudo necesitan depender del aprendizaje supervisado con datos precomputados. Nuestro marco SDC trata de eliminar esta dependencia, buscando así un mejor rendimiento.
Marco SDC
SDC aplica un nuevo enfoque utilizando dos funciones de pérdida auto-supervisadas. Estas funciones funcionan comparando la malla predicha con la Forma de entrada sin necesidad de datos de verdad. La primera función de pérdida se centra en las distancias entre puntos de la malla y los puntos de datos de entrada. La segunda función alinea las normales de las caras de la malla con las normales de la entrada.
El objetivo de estas funciones de pérdida es mantener la malla generada alineada con la forma de entrada. Esto lleva a una mejor precisión y detalle, especialmente al tratar con formas complejas. El resultado es una salida más consistente incluso cuando los datos de entrada tienen imperfecciones.
Metodología
Entrenamiento Auto-Supervisado
El entrenamiento auto-supervisado implica dos componentes principales. Primero, definimos una pérdida basada en distancia que minimiza las diferencias entre las distancias predichas en la malla y las distancias reales que se delinean en los datos de entrada. Esto ayuda a mantener la integridad de la forma que se está creando.
En segundo lugar, incluimos una pérdida de consistencia Normal, que asegura que las normales de las superficies en la malla sean consistentes con las formas definidas por los datos de entrada. Esta función ayuda a capturar características afiladas de manera más efectiva, llevando a una mejor representación de geometrías complejas.
Integración con Redes Implicitas Profundas
También podemos incorporar SDC con Redes Implicitas Profundas (DINs). Estas redes ayudan a representar formas 3D como funciones que pueden generar valores de distancia firmada para cualquier punto en el espacio. Al usar SDC como un método de regularización, podemos mejorar la calidad de las formas implícitas producidas por DINs.
El entrenamiento tradicional de DIN normalmente opera de forma aislada del proceso de mallas. Sin embargo, con SDC, podemos optimizar tanto la función implícita como la malla de salida juntas. Esto mejora la calidad y el detalle general de las formas reconstruidas.
Aplicaciones
Reconstrucción de Mallas a partir de Imágenes
Una de las aplicaciones emocionantes de SDC es en la reconstrucción de mallas a partir de imágenes. Esta técnica puede ser especialmente útil en áreas como la realidad virtual o los videojuegos, donde a menudo se necesita crear modelos 3D a partir de fuentes 2D. Al entrenar el modelo usando imágenes y las mallas resultantes creadas a través de SDC, podemos lograr reconstrucciones de alta calidad de manera eficiente.
Mejora de la Preservación de Características
SDC ha mostrado excelentes resultados comparado con varios métodos existentes en la preservación de características de las mallas reconstruidas. Minimiza problemas de auto-intersección a menudo vistos en métodos de contorneo tradicionales, lo que ayuda a mantener la apariencia de bordes afilados y estructuras complejas.
Experimentos
Hicimos varias pruebas para evaluar el rendimiento de SDC frente a otros métodos existentes. En estas pruebas, SDC superó a las técnicas convencionales, ofreciendo una mejor generalización a través de varios datos de entrada. Los resultados indicaron que SDC produjo consistentemente mallas con menos auto-intersecciones y mejor adherencia a las formas deseadas.
Métricas de Evaluación
Para evaluar la calidad de las mallas reconstruidas, usamos varias métricas. Estas incluyen la Distancia Chamfer, que mide cuán de cerca la malla predicha coincide con la forma real, y la Consistencia Normal, que verifica cuán bien las normales calculadas se alinean con los valores esperados.
Resultados
En nuestros experimentos, SDC mostró mejoras notables. Por ejemplo, al usar SDC para la generación de mallas a partir de formas de entrada, observamos que mantenía mejor las características y reducía las auto-intersecciones en comparación con otros métodos.
En tareas que involucraban funciones implícitas, SDC también demostró un mejor rendimiento. Produjo consistentemente salidas más limpias, demostrando su robustez frente al ruido y las irregularidades de entrada. Esto hizo que SDC fuera una opción confiable para aplicaciones que requieren reconstrucciones de formas de alta calidad.
Direcciones Futuras
Aunque SDC muestra promesas, todavía hay áreas para mejorar. Una dirección potencial es explorar rejillas adaptativas dentro del marco de aprendizaje. Esto permitiría mallas de mayor resolución sin aumentar significativamente la carga computacional.
Otra área a investigar es establecer condiciones para asegurar que las superficies producidas por SDC sean manifold y estén libres de auto-intersecciones. Esto podría llevar a modelos aún más confiables y precisos.
Conclusión
Self-Supervised Dual Contouring representa un avance significativo en el campo del modelado 3D. Al eliminar la necesidad de entrenamiento supervisado y centrarse en métodos auto-supervisados, SDC puede crear mallas de alta calidad y detalladas con menos problemas. Los resultados positivos de los experimentos sugieren que SDC será beneficioso en muchas áreas, incluyendo diseño de juegos, realidad virtual y más.
A medida que la tecnología sigue evolucionando, métodos como SDC probablemente jugarán un papel crucial en dar forma al futuro de los gráficos y el modelado 3D.
Título: Self-Supervised Dual Contouring
Resumen: Learning-based isosurface extraction methods have recently emerged as a robust and efficient alternative to axiomatic techniques. However, the vast majority of such approaches rely on supervised training with axiomatically computed ground truths, thus potentially inheriting biases and data artifacts of the corresponding axiomatic methods. Steering away from such dependencies, we propose a self-supervised training scheme for the Neural Dual Contouring meshing framework, resulting in our method: Self-Supervised Dual Contouring (SDC). Instead of optimizing predicted mesh vertices with supervised training, we use two novel self-supervised loss functions that encourage the consistency between distances to the generated mesh up to the first order. Meshes reconstructed by SDC surpass existing data-driven methods in capturing intricate details while being more robust to possible irregularities in the input. Furthermore, we use the same self-supervised training objective linking inferred mesh and input SDF, to regularize the training process of Deep Implicit Networks (DINs). We demonstrate that the resulting DINs produce higher-quality implicit functions, ultimately leading to more accurate and detail-preserving surfaces compared to prior baselines for different input modalities. Finally, we demonstrate that our self-supervised losses improve meshing performance in the single-view reconstruction task by enabling joint training of predicted SDF and resulting output mesh. We open-source our code at https://github.com/Sentient07/SDC
Autores: Ramana Sundararaman, Roman Klokov, Maks Ovsjanikov
Última actualización: 2024-05-28 00:00:00
Idioma: English
Fuente URL: https://arxiv.org/abs/2405.18131
Fuente PDF: https://arxiv.org/pdf/2405.18131
Licencia: https://creativecommons.org/licenses/by/4.0/
Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.
Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.