Simple Science

La science de pointe expliquée simplement

# Informatique# Graphisme# Vision par ordinateur et reconnaissance des formes

Avancées dans les techniques de rendu glossy en temps réel

Une nouvelle méthode améliore le rendu en temps réel pour les surfaces brillantes dans un éclairage dynamique.

― 8 min lire


Révolutionner le rendu enRévolutionner le rendu entemps réeldynamiques.reflets brillants dans les scènesUne nouvelle méthode améliore les
Table des matières

Rendre des scènes avec des effets d'éclairage complexes, surtout celles avec des surfaces brillantes, c'est pas de la tarte en infographie. Les méthodes classiques galèrent souvent avec la lumière indirecte à haute fréquence et ne peuvent traiter que des configurations d'éclairage spécifiques ou des angles de vue. Le but de ce boulot, c'est de créer un nouveau moyen d'obtenir un rendu en temps réel de haute qualité qui a l'air naturel et dynamique dans différentes conditions d'éclairage.

Le Défi de l'Illumination Globale Brillante

L'illumination globale brillante, c'est comment la lumière se comporte quand elle se reflète sur des surfaces brillantes et interagit avec l'environnement. Avoir des réflexions brillantes réalistes, c'est essentiel pour rendre une scène crédible. Les méthodes utilisées jusqu'ici ont leurs limites. Elles demandent souvent beaucoup de données ou ne fonctionnent qu'avec des points de vue fixes, ce qui les rend pas pratiques pour des applications en temps réel comme les jeux ou les simulations.

Transfert de Radiance Précalculé (PRT)

Le Transfert de Radiance Précalculé (PRT), c'est une méthode conçue pour rendre le rendu efficace en calculant comment la lumière se déplace dans une scène avant le rendu réel. Après ce précalcul, la scène peut être éclairée avec différentes conditions d'éclairage en temps réel. Cependant, les techniques PRT classiques sont généralement limitées à des représentations de lumière à basse fréquence, qui ne capturent pas les nuances des effets à haute fréquence, comme ceux des matériaux brillants.

Les Limites des Techniques Traditionnelles

Beaucoup de techniques actuelles dépendent des ondelettes pour capturer la lumière à haute fréquence, mais ces méthodes nécessitent beaucoup plus de données. Du coup, elles ne permettent souvent que des angles de vue fixes ou des situations d'éclairage simplifiées. La complexité des données nécessaires pour représenter avec précision les interactions lumineuses est compliquée-c'est ce qu'on appelle la "malédiction de la dimensionnalité."

Le défi, c'est de stocker et de rendre un tenseur de transport de lumière haute résolution qui s'adapte aux variations de lumière et de vue, ce qui entraîne une augmentation significative de la taille des données qui rend le rendu en temps réel difficile.

Introduction au PRT Hybride Neuronal-Ondelettes

Ce travail propose une nouvelle approche qui combine réseaux neuronaux et techniques d'ondelettes pour répondre aux limitations existantes du PRT. En utilisant cette méthode hybride, on vise à obtenir une illumination indirecte à haute fréquence, permettant un rendu plus dynamique et réaliste à mesure que le point de vue change.

Apprentissage du Transport de Lumière

L'objectif est de modéliser la fonction de transport de lumière en utilisant des ondelettes Haar, ce qui permet une représentation plus efficace du comportement de la lumière dans une scène. Pour ça, on utilise un petit réseau neuronal qui apprend le transport de lumière basé sur diverses caractéristiques de la scène, comme la position, la direction et les propriétés des matériaux.

Optimisation du Processus

Pour que ça fonctionne, on entraîne le réseau avec plusieurs images de la scène sous différents éclairages et angles de vue. Cet entraînement permet au système de bien comprendre les caractéristiques clés du transport de lumière, même dans des scénarios complexes avec des réflexions et des rebonds de lumière sur des surfaces brillantes.

Performance de Rendu en Temps Réel

Notre méthode nous permet de rendre des scènes en temps réel avec des résolutions allant jusqu'à 512x512 pixels à 24 images par seconde (FPS) ou 800x600 pixels à 13 FPS. Cette performance est atteinte tout en préservant des effets difficiles comme les réflexions dépendantes de la vue et les caustiques. La capacité à rendre ces effets complexes en temps réel représente un progrès significatif en rendu graphique.

Le Processus de Rendu

Le processus de rendu commence par le précalcul du transport de lumière basé sur les caractéristiques apprises. Selon la lumière de l'environnement, le système calcule l'image finale en utilisant des produits scalaires, qui sont rendus efficaces grâce à l'orthonormalité des ondelettes utilisées. Cela permet une pipeline de rendu optimisée capable de s'adapter rapidement aux changements de lumière et de vue.

Les Avantages de Notre Approche

La nouvelle méthode hybride offre plusieurs avantages clés par rapport aux techniques traditionnelles :

  1. Détails à Haute Fréquence : Notre méthode capture des détails complexes dans les réflexions que les anciennes techniques PRT ont du mal à gérer, surtout sur les surfaces brillantes.
  2. Points de Vue Dynamiques : Le système permet des changements en temps réel du point de vue, ce qui le rend idéal pour les applications interactives.
  3. Stockage de Données Compact : En utilisant une représentation de réseau neuronal combinée avec des ondelettes, les besoins en stockage de données sont considérablement réduits tout en maintenant une grande précision.

Comparaison avec les Méthodes Existantes

Tester notre méthode par rapport à des approches précédentes, comme le PRT Neuronal, met en avant sa capacité à mieux gérer les effets d'éclairage indirect à haute fréquence. Par exemple, en rendant une scène de cuisine, notre système capture avec précision les réflexions brillantes et évite les décalages de couleur vus dans d'autres méthodes, offrant des résultats plus naturels.

Métriques d'Évaluation

Pour évaluer la performance, on regarde des métriques comme le PSNR (Rapport Signal sur Bruit de Crête), SSIM (Index de Similarité Structurelle) et LPIPS (Similitude de Patch d'Image Perceptuel Apprise). Notre méthode surpasse constamment les autres dans différentes scènes et conditions d'éclairage.

Le Rôle du Précalcul

Le précalcul est crucial pour notre approche. Pendant cette étape, on rend une variété d'images sous différentes cartes d'environnement et angles de vue. Cela forme un ensemble de données d'entraînement robuste que le réseau neuronal utilise pour apprendre, s'assurant qu'il peut bien généraliser à de nouvelles conditions d'éclairage et de vue.

Stratégie d'échantillonnage adaptatif

Pour optimiser le processus d'apprentissage, on utilise une stratégie d'échantillonnage adaptatif. Cela implique de se concentrer sur l'échantillonnage des régions où la lumière change ou où des détails à haute fréquence apparaissent, garantissant que le réseau neuronal apprend efficacement des parties les plus pertinentes de la scène.

Résultats de Rendu

Les résultats de notre méthode montrent ses capacités à capturer des effets d'éclairage complexes, illustrés à travers diverses scènes. Des détails fins comme les caustiques et les réflexions brillantes sont rendus sans perte de qualité, offrant un résultat visuel séduisant qui paraît naturel.

Comparaison Visuelle avec des Rendus par Traçage de Chemin

En comparant nos résultats avec des images rendues par traçage de chemin prises dans le même temps, notre méthode offre une qualité supérieure pour les détails brillants. Tandis que le traçage de chemin vise l'exactitude, il rate souvent les détails plus fins dans les réflexions, alors que notre technique capture ces subtilités.

Limitations et Travail Futur

Bien que notre méthode montre une amélioration substantielle par rapport aux techniques précédentes, il y a encore des limites. Par exemple, les effets à haute fréquence comme les miroirs peuvent ne pas toujours être reproduits parfaitement. Explorer d'autres représentations et optimiser pour différents matériaux et complexités de scène pourrait encore améliorer la performance.

Explorer des Représentations Plus Efficaces

Les travaux futurs pourraient impliquer de trouver des moyens plus efficaces de représenter le transport de lumière directement sur les surfaces des scènes, augmentant potentiellement la fidélité tout en réduisant la charge computationnelle. De plus, enquêter sur d'autres formes de représentations neuronales pourrait repousser les limites du rendu en temps réel.

Conclusion

Ce travail représente une avancée significative dans le rendu en temps réel, surtout en ce qui concerne l'illumination globale brillante. En combinant des réseaux neuronaux modernes avec des techniques d'ondelettes traditionnelles, on aborde avec succès des défis de longue date dans le domaine, proposant une manière d'obtenir des effets d'éclairage indirect à haute fréquence dans des scénarios dynamiques.

L'avenir semble prometteur alors qu'on continue d'explorer de nouvelles techniques et méthodes qui peuvent encore améliorer la qualité et l'efficacité du rendu dans des environnements complexes.

Source originale

Titre: Neural Free-Viewpoint Relighting for Glossy Indirect Illumination

Résumé: Precomputed Radiance Transfer (PRT) remains an attractive solution for real-time rendering of complex light transport effects such as glossy global illumination. After precomputation, we can relight the scene with new environment maps while changing viewpoint in real-time. However, practical PRT methods are usually limited to low-frequency spherical harmonic lighting. All-frequency techniques using wavelets are promising but have so far had little practical impact. The curse of dimensionality and much higher data requirements have typically limited them to relighting with fixed view or only direct lighting with triple product integrals. In this paper, we demonstrate a hybrid neural-wavelet PRT solution to high-frequency indirect illumination, including glossy reflection, for relighting with changing view. Specifically, we seek to represent the light transport function in the Haar wavelet basis. For global illumination, we learn the wavelet transport using a small multi-layer perceptron (MLP) applied to a feature field as a function of spatial location and wavelet index, with reflected direction and material parameters being other MLP inputs. We optimize/learn the feature field (compactly represented by a tensor decomposition) and MLP parameters from multiple images of the scene under different lighting and viewing conditions. We demonstrate real-time (512 x 512 at 24 FPS, 800 x 600 at 13 FPS) precomputed rendering of challenging scenes involving view-dependent reflections and even caustics.

Auteurs: Nithin Raghavan, Yan Xiao, Kai-En Lin, Tiancheng Sun, Sai Bi, Zexiang Xu, Tzu-Mao Li, Ravi Ramamoorthi

Dernière mise à jour: 2023-07-12 00:00:00

Langue: English

Source URL: https://arxiv.org/abs/2307.06335

Source PDF: https://arxiv.org/pdf/2307.06335

Licence: https://creativecommons.org/licenses/by/4.0/

Changements: Ce résumé a été créé avec l'aide de l'IA et peut contenir des inexactitudes. Pour obtenir des informations précises, veuillez vous référer aux documents sources originaux dont les liens figurent ici.

Merci à arxiv pour l'utilisation de son interopérabilité en libre accès.

Plus d'auteurs

Articles similaires