Neurónové radiančné pole (NeRF)

ML model, ktorý z fotografií vykresľuje 3D scény z ľubovoľného uhla pohľadu. Produkuje vierohodné obrázky, ale nie presnú geometriu, na rozdiel od fotogrametrie.

Čo je Neural Radiance Field?

Neural Radiance Field (NeRF) je model strojového učenia, ktorý sa učí vzhľad scény z kolekcie prekrývajúcich sa fotografií a potom renderuje fotorealistické pohľady z ľubovoľného hľadiska v rámci alebo v blízkosti nasnímaného priestoru. Na rozdiel od tradičného 3D modelovania, ktoré vyžaduje explicitnú geometriu (siete, povrchy, oblaky bodov), NeRF kóduje scénu ako spojitú funkciu vnútri neurónovej siete. Keď túto funkciu požiadate o smer kamery a pozíciu, vráti žiar (svetlo) emitované smerom kamery v danom bode. Výsledkom je 3D reprezentácia scény, ktorá rekonštruuje drobné detaily a osvetlenie, ale nedáva žiadne garancie geometrickej presnosti ani dimenzionálnej korektnosti.

Ako technicky funguje NeRF?

NeRF reprezentuje scénu pomocou viacúrovňovej neurónovej siete, ktorá prijíma päť vstupov: 3D pozíciu (x, y, z) a smer pohľadu (theta, phi), a výstupuje dve hodnoty: objemovú hustotu a žiar (farbu). Počas tréningu sieť je kŕmená stovkami príkladových rayov z vstupných fotografií, každý označený skutočnou farbou pixelu, ktorú má produkovať. Sieť prispôsobuje svoje váhy, aby minimalizovala rozdiel medzi svojimi predikciami a pravdivými hodnotami pixelov. Po tréningu sieť môže syntetizovať pohľady z nových pozícií kamery, vysielajúc raye cez naučenú scénu a integrujúc predikcie žiaru siete. Proces je výpočtovo nákladný: originálny paper Mildenhall et al. 2020 vyžadoval 1 až 2 dni GPU času na scénu. Nedávne zlepšenia ako Instant-NeRF redukujú to na minúty.

Ako sa NeRF líši od fotogrammetrie?

Rozdiel je dôležitý pre architektonickú prax. Fotogrammetria (structure-from-motion) konvertuje prekrývajúce sa fotografie na oblak bodov, sieť alebo voxelový objem: explicitnú, merateľnú geometriu, ktorá ostáva konštantná bez ohľadu na uhol pohľadu. Fotogrammetrický model môže byť importovaný do BIM softvéru, dimenzie môžu byť overené a geometria je opakovateľná medzi projektami a klientami. NeRF učí sa závislú od pohľadu reprezentáciu, ktorá optimizuje len vizuálnu plauzibilitu na nasnímaných hľadiskách, na rozdiel od meranej geometrie alebo generatívnych obrazov. Jeho neurónová funkcia nemôže priamo odpovedať „Aká je distanca od okna do rohu?“ alebo „Je fasáda rovná alebo krivá?“. Fotogrammetria odpovedá na takéto otázky spoľahlivo; NeRF nie.

AtribútNeRFFotogrammetria
VýstupNeurónová renderovacia funkcia (závislá od pohľadu)Oblak bodov, sieť alebo voxelová geometria (nezávislá od pohľadu)
Geometrická presnosťPlauzibilná, ale neverenáMerateľná; môže byť validovaná
OpakovateľnosťIba na mieste nasnímaniaGeometria prenosná do ľubovoľného softvéru
Dimenzionálne otázkyNie spoľahlivoSpoľahlivo s správnou kalibráciou
Čas obrábkyMinúty až hodiny (s akceleráciou)Hodiny až dni (závisí od objemu dát)

Ako sa NeRF porovnáva s Gaussian splatting?

Obe sú neurónové 3D rekonštrukčné metódy trénované z viacpohľadových fotografií a obe vyhýbajú ručnému 3D modelovaniu. Hlavný rozdiel je reprezentácia: NeRF používa spojitú implicitnú funkciu (neurónovú sieť, ktorú husto požiadate), zatiaľ čo Gaussian splatting používa explicitnú množinu naučených 3D Gaussianov, ktoré rasterizujú priamo do 2D. To robí Gaussian splatting oveľa rýchlejším v renderovaní (často real-time pri 60 FPS v VR viewer), ale môže vykazovať popping a temporálne artefakty, keď kamera pohybuje sa cez alebo blízko splatu. NeRF je pomalší v renderovaní (často 5 až 30 sekúnd na frame), ale produkuje hladnejšie, fotorealistickejšie jednotlivé obrazy. Pre architektonickú vizualizáciu vyberte NeRF, ak chcete najlepší vyzerajúci statický render pre klientové prezentácie alebo dokumentáciu dedičiny; vyberte Gaussian splatting, ak potrebujete interaktívne real-time walkthroughy alebo VR headset performance.

Aké sú limity a poctivé prípady použitia?

NeRF exceluje v renderovaní z nových hľadísk, ale neprodukuje meraný survey. Klient, ktorý vidí NeRF walkthrough okolo ich budovy, by mal rozumieť to ako vizualizáciu vzhľadu, nie dôkaz dimenzionálnej súladnosti. NeRF nemôže byť použitý na overenie, že okno pasuje do otvoru, že schodisko spĺňa normy alebo že fasáda spĺňa zónové setbacky. Je tiež hladný na tréningové dáta: slabé osvetlenie, repetitívne vzory alebo tenké prvky (ako railingy) často vyvolávajú artefakty. Proces nasnímania vyžaduje veľa prekrývajúcich sa fotografií z opatrnej cesty okolo subjektu; ručná fotografia funguje, ale drone alebo struktúrované cesty produkujú lepšie výsledky. Pre 50-metrovú fasádu s komplexnou geometriou môžete potrebovať 100 až 200 obrazov a niekoľko hodín tréningu.

AplikáciaVhodná pre NeRF?Prečo áno alebo nie
Vizualizácia kontextu miestaÁnoJeden casual photoshoot; klient prechádza existujúcim okolím v VR.
Dokumentácia dedičinovej budovyÁnoRýchly 3D capture bez intrúzivného skenovania; fotorealistická archivácia.
Interiérový walkthroughÁnoFotoshoot jednej pokoja produkuje presvedčivý VR tour.
Dimenzionálna verifikáciaNieNeurónová reprezentácia nie je metrický spoľahlivá.
Review súladnosti s normamiNieGeometria je implikovaná, nie explicitná; nemôže merať kritické dimenzie.
Import as-built do BIMNieNeRF výstup nie je geometrický; nemôže byť modelovaný alebo editovaný.
Real-estate listingÁno3D tour z standardného photoshootu; rýchlejšie a lacnejšie ako drone/LiDAR.

Aké nástroje a workflowy by mali architekti poznať?

Konsumérske a profesionálne NeRF nástroje rýchlo maturujú. Web-based služby (Luma AI, Cinematic 360, RealityScan) akceptujú upload fotografií a výstupujú interaktívne 3D modely bez potreby GPU setupu; obrábka trvá hodiny až dni. Open-source frameworky (Instant-NeRF, NeRF-PyTorch) bežia na lokálnych alebo cloud GPU a ponúkajú viac kontroly nad tréningovými parametrami. Niektoré fotogrammetrické platformy (Metashape, Pix4D) dodávajú neurónové renderovanie ako alternatívny výstupný mód. Pre architektov praktický workflow je: nasnímať 50 až 100 prekrývajúcich sa fotografií smartphoneom alebo DSLR v dobrom dennom svetle; uploadovať do cloud NeRF služby; v 24 až 48 hodín prijať navigovateľný 3D model, ktorý môžete embedovať v prezentácii, VR platforme alebo klientovej webstrane. Walkthrough video môže byť generované automaticky z NeRF modelu. Cena je typicky 5 až 50 eur za scénu.

Integrácia s design workflowom sa vyvíja. Niektoré architektonické praxe fotografujú existujúce miesta, trénujú NeRF a potom komponujú klientov design do NeRF kontextu pomocou 3D editora alebo blending toola. To dodáva fotorealistickú integráciu miesta rýchlejšie než manuálne textúrovanie fotogrammetrického mesh-u alebo renderovanie designu proti backdrop obrazu.

Často kladené otázky

Ako sa NeRF líši od fotogrametrie?
Fotogrametria konvertuje prekrývajúce sa fotografie na mračno bodov alebo sieť: meranú geometriu, ktorá je konzistentná zo všetkých uhlov pohľadu. NeRF sa učí neurónovú sieť, ktorá generuje vierohodné pohľady z ľubovoľného uhla, ale základná reprezentácia je implicitná a závislá od pohľadu. Fotogrametria vytvára opätovne použiteľný geometrický model; NeRF vytvára renderovací engine, ktorý funguje iba na danom mieste snímania. Ani jedno nenahrádza geodetický prieskum alebo výkresy.
Aký je rozdiel medzi NeRF a Gaussian splatting?
Obe sú neurónové reprezentácie 3D scén trénované z prekrývajúcich sa fotografií. NeRF kóduje scénu ako spojitú volumetrickú funkciu (neurónovú sieť), ktorú ray tracer dopytuje; je pomalý na vykreslenie, ale spojitý a hladký. Gaussian splatting reprezentuje scénu ako milióny naučených 3D gaussovských splatov, ktoré sa rasterizujú do 2D; vykresľuje oveľa rýchlejšie, ale je diskrétny a môže vykazovať artefakty. Pre architektonickú vizualizáciu je NeRF vhodnejší pre fotorealistické statické obrázky; Gaussian splatting je vhodnejší pre interaktívne prechody.
Môže NeRF nahradiť geodetický prieskum alebo dokumentáciu skutočného stavu?
Nie. NeRF rekonštruuje vzhľad, nie geometriu. Vyniká vo vykresľovaní nových pohľadov, ale hrúbka steny, presné súradnice rohu budovy alebo rozmery okna fasády nie sú spoľahlivo zachytené. Pre dokumentáciu pamiatok alebo vizualizáciu pre klienta je NeRF výborný. Pre projektové rozhodnutia alebo overenie súladu s predpismi potrebujete tradičný prieskum alebo fotogrametrické mračno bodov s rozmerovou verifikáciou.
Koľko fotografií NeRF potrebuje?
Zvyčajne 20 až 100+ prekrývajúcich sa fotografií z rôznych uhlov, v závislosti od zložitosti scény a požadovanej kvality. Obrázky musia mať výrazné prekrytie a byť nasnímané z približne kruhovej alebo špirálovej dráhy okolo objektu. Dobre osvetlené a textúrovo bohaté prostredia konvergujú rýchlejšie ako tmavé alebo geometricky jednoduché priestory. Čas spracovania sa pohybuje od minút po hodiny na GPU.
Aké sú praktické aplikácie NeRF v architektúre?
Zachytenie kontextu lokality: fotografovanie mestského prostredia bežným fotoaparátom a následné prechádzanie modelom vo VR na pochopenie slnečného svetla a výhľadov. Dokumentácia pamiatok: rýchle 3D zachytenie existujúcich budov alebo interiérov bez invazívneho skenovania. Vizualizácia pre klienta: nové videá s prechodmi z ľubovoľného uhla, vypočítané po jednom fotení. Vylepšenie realitných inzerátov: 3D prehliadky z bežného fotenia bez dronu alebo LiDAR.
Aký softvér alebo nástroje môžem použiť na trénovanie a nasadenie NeRF?
Open-source implementácie zahŕňajú NeRF-PyTorch a Instant-NeRF (NVIDIA); cloudové služby ako Luma AI a Cinematic 360 ponúkajú webové trénovanie a prezeranie NeRF. Niektorý fotogrametrický softvér (napr. Metashape) začína pridávať neurónové režimy vykresľovania. Pre architektonické použitie je prekážkou zvyčajne nastavenie a interpretácia, nie dostupnosť softvéru, takže začnite so spravovanou cloudovou službou.