UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES

Provided are computing systems, methods, and platforms that infer an object shape from an image using a neural radiance field (NeRF) model. A NeRF model can infer a 3D shape from a 2D image by performing a plurality of iterations to generate a plurality of sample 2D images of a 3D scene. For each it...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: SOUNTSOV, Pavel, HOFFMAN, Matthew, LEE, Benjamin Sang, LEE, Tuan Anh, RIFKIN, Ryan, SUTER, Christopher
Format: Patent
Sprache:eng ; fre
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
container_end_page
container_issue
container_start_page
container_title
container_volume
creator SOUNTSOV, Pavel
HOFFMAN, Matthew
LEE, Benjamin Sang
LEE, Tuan Anh
RIFKIN, Ryan
SUTER, Christopher
description Provided are computing systems, methods, and platforms that infer an object shape from an image using a neural radiance field (NeRF) model. A NeRF model can infer a 3D shape from a 2D image by performing a plurality of iterations to generate a plurality of sample 2D images of a 3D scene. For each iteration, an object code can be sampled from a posterior distribution of learned priors on NeRF models associated with the 3D scene, the object code can be processed with a hypernetwork to generate a set of NeRF weights from the object code, and a NeRF model with the set of NeRF weights predicted by the hypernetwork can generate a sample 2D image of the 3D scene. The sample 2D images generated during the iterations can be provided as an output. L'invention concerne des systèmes, des procédés et des plates-formes informatiques qui déduisent une forme d'un objet à partir d'une image à l'aide d'un modèle de champ de radiance neuronal (NeRF). Un modèle NeRF peut déduire une forme 3D à partir d'une image 2D en effectuant une pluralité d'itérations de façon à générer une pluralité d'images 2D échantillons d'une scène 3D. Pour chaque itération, un code d'objet peut être échantillonné à partir d'une distribution postérieure d'a priori par apprentissage sur des modèles NeRF associés à la scène 3D. Le code d'objet peut être traité avec un hyper-réseau de façon à générer un ensemble de pondérations NeRF à partir du code d'objet. Un modèle NeRF contenant l'ensemble de pondérations NeRF prédites par l'hyper-réseau peut générer une image 2D échantillon de la scène 3D. Les images 2D échantillons générées pendant les itérations peuvent être transmises à titre de sortie.
format Patent
fullrecord <record><control><sourceid>epo_EVB</sourceid><recordid>TN_cdi_epo_espacenet_WO2024086333A1</recordid><sourceformat>XML</sourceformat><sourcesystem>PC</sourcesystem><sourcerecordid>WO2024086333A1</sourcerecordid><originalsourceid>FETCH-epo_espacenet_WO2024086333A13</originalsourceid><addsrcrecordid>eNrjZDAP9XN2DQpx9PQLidR1DHcMclXw9HNzDXIFCiv4uykYuygEezgGuAYruAX5-yoYuSh4-jq6uwbzMLCmJeYUp_JCaW4GZTfXEGcP3dSC_PjU4oLE5NS81JL4cH8jAyMTAwszY2NjR0Nj4lQBAK16KJ4</addsrcrecordid><sourcetype>Open Access Repository</sourcetype><iscdi>true</iscdi><recordtype>patent</recordtype></control><display><type>patent</type><title>UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES</title><source>esp@cenet</source><creator>SOUNTSOV, Pavel ; HOFFMAN, Matthew ; LEE, Benjamin Sang ; LEE, Tuan Anh ; RIFKIN, Ryan ; SUTER, Christopher</creator><creatorcontrib>SOUNTSOV, Pavel ; HOFFMAN, Matthew ; LEE, Benjamin Sang ; LEE, Tuan Anh ; RIFKIN, Ryan ; SUTER, Christopher</creatorcontrib><description>Provided are computing systems, methods, and platforms that infer an object shape from an image using a neural radiance field (NeRF) model. A NeRF model can infer a 3D shape from a 2D image by performing a plurality of iterations to generate a plurality of sample 2D images of a 3D scene. For each iteration, an object code can be sampled from a posterior distribution of learned priors on NeRF models associated with the 3D scene, the object code can be processed with a hypernetwork to generate a set of NeRF weights from the object code, and a NeRF model with the set of NeRF weights predicted by the hypernetwork can generate a sample 2D image of the 3D scene. The sample 2D images generated during the iterations can be provided as an output. L'invention concerne des systèmes, des procédés et des plates-formes informatiques qui déduisent une forme d'un objet à partir d'une image à l'aide d'un modèle de champ de radiance neuronal (NeRF). Un modèle NeRF peut déduire une forme 3D à partir d'une image 2D en effectuant une pluralité d'itérations de façon à générer une pluralité d'images 2D échantillons d'une scène 3D. Pour chaque itération, un code d'objet peut être échantillonné à partir d'une distribution postérieure d'a priori par apprentissage sur des modèles NeRF associés à la scène 3D. Le code d'objet peut être traité avec un hyper-réseau de façon à générer un ensemble de pondérations NeRF à partir du code d'objet. Un modèle NeRF contenant l'ensemble de pondérations NeRF prédites par l'hyper-réseau peut générer une image 2D échantillon de la scène 3D. Les images 2D échantillons générées pendant les itérations peuvent être transmises à titre de sortie.</description><language>eng ; fre</language><subject>CALCULATING ; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS ; COMPUTING ; COUNTING ; PHYSICS</subject><creationdate>2024</creationdate><oa>free_for_read</oa><woscitedreferencessubscribed>false</woscitedreferencessubscribed></display><links><openurl>$$Topenurl_article</openurl><openurlfulltext>$$Topenurlfull_article</openurlfulltext><thumbnail>$$Tsyndetics_thumb_exl</thumbnail><linktohtml>$$Uhttps://worldwide.espacenet.com/publicationDetails/biblio?FT=D&amp;date=20240425&amp;DB=EPODOC&amp;CC=WO&amp;NR=2024086333A1$$EHTML$$P50$$Gepo$$Hfree_for_read</linktohtml><link.rule.ids>230,308,776,881,25543,76293</link.rule.ids><linktorsrc>$$Uhttps://worldwide.espacenet.com/publicationDetails/biblio?FT=D&amp;date=20240425&amp;DB=EPODOC&amp;CC=WO&amp;NR=2024086333A1$$EView_record_in_European_Patent_Office$$FView_record_in_$$GEuropean_Patent_Office$$Hfree_for_read</linktorsrc></links><search><creatorcontrib>SOUNTSOV, Pavel</creatorcontrib><creatorcontrib>HOFFMAN, Matthew</creatorcontrib><creatorcontrib>LEE, Benjamin Sang</creatorcontrib><creatorcontrib>LEE, Tuan Anh</creatorcontrib><creatorcontrib>RIFKIN, Ryan</creatorcontrib><creatorcontrib>SUTER, Christopher</creatorcontrib><title>UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES</title><description>Provided are computing systems, methods, and platforms that infer an object shape from an image using a neural radiance field (NeRF) model. A NeRF model can infer a 3D shape from a 2D image by performing a plurality of iterations to generate a plurality of sample 2D images of a 3D scene. For each iteration, an object code can be sampled from a posterior distribution of learned priors on NeRF models associated with the 3D scene, the object code can be processed with a hypernetwork to generate a set of NeRF weights from the object code, and a NeRF model with the set of NeRF weights predicted by the hypernetwork can generate a sample 2D image of the 3D scene. The sample 2D images generated during the iterations can be provided as an output. L'invention concerne des systèmes, des procédés et des plates-formes informatiques qui déduisent une forme d'un objet à partir d'une image à l'aide d'un modèle de champ de radiance neuronal (NeRF). Un modèle NeRF peut déduire une forme 3D à partir d'une image 2D en effectuant une pluralité d'itérations de façon à générer une pluralité d'images 2D échantillons d'une scène 3D. Pour chaque itération, un code d'objet peut être échantillonné à partir d'une distribution postérieure d'a priori par apprentissage sur des modèles NeRF associés à la scène 3D. Le code d'objet peut être traité avec un hyper-réseau de façon à générer un ensemble de pondérations NeRF à partir du code d'objet. Un modèle NeRF contenant l'ensemble de pondérations NeRF prédites par l'hyper-réseau peut générer une image 2D échantillon de la scène 3D. Les images 2D échantillons générées pendant les itérations peuvent être transmises à titre de sortie.</description><subject>CALCULATING</subject><subject>COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS</subject><subject>COMPUTING</subject><subject>COUNTING</subject><subject>PHYSICS</subject><fulltext>true</fulltext><rsrctype>patent</rsrctype><creationdate>2024</creationdate><recordtype>patent</recordtype><sourceid>EVB</sourceid><recordid>eNrjZDAP9XN2DQpx9PQLidR1DHcMclXw9HNzDXIFCiv4uykYuygEezgGuAYruAX5-yoYuSh4-jq6uwbzMLCmJeYUp_JCaW4GZTfXEGcP3dSC_PjU4oLE5NS81JL4cH8jAyMTAwszY2NjR0Nj4lQBAK16KJ4</recordid><startdate>20240425</startdate><enddate>20240425</enddate><creator>SOUNTSOV, Pavel</creator><creator>HOFFMAN, Matthew</creator><creator>LEE, Benjamin Sang</creator><creator>LEE, Tuan Anh</creator><creator>RIFKIN, Ryan</creator><creator>SUTER, Christopher</creator><scope>EVB</scope></search><sort><creationdate>20240425</creationdate><title>UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES</title><author>SOUNTSOV, Pavel ; HOFFMAN, Matthew ; LEE, Benjamin Sang ; LEE, Tuan Anh ; RIFKIN, Ryan ; SUTER, Christopher</author></sort><facets><frbrtype>5</frbrtype><frbrgroupid>cdi_FETCH-epo_espacenet_WO2024086333A13</frbrgroupid><rsrctype>patents</rsrctype><prefilter>patents</prefilter><language>eng ; fre</language><creationdate>2024</creationdate><topic>CALCULATING</topic><topic>COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS</topic><topic>COMPUTING</topic><topic>COUNTING</topic><topic>PHYSICS</topic><toplevel>online_resources</toplevel><creatorcontrib>SOUNTSOV, Pavel</creatorcontrib><creatorcontrib>HOFFMAN, Matthew</creatorcontrib><creatorcontrib>LEE, Benjamin Sang</creatorcontrib><creatorcontrib>LEE, Tuan Anh</creatorcontrib><creatorcontrib>RIFKIN, Ryan</creatorcontrib><creatorcontrib>SUTER, Christopher</creatorcontrib><collection>esp@cenet</collection></facets><delivery><delcategory>Remote Search Resource</delcategory><fulltext>fulltext_linktorsrc</fulltext></delivery><addata><au>SOUNTSOV, Pavel</au><au>HOFFMAN, Matthew</au><au>LEE, Benjamin Sang</au><au>LEE, Tuan Anh</au><au>RIFKIN, Ryan</au><au>SUTER, Christopher</au><format>patent</format><genre>patent</genre><ristype>GEN</ristype><title>UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES</title><date>2024-04-25</date><risdate>2024</risdate><abstract>Provided are computing systems, methods, and platforms that infer an object shape from an image using a neural radiance field (NeRF) model. A NeRF model can infer a 3D shape from a 2D image by performing a plurality of iterations to generate a plurality of sample 2D images of a 3D scene. For each iteration, an object code can be sampled from a posterior distribution of learned priors on NeRF models associated with the 3D scene, the object code can be processed with a hypernetwork to generate a set of NeRF weights from the object code, and a NeRF model with the set of NeRF weights predicted by the hypernetwork can generate a sample 2D image of the 3D scene. The sample 2D images generated during the iterations can be provided as an output. L'invention concerne des systèmes, des procédés et des plates-formes informatiques qui déduisent une forme d'un objet à partir d'une image à l'aide d'un modèle de champ de radiance neuronal (NeRF). Un modèle NeRF peut déduire une forme 3D à partir d'une image 2D en effectuant une pluralité d'itérations de façon à générer une pluralité d'images 2D échantillons d'une scène 3D. Pour chaque itération, un code d'objet peut être échantillonné à partir d'une distribution postérieure d'a priori par apprentissage sur des modèles NeRF associés à la scène 3D. Le code d'objet peut être traité avec un hyper-réseau de façon à générer un ensemble de pondérations NeRF à partir du code d'objet. Un modèle NeRF contenant l'ensemble de pondérations NeRF prédites par l'hyper-réseau peut générer une image 2D échantillon de la scène 3D. Les images 2D échantillons générées pendant les itérations peuvent être transmises à titre de sortie.</abstract><oa>free_for_read</oa></addata></record>
fulltext fulltext_linktorsrc
identifier
ispartof
issn
language eng ; fre
recordid cdi_epo_espacenet_WO2024086333A1
source esp@cenet
subjects CALCULATING
COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
COMPUTING
COUNTING
PHYSICS
title UNCERTAINTY-AWARE INFERENCE OF 3D SHAPES FROM 2D IMAGES
url https://sfx.bib-bvb.de/sfx_tum?ctx_ver=Z39.88-2004&ctx_enc=info:ofi/enc:UTF-8&ctx_tim=2025-01-24T12%3A27%3A38IST&url_ver=Z39.88-2004&url_ctx_fmt=infofi/fmt:kev:mtx:ctx&rfr_id=info:sid/primo.exlibrisgroup.com:primo3-Article-epo_EVB&rft_val_fmt=info:ofi/fmt:kev:mtx:patent&rft.genre=patent&rft.au=SOUNTSOV,%20Pavel&rft.date=2024-04-25&rft_id=info:doi/&rft_dat=%3Cepo_EVB%3EWO2024086333A1%3C/epo_EVB%3E%3Curl%3E%3C/url%3E&disable_directlink=true&sfx.directlink=off&sfx.report_link=0&rft_id=info:oai/&rft_id=info:pmid/&rfr_iscdi=true