在AR、VR、3D打印、場景搭建以及電影制作等多個領域中,獲得高質量穿著衣服的人體3D模型變得至關重要。然而,傳統的創建方法耗時且需要專業設備捕捉多視角照片,還依賴技術熟練的專業人員。
與此相反,浙江大學ReLER實驗室的研究人員提出了一種名為SIFU的模型,該模型能夠從單張圖像準確重建3D人體模型,從而顯著降低了成本并簡化了獨立創作的過程。
傳統的深度學習模型用于3D人體重建通常需要經歷從圖像中提取2D特征、將2D特征轉換到3D空間,以及將3D特征用于人體重建的三個步驟。然而,在2D特征轉換到3D空間的階段,過去的方法常常忽略了人體先驗的引入,導致特征提取不充分,從而影響最終的重建結果。
為了解決這個問題,SIFU模型引入了側視圖條件隱函數,通過在2D特征轉換到3D空間時加入人體側視圖作為先驗條件,增強了幾何重建效果。此外,在紋理預測的階段,模型還引入了預訓練的擴散模型,以解決不可見區域紋理預測較差的問題。
SIFU模型的運行分為兩個階段。在第一階段,借助側隱式函數,模型重建人體的幾何和粗糙的紋理。在第二階段,通過3D一致性紋理優化流程,模型對紋理進行精細化。這一流程中,作者設計了一種獨特的Side-view Decoupling Transformer,通過全局編碼器提取2D特征后,在解碼器中引入人體先驗模型的側視圖,使得在圖像2D特征中解耦出人體不同方向的3D特征,從而用于重建。
實驗結果顯示,SIFU模型在幾何重建和紋理重建方面均表現出色,不僅在全面多樣的測試集上取得了最好的效果,而且在模型面對有誤差的人體先驗模型時依然具有較好的重建精度。
該模型的高精度和高質量重建效果使得其在3D打印、場景搭建、紋理編輯等領域具有廣泛的應用前景。SIFU模型為單張圖片人體重建提供了一種創新的方法,為未來的研究和實際應用提供了新的思路。
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。
海報生成中...
海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。
IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。