PhotoWakeUp 創新實訓 4

2021-09-18 06:21:56 字數 1322 閱讀 7624

**再讀

⑤正面的身體自遮擋部位區域填充 使用patchmatch [4]方法

處理背部紋理是乙個開放的研究問題[27,10,28]。文中給了兩種方法:

1、將正面文理映象貼到背面

2、使用可選的使用者指南進行繪製。

前後紋理用泊松混合縫合[32]

⑥運動序列來自**9

他們有個ui介面,可以提供紋理填充方式選擇和姿態調整等功能

又與**15提到的方法進行了對比

又與[6,1]的比較

缺點:1、陰影(影子)反射等處理不了

2、由於模糊,smpl模型可能產生不正確的3d姿勢。

3、由於重建的網格必須符合輪廓,因此形狀可能看起來不切實際,例如鞋子形狀錯誤; 另一方面,這可以處理抽象藝術

4、其他自遮擋問題

5、背影的處理(他們使用了[27,10,28],給出的結果很模糊)

填洞當用f(x)warp時,很容易出現這種情況。再次使用平均值座標(mean value coordinates)來平滑法線貼圖和蒙皮權重圖(normals and skinning weights)

方法:對於法線圖n中的每個孔h,我們收集孔邊界上的點∂h,根據邊界點計算點x∈h的平均值座標,然後使用這些座標插值邊界法線。對蒙皮貼圖w執行相同的操作,在∂h周圍插入向量蒙皮權重

面部對齊

單檢視面部建模技術[2,5,9],對整個頭部進行建模[7],並從單個影象[4]進行建模是乙個活躍的研究領域,這超出了本文的範圍。

但是只是將頭部與臉部對齊,特定的技術也可以顯著提高我們的動畫效果

我們首先估計頭部姿勢,然後根據影象扭曲變形的頭部網格。

頭部姿勢估計如[6]

生成完整的深度圖z,

把7個基準點(眼睛(兩邊) 鼻子 嘴巴(兩邊))和頭的邊緣∂b作為錨點

紋理紋理前網格(在拼接到後網格之前),我們可以簡單地將輸入影象中的顏色分配給相應的頂點反投影深度圖。

腐蝕s形成s『,然後將s \ s』中每個畫素的顏色替換為s『中最近畫素的顏色

輪廓邊界的錯誤 使用輪廓內最近的畫素來替換

自遮擋用patch-match algorithm [1]解決

背後的紋理,我們允許使用者在逐個部分的基礎上選擇映象紋理或標籤驅動的紋理合成 -「texture-by-numbers」

應用泊松混合[3]縫合前後紋理

使用動態規劃找到原圖mask與smpl投影得到mask的對映關係

關鍵**

PhotoWakeUp 創新實訓(2)

由於時間原因,先給出了大致的總結提綱,具體內容明後天補上qnq 這週的主要工作是將人體從背景中分割出來。中提到了mask r cnn 和dense crf方法,似乎不理想 趁著這幾個機會學習了instance segmentation,semantic segmentation的區別。找到一張十分合...

PhotoWakeUp 創新實訓(8)

github位址 鑑於邊界點等效果較差,採取兩種措施 1 使用bfs思想平滑。通過常識我們知道,相鄰畫素之間的深度值不會差別很大。從這種想法出發,選取基本點,然後用bfs方法減少相鄰的畫素之間的深度值差。主要 如下 import queue 從中心點開始,bfs向外擴充套件,將變化大的點的深度值平滑...

「photo wake up」創新專案實訓開題總結

專案名稱 photo wake up 基於二維影象的三維人體模型重建 專案背景 哈利波特 世界裡有一種神奇的魔法報紙,報中 上的人物可以動起來,看起來有點像 gif 圖。在故事裡這當然是 魔法 的功勞,現實世界中還沒有造出這樣的報紙。我們想通過現有對影象的研究,使用ai演算法,實現這個過程。華盛頓大...