七鑫易維彭凡演講實錄 眼球追蹤技術讓VR更「人性」

2021-09-20 14:39:15 字數 3253 閱讀 5474

眼球追蹤技術不僅是目前全球最前沿的機器視覺技術,還是最為人性的vr技術。

2023年4月21日,在鎂客網於上海世博展覽館主辦的vr主題論壇上,七鑫易維副總裁彭凡發表了題為《眼球追蹤技術——讓vr更「人性」》的主題演講。彭凡表示,眼球追蹤技術是目前全球最前沿的機器視覺技術,是最為人性的vr技術。七鑫易維作為技術型公司,希望在未來能為行業提供眼控技術標準,將注視渲染做到極致。

以下是七鑫易維彭凡的演講實錄:

目前,眼球追蹤技術已經在國外的醫療領域和廣告領域裡有一些應用了。比如說,對於像霍金這樣的帕金森綜合證患者或者是一些全身都不能動的人群來說,能用眼睛來打字、控制電腦是非常重要的。這樣的技術在國際上我們叫做眼控溝通輔具。

眼球追蹤技術是目前全球最前沿的機器視覺技術,它的原理就是用眼控儀捕捉使用者頭部運動和眼球轉動的訊號,實時計算出眼睛的注視點方向。

七鑫易維作為技術型公司,認為當下vr行業有以下四個的瓶頸。首先任何技術的互動都是非常重要的,現在的vr互動大部分還是基於控制器,但是控制器並不能給使用者帶來真實感,而虛擬實境的特性之一就是真實感。未來vr的互動一定是機器去適應人而不是人去適應機器的。

人在進行資訊獲取時,有80%以上資訊是來自於視覺的。所以說,未來vr體系中的互動技術必定會是眼球追蹤、語音識別、手勢識別、動作捕捉的整合。

第二個問題是顯示。不知道大家在體驗vr的時候有沒有覺得畫面不夠清晰?現在大多的裝置所能達到的單眼解析度只有1k,而且計算機已經無法進行渲染了。但是如果想要使用者在體驗vr時有身臨其境的感覺,那麼左右眼的畫面解析度就必須要達到8k。

第三個是計算。如果我們想要擁有1000赫茲的渲染重新整理率和單眼8k的解析度,那麼對計算機效能的要求就相當的高了。但是,現在市面上具有上好效能的計算機**都非常的高,怎麼把對計算機的要求降下來就變得尤為重要了。

最後乙個是內容。我一直覺得內容不是乙個很大的問題,因為當整個產業鏈的技術標準確定之後,我們的內容製造商是可以像智慧型手機一樣快速的去複製內容的。

眼球追蹤技術承擔著什麼作用呢?上面這張圖里的電腦螢幕上所顯示的是乙個體驗者眼神的校準頁面。眼控互動可以讓vr更人性,讓我們所看到的vr畫面中任何乙個物體或任何乙個圖示,都是出於人眼的自然反應。

每乙個人在看東西時的自然反應都是先用眼睛去看的,只有在需要看眼睛視覺範圍外的東西的時候才會轉動頭部。可是當你每點乙個圖示都必須要進行頭部的轉動的話,就會覺得用頭去看每乙個圖示是非常累的。在實驗室的測試結果中表明,眼動互動特別是針對於二維ui來說其效率可以提高40%,這是在單純的ui互動上比手勢識別、語音識別還要快的一種互動方式。

除了互動以外,注視點渲染也會為整個vr產業革命帶去很大影響。現在vr裝置的畫面之所以不夠清晰、計算量高,是因為我們對於渲染的要求高。但是,我們戴上vr頭盔所看到的畫面也只是注視點所在的位置而已,旁邊的畫面是看不到的。這和我們現實生活中的真實對焦一樣,眼鏡看任何東西都是有焦點的,是接收不到焦點以外的資訊的。

所以,在做vr渲染的時候,只渲染畫面注視中心的位置是非常實用的。也就是說,我們只對注視中心的畫面進行100%的渲染,將注視中心邊緣的畫面按照一定的比例進行畫素點和解析度的降低,這樣就能夠有效的提公升渲染速度以及降低渲染的計算量了。

在遊戲當中,眼控技術應用的並不多,這裡舉幾個簡單的例子,例如選單的呼叫。一般情況下,我們的遊戲畫面中是不會顯示選單的,只有當玩家將眼鏡的注視點放到畫面的左上角或右上角時,選單才會顯示出來。

另乙個例子就是眼控手電筒。在遊戲中特別是恐怖類遊戲中,玩家的眼睛就是手電筒,眼睛的注視點就是手電筒光聚焦的那個點,這樣一來,遊戲的恐怖效果就會更強烈一些。

隨著現實中戰鬥機效能的越來越高,未來的戰鬥機在對戰中很有可能就是用眼神去進行目標鎖定的,因為這種鎖定方式是最快的。七鑫易維目前做了乙個遊戲,是一款戰鬥機瞄準射擊遊戲。玩家可以用眼神去鎖定戰鬥機,用頭部的轉動來控制戰鬥機的視野。對於vr來說,眼控技術其實就像是乙個沒有確定鍵的滑鼠。

七鑫易維是全球第乙個做到全視場角追蹤的公司。為什麼要強調是全視場角呢?因為如果我們的追蹤技術只能追蹤到畫面中心區域的話,計算機就不知道還有邊緣的部分了,那麼追蹤的效果就會大打折扣。

要做高精度、低延遲的注視點渲染,需要隨時隨地採集到每乙個人的注視點資料,這個資料的延遲必須非常小,因為每個人眼動的速度非常的快,七鑫易維現在已經可以做到120赫茲到380赫茲了。

第三個就是防抖。使用者在戴上頭盔後難免身體會隨著畫面進行一些運動,但是這會造成眼睛和感測器之間的劇烈抖動,而這種抖動會影響影象的呈現效果。做好防抖,就是為了給使用者更好的體驗。

七鑫易維近期會跟高通、amd這樣的很多晶元上游公司進行合作,幫助他們做注視點渲染。希望在不久的將來,vr行業裡面就會出現由七鑫易維所提供的眼控技術標準。

我的演講到此結束,謝謝大家。

2016-04-28 13:43

伶軒

第二次深度實習面試(七鑫易維)

今天早上和hr約了面試,到了公司給人感覺還不錯,提前也做好了功課,這是乙個做眼球控制的公司,在望京南站。剛進公司,給了一套c 的卷子和一套算是數學題,從10點24做到了11點20左右,然後乙個技術進來面試,感覺是個挺年輕的,也比較和藹。我就聊了一點關於我做的利用faster rcnn做的文字定位,遇...

七鑫易維眼球追蹤助力行業共建5G雲XR生態 科技

4 月 17 日,中國移動5g聯合創新中心與gsma協會主辦,華為與中興承辦 5g雲xr亞洲峰會 在中國傳媒大學國際交流中心舉行。大會旨在推動5g和xr領域的深度融合,賦能垂直行業的發展。七鑫易維作為5g雲xr眼球追蹤解決方案企業受邀出席本次大會。伴隨著5g 邊緣計算的快速發展,xr產業和通訊產業的...