文章摘要: 讓不同角度空間都能看到虛擬資訊與真實世界融合的效果SLAM演算法會將整個場景的高精度三維結構進行恢復
我想在房間裡看到宇宙的銀河系,我想早上1分鐘內試穿8條裙子,我要讓遊戲的「英雄」跳出來在寫字檯上來一場大戰……我們的想法真是越來越多。
人們的靈感激發了很多可能性的創作,每一次科技革命都是人類對「認知」的進化。去年在Facebook的開發者大會上,藝術在AR與SLAM技術的驅動下創造出完美的藝術作品,利用定位技術和場景幾何分析,Facebook團隊將著名藝術家Heather Day的作品素材,巧妙地投影在真實空間中,隨著現場bgm旋律,優美的線條和栩栩如生的畫作就出現在人們的面前。
Heather的藝術作品完美投影到真實世界中
硬體裝置迭代、感測器升級以及AR技術的發展,讓我們打破視覺空間的邊界,時空瞬移的挑戰不再是虛幻。提及AR領域,SLAM作為關鍵性的底層技術——同時定位與地圖構建,將真實場景和想象空間結合、融入,藉助計算機視覺和圖形學技術的力量,消除了虛和實的界限。
AR合影-動態影像融合到真實世界中
AR整合了真實世界和虛擬世界的資訊,兩種資訊相互補充、疊加並實時互動。在三維空間中定位虛擬素材,讓不同角度空間都能看到虛擬資訊與真實世界融合的效果,因此,空間6DoF定位和地圖構建兩個關鍵效能力,不得不提:
6DoF定位——包括位置資訊和角度資訊,基於手機攝像頭我們會看到AR效果,從任意角度拍攝可以看到不同視角的場景,不同角度看到的視野能夠和真實世界融合在一起。所以,實時計算出手機裝置的當前空間位置和角度很關鍵,這就是6DoF定位能力。
地圖構建——對整個場景三維空間、平面結構的充分理解,比如哪裏是地板,哪裏是牆面,快速精準的線上構建場景,能夠支援實時定位和虛擬物體植入,當識別到這些幾何資訊我們就可以看到「在地板上放東西,在牆上掛壁畫」等虛實結合的AR效果。
除最為核心的同時定位和地圖構建 SLAM和3D視覺技術還包括哪些知識點
平面/三維物體識別和跟蹤:基於業內領先的影象識別和跟蹤技術,能夠快速識別場景中平面/三維物體,對障礙物體進行檢測跟蹤,如果把一個虛擬杯子放到某個場景中,演算法能夠識別它的位置和環境的三維結構,無論從哪個角度檢測、識別,畫面中的物體都會和真實世界對應起來,這便是基於穩定的三維跟蹤效果。
運動恢復結構(SFM):對於某些視訊畫面,相比於實時運動跟蹤的SLAM,我們也可以離線來做,演算法和SLAM類似。一段拍攝好的畫面或視訊,通過離線處理,整個場景可用完整的三維點進行恢復。一些無序拍攝的場景畫面,也可以通過SFM將場景三維結構恢復。
實時深度估計和三維重建:如果想場景結構線上恢復得更加完整,就要恢復出更加稠密的三維點雲,也就是稠密三維重建。利用立體匹配演算法,將畫面上的每個畫素在空間上的3D距離計算出來,整個場景掃描的過程融合多幀畫面的深度資訊,得到完整精準的場景三維模型,這就是基於深度融合的實時三維重建演算法。該演算法在移動裝置上支援實時的景深虛化、雙目立體化、真實感渲染、陰影合成、虛實物體的遮擋和碰撞等互動效果,建立物理真實的「虛實融合」世界。
稠密三維重建
光照估計:通過計算機視覺和圖形學演算法,基於真實場景的視訊資料估計出場景的光照環境,包括亮度、光源等,渲染時再將光照資訊疊加在虛擬模型上,使渲染效果與真實環境更加貼合。
場景影象+虛實結合
跨平臺的輕量級AR/VR引擎:不同於前幾項SLAM底層技術,跨平臺的輕量級AR/VR引擎將後端SLAM、三維重建和前端的三維繪製、渲染整合,整合了AR/VR引擎。最終呈現給使用者的是三維繪製的虛擬場景和真實世界的融合後的效果。具有跨平臺、庫體積小且支援多種光照和材質模型,以及虛擬物體的遮擋、陰影投射、Avatar表情驅動等特點。
遊戲、機器人領域SLAM技術打前戰 我們能做的還有更多
爲了保證機器在某些特定環境中路徑規劃更加智慧,在機器人應用領域,SLAM技術的存在也為機器人識別周圍環境、躲避障礙物、規劃路徑、場景地圖實時構建等提供技術支援。
在自動駕駛領域,SLAM應用目的是解決定位和三維重建的難題。在自動駕駛過程中,實時定位和路徑規劃能力很重要,必須要實時精準地獲取資訊和座標。關於地圖構建方面,通過感測器採集的資訊,SLAM演算法會將整個場景的高精度三維結構進行恢復,高精度地圖也是自動駕駛中較為核心的部分。
SLAM與越來越多的場景相結合,很多使用者已經感知到AR應用的全新體驗方式。SLAM與AR技術讓他們近距離感受到電子遊戲中顛覆式的互動體驗。原來我們的體驗只在虛擬的3D場景裡,如今遊戲中虛擬的人設可以跳出手機在真實的場景裡進行打鬥,我們不僅可以和遊戲中的「英雄」合影,甚至可以在房間裡和虛擬人設「交戰」。
OPPO聯手商湯打造AR開發者平臺王者榮耀APP入駐「英雄」跳出了手機在真實世界裏比拼
除此,SLAM的識別跟蹤技術也涉入電商領域,提升我們線上平臺的購物體驗。如果我們需要為家裏購置一臺冰箱,無需再擔心位置擺放、冰箱大小等這些瑣碎的問題,通過手機攝像頭線上掃描空間環境,真實場景中的平面或三維物體就會快速被識別出,SLAM演算法會聰明地將「虛擬冰箱」放在最為合適的三維空間裡,添置在房間合適的位置上。
京東APP入駐 提升線上平臺購物體驗
近期,OPPO與商湯科技合作吸納多家APP進駐,共同推進AR應用的普及,首批進駐的APP中王者榮耀和京東,便是通過商湯的SLAM底層技術與AR支援讓更多消費者感受到AR應用的全新互動方式。針對垂直行業深度定製優化的特點,商湯將會為互娛、遊戲、電商、廣告、旅遊、教育、家裝等行業開發相應的AR增強工具包,幫助APP廠商深化行業AR應用。
深度定製化合作 通過APP互動給使用者最佳體驗
由商湯科技研發的SenseAR底層引擎解決方案將AR基本能力賦予手機廠商。基於硬體及手機廠商提供的資訊和資料,通過演算法實時處理,反饋空間定位資訊、空間場景的三維資訊,手機廠商將演算法做整體封裝,作為手機的基礎能力,開發者基於封裝的SDK和手機平臺就可以進行更為複雜邏輯的應用開發。商湯科技將聯合合作伙伴一起搭建AR內容創作平臺,提供AR內容創作工具鏈和AR內容素材給APP開發商,解決AR內容缺乏、創作效率低的痛點。
與同類AR平臺相比,SenseAR平臺的硬體適配、軟件開發的低成本,是平臺核心優勢。與ARCore對硬體高標準的要求不同,SenseAR支援不同的硬體配置,在缺失陀螺儀的感測器裝置上也能穩定執行,即便是千元左右的大眾機型,都可以在手機上很好的呈現平臺的效能,覆蓋廣泛。並且支援安卓、iOS、Windows、Linux、Mac OS等多種作業系統,只需要開發一次就能跨各種作業系統和硬體終端。
近期,OPPO聯手商湯科技即將吸引多家APP廠商入駐SenseAR平臺,在產品互動層面,又將有哪些酷炫的AR效果,敬請期待。 返回搜狐,檢視更多
責任編輯: