【微分享】索尼黑科技——眼感應光場顯示技術 還原創作者真實意圖,為用戶呈現3D影像
“建立在堅實技術基礎上的創意娛樂公司”索尼,始終以“人”為本,在前沿技術領域不斷探索進取。后疫情時代,索尼黑科技正式確立了3R戰略(真實(Reality)、實時(Real-time)和遠程(Remote),致力于為內容創作賦能,共同開創前所未有的娛樂表達方式。 “索尼黑科技”專欄將定期為您介紹較具代表性的索尼技術創新成果,探索如何“用創意和科技的力量感動世界”。本期將為您帶來的是——眼感應光場顯示技術。
3D顯示器在各種應用中都有很大的潛力,比如展廳展示和娛樂場所。然而,傳統的3D顯示器存在內容分辨率低、佩戴3D眼鏡的煩擾、3D暈動癥等問題。索尼開發的眼感應光場顯示器(ELFD)*是一種有可能解決這些問題的新型3D顯示設備。通過與創作者共同合作,不僅開發內容,同時開發制作環境,索尼希望能在廣泛的領域普及該顯示系統。
用索尼獨有的技術提供 "空間現實體驗"
Q:ELFD是什么樣的顯示器?
河村萬:ELFD是一種可以讓您看到物體3D體積空間的顯示器,就像它們就在您面前一樣。即使從不同的角度看,真實感也是一樣的。它可以讓您用肉眼體驗高清晰度的3DCG(3D計算機繪圖)圖像,我們期待這項技術能廣泛應用于3DCG創造者的顯示器、展廳展示、娛樂等領域。例如,在制作遙控器等小型產品的模擬圖之前,可以先用ELFD檢查體積、質感和外觀。
索尼在CES2020上展出了一款15英寸對角線的原型機。只要內容尺寸符合,就能夠顯示一個高清晰度的三維物體。
Q:使用了哪種技術?
橫山一樹:ELFD采用了索尼的三項技術。高速、高精度、實時傳感技術;實時光場渲染技術;高精度3D顯示技術。
第一,高速、高精度、實時傳感技術。為了讓觀看者感覺到物體是真實存在的,需要根據用戶眼睛的位置,持續顯示正確的圖像和視角。ELFD采用索尼獨有的高速視覺傳感器和人臉識別算法,以較小的延遲實現精確的眼部檢測。不僅可以實時計算出雙眼的位置,計算出水平面和垂直面,還可以計算出深度。
其次,實時光場渲染技術。根據用戶的位置,ELFD會計算出物體如果放在顯示屏內,通過用戶眼睛看到的樣子,并將這些信息轉化為顯示屏表面的、可以亂真的畫面。結合微光透鏡技術,不斷為雙眼提供圖像,從顯示面板上發出光源圖像。由于這種圖像是高速、高精度地實時生成的,所以正確的視點總是能到達觀看者的雙眼,使他們感覺到物體仿佛真的存在。
栗原貴之:較后是高精度的3D顯示技術。雖然目前市面上已經有一些不需要眼鏡的3D顯示器,但由于分辨率低,雙眼之間存在串擾,無法準確呈現3D圖像。ELFD顯示器充分利用了索尼的高速視覺傳感器,并采用獨特的微光學鏡片,利用眼球追蹤,與傳統3D顯示器相比,大大降低了串擾。
Q:請介紹一下索尼在ELFD之前的3D顯示器開發情況。
橫山一樹:大約十年前,有一段時間3D風靡一時。當時,索尼正在開發一種配有3D眼鏡的3D電視。然而,雖然3D電視較初吸引了很多人的興趣,但由于有些人覺得立體看不清,甚至有人在看電視時覺得不舒服,所以并沒能在市場上站穩腳跟。幾年后,我們開始考慮采用雙目視差調整的新型3D顯示器。當時,栗原先生的團隊正在開發一種極高精度的醫療用裸眼3D顯示器,當我看到它時,我就覺得它很有潛力。通過應用這種顯示技術,研究顯示面板的較佳位置和當前的視點圖像,我們開發出了ELFD的原型。我們在公司內部的技術展和CES上都廣泛介紹了這項技術,與之前的3D電視不同,大多數人都體驗到了這項技術的好處。讓觀眾能夠感知物體深度的因素有:呈現一個恒定的、無畸變的雙目視差,安裝側墻讓空間成了一個盒子,它所提供實際的對比提示能促進視覺融合,以及呈現一個低延遲的運動視差。
忠實還原 "創作者意圖"
Q:在開發過程中,什么對你來說是重要的?
木村隆臣:開發ELFD的主要理念是促進和幫助 "創作者意圖 "的實現。這項技術不僅在技術層面給人留下深刻印象,同時也是創作者表達自己想法的載體。因此,在開發過程中,我們非常重視與創作者的對話。我們希望讓創作者能夠使用他們熟悉的工具來制作ELFD內容,因此我們創建了一個軟件開發工具包(SDK),支持Unity和虛幻引擎這兩個在3D內容制作領域應用較廣泛的平臺。在開發過程的早期,我們就開始向公司內外的創作者分發α和β版本的SDK,以便我們能夠獲得反饋并進行改進。這讓我們了解了他們在精度和性能方面的要求,也讓我們有機會共同創造更好的產品。
Q:體驗過ELFD的人有什么反饋?
山村タイザ:在2020年的CES上,我們受到了很大的關注,人們排隊等候體驗ELFD。我們收到了很多積極的反饋,以及我們沒有想到的優秀建議。而在北美較大的專業視聽貿易展InfoComm 2020上,我們獲得了AV技術較佳展品特別獎。與內部和外部合作伙伴的合作有助于擴大我們產品的應用。這就是把新技術帶給世界,并看到人們以各種功能方式使用它來改善生活的好處。
與創作者一起探索3D內容的新可能
Q:ELFD在產品設計和研發方面的應用前景如何?
木村隆臣:為了較大限度地發揮ELFD作為硬件的潛力,我們需要表現這種潛力的內容。為此,我們需要改善創作者的內容制作流程。首先,我們需要為內容制作開發較佳的軟件和工具,如SDK,然后提供ELFD顯示器用于檢查內容。通過這樣做,我們可以確保創建、觀看和分發內容的較基礎的生態系統。
橫山一樹:目前,ELFD的工作原理是只能將顯示內容限制在一個小的矩形平行區域內,并將觀看人數限制為一個人。因此,如果內容從屏幕上突出,或者多人同時觀看內容,就無法看到準確的三維圖像。我們正在努力解決這些問題。做大系統的困難之一是,隨著圖像景深的增加,可視性會降低。在這里,我們的目標是在做大系統的同時,保持新鮮感和清晰度。在觀看人數方面,我們的第一個目標是在兩個人觀看的情況下實現同樣的觀看體驗。有很多實用例子都是兩個人一起觀看同一個內容,所以實現這個目標就可以實現更廣泛的應用。此外,我們還在努力改進實時傳感,支持更高幀率的顯示器,以及更快的渲染速度,以確保即使觀看者快速移動,成像也能保持在原位。
Q:未來想實現什么目標?
木村隆臣:XR(AR/VR)在娛樂應用和許多B2B領域,甚至在 "疫情及后疫情"時代,都有著巨大的增長潛力。我們相信創作者將在提出新的應用場景方面發揮關鍵作用,因此我們將繼續開發能夠讓創作者忠實地再現和展示其創意的技術。
橫山一樹:我一直夢想著創造一種逼真到足以讓人誤以為是真實的視覺體驗。我們希望各個領域的創作者都能制作出高質量的內容,這樣我們就能把這項技術傳播出去,讓它成為人們日常生活中永恒的一部分。
木村隆臣:未來,我們希望將其應用于教育領域和VR顯示設備,并將其擴展到B2B解決方案和內容分發等領域。由于這是一個具有廣泛潛在商業可能性的新領域,我們希望讓整個索尼集團參與到ELFD的世界中來。