|
作者: Simon Oudin 全景環(huán)視是泊車輔助系統(tǒng)的重要組成部分，將會(huì)成為汽車的一項(xiàng)標(biāo)配功能。隨著人們對(duì)駕乘體驗(yàn)、可擴(kuò)展性等方面的要求越來越高，全景環(huán)視原本興起于亞洲汽車制造商所推動(dòng)的小眾市場的，當(dāng)下已經(jīng)成為主流汽車廠商提供的選配功能。瑞薩作為汽車信息娛樂系統(tǒng)和先進(jìn)駕駛輔助系統(tǒng)(ADAS)領(lǐng)域的SoC供應(yīng)商，在早期階段就已成為支持全景環(huán)視技術(shù)的主要廠商。如今，瑞薩提供基于新一代SoC的高擴(kuò)展性、創(chuàng)新的解決方案來應(yīng)對(duì)全球市場需求。 基于R-Car第二代產(chǎn)品的全景環(huán)視系統(tǒng) 全景環(huán)視的作用是實(shí)時(shí)顯示汽車周圍環(huán)境的全貌。這種以二維視角從空中360度成像的方式叫做鳥瞰圖或俯視圖。通過多個(gè)攝像頭的圖像矯正，可將采集圖像無縫銜接在一起。同時(shí)通過對(duì)不同攝像頭的亮度和色彩進(jìn)行調(diào)節(jié)，以使合成的全景視圖看上去更加協(xié)調(diào)。 不過僅僅顯示這一影像并不能在泊車過程中為駕駛?cè)藛T提供幫助。為了更好地進(jìn)行操控，在顯示二維視圖和車后方視圖時(shí)需要為駕駛?cè)藛T顯示更多的信息。而另外一種補(bǔ)充方法是通過車周圍環(huán)境的三維視圖來加強(qiáng)司機(jī)對(duì)距離的感知。通過安裝在汽車四周的二維相機(jī)來生成當(dāng)下汽車周邊的三維全景影像和三維的汽車影像，為駕駛?cè)藛T提供參考。影像必須真實(shí)反映出汽車與附近物體(行人、車輛和建筑)的距離。三維球面視圖應(yīng)隨著汽車的運(yùn)動(dòng)動(dòng)態(tài)地變化。汽車模型必須融合在周圍景象中，光照或反射光線都要在汽車模型上反映出來 。 此類應(yīng)用推動(dòng)了汽車嵌入式平臺(tái)中的三維圖形和計(jì)算機(jī)視覺的性能提升。瑞薩R-Car SoC系列產(chǎn)品可用于此類應(yīng)用。第二代R-Car于2013年3月首次發(fā)布，它支持多種應(yīng)用，如外部設(shè)備連接、娛樂擴(kuò)展和先進(jìn)駕駛輔助(ADAS)。該系列產(chǎn)品具有卓越的性能和優(yōu)化的功耗，通用的API可降低客戶開發(fā)工作量。該系列的兩款產(chǎn)品支持全景環(huán)視應(yīng)用：R-Car H2和R-Car V2H。 R-Car H2帶來全新三維體驗(yàn) R-Car H2是2013年3月份發(fā)布的首款產(chǎn)品，是專為包含三維全景功能的集成式駕駛艙解決方案而定制的。在該應(yīng)用中，首先需要考慮三維圖形引擎的性能要求，特別要注意兩個(gè)方面：二維攝像頭圖像紋理在三維球面視圖的映射和汽車三維成像。成像場景中的多邊形計(jì)數(shù)取決于三維球面視圖的變換和汽車模型的渲染效果。圖形引擎必須能夠在短時(shí)間內(nèi)處理大量的多邊形運(yùn)算，從而使渲染效果更佳。 此外，由于此應(yīng)用可針對(duì)同一個(gè)場景使用不同的著色器程序，因此圖形引擎必須具有功能強(qiáng)大的著色器引擎。這些性能要求較高GPU頻率以實(shí)現(xiàn)高速數(shù)據(jù)處理。這些應(yīng)用方面的性能要求都推動(dòng)了瑞薩將高性能的三維圖形引擎集成在R-Car H2中。事實(shí)上，該產(chǎn)品的三維圖形引擎提供了與iPad Air 的三維圖形引擎相當(dāng)?shù)男阅堋?br /> 通向增強(qiáng)真實(shí)感之路 感知三維場景是另外一個(gè)重要方面，有兩種實(shí)現(xiàn)技術(shù)。一種是人類立體視覺，不過它的缺點(diǎn)是使相機(jī)成本和集成工作量增加了一倍。另一種是創(chuàng)建車輛的“運(yùn)動(dòng)恢復(fù)結(jié)構(gòu)(SfM)”，從而提供一段時(shí)間內(nèi)的立體視覺。瑞薩的R-Car產(chǎn)品系列采用了視覺專用硬件加速器，支持四個(gè)攝像頭的實(shí)時(shí)運(yùn)行算法，從而同時(shí)滿足對(duì)高性能和低功耗的要求。 SfM算法生成代表車輛和周圍物體運(yùn)動(dòng)的流矢量列表。下一步關(guān)鍵是從流矢量中計(jì)算本體運(yùn)動(dòng)并作匹配以計(jì)算出車輛的自運(yùn)動(dòng)。從基礎(chǔ)矩陣中，可根據(jù)環(huán)境中的動(dòng)態(tài)和靜態(tài)物體將流矢量進(jìn)行分類。靜態(tài)物體流矢量可直接提供物體的距離(與移動(dòng)距離成反比）。 
圖1：SfM算法在R-Car H2中的實(shí)現(xiàn)。SfM算法在R-Car H2一個(gè)的攝像頭視頻上的運(yùn)行結(jié)果(上圖)。基于SfM處理結(jié)果的環(huán)境三維模型(下圖)。 圖1(上)展示了R-Car H2的一個(gè)運(yùn)行實(shí)例。圓圈代表靜態(tài)特征點(diǎn)，是結(jié)構(gòu)計(jì)算的結(jié)果。一個(gè)顏色對(duì)應(yīng)一串物體，這些物體隨后反饋給模型變換。這些數(shù)據(jù)用來調(diào)整如圖1(下)所示環(huán)境的實(shí)時(shí)三維模型。最后，利用圖形引擎，生成三維球面的映射三維模型來創(chuàng)建出逼真的汽車環(huán)境影像。 以太網(wǎng)：基于R-car V2H的便捷之路 R-Car系列產(chǎn)品還包括R-Car V2H，它提供了一種利用以太網(wǎng)的視頻傳輸方法，從攝像頭視頻采集直到顯示接口。這種流水線方法不僅降低了對(duì)系統(tǒng)其余部分(如整體延遲、內(nèi)存帶寬和CPU干預(yù))的要求，而且大大降低了系統(tǒng)制造商軟件開發(fā)的復(fù)雜度。圖2展示了R-Car V2H的這種視頻路徑。從四個(gè)攝像頭數(shù)據(jù)的解復(fù)用到圖像矯正，不需要訪問外部存儲(chǔ)器，并且每一個(gè)攝像頭都對(duì)應(yīng)有專用的硬件加速器。
圖2：R-Car V2H的以太網(wǎng)全景視頻傳輸路徑 系統(tǒng)成本的降低有助于全景環(huán)視的廣泛應(yīng)用，而布線成本是不可忽視的一個(gè)部分。近年來出現(xiàn)了2種降低成本的方法，可減小當(dāng)前基于LVDS的全景環(huán)視系統(tǒng)成本。一種是使用非屏蔽雙絞線上的以太網(wǎng)傳輸，另一種方法是更經(jīng)濟(jì)的同軸電纜的升級(jí)版LVDS傳輸。兩種方法的系統(tǒng)成本差不多。不過，以太網(wǎng)解決方案不僅有助于降低系統(tǒng)成本而且為之后的應(yīng)用提供了更好的靈活性。例如，隨著行車記錄系統(tǒng)的使用越來越廣泛，只需增加少量成本即可支持新的功能（如多通道同步錄像），因?yàn)檫@只需要帶有SD卡接口即可實(shí)現(xiàn)。相比LVDS，以太網(wǎng)傳輸?shù)牧硪粋�(gè)好處在于基于AVnu聯(lián)盟的MAC層和基于開放聯(lián)盟的PHY層都是標(biāo)準(zhǔn)化的。 最佳視頻延遲控制路徑 在全景環(huán)視應(yīng)用里，其中一個(gè)需要精心設(shè)計(jì)的方面是視頻傳輸(包括壓縮和解壓縮)和視頻處理階段中的延遲。事實(shí)上，從攝像頭采集影像到顯示影像的總體延遲應(yīng)低于100ms，才能使駕駛?cè)藛T能夠?qū)崟r(shí)地感知環(huán)境。 目前，攝像頭工作的幀率為30幀/秒。使用全局快門時(shí)，傳感器電池在曝光時(shí)同時(shí)進(jìn)行充電，然后成像器開始逐個(gè)輸出像素。因此，影像捕捉后大概一幀(33ms)左右傳輸最后一個(gè)像素。這個(gè)首幀延遲，無法縮短。另一個(gè)不可縮短的延遲是影像顯示，所有像素都必須在顯示影像之前傳輸完畢，這個(gè)延遲也是33ms左右。最后只剩下33ms來執(zhí)行圖3所描述的其他任務(wù)。
圖3：視頻傳輸和圖像矯正的延遲 這個(gè)數(shù)據(jù)傳輸通路的第一步是數(shù)據(jù)傳輸。以太網(wǎng)協(xié)議并沒有提供專用機(jī)制來確保低延遲傳輸和攝像頭同步。這也是瑞薩在R-Car系列產(chǎn)品中首先引入了帶高級(jí)AVB硬件支持的千兆以太網(wǎng)MAC的原因。這為降低CPU負(fù)載和優(yōu)化整個(gè)壓縮視頻接收提供了必要的硬件支持。一些專門的機(jī)制用于實(shí)現(xiàn)智能數(shù)據(jù)包解封和攝像頭視頻濾波。AVnu聯(lián)盟AVB協(xié)議的汽車規(guī)范里定義了對(duì)錄制視頻的快速啟動(dòng)、低延遲(最大延遲為2ms)等多視圖攝像頭應(yīng)用的關(guān)鍵技術(shù)的考慮。 最早的以太網(wǎng)的多攝像頭系統(tǒng)采用了低延遲的動(dòng)態(tài)JPEG(MJPEG)壓縮技術(shù)。該技術(shù)基于眾所周知的JPEG標(biāo)準(zhǔn)，已被廣泛應(yīng)用于消費(fèi)類數(shù)碼相機(jī)。然而該技術(shù)對(duì)視頻質(zhì)量的影響可能會(huì)限制后續(xù)視覺處理性能。因此，瑞薩認(rèn)為H.264壓縮技術(shù)是最佳的視頻傳輸解決方案。這項(xiàng)技術(shù)提供了更好的壓縮比，可改進(jìn)視覺處理性能。目前H.264技術(shù)已經(jīng)廣泛應(yīng)用在各種娛樂終端設(shè)備，它們也可已通過瑞薩豐富的汽車娛樂連接方案連接到汽車上。在R-Car V2H上，瑞薩實(shí)現(xiàn)了首個(gè)支持高清多通道、符合H.264標(biāo)準(zhǔn)且具有低延遲的視頻解碼的汽車SoC。 減少延遲的最后一步是縮短處理數(shù)據(jù)的延遲。事實(shí)上，傳統(tǒng)的基于DSP的系統(tǒng)需要通過雙緩沖區(qū)來采集視頻。R-Car V2H具有稱為IMR的專用引擎，可瞬時(shí)完成圖像矯正。此功能支持從最多5個(gè)低延遲視頻解碼器的直接傳輸圖像。由于R-Car V2H具有視頻直通路徑，以太網(wǎng)傳輸網(wǎng)絡(luò)中的總體延遲比傳統(tǒng)的LVDS大大降低了，如圖3所示。 成像與探測 IMR還可以采用查找表(LUT)即時(shí)進(jìn)行視角轉(zhuǎn)換的二維或三維全景成像。可針對(duì)每個(gè)輸入幀更改攝像頭視角，以實(shí)現(xiàn)用戶視角間的動(dòng)態(tài)轉(zhuǎn)換。其本身支持雙線性過濾，可提供出色的圖像質(zhì)量。通過此方法，R-Car V2H自身只需極小的內(nèi)存即可支持三維全景成像。R-Car V2H 具有與R-Car H2相同的圖像識(shí)別硬件。因此，它也可同時(shí)實(shí)現(xiàn)SfM計(jì)算，也還可以實(shí)現(xiàn)行人探測。它可以采用梯度直方圖和支持向量機(jī)分類，對(duì)四個(gè)攝像頭的數(shù)據(jù)同時(shí)進(jìn)行行人探測。去年9月份在日本舉行的Renesas Developer Conference,11月份在德國舉行的慕尼黑電子展和今年3月份上海慕尼黑電子展上就對(duì)此功能進(jìn)行了展示(圖4)。
圖4：基于 R-Car V2H的帶行人檢測功能的三維全景演示 結(jié)論 本文針對(duì)汽車多攝像頭應(yīng)用的趨勢(shì)尤其是泊車輔助系統(tǒng)中的三維全景環(huán)視功能進(jìn)行了討論。介紹了具有豐富可擴(kuò)展性的R-Car汽車SoC系列產(chǎn)品。R-Car H2能夠?qū)崿F(xiàn)汽車周圍環(huán)境即時(shí)的三維全方位成像，使泊車操作更加方便。在R-Car V2H中，引入了獨(dú)到的以太網(wǎng)視頻直通方法和以太網(wǎng)AVB MAC以及多通道H.264低延遲解碼器，從而實(shí)現(xiàn)了超低延遲視頻處理并減小了內(nèi)存帶寬。瑞薩也引入了功能安全所需的關(guān)鍵特性，以使采用該產(chǎn)品的系統(tǒng)在功能安全上能達(dá)到ASIL B級(jí)別。 |
