繼50天內(nèi)拿下4個(gè)世界紀(jì)錄后，近日，大華股份再次刷新KITTI Sceneflow和KITTI Flow兩項(xiàng)競(jìng)賽的全球最好成績(jī)，采用基于實(shí)例分割、深度視差網(wǎng)絡(luò)、剛體運(yùn)動(dòng)一致性約束的場(chǎng)景流估計(jì)算法，超越了其它一流AI公司和頂尖的學(xué)術(shù)研究機(jī)構(gòu)，以及ICCV、ECCV、CVPR相關(guān)論文中的場(chǎng)景流研究成果，這標(biāo)志著大華股份在場(chǎng)景流與光流兩個(gè)算法領(lǐng)域均具有重大國(guó)際影響力。

大華股份取得

KITTI Sceneflow排行榜第一名

（網(wǎng)址: www.cvlibs.net/datasets/kitti/eval_scene_flow.php)
大華股份取得
KITTI Flow排行榜第一

網(wǎng)址: （www.cvlibs.net/datasets/kitti/eval_scene_flow.php?benchmark=flow)

關(guān)于KITTI：

KITTI數(shù)據(jù)集由德國(guó)卡爾斯魯厄理工學(xué)院和豐田美國(guó)技術(shù)研究院聯(lián)合創(chuàng)辦，是目前國(guó)際上最大的計(jì)算機(jī)視覺(jué)算法評(píng)測(cè)數(shù)據(jù)集之一。數(shù)據(jù)集用于評(píng)測(cè)立體匹配(stereo)、光流(flow)、場(chǎng)景流(sceneflow)、視覺(jué)里程計(jì)(visual odometry)、物體檢測(cè)(object detection)和跟蹤(tracking)、道路分割(road)、語(yǔ)義分割(semantics)等計(jì)算機(jī)視覺(jué)技術(shù)的性能。KITTI包含市區(qū)、鄉(xiāng)村和高速公路等場(chǎng)景采集的真實(shí)圖像數(shù)據(jù)，每張圖像中最多包含15輛車和30個(gè)行人，且存在不同程度的遮擋與截?cái)唷?BR>

場(chǎng)景流與光流：

場(chǎng)景流算法能夠同時(shí)估計(jì)場(chǎng)景中物體的三維位置與三維運(yùn)動(dòng)矢量，是感知環(huán)境空間幾何結(jié)構(gòu)的核心算法，與感知語(yǔ)義信息的算法結(jié)合后，能夠全面地理解環(huán)境。三維場(chǎng)景流的估計(jì)結(jié)果能夠進(jìn)一步分解為立體匹配結(jié)果與光流匹配結(jié)果，可以認(rèn)為，光流是場(chǎng)景流映射到二維圖像坐標(biāo)系的投影。

在本次比賽中，大華股份AI團(tuán)隊(duì)為提升場(chǎng)景流估計(jì)精度，增加了一系列算法模塊。首先，基于Mask-RCNN網(wǎng)絡(luò)進(jìn)行實(shí)例分割，從場(chǎng)景中分割出行人、車輛、自行車等前景目標(biāo)。接下來(lái)，基于GC-Net計(jì)算初始視差圖，使用分段多權(quán)重loss函數(shù)、利用實(shí)例分割結(jié)果和多尺度特征圖優(yōu)化初始視差結(jié)果，得到更加精細(xì)的視差圖，進(jìn)而改善了初始的proposal NRT集合。最后，引入移動(dòng)前景目標(biāo)的剛體運(yùn)動(dòng)一致性約束，針對(duì)場(chǎng)景流不連續(xù)區(qū)域，采用多閾值融合的策略，優(yōu)化場(chǎng)景流估計(jì)結(jié)果。

在評(píng)測(cè)中，采用場(chǎng)景流和光流算法的效果和計(jì)算結(jié)果如下所示：

▲輸入圖像

▲T0時(shí)刻視差圖

▲經(jīng)光流反向映射后的T1時(shí)刻視差圖

▲T0時(shí)刻到T1時(shí)刻的光流圖

在大華實(shí)際產(chǎn)品和未來(lái)產(chǎn)品中的應(yīng)用

本次競(jìng)賽中使用的技術(shù)已在大華股份的雙目攝像機(jī)、全景攝像機(jī)等產(chǎn)品上得到應(yīng)用，提升多目攝像機(jī)的捕獲目標(biāo)深度數(shù)據(jù)、目標(biāo)分離等算法性能。同時(shí)，該技術(shù)也成功應(yīng)用于AR融合應(yīng)用，實(shí)現(xiàn)單個(gè)與多個(gè)攝像機(jī)圖像的AR語(yǔ)義融合，極大提升行業(yè)解決方案的用戶體驗(yàn)。

雙目攝像機(jī)立體匹配應(yīng)用場(chǎng)景

以下為致密物體堆積下立體匹配的效果：

▲雙目圖像左圖

▲視差圖估計(jì)結(jié)果

AR語(yǔ)義融合應(yīng)用場(chǎng)景

以下為路面圖像的AR語(yǔ)義融合效果，可供增強(qiáng)的信息：目標(biāo)類別、位置、運(yùn)動(dòng)矢量等。

▲真實(shí)圖像

▲AR語(yǔ)義融合后的效果