三維雷射雷達點雲處理發展趨勢

2021-10-05 18:03:59 字數 1508 閱讀 2739

2023年的cvpr出來之後,在點雲處理方面給人的感覺是耳目一新,從眾多**中可以看出點雲處理的新的發展方向。

在之前的發展中,方法大致可以分為如下幾類:

point-voxel cnn for efficient 3d deep learning,在保證速度的同時提取point-wise的細粒度的特徵,減少了運算時間,提高了精度。而且該文章提出的是backbone,所以在識別、分割、分類的方法上都能使用。

3dssd: point-based 3d single stage object detector,使用point-based的分支做分割任務,使用voxel-based分支做檢測任務,point-based的特徵來自於voxel-based的插值,從而增加了一種監督方法。

pv-rcnn: point-voxel feature set abstraction for 3d object detection,同樣使用voxel-based的分支的特徵計算point-based分支的特徵,但更像是在multi scale中進一步聚合特徵,使用key point來描述整個點雲。這其實也相當於提出了一種降取樣的方法。

point和voxel相結合的方法還是需要探索的,我個人認為需要對voxel和point這兩種方法內部的具體計算做一些視覺化,或許能夠有一些啟發。

處理點雲的網路發展與處理影象的網路的發展趨勢非常相似,目前處理點雲的網路結構給人的感覺就是開始規範化,新的方法也基本屬於主流框架中,類似於pointnet,kd-net這種框架已經被淘汰。

在3d檢測方面,由於mmlab的一系列工作,包括類似的std等工作,將3d的檢測框架也規範了起來。

首先,two stage的網路框架非常類似於2d中的結構,3d卷積被廣泛的使用,在俯檢視中做第一階段的proposal。得到了proposal之後,使用aware pooling在體素中做特徵pooling,這個pooling和2d中mask rcnn中用的非常相似。而具體的操作細節,例如aware pooling,例如**point的mask,這種具體的操作已經被多篇文章證明其有效性。

one stage的模型仍然處於探索階段,目前文章還比較少,一大類別就是把點雲柵格化然後在俯檢視中做檢測,這個其實並不是特別針對3d檢測任務的。3dssd和structure-aware 3d object detection可以認為單階段的一些探索。

但相比於2d的檢測網路,3d的結構仍然是多樣的,loss也是多樣的,能不能找到一種對各種任務通用的結構是乙個值得研究的方向。

image和point的融合分為前融合和後融合,前融合一般是將point投影到image上,將image擴充套件為rgbd四通道。後融合則是採取將檢測結果進行融合。還有中間的融合,例如frustum-net這種,image的檢測結果為point中的檢測提供proposal。

總的來說,融合的階段有很多種,資料級,proposal級,結果級等,融合的方式也有很多,有將point投影到image中,以image為主體,也有通過這種投影關係獲取point的rgb資訊從而以point為主體的。所以融合方式多種多樣,但哪種方式是有效的,能不能找到一種比較通用的融合的正規化,仍然是乙個開放性的問題。

雷射雷達 C16鐳神16線三維雷射雷達使用

一 基礎知識介紹 1 點雲資料一邊採集一邊重構,對處理器的硬體資源消耗特別大,所以用電腦作為處理器時,電腦的配置要高,具體需要什麼楊的配置,下面會有資料介紹。2 雖然雷射雷達採集的資料和攝像頭採集的資料沒法做比較,但是從資料量和資料單位可做如下對比。雷神16線雷射雷達 銳兒威視130萬攝像頭感測器 ...

顯示三維點雲 三維雷射點雲資料建模

三維雷射點雲資料建模 常見的建模軟體有3dmax cad 草圖大師 revit等,在規則模型建模中,我們常會用到3dmax建模,在這裡就以3dmax為例來說明其在點雲建模應用的經驗 首先我們需要將採集到的點雲資料的原始格式轉換成autodesk軟體可以利用的rcs檔案,轉換工具就是recap或者re...

ROS入門 PCL雷射雷達點雲處理(2)待更新

直通濾波器 對xy軸進行限定,粗暴去噪 pcl passthroughpass pass.setinputcloud cloud pass.setfilterfieldname z pass.setfilterlimits 0.0,1.0 true pass.filter cloud filtere...