logstash常見資料清洗配置

2021-10-07 14:35:29 字數 356 閱讀 2115

ogstash通過外掛程式的形式來配置input,filter,output,在消費資料後,如果需要對資料做處理,需要用到filter的很多功能。最近使用logstash傳遞kafka資料到es時,了解了一些logstash處理資料的方式,以下logstash的config做個簡單分享:

input

}filter "    ## 使用元資料資訊新增字段 

"patition_id" => "%"

"add_field_1" => "test_add_field"  ## 直接寫某些資料新增字段

}rename =>

}date

prune

}output

}

常見資料集

有幾個資料集常常聽到,但時間一長就容易混淆忘記,現記錄如下。持續更新。全稱the pascal visual object classes,也可簡稱voc。主題 目標分類 版本 該競賽現已結束 主題 識別 分割 版本 介紹 首先是每年的競賽 coco競賽從2015年開始,最初的競賽內容是detect...

常見資料集

官網 映象 pascal voc 挑戰賽主要有 object classification object detection object segmentation human layout action classification 這幾類子任務 pascal voc 2007 和 2012 資料...

常見資料結構

陣列 array 在程式設計中,為了處理方便,把具有相同型別的若干變數按有序的形式組織起來。這些按序排列的同類資料元素的集合稱為陣列。在c語言中,陣列屬於構造資料型別。乙個陣列可以分解為多個陣列元素,這些陣列元素可以是基本資料型別或是構造型別。因此按陣列元素的型別不同,陣列又可分為數值陣列 字元陣列...