使用duplicated()函式檢測重複的行,返回元素為布林型別的series物件,每個元素對應一行,如果該行不是第一次出現,則元素為true
- keep引數:指定保留哪一重複的行資料
dataframe替換操作
使用df.std()函式可以求得dataframe物件每一列的標準差
資料清洗
清洗重複值
清洗異常值
隨機抽樣
當dataframe規模足夠大時,直接使用np.random.permutation(x)函式,就配合take()函式實現隨機抽樣
資料聚合是資料處理的最後一步,通常是要使每乙個陣列生成乙個單一的數值。
資料分類處理:
資料分類處理的核心:
- groupby()函式
- groups屬性檢視分組情況
pandas 資料處理
pandas中資料可以分為series,dataframe,panel分別表示一維至三維資料。其中在構造時,index表示行名,columns表示列名 構造方式 s pd.series data index index s pd series np random randn 5 index a b ...
pandas資料處理
dataframe.duplicated subset none,keep first 判斷dataframe中的資料是否有重複 必須一行中所有資料都重複才算重複,只能判斷行,不能判斷列 返回series dataframe.drop duplicates subset none,keep firs...
Pandas資料處理
資料處理 pandas from sklearn.preprocessing import minmaxscaler data 1,2 0.5,6 0.10 1,18 將 numpy 轉換成 pd 表 pd.dataframe data 歸一化 0,1 之間 scaler minmaxscaler ...