Python3 讀取odps資料庫資料

2021-10-14 01:16:59 字數 1436 閱讀 7229

如果未安裝pyodps包,則需要先安裝:

pip install pyodps
from odps import odps

from odps import dataframe

import pandas as pd

from collections import defaultdict

o = odps(access_id=

'access id'

,#登陸賬號

secret_access_key=

'password'

,#登陸密碼

project=

'projectname'

,#odps上的專案名稱

endpoint=

'')#官方提供的介面

方法一:通過odps內建dataframe讀取,該方法讀取的資料結構型別為odps.df.expr.core.dataframe

def

get_odps_table

(tb_name)

: data = dataframe(o.get_table(tb_name)

) data[

'ds'

]= data[

'ds'

].astype(

'int'

)return data

rdata = get_odps_table(

'tb_name'

)#獲取表資料例項

方法二:通過sql獲取資料,該方法得到的資料型別為pandas.core.frame.dataframe。

def

exe_sql

(sql)

: data =

with o.execute_sql(sql)

.open_reader(

)as reader:

d = defaultdict(

list

)#collection預設乙個dict

for record in reader:

for res in record:

d[res[0]

]1])

#解析record中的每乙個元組,儲存方式為(k,v),以k作為key,儲存每一列的內容;

data = pd.dataframe.from_dict(d,orient=

'index'

).t #轉換為資料框,並轉置,不轉置的話是橫條資料

return data

rdata = exe_sql(

'select aname,bname from tablename where aid = "1111"'

)#獲取資料例項

python3讀取網頁

網上用python讀取網頁的介紹很多,但是因為版本的問題,總是弄不對,這裡就介紹下python3讀取網頁的步驟,較少,只是為了與python2 相區別 urlopen url 另外,python中的製表符如下 在需要在字元中使用特殊字元時,python用反斜槓 轉義字元。如下表 原始字串 有時我們並...

python 3讀取檔案 Python3 檔案讀寫

python open 方法用於開啟乙個檔案,並返回檔案物件,在對檔案進行處理過程都需要使用到這個函式 1.讀取檔案 with open test json dumps.txt mode r encoding utf 8 as f seek 移動游標至指定位置 f.seek 0 read 讀取整個檔...

Python3讀取HTML檔案

在學習 designing machine learning systems with python 中文名 機器學習系統設計 python語言實現 一書中,在第三章第二節第五小節 p68 讀取html文件資料的 中。我發現有些不太懂,就把學習過程記錄下來。首先,如果你在python3.6環境中照搬...