如果未安裝pyodps包,則需要先安裝:
pip install pyodps
from odps import odps
from odps import dataframe
import pandas as pd
from collections import defaultdict
o = odps(access_id=
'access id'
,#登陸賬號
secret_access_key=
'password'
,#登陸密碼
project=
'projectname'
,#odps上的專案名稱
endpoint=
'')#官方提供的介面
方法一:通過odps內建dataframe讀取,該方法讀取的資料結構型別為odps.df.expr.core.dataframe
def
get_odps_table
(tb_name)
: data = dataframe(o.get_table(tb_name)
) data[
'ds'
]= data[
'ds'
].astype(
'int'
)return data
rdata = get_odps_table(
'tb_name'
)#獲取表資料例項
方法二:通過sql獲取資料,該方法得到的資料型別為pandas.core.frame.dataframe。
def
exe_sql
(sql)
: data =
with o.execute_sql(sql)
.open_reader(
)as reader:
d = defaultdict(
list
)#collection預設乙個dict
for record in reader:
for res in record:
d[res[0]
]1])
#解析record中的每乙個元組,儲存方式為(k,v),以k作為key,儲存每一列的內容;
data = pd.dataframe.from_dict(d,orient=
'index'
).t #轉換為資料框,並轉置,不轉置的話是橫條資料
return data
rdata = exe_sql(
'select aname,bname from tablename where aid = "1111"'
)#獲取資料例項
python3讀取網頁
網上用python讀取網頁的介紹很多,但是因為版本的問題,總是弄不對,這裡就介紹下python3讀取網頁的步驟,較少,只是為了與python2 相區別 urlopen url 另外,python中的製表符如下 在需要在字元中使用特殊字元時,python用反斜槓 轉義字元。如下表 原始字串 有時我們並...
python 3讀取檔案 Python3 檔案讀寫
python open 方法用於開啟乙個檔案,並返回檔案物件,在對檔案進行處理過程都需要使用到這個函式 1.讀取檔案 with open test json dumps.txt mode r encoding utf 8 as f seek 移動游標至指定位置 f.seek 0 read 讀取整個檔...
Python3讀取HTML檔案
在學習 designing machine learning systems with python 中文名 機器學習系統設計 python語言實現 一書中,在第三章第二節第五小節 p68 讀取html文件資料的 中。我發現有些不太懂,就把學習過程記錄下來。首先,如果你在python3.6環境中照搬...