一、
準備工作:安裝mysql;安裝資料庫操作工具,我使用的是mysql-front;已經爬取好了的json檔案,之前有寫過,這裡直接拿來用。
二、
import json
import pymysql
defprem
(db)
: cursor = db.cursor(
) cursor.execute(
"select version()"
) data = cursor.fetchone(
)print
("database version : %s "
% data)
# 結果表明已經連線成功
cursor.execute(
"drop table if exists jsondb"
) sql =
"""create table jsondb(
name varchar(100) not null,
releasetime varchar(255) not null,
actor varchar(255) not null,
score varchar(255) not null)"""
cursor.execute(sql)
defreviewdata_insert
(db)
:with
open
('d:\python work\movie.json'
, encoding=
'utf-8'
)as f:
i =0while
true
: i +=
1print
(u'正在載入第%s行......'
% i)
try:
lines = f.readline(
)# 使用逐行讀取的方法
review_text = json.loads(lines)
# 解析每一行資料
result =
(review_text[
'name'
], review_text[
'releasetime'
], review_text[
'actor'
], review_text[
'score'])
)print
(result)
inesrt_re =
"insert into jsondb(name, releasetime, actor, score) values(%s,%s,%s,%s)"
cursor = db.cursor(
) cursor.executemany(inesrt_re, result)
db.commit(
)except exception as e:
db.rollback(
)print
(str
(e))
break
if __name__ ==
"__main__"
:# 起到乙個初始化或者呼叫函式的作用
#root是使用者名稱,123456是mysql的密碼,json是使用的資料庫名稱
db = pymysql.connect(
"localhost"
,"root"
,"123456"
,"json"
, charset=
'utf8'
) cursor = db.cursor(
) prem(db)
reviewdata_insert(db)
cursor.close(
)
最終在mysql-front中顯示的結果:
python 爬蟲獲取json資料存入檔案時亂碼
解決python使用爬蟲獲取json格式的網頁,輸出以及寫入檔案亂碼的情況 import codecs resp requests.get url,headers headers result json.dumps resp.json ensure ascii false 若不指定ensure as...
python儲存json資料,存入txt檔案
最近用python寫資料分析,然後想著我如果每次跑程式都需要一次api請求有點不太好,畢竟很多 都有限制。然後我就想著把請求的json資料,儲存到本地,沒有實時資料的需求時就使用原始資料,如果有的話就跑一下程式。下面是我的乙個示例,使用的是json的dumps方法,將dic轉化為字串格式 impor...
Python提取json資料並存入csv
import json import csvwith open e 道路資料.json encoding utf 8 as f json file json.load f 選取json表中features中的內容 arr json file features 宣告6列的二維空列表用於儲存資料 csv...