前言
找到你所要爬取物品的頁面,右鍵檢查,如圖所示:
我們需要的就是紅方塊框柱的內容了。
**最後(我感覺可以直接上**了)
**`
import requests
import json
import csv
from lxml import etree
comment_url = ''
for i in range(10):
page = i
params =
headers =
comment_resp = requests.get(url=comment_url, params=params, headers=headers)
print(comment_resp.status_code)
# print(comment_resp.text)
comment_str = comment_resp.text
comment_dict = json.loads(comment_str)
comments = comment_dict['comments']
for comment in comments:
user = comment['nickname']
color = comment['productcolor']
size = comment['productsize']
test = comment['content']
with open('jdcotent.csv', 'a', newline='') as f:
writer = csv.writer(f)
writer.writerow(row)
# print(infor)
with open('jdcotent.csv', 'a', newline='')as csv_file:
rows = (user,color,size,test)
writer = csv.writer(csv_file)
writer.writerow(rows)
這是沒有函式封裝的**(剛開始練手的)後續會添上整理好的函式封裝並存入資料庫的**。 爬取京東商品評論並存入資料庫(二)
前言 上篇我詳細說明了爬取得過程,這裡就不過多解釋,直接上爬取得 簡單明瞭 import requests import json import pymysql comment url def jd page params headers comment resp requests.get url ...
python json 爬京東商品評論
1 我用的是qq瀏覽器,右擊檢查,在network下選擇js,在搜尋框裡輸入productpagecomments 如果出不來記得f5重新整理一下 如圖 2 雙擊productpagecomments會得到以下頁面 二 找到想要的東西就要寫 啦 上 coding utf 8 importurllib...
用Python爬取京東商品評論(2)
首先開啟京東的頁面,輸入你想要查詢的某項商品的名稱,這裡用貝因美的某一款奶粉舉例 1.首先我們右擊選擇檢視網頁源 3.利用params引數構建 我們可以發現 callback fetchjson comment98vv75454 productid 1601354 score 0 sorttype ...