Python爬蟲之自動建立請求物件

2021-10-02 14:52:31 字數 503 閱讀 1705

from urllib import request

import re

url = r''

#建立自定義請求物件

req = request.request(url)

pat = r'(.*?)'

#傳送請求

reponse = request.urlopen(req )

.read(

).decode(

)data = re.findall(pat,reponse)

print

(data[0]

)#輸出

【分析】

1.當直接使用 request方法時時,request會自動建立請求物件,然後物件傳送請求,獲取詳細資訊。缺點在於自動建立的物件無法進行二次封裝;

2.自定義請求物件方式:req = request.request(url),自定義的request中還可以存放http請求頭user-agent等資訊。見下一節。

Python爬蟲之模擬POST請求

multipart form data text xml flask 獲取引數的幾種方式方式 python 中 requests 模組提交 post 引數的幾種方式 提交 multipart form data 格式的引數,需要借助乙個第三方模組 requests toolbelt 來對引數進行封裝...

爬蟲之修改請求頭

由於我是自學爬蟲的第一篇部落格,也許是最後一篇,全看我心情。import requests 匯入requests模組,用來獲取網頁的 url 某 你要爬取的網頁的 try 這個不講了,不懂看前面的python基礎模組。r requests.get url 通過get方法獲取乙個url的respons...

Python爬蟲02 請求模組

七 json資料 response.text 返回unicode格式的資料 str response.content 返回位元組流資料 二進位制 response.content.decode utf 8 手動進行解碼 response.url 返回url response.encode 編碼 im...