importurllib.requestimporturllib.parse
"""request封裝 對url的高階定製opener封裝 對請求過程的高階定製urllib.request.urlopen()opener封裝需要依賴於乙個handler物件handle是乙個類,提供httphandle\httpcookieprocesser\httpproxyhandler結論:如果需要在請求的過程中配置cookie或者**,就需要使用opener來處理請求"""url=''headers=request=urllib.request.request(
url=url,headers
=headers)
# 1.
基本的httphandler
的處理方式
# 構建
handler
物件handler=urllib.request.httphandler()
# 使用
handler
物件構建
opener
物件opener=urllib.request.build_opener(handler)
# 使用
opener
傳送請求任務
response=opener.open(request)
# 上面三步相當於
urllib.request.urlopen()
# open
自動儲存一些瀏覽器資訊
content=response.read().decode(
'utf-8')
(content)
爬蟲(9) 使用處理器Handler
response urllib.request.urlopen req urlopen缺點 不能新增ip池 不能使用 ip 不能使用cookie 所以要重寫urlopen,自定義處理器httpshandler importurllib.request 處理器 處理https,也能處理http協議 開...
Handler處理器 自定義Opener
在請求裡面,還有兩個高階功能,乙個是 乙個是cookie,學習handler和opener使用的步驟 見 concent 報錯 unicodeencodeerror gbk codec can t encode character xbb in position 30892 illegal mult...
Handler處理器和自定義Opener
response opener.open request 將opener應用到全域性,之後所有的,不管是opener.open 還是urlopen 傳送請求,都將使用自定義 私密 授權的賬戶 user 私密 授權的密碼 passwd 私密 ip proxyserver 61.158.163.130 ...