02爬蟲requests請求庫

2022-03-11 17:36:46 字數 1624 閱讀 8924

1.介紹:使用requests可以模擬瀏覽器的請求,比起之前用到的urllib,requests模組的api更加便捷(本質就是封裝了urllib3)

3.安裝:pip3 install requests

4.各種請求方式:常用的就是requests.get()和requests.post()

>>> import requests

>>> r = requests.get('')

>>> r = requests.post('', data = )

>>> r = requests.put('', data = )

>>> r = requests.delete('')

>>> r = requests.head('')

>>> r = requests.options('')

#

1.匯入模組

import

requests

#2.傳送請求

response = requests.get("

")#獲取相應資料並處理

print(response.text)

如果拼接的資料是中文特殊符號,則必須進行url編碼

方式1:

方式2:、

5.高階用法

爬蟲 02 requests模組

見ipynb 見ipynb 實現引數動態化 params response requests.get url url,params params,headers headers 解決方法 修改響應資料的編碼格式 encoding返回的是響應資料的原始的編碼格式,如果給其賦值則表示修改了響應資料的編碼...

爬蟲 requests請求網頁總結

相關基本常識解釋 user agent 瀏覽器名稱,修改版本以及版本號可爬取手機頁面 cookie 儲存瀏覽器本地使用者資訊 容量有限 session 儲存在對方伺服器上,比cookie安全 referer 當前頁面跳轉之前的頁面 upgrade insecure requests 將http公升級...

python爬蟲 requests請求傳送

文件 readthedocs 使用pip安裝即可,如果要在虛擬環境使用,記得先啟用虛擬環境 pip install requestsgetdef get response requests.get print response 新增請求頭 headers user agent代表請求的身份,偽裝成瀏...