0. import requests
response = requests.get(url)
response.text
1. response響應物件的常用屬性,方法
response.status_code # 響應的狀態碼
response.text # 響應的內容 str
response.content # 響應的內容 bytes
response.content.decode('utf8') # 通過嘗試不同的字符集來正常顯示中文
response.url # 響應的url
response.request.url # 響應對應的請求的url
response.headers # 響應的頭 dict
response.request.headers # 請求頭 dict
response.cookies # 響應的cookie cookiejar
response.request._cookies # 請求的cookie cookiejar
response.json() # 把返回的json字串轉換成python資料型別
2. 把cookiejar型別的物件轉換為dict型別的cookies字典
requests.utils.dict_from_cookiejar(cookiejar_obj)
3. 傳送get請求
requests.get(url,
headers={},
cookies={}/cookiejar,
params=,
verify=false, # 處理安全認證證書造成的異常
timeout=3, # 超時3秒不返回就拋異常
proxies=
)4. 傳送post請求
requests.post(url,
data=,
headers={},
cookies={}/cookiejar,
params=,
verify=false, # 處理安全認證證書造成的異常
timeout=3, # 超時3秒不返回就拋異常
proxies=
)5. session = requests.session()能夠自動處理cookies,達到狀態保持的效果
session.get/post(引數和requests.get/post一樣)
6. **ip的使用
proxies=
7. retrying模組的簡單使用
from retrying import retry
@retry(stop_max_attempt_number=最大嘗試次數:int)
requests模組高階應用 模擬登入
爬取某些使用者的使用者資訊。對古詩詞網進行模擬登入。爬取首頁資料,獲取驗證碼資訊並儲存 通過超級鷹對驗證碼進行自動識別 點選登入後獲取到登入頁面的url,模擬對登入頁面發起post請求,引數中攜帶驗證碼 動態變化的 直接獻上 time 2022 1 20 0020 9 56 author tzy04...
requests模組入門
requests庫是比urllib更加方便實用的http第三方庫,它支援http連線保持和連線池,支援使用cookie保持會話,支援檔案上傳,支援自動響應內容的編碼,支援國際化的url和post資料自動編碼。requests.request 構造乙個方法,它是支撐以下各方法的基礎方法。request...
爬蟲基礎 requests模組使用樣例
1.基礎 import requests if name main 1.指定url url headers 2.發起請求,get方法會返回乙個響應物件 response requests.get url url,headers headers 3.text 字串 conten 二進位制 json 物...