requests 模組基礎應用

2021-09-30 21:02:02 字數 1476 閱讀 7813

0.  import requests

response = requests.get(url)

response.text

1. response響應物件的常用屬性,方法

response.status_code # 響應的狀態碼

response.text # 響應的內容 str

response.content # 響應的內容 bytes

response.content.decode('utf8') # 通過嘗試不同的字符集來正常顯示中文

response.url # 響應的url

response.request.url # 響應對應的請求的url

response.headers # 響應的頭 dict

response.request.headers # 請求頭 dict

response.cookies # 響應的cookie cookiejar

response.request._cookies # 請求的cookie cookiejar

response.json() # 把返回的json字串轉換成python資料型別

2. 把cookiejar型別的物件轉換為dict型別的cookies字典

requests.utils.dict_from_cookiejar(cookiejar_obj)

3. 傳送get請求

requests.get(url,

headers={},

cookies={}/cookiejar,

params=,

verify=false, # 處理安全認證證書造成的異常

timeout=3, # 超時3秒不返回就拋異常

proxies=

)4. 傳送post請求

requests.post(url,

data=,

headers={},

cookies={}/cookiejar,

params=,

verify=false, # 處理安全認證證書造成的異常

timeout=3, # 超時3秒不返回就拋異常

proxies=

)5. session = requests.session()能夠自動處理cookies,達到狀態保持的效果

session.get/post(引數和requests.get/post一樣)

6. **ip的使用

proxies=

7. retrying模組的簡單使用

from retrying import retry

@retry(stop_max_attempt_number=最大嘗試次數:int)

requests模組高階應用 模擬登入

爬取某些使用者的使用者資訊。對古詩詞網進行模擬登入。爬取首頁資料,獲取驗證碼資訊並儲存 通過超級鷹對驗證碼進行自動識別 點選登入後獲取到登入頁面的url,模擬對登入頁面發起post請求,引數中攜帶驗證碼 動態變化的 直接獻上 time 2022 1 20 0020 9 56 author tzy04...

requests模組入門

requests庫是比urllib更加方便實用的http第三方庫,它支援http連線保持和連線池,支援使用cookie保持會話,支援檔案上傳,支援自動響應內容的編碼,支援國際化的url和post資料自動編碼。requests.request 構造乙個方法,它是支撐以下各方法的基礎方法。request...

爬蟲基礎 requests模組使用樣例

1.基礎 import requests if name main 1.指定url url headers 2.發起請求,get方法會返回乙個響應物件 response requests.get url url,headers headers 3.text 字串 conten 二進位制 json 物...