requests
python標準庫中提供了:urllib等模組以供http請求,但是,它的 api 太渣了。它是為另乙個時代、另乙個網際網路所建立的。它需要巨量的工作,甚至包括各種方法覆蓋,來完成最簡單的任務。
import urllib.request
f = urllib.request.urlopen('')
result = f.read().decode('utf-8')
import urllib.request
req = urllib.request.request('')
req.add_header('referer', '')
r = urllib.request.urlopen(req)
result = f.read().decode('utf-8')
注:更多見python官方文件:
requests 是使用 apache2 licensed 許可證的 基於python開發的http 庫,其在python內建模組的基礎上進行了高度的封裝,從而使得pythoner進行網路請求時,變得美好了許多,使用requests可以輕而易舉的完成瀏覽器可有的任何操作。
1、安裝模組
1 pip3 install requests
2、使用模組
# 1、無引數例項
import requests
ret = requests.get('')
print(ret.url)
print(ret.text)
# 2、有引數例項
import requests
payload =
ret = requests.get("", params=payload)
print(ret.url)
print(ret.text)
requests.get(url, params=none, **kwargs)
requests.post(url, data=none, json=none, **kwargs)
requests.put(url, data=none, **kwargs)
requests.head(url, **kwargs)
requests.delete(url, **kwargs)
requests.patch(url, data=none, **kwargs)
requests.options(url, **kwargs)
# 以上方法均是在此方法的基礎上構建
requests.request(method, url, **kwargs)
import urllib
import requests
from xml.etree import elementtree as et
# 使用內建模組urllib傳送http請求,或者xml格式內容
"""f = urllib.request.urlopen('')
result = f.read().decode('utf-8')
"""# 使用第三方模組requests傳送http請求,或者xml格式內容
r = requests.get('')
result = r.text
# 解析xml格式內容
node = et.xml(result)
例項:檢視火車停靠資訊
import urllib
import requests
from xml.etree import elementtree as et
# 使用內建模組urllib傳送http請求,或者xml格式內容
"""f = urllib.request.urlopen('')
result = f.read().decode('utf-8')
"""# 使用第三方模組requests傳送http請求,或者xml格式內容
r = requests.get('')
result = r.text
# 解析xml格式內容
root = et.xml(result)
for node in root.iter('traindetailinfo'):
print(node.find('trainstation').text,node.find('starttime').text,node.tag,node.attrib)
Python爬蟲 HTTP協議 Requests庫
http協議 http hypertext transfer protocol 即超文字傳輸協議。url是通過http協議訪問資源的internet路徑,乙個url對應乙個資料資源。http協議對資源的操作 requests庫提供了http所有的基本請求方式。官方介紹 requests庫的6個主要方...
python 爬蟲系列02 認識 requests
本系列所有文章基於 python3.5.2 requests 是基於 urllib 的三方模組,相比於 uillib,操作更簡潔,功能更強大,而且支援 python3 getimport requests r requests.get url print r.status code print r....
python小白學習記錄 爬蟲requests篇
一 引用庫 import requests 二 請求訪問url,網頁相應 res requests.get 網頁位址 三 表明返回內容 目前返回的response物件有四種屬性 status code 檢查請求是否成功 content 將資料轉換為二進位制資料 text 將資料轉換為字串型資料 en...