需要注意的地方就是新增請求頭,scrapy使用帶有表單資料請求的方式,spider檔案如下:
# -*- coding: utf-8 -*-
import scrapy
import csv
import json
class
mobickspider
(scrapy.spider)
: name =
'mobick'
allowed_domains =
['mobike.com'
] start_urls =
['']def
parse
(self, response)
# 通過抓包工具找到摩拜單車的資料傳輸介面
url =
""headers =
f =open
(r'file_path'
,'r'
) datas = csv.reader(f)
for data in datas:
longitude = data[2]
latitude = data[3]
# 攜帶的表單資料
payload =
yield scrapy.formrequest(
url=url,
headers=headers,
formdata=payload,
meta=
, callback=self.parse_data
)f.close(
)def
parse_data
(self, response)
: item = response.meta.get(
'item'
) car_data = json.loads(response.text)
if car_data is
notnone
:print
(item)
yield car_data
抓取摩拜單車車輛位置資料
一路上不停的拿著手機重新整理太麻煩了,身為碼農怎麼能忍?我這裡要實現的就是把重新整理檢視目的地是否有車的這個過程實現了自動化。實現思路是首先找到摩拜單車在地圖上標記車輛位置的這個介面,然後想辦法使用程式模擬這個請求,從獲得的車輛資料中檢查是否有符合的車輛,如果有則傳送提示訊息。注意,有改動 成功返回...
摩拜單車 說走就走的旅程
聽 azure 背後的故事 不知從何時起,我們每天生活的城市裡,開始被霧霾籠罩,沒有一點點防備,就會開始漫長的限行時光。漸漸地,我們開始懷念單車出行的日子,那時候的天很藍,空氣良好,日子也簡單而自由。有這樣乙個女孩兒,她說 我希望我像乙個機器貓一樣,當我想要一輛自行車的時候,我就能從口袋裡掏出一輛自...
摩拜再融2 15億美元,共享單車的終局會是什麼?
市場很大,但蛋糕並不好啃 去年 3 月,摩拜創始團隊開始密集接見投資人,但 自己重金造單車,租金半小時一塊錢 的模式卻並不受投資人待見。然而僅僅不到半年時間後,共享單車被賦予了解決人們出行的 最後 3 公里 的使命,並開始受到 資本的追捧,摩拜也很快藉此打了一場翻身仗,並迅速完成多輪融資。摩拜為何得...