寫好自己的爬蟲專案之後,可以自己定製爬蟲執行的命令。
一、單爬蟲
在專案的根目錄下新建乙個py檔案,如命名為start.py,寫入如下**:
from scrapy.cmdline importexecute
if__name__ == "
__main__":
execute([
"scrapy
", "
crawl
", "
chouti
", "
--nolog
"])
執行start.py即可。
二、多爬蟲執行
1、在spiders的同級目錄建立資料夾,如commands;
2、在這個新建的資料夾下建立乙個py檔案,如命名為crawlall.py,編寫**:
from scrapy.commands importscrapycommand
class
command(scrapycommand):
requires_project =true
defsyntax(self):
return
"[options]
"def
short_desc(self):
return
"run all of the spiders"#
自定義命令描述
defrun(self, args, opts):
spider_list = self.crawler_process.spiders.list() #
獲取爬蟲列表
for name in spider_list: #
迴圈列表,對每個爬蟲進行爬取。也可以對列表中的爬蟲進行篩選,根據自己的需求爬取想要的
self.crawler_process.crawl(name, **opts.__dict__
) self.crawler_process.start()
3、在settings.py中新增配置:commands_module = "專案名.目錄名"
如:commands_module = "my_scrapy.commands"
4、在終端輸入:scrapy crawlall --nolog 即可執行 (crawlall是步驟2中你新建的py檔名)
vue學習自定義元件篇 六
2 私有元件 元件傳值 2 父傳子方法 3 子傳父值 4 兄弟傳 元件場景 總結拓展 1 全域性元件 元件建立的方式 方式一 extend login div 方式一 vue.component login vue.extend new vue script 方式二 register div 方式二...
四 vue基礎 自定義元件
1.語法 vue.component 元件名字 如下 a.data 必須是乙個函式,有乙個返回值。和vue裡面的使用方法一樣 b.template 用來標示這個元件的渲染後的具體的 div id button count button count button count button count ...
小程式 自定義元件 屬性值 微信小程式 基礎元件
框架為開發者提供了一系列基礎元件,開發者可以通過組合這些基礎元件進行快速開發。詳細介紹請參考元件文件。什麼是元件 content goes here tagname 注意 所有元件與屬性都是小寫,以連字元 連線 型別描述 註解boolean 布林值元件寫上該屬性,不管是什麼值都被當作true 只有元...