爬蟲，即網路爬蟲，大家可以理解為在網路上爬行的一直蜘蛛，網際網路就比作一張大網，而爬蟲便是在這張網上爬來爬去的蜘蛛咯，如果它遇到資源，那麼它就會抓取下來。想抓取什麼？這個由你來控制它咯。
比如它在抓取乙個網頁，在這個網中他發現了一條道路，其實就是指向網頁的超連結，那麼它就可以爬到另一張網上來獲取資料。這樣，整個連在一起的大網對這之蜘蛛來說觸手可及，分分鐘爬下來不是事兒。
因此，使用者看到的網頁實質是由 html **構成的，爬蟲爬來的便是這些內容，通過分析和過濾這些 html **，實現對、文字等資源的獲取。
url，即統一資源定位符，也就是我們說的**，統一資源定位符是對可以從網際網路上得到的資源的位置和訪問方法的一種簡潔的表示，是網際網路上標準資源的位址。網際網路上的每個檔案都有乙個唯一的url，它包含的資訊指出檔案的位置以及瀏覽器應該怎麼處理它。
url的格式由三部分組成：爬蟲爬取資料時必須要有乙個目標的url才可以獲取資料，因此，它是爬蟲獲取資料的基本依據，準確理解它的含義對爬蟲學習有很大幫助。①第一部分是協議(或稱為服務方式)。
②第二部分是存有該資源的主機ip位址(有時也包括埠號)。
③第三部分是主機資源的具體位址，如目錄和檔名等。
學習python，當然少不了環境的配置，最初我用的是notepad++，不過發現它的提示功能實在是太弱了，於是，在windows下我用了 pycharm，在linux下我用了eclipse for python，另外還有幾款比較優秀的ide，大家可以參考這篇文章 學習python推薦的ide 。好的開發工具是前進的推進器，希望大家可以找到適合自己的ide
下一節，我們就正式步入 python 爬蟲學習的殿堂了，小夥伴準備好了嘛？
from: 崔慶才的部落格（@崔慶才丨靜覓）
Python 爬蟲基礎入門
1.你是否在夜深人靜的時候，想看一些會讓你更睡不著的卻苦於沒有資源？2.你是否在節假日出行高峰的時候，想快速搶購火車票成功？3.你是否在網上購物的時候，想快速且精準的定位到口碑質量最好的商品？通過編寫程式，模擬瀏覽器上網，然後讓其去網際網路上抓取資料的過程。抓取網際網路上的資料，為我所用，有了大量的...
python爬蟲入門訓練 2
這次的爬蟲訓練是對豆瓣top250資訊的爬取，比較簡單的靜態頁面的爬取，本人也是初學者，為了防止學習的困難，我盡量寫的詳細點，建議先把 複製一遍，看能不能成功執行,再過來看，免得到時候全部看完了，不能執行，到時候自己解決也是蠻麻煩的，畢竟爬蟲更新換代也是蠻快的 對豆瓣top250所有資訊進行爬取,包...
Python爬蟲入門二之爬蟲基礎了解
靜覓 python爬蟲入門二之爬蟲基礎了解 爬蟲，即網路爬蟲，大家可以理解為在網路上爬行的一直蜘蛛，網際網路就比作一張大網，而爬蟲便是在這張網上爬來爬去的蜘蛛咯，如果它遇到資源，那麼它就會抓取下來。想抓取什麼？這個由你來控制它咯。比如它在抓取乙個網頁，在這個網中他發現了一條道路，其實就是指向網頁的超...