1、什麼是爬蟲
爬蟲，即網路爬蟲，大家可以理解為在網路上爬行的一直蜘蛛，網際網路就比作一張大網，而爬蟲便是在這張網上爬來爬去的蜘蛛咯，如果它遇到資源，那麼它就會抓取下來。想抓取什麼？這個由你來控制它咯。
比如它在抓取乙個網頁，在這個網中他發現了一條道路，其實就是指向網頁的超連結，那麼它就可以爬到另一張網上來獲取資料。這樣，整個連在一起的大網對這之蜘蛛來說觸手可及，分分鐘爬下來不是事兒。
2、瀏覽網頁的過程
在使用者瀏覽網頁的過程中，我們可能會看到許多好看的，比如 ，我們會看到幾張的以及百度搜尋框，這個過程其實就是使用者輸入**之後，經過dns伺服器，找到伺服器主機，向伺服器發出乙個請求，伺服器經過解析之後，傳送給使用者的瀏覽器 html、js、css 等檔案，瀏覽器解析出來，使用者便可以看到形形色色的了。
因此，使用者看到的網頁實質是由 html **構成的，爬蟲爬來的便是這些內容，通過分析和過濾這些 html **，實現對、文字等資源的獲取。
3、url的含義
url，即統一資源定位符，也就是我們說的**，統一資源定位符是對可以從網際網路上得到的資www.cppcns.com源的位置和訪問方法的一種簡潔的表示，是網際網路上標準資源的位址。網際網路上的每個檔案都有乙個唯一的url，它包含的資訊指出檔案的位置以及瀏覽器應該qagdzmo怎麼處理它。
url的格式由三部分組成：
①第一部分是協議(或稱為服務方式)。
②第二部分是存有該資源的主機ip位址(有時也包括埠號)。
③第三部分是主機資源的具體位址，如目錄和檔名等。
爬蟲爬取資料時必須要有乙個目標的url才可以獲取資料，因此，它是爬蟲獲取資料的基本依據，準確理解它的含義對爬蟲學習有很大幫助。
4環境的配置
學習python，當然少不了環境的配置，最初我用的是notepad++，不過發現它的提示功能實在是太弱了，於是，在windows下我用了pycharm，在linux下我用了eclipse for python，另外還有幾款比較優秀的ide，大家可以參考這篇文章 學習python推薦的ide 。好的開發工具是前進的推進器，希望大家可以找到適合自己的ide。
知識點補充：
什麼是爬蟲和爬蟲的基本邏輯
「爬蟲」是一種形象的說法。網際網路比喻成一張大網，爬蟲是乙個程式或指令碼在這種大網上爬走。碰到蟲子（資源），若是所需的資源就獲取或**下來。這個資源通常是網頁、檔案等等。可以通過該資源裡面的url鏈結，順藤摸瓜繼續爬取這些鏈結的資源。
你也可以把爬蟲當作模擬我們正常上網。開啟網頁並分析網頁的內容獲取我們想要的東西。
那麼，這裡就涉及到http傳輸協議等相關的知識。
我們通常開啟乙個網頁，基本上都是開啟乙個url鏈結即可。在這個過程當中，實際上發生了很多事情。
開啟乙個urqagdzmol鏈結，瀏覽器自動向url鏈結的伺服器傳送乙個請求(request)，告訴伺服器說我需要訪問這個url鏈結的內容，請返回資料給我。伺服器就處理該請求，響應該請求並返回結果給瀏覽器。
既然爬蟲需要模擬該過程。根據http協議，爬蟲需要構造乙個請求(request)，發到請求到目標伺服器(通常是url鏈結)。然後等程式設計客棧待伺服器的響應(response)。
所有相關的資料都在這個響應結果當中，這個就是爬蟲實現的基本邏輯。
Python 爬蟲基礎入門
1.你是否在夜深人靜的時候，想看一些會讓你更睡不著的卻苦於沒有資源？2.你是否在節假日出行高峰的時候，想快速搶購火車票成功？3.你是否在網上購物的時候，想快速且精準的定位到口碑質量最好的商品？通過編寫程式，模擬瀏覽器上網，然後讓其去網際網路上抓取資料的過程。抓取網際網路上的資料，為我所用，有了大量的...
Python爬蟲HTPP請求方法有哪些
http請求方法 get 請求指定的頁面資訊，並返回實體主體。head 類似於get請求，只不過返回的響應中沒有具體的內容，用於獲取報頭 post 向指定資源提交資料進行處理請求 例如提交表單或者上傳檔案 資料被包含在請求體中。post請求可能會導致新的資源的建立和 或已有資源的修改。put 從客戶...
python爬蟲之 入門基礎
可以參考我之前學習的時候 的一篇文章一次完整的http事務過程 超詳細 2.還需要了解一下http的請求方式 有興趣的同學可以去查一下http的八種請求方法，這裡呢主要說下get請求和post請求，這兩種在以後學習中會用到的比較多。get請求 get方法用於使用給定的uri從給定伺服器中檢索資訊，即...