爬蟲,也就是網路爬蟲。將網際網路當做大的蜘蛛網,我們的程式就是模擬蜘蛛去獲取蜘蛛網上的資訊。
翻譯為計算機語言就是: 模擬瀏覽器傳送請求(配置好相應的請求頭, url, cookies)
解析拿到的html, dom,做資料填充, 固定的資料格式
所以在寫爬蟲之前需要明確:爬取目標, 爬取後要整理成什麼樣的資料結構
需要一些瀏覽器的基本知識,如f12,network,頁面元素,cookie
然後就來寫爬蟲(前提是python環境已經搭建好):
醉醉簡單的爬蟲:
import urllibdef gethtml(url):
page = urllib.urlopen(url)
html = page.read()
return html
html = gethtml("。。。。。")
print html
Python爬蟲入門
今天看了菜鳥教程的python教程,準備做個小作業寫個爬蟲程式。其中主要涉及到基本語法 正規表示式 urllib和re兩個模組。import urllib 載入模組 import re defgethtml url page urllib.urlopen url html page.read ret...
python爬蟲入門
這幾天閒的無聊想做乙個爬蟲來爬取一些 正經 首先選擇用python作為爬蟲的語言。但是沒有接觸過python怎麼辦呢,只能從頭開始學了。python學習位址這個是廖大神寫的乙個python入門,個人感覺寫的非常不錯,在粗略的學習了一遍之後感覺可以開始我的爬蟲之旅了。目標 抓取中妹子的儲存在本地 接下...
python爬蟲入門
初學者要學會基本的爬蟲 先要安裝包requests requests的安裝 開啟這個 在這個 上面有很多 python 的第三方庫檔案,我們按 ctrl f 搜尋很容易找到 requests 如下圖,我們將第乙個資料夾,也就是 requests 資料夾複製到 python 的安裝目錄下的 lib 目...