Python 爬蟲入門

2022-07-23 00:33:24 字數 474 閱讀 2907

爬蟲,也就是網路爬蟲。將網際網路當做大的蜘蛛網,我們的程式就是模擬蜘蛛去獲取蜘蛛網上的資訊。

翻譯為計算機語言就是:  模擬瀏覽器傳送請求(配置好相應的請求頭, url, cookies)

解析拿到的html, dom,做資料填充, 固定的資料格式

所以在寫爬蟲之前需要明確:爬取目標, 爬取後要整理成什麼樣的資料結構

需要一些瀏覽器的基本知識,如f12,network,頁面元素,cookie

然後就來寫爬蟲(前提是python環境已經搭建好):

醉醉簡單的爬蟲:

import urllib

def gethtml(url):

page = urllib.urlopen(url)

html = page.read()

return html

html = gethtml("。。。。。")

print html

Python爬蟲入門

今天看了菜鳥教程的python教程,準備做個小作業寫個爬蟲程式。其中主要涉及到基本語法 正規表示式 urllib和re兩個模組。import urllib 載入模組 import re defgethtml url page urllib.urlopen url html page.read ret...

python爬蟲入門

這幾天閒的無聊想做乙個爬蟲來爬取一些 正經 首先選擇用python作為爬蟲的語言。但是沒有接觸過python怎麼辦呢,只能從頭開始學了。python學習位址這個是廖大神寫的乙個python入門,個人感覺寫的非常不錯,在粗略的學習了一遍之後感覺可以開始我的爬蟲之旅了。目標 抓取中妹子的儲存在本地 接下...

python爬蟲入門

初學者要學會基本的爬蟲 先要安裝包requests requests的安裝 開啟這個 在這個 上面有很多 python 的第三方庫檔案,我們按 ctrl f 搜尋很容易找到 requests 如下圖,我們將第乙個資料夾,也就是 requests 資料夾複製到 python 的安裝目錄下的 lib 目...