使用Perl語言寫個簡單的爬蟲

2021-09-06 09:30:20 字數 523 閱讀 1223

之前用scala和go語言分別都寫了乙個爬蟲,最近看了perl,就來寫個功能相同的版本。使用到了lwp::******模組,使用 cpan lwp安裝即可(ubuntu 13.04沒有隨perl一同提供這個重要模組,太可惜了)。**如下:

1

#!/usr/bin/perl

2use lwp::****** qw/get/;34

my%pages;5

print

"processing the index.\n";

6$_ = get("

");7while(m#

#g)=$2;9

}10for(keys

%pages)22

close

f;23 }

real    3m58.753s

user 0m0.900s

sys 0m0.632s

很明顯使用perl,**少了很多(和scala和go相比),處理文字是perl的優勢所在。

使用Go語言(golang 寫個簡單的爬蟲

上次用scala寫了個爬蟲。最近在閒工夫之時,學習go語言,便用go移植了那個用scala寫的爬蟲,如下 行數比scala版的有一定增加,主要原因有以下幾方面原因 1 golang 重視 書寫規範,或者說 格式,很多地方寫法比較固定,甚至比較麻煩。比如就算是if判斷為真後的執行語句只有一句話,按照 ...

爬蟲初學,寫個簡單的爬蟲

首先構造一下請求頭,呼叫request模組傳送請求,def request data url headers try response requests.get url,headers headers if response.status code 200 return response.conte...

用易語言寫個簡單的小爬蟲其中的關鍵點

ctrl l快捷鍵建立變數 變數名型別 協議引數 類 post資料類 請求頭資料 文字型協議引數.新增 v 4.52.0 請求頭資料 協議引數.獲取協議頭資料 變數名型別 請求data引數 類 post資料類 請求data提交內容 文字型請求data引數.新增 type 0 請求data提交內容 請...