1. 用requests庫和beautifulsoup庫,爬取校園新聞首頁新聞的標題、鏈結、正文。
2. 分析字串,獲取每篇新聞的發布時間,作者,**,攝影等資訊。
3. 將其中的發布時間由str轉換成datetime型別。
4. 將完整的**及執行結果截圖發布在作業上。
importrequests
from datetime import
datetime
url = '
'res =requests.get(url)
res.encoding = '
utf-8
'res.text
from bs4 import
beautifulsoup
soup = beautifulsoup(res.text,'
html.parser')
test=soup.body
for i in test.select('li'
):
if len(i.select('
.news-list-title
')) >0:
place = i.select('
.news-list-info
')[0].contents[1].text #
獲取**
title=i.select('
.news-list-title
')[0].text #
獲取標題
description = i.select('
.news-list-description
')[0].text #
獲取描述
detailurl=i.select('
a')[0].attrs['
href
'] #
獲取鏈結
resurl =requests.get(detailurl)
resurl.encoding = '
utf-8
'detailsoup = beautifulsoup(resurl.text, '
html.parser')
detail=detailsoup.select('
#content
')[0].text
author=detailsoup.select('
.show-info
')[0].text
click_num_url = '
'res2 =requests.get(click_num_url)
res2.encoding = '
utf-8
'str3=res2.text.split('
;')[3].split('
.')[1] #
解析js點選數目
time=author.lstrip('
')[:19]
isdatetime=datetime.strptime(time, '
%y-%m-%d %h:%m:%s
') #
轉換datetime
print("
"+time)
print("
" +place)
print("
" +title)
print("
新聞描述:
" +description)
print("
" +detailurl)
print("
新聞" +author[author.find('
'):].split()[0].lstrip(''))
print(author[author.find('
攝影:'):].split()[0].lstrip('
點選:'
))
print("
點選次數:
" +str3[6:-2])
print("
新聞詳情:
爬取校園新聞首頁的新聞
1.用requests庫和beautifulsoup庫,爬取校園新聞首頁新聞的標題 鏈結 正文 show info。2.分析info字串,獲取每篇新聞的發布時間,作者,攝影等資訊。import requests newsurl res requests.get newsurl 返回response物...
爬取校園新聞首頁的新聞
1.用requests庫和beautifulsoup庫,爬取校園新聞首頁新聞的標題 鏈結 正文 show info。import requests from bs4 import beautifulsoup newsurl res requests.get newsurl res.encoding ...
爬取校園新聞首頁的新聞
1.用requests庫和beautifulsoup庫,爬取校園新聞首頁新聞的標題 鏈結 正文 show info。2.分析info字串,獲取每篇新聞的發布時間,作者,攝影等資訊。import requests from bs4 import beautifulsoup from datetime ...