0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。
<
html
lang="en">
<
head
>
<
meta
charset="utf-8">
<
title
>title
<
body
>
<
h1
>this is the document body
<
p
id = "p1node">this is paragraph 1.
<
p
id = "p2node">段落2
<
a
href="">廣州商學院
<
li
>
<
a
href="">
<
div
class="news-list-text">
<
div
class="news-list-title" style="">我校校長楊文軒教授講授新學期「思政第一課」
<
div
class="news-list-description">3月27日下午,我校校長楊文軒教授在第四教學樓310室為學生講授了新學期「思政第一課」。
<
div
class="news-list-info"><
span
><
i
class="fa fa-clock-o">2018-03-28<
span
><
i
class="fa fa-building-o">馬克思主義學院
1.利用requests.get(url)獲取網頁頁面的html檔案
import requests
newurl = ''res = requests.get(newurl)
res.encoding = "utf-8"
print(res.text)
2.利用beautifulsoup的html解析器,生成結構樹
from bs4 import beautifulsoupsoup.p #標籤名,返回第乙個soup = beautifulsoup(res.text,'html.parser')
print(soup)
3.找出特定標籤的html元素
soup.head
soup.p.name #字串
soup.p. attrs #字典,標籤的所有屬性
soup.p. contents # 列表,所有子標籤
soup.p.text #字串
soup.p.string
soup.select(『li')
4.取得含有特定css屬性的元素
soup.select(
'#p1node'
)
soup.select(
'.news-list-title'
)
5.練習:
取出h1標籤
a =soup.select('h1')a1=a[0].text
print(a1)
取出a的標籤
a
=
soup.a.attrs[
'href'
]
soup.li.a.attrs[
'href'
]
print
(a)
取出所有li標籤的所有內容
a
=
soup.select(
'li'
)[
0
].text
print
(a)
a0
=
soup.select(
'.news-list-title'
)[
0
].text
a1
=
soup.select(
'.news-list-info'
)[
0
].contents[
0
].text
a2
=
soup.select(
'.news-list-info'
)[
0
].contents[
1
].text
a3
=
soup.body.li.a.attrs[
'href'
]
print
(a0,a1,a2,a3)
網路爬蟲基礎練習
0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。1.利用requests.get url 獲取網頁頁面的html檔案 import requests newsurl res requests.get newsurl 返回response物件 res.encoding utf 8 2.利用be...
網路爬蟲基礎練習
收藏0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。1.利用requests.get url 獲取網頁頁面的html檔案 import requests newsurl res requests.get newsurl 返回response物件 res.encoding utf 8 2.利用...
網路爬蟲基礎練習
0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。this is paragraph 1.段落2廣州商學院 我校校長楊文軒教授講授新學期 思政第一課 3月27日下午,我校校長楊文軒教授在第四教學樓310室為學生講授了新學期 思政第一課 2018 03 28 馬克思主義學院 1.利用reques...