工作中碰到乙個問題,有乙個字段需要做抓取
例如 想獲取網頁中總共的頁碼
通過beautifulesoup可以這樣獲取
resp = requests.get('')
soup = beautifulsoup(resp.text, 'lxml')
elements = soup.find('div', class_='page')
print(elements)
結果列印的結果為none
很是無語,上網查到可能的原因是處理的文件太大,而處理的解析器快取不夠造成的資訊丟失。
換乙個解析器,使用html.parser就可以解析出正確的結果
BeautifulSoup常用方法
1.初始化 2.查詢指定標籤 eg 要找到符合的所有標籤 p.findall div 反覆利用標籤特徵可以找到最終需要的標籤 3.直接加標籤名可以找到所有子標籤 eg 找到所有標籤 p.td 4.直接以字典形式,可以訪問標籤內對應屬性的值 eg 要找到 中href 的值 www.csdn.net p...
BeautifulSoup學習筆記
prettify 將html 格式化 get text 獲得所有文字內容 contens 返回所有子節點 children 返回子節點生成器 descendants 返回所有子孫節點的生成器 strings 返回包含的多個字串的生成器 stripped strings 返回包含的多個字串 去除多餘空...
爬蟲 BeautifulSoup 模組
二 根據這個dom樹就可以按照節點的名稱 屬性和文字搜尋節點 find all 方法會搜尋出所有滿足要求的節點,find 方法只會搜尋出第乙個滿足要求的節點 兩個方法的引數一模一樣 三 得到節點以後,就可以訪問它的名稱 屬性 文字。a為標籤名稱 超連結 href,class為屬性,顯示在頁面上的是p...