Python Xpath和 lxml库的使用
创始人
2025-05-31 21:29:06

一、Xpath表达式:

   XPath(全称:XML Path Language)即 XML 路径语言,它是一门在 XML 文档中查找信息的语言,最初被用来搜寻 XML 文档,同时它也适用于搜索 HTML 文档。因此,在爬虫过程中可以使用 XPath 来提取相应的数据。

  Xpath节点:有父、子、同代、先辈、后代节点


javaJava编程思想2011
www.baidu.com

 说明:

title name year address 都是 book 的子节点
book 是 title name year address  父节点
title name year address  属于同代节点
title 元素的先辈节点是 book shop
shop 的后代节点是 book title name year address

二、Xpath基本语法

1) 基本语法

2) xpath通配符

xpath('/div/*')选取div下的所有子节点
xpath('/div[@*]')选取所有带属性的div节点

3) 多路径匹配

 xpath表达式1 | xpath表达式2 | xpath表达式3

xpath('//div|//table')选取所有的div和table节点

4)功能函数

 三、lxml库

   lxml 是 Python 的第三方解析库,完全使用 Python 语言编写,它对 Xpath 表达式提供了良好的支持,因此能够了高效地解析 HTML/XML 文档。本节讲解如何通过 lxml 库解析 HTML 文档。

3.1 安装lxml库  

pip3 install lxml

3.2 lxml使用流程 

1) 导入模块

from lxml import etree

2)创建解析对象

parse_html = etree.HTML(html)

 3) 调用xpath表达式

r_list = parse_html.xpath('xpath表达式')

4) lxml库数据提取 

print(r_list)

四、实战案例

  • 豆瓣书店
#豆瓣书店
import requests
from lxml import  etreeif __name__ == '__main__':url='https://market.douban.com/book/?utm_campaign=book_nav_freyr&utm_source=douban&utm_medium=pc_web'headers_={"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/107.0.0.0 Safari/537.36"}res=requests.get(url,headers_)# print(res.text)html=etree.HTML(res.text)#获取所有的lilis=html.xpath('.//li[@class="book-item"]')#循环for li in lis:#获取li下的图片img=li.xpath('.//div[@class="panel-img"]/img/@src')[0]# print(img)# 获取li下的标题title = li.xpath('.//div[@class="panel-detail"]/div/h3/text()')[0]print(img, title)

 

 

 

相关内容

热门资讯

今年我省粮食产量达515.56... (来源:辽宁日报)转自:辽宁日报 图为在中储粮(盘锦)储运有限公司,装运粮食的重型卡车排起长队...
国家发展改革委部署促进投资止跌... (来源:辽宁日报)转自:辽宁日报 新华社北京12月13日电 (记者魏玉坤) 记者13日从全国发展和改...
江苏省实施《中华人民共和国森林... (来源:新华日报) 目 录 第一章 总则 第二章 森林、林木和林地权属管理...
姜堰数字化产品讲“活”理论 (来源:新华日报) □ 本报记者 卢佳乐 通讯员 姜宣 “王教授,您约我‘喝茶论道’,...
联合国维和部队在苏丹遇袭 6人... 转自:财联社【联合国维和部队在苏丹遇袭 6人死亡】财联社12月14日电,当地时间13日,苏丹武装部队...