python Xpath语法的使用

一、XMl简介

（一）什么是 XML

XML 指可扩展标记语言(EXtensible)
XML 是一种标记语言，很类似 HTML。
XML 的设计宗旨是传输数据，而非显示数据。
XML 的标签需要我们自行定义。
XML 被设计为具有自我描述性。
XML 是 W3C 的推荐标准。
W3School 官方文档：http://www.w3school.com.cn/xml/index.asp

（二）XML 和 HTML 的区别

他们两者都是用于操作数据或者结构数据，在结构上大致相同的，但他们在本质上却存在着明显的区别。

数据格式	描述	设计目标
XML	Extensible Markup Language （ 可扩展标记语言）	被设计为传输和存储数据，其焦点是数据的内容。
HTML	HyperText Markup Language（超文本标记语言）	显示数据以及如何更好显示数据。
HTML DOM	Document Object Model for HTML（超文本标文档对象模型）	通过 HTML DOM，可以访问所有的 HTML 元素， 连同它们所包含的文本和属性。可以对其中的内容进行修改和删除，同时也可以创建新的元素。

（三）XML 的节点关系

<?XML version='1.0' encoding=""utf-8>
<book category="cooking">
 <title lang="en">Harry Potter</title>
 <author>J K.Rowling</author>
 <year>2005</year>
 <price>29.00</price>
</book>

 1.父(Parent)
每个元素以及属性都有一个父。上面是一个简单的 XML 例子中，book 元素是 title、author、year 以及 price 元素的父

2.子(Children)
元素节点可有零个、一个或多个子元素。在上面的例子中，title、author、year 以及 price 元素都是 book 元素的子元素

3. 同胞(Sibling)
拥有相同的父的节点。在上面的例子中，title、author、year 以及 price 元素都是同胞

4. 先辈(Ancestor)
某节点的父、父的父，等等。在上面的例子中，title 元素的先辈是 book 元素和 bookstore元素

5. 后代(Descendant)
某个节点的子，子的子等等。在上面的例子中，bookstore 的后代是 book、title、author、year 以及 price 元素：

二、XPATH

XPath (XML Path Language) 是一门在 XML 文档中查找信息的语言，可用来在 XML 文档中对元素和属性进行遍历。

（一）选取节点

XPath 使用路径表达式来选取 XML 文档中的节点或者节点集。这些路径表达式和我们在常规的电脑文件系统中看到的表达式非常相似。下面列出了最常用的路径表达式：

表达式	描述
nodename	选取此节点的所有子节点。
/	从节点选取。
//	从匹配选择的当前节点选择文档中的节点，而不考虑他们的位置。
.	选取当前节点。
..	选取当前节点的父节点。
@	选取属性。

在下面的表格中，我们已列出了一些路径表达式以及表达式的结果：

路径表达式	描述
bookstore	选取 bookstore 元素的所有子节点
/bookstore	选取根元素 bookstore。代表元素的绝对路径。
bookstore/book	选取属于 bookstore 的子元素的所有 book 元素。
//book	选取所有 book 子元素，而不管它们在文档中的位置
bookstore//book	选择属于 booksore 元素的后代所有的 book 元素，而不管他们位于 bookstore 之下的什么位置。
//@lang	选取名为 lang 的所有属性。
text()	取标签当中的值

（二）谓语(Predicates)

谓语用来查找某个特定的节点或者包含某个指定的值的节点，被嵌在方括号中。在下面的表格中，我们列出了带有谓语的一些路径表达式，以及表达式的结果：

路径表达式	描述
/bookstore/book[l]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<2]	选最前面的一个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]	选取所有属性名为 lang 的属性的 title 元素。
//titlel@lang=‘eng']	选取所有 tltle 元素，且这些元素有属性值为 eng 的 lang 属性。

（三）选取未知节点

XPath 通配符可用来选取未知的 XML 元素。

通配符	描述
*	匹配任何元素节点。
@*	匹配任何属性节点。

在下面的表格中，我们列出了一些路径表达式，以及这些表达式的结果：

路径表达式	描述
/bookstore/*	选取 bookstore 元素的所有子元素
//*	选取文档中的所有元素。
//title[@*]	选取所有带有属性的 title 元素。

（四）选取若干路径

通过在路径表达式中使用“|”运算符，您可以选取若干个路径。在下面的表格中，我们列出了一些路径表达式，以及这些表达式的结果：

路径表达式	描述
//book/title	//book/price
//title	//price
//price	选取文档中所有的 price 元素。

三、lxml 模块

（一）lxml 简介与安装
lxml 是一个 HTML/XML 的解析器，主要的功能是如何解析和提取 HTML/XML 数据。我们可以利用之前学习的 XPath 语法，来快速的定位特定元素以及节点信息。
安装方法:pip install lxml

（二）lxml 初步使用

1、解析HTML字符串

from lxml import etree
text = """
<div>
  <ul>
    <li class="item-0"><a href="link1.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >first item</a></li>
    <li class="item-1"><a href="link2.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >second item</a></li>
    <li class="item-inactive"><a href="link3.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >third item</a></li>
    <li class="item-1"><a href="link4.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fourth item</a></li>
    <li class="item-0"><a href="link5.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fifth item</a>
  </ul>
</div>
"""
html = etree.HTML(text)
result = etree.tostring(html,pretty_print=True).decode('utf-8')
print(result)
from lxml import etree
text = """
<div>
  <ul>
    <li class="item-0"><a href="link1.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >first item</a></li>
    <li class="item-1"><a href="link2.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >second item</a></li>
    <li class="item-inactive"><a href="link3.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" ><span class="bold">third item</span>></a></li>
    <li class="item-1"><a href="link4.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fourth item</a></li>
    <li class="item-0"><a href="link5.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fifth item</a></li>
  </ul>
</div>
"""
# 初始化一个Xpath解析对象
html = etree.HTML(text)
# 解析对象输出代码 是一个bytes类型
result = etree.tostring(html,encoding='utf-8')
print(type(html)) # <class 'lxml.etree._Element'>
print(type(result)) # <class 'bytes'>
print(result.decode('utf-8'))

小结：lxml 可以自动修正 html 代码，例子里不仅补全了 li 标签，还添加了 body，html 标签。

2.、lxml 文件读取

from lxml import etree
text = """
<div>
  <ul>
    <li class="item-0"><a href="link1.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >first item</a></li>
    <li class="item-1"><a href="link2.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >second item</a></li>
    <li class="item-inactive"><a href="link3.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" ><span class="bold">third item</span>></a></li>
    <li class="item-1"><a href="link4.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fourth item</a></li>
    <li class="item-0"><a href="link5.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" >fifth item</a></li>
  </ul>
</div>
"""
# 初始化一个Xpath解析对象
html = etree.HTML(text)
# 解析对象输出代码 是一个bytes类型
result = etree.tostring(html,encoding='utf-8')
print(type(html)) # <class 'lxml.etree._Element'>
print(type(result)) # <class 'bytes'>
print(result.decode('utf-8'))

除了直接读取字符串，lxml 还支持从文件里读取内容。我们新建一个 hello.html 文件，再利用 etree.parse()方法来读取文件。
注意：从文件中读取数据，要求文件内容符合 xml 格式，如果标签缺失，则不能正常读取。

四、XPath 节点信息解析：

# 安装lxml: pip install lxml

# 1. 导入etree: 两种导入方式
# 第一种: 直接导入
from lxml import etree
# 注意: 此种导入方式,可能会导致报错(etree下面会出现红色波浪线,不影响正常使用)

# 第二种: 
# from lxml import html
# etree = html.etree

str = '<bookstore>' \
      '<book>' \
        '<title lang="bng" src="https://www.baidu.com">Harry Potter</title>' \
        '<price>29.99</price>' \
      '</book>' \
      '<book>' \
        '<title class="t1" lang="ang">Learning XML</title>' \
        '<price>39.95</price>' \
      '</book>' \
      '<book>' \
        '<title lang="cng">西游记</title>' \
        '<price>69.95</price>' \
      '</book>' \
      '<book>' \
        '<title lang="dng" src="https://www.jd.com">水浒传</title>' \
        '<price>29.95</price>' \
      '</book>' \
      '<book>' \
        '<title class="t1" lang="dng" src="https://www.jd.com">三国演义</title>' \
        '<price>29.95</price>' \
      '</book>' \
    '</bookstore>'


# 2. etree.HTML() 将字符串转换成HTML元素对象,可以自动添加缺失的元素
html = etree.HTML(str) # <Element html at 0x1e17b839708> 是一个el对象
# print(html)


# 3. 方法:
# 3.1 tostring() 查看转换之后的内容(二进制类型)
# 如果想要查看字符串,需要解码
# 如果想要显示汉字,需要先编码,再解码
# content = etree.tostring(html,encoding='utf-8')
# print(content.decode())


# 3.2 xpath()方法 作用:提取页面数据,返回值是一个列表
# xpath的使用一定是建立在etree.HTML()之后的内容中的

# xpath是如何来提取页面数据的?
# 答:使用的是路径表达式

# 3.2.1 xpath路径分为两种:
# 第一种: / 代表一层层的查找,如果/存在于开头,代表根路径
# bookstore = html.xpath('/html/body/bookstore')
# print(bookstore) # [<Element bookstore at 0x2dd535efb88>]

# 第二种: // 任意路径 焦点在元素身上
# 例如：查找bookstore标签
# bookstore = html.xpath('//bookstore')
# print(bookstore) # [<Element bookstore at 0x1639054fdc8>]

# 第一种和第二种结合
# 例如：查找所有book标签
# book = html.xpath('//bookstore/book')
# print(book) # [<Element book at 0x2737fd7fa48>, <Element book at 0x2737fd7fc88>, <Element book at 0x2737fd7fcc8>, <Element book at 0x2737fd7fd08>, <Element book at 0x2737fd7fd88>]

# 3.2.2 /text() 获取标签之间的内容
# 例如：获取所有title标签的内容
# 步骤：
# 1. 找到所有title标签
# 2. 获取内容
# title = html.xpath('//book/title/text()')
# print(title) # ['Harry Potter', 'Learning XML', '西游记', '水浒传', '三国演义']

# 3.3 位于 使用[] 可以理解成条件
# 3.3.1 [n] 代表获取第n个元素,n是数字,n<=1
# 例如: 获取第二个title标签
# title = html.xpath('//book[2]/title/text()')
# title1 = html.xpath('//title[2]/text()')
# print(title) # ['Learning XML']
# print(title1) # []

# last() 获取最后一个
# 同理: last()-1 获取倒数第二个
# 例如: 获取最后一本书的title标签之间的内容
# title = html.xpath('//book[last()]/title/text()')
# title1 = html.xpath('//book[last()-1]/title/text()')
# print(title) # ['三国演义']
# print(title1) # ['水浒传']

# 3.3.2 position() 位置,范围 支持 > / < / = / >= / <= / !=
# 例如: 获取最后两本书的title标签之间的内容
# 步骤:
# 1. 先获取后两本书
# 2. 获取内容
# title = html.xpath('//book[position()>3]/title/text()')
# print(title) # ['水浒传', '三国演义']
# ? title = html.xpath('//book[position()>last()-2]/title/text()')
# print(title) # ['水浒传', '三国演义']

# 3.3.3 获取属性值:@属性名

# 例如: 获取lang属性值为cng的title标签的内容
# title = html.xpath('//book/title[@lang="cng"]/text()')
# print(title) # ['西游记']

# 例如: 获取包含src属性得title标签的内容
# title = html.xpath('//book/title[@src]/text()')
# print(title) # ['Harry Potter', '水浒传', '三国演义']

# 例如: 获取包含属性的title标签的内容
# title = html.xpath('//book/title[@*]/text()')
# print(title) # ['Harry Potter', 'Learning XML', '西游记', '水浒传', '三国演义']

# 例如: 获取最后一个title标签的src属性的值
# title = html.xpath('//book[last()]/title/@src')
# print(title) # ['https://www.jd.com']

# 例如: 获取所有包含src属性的标签之间的内容
# node = html.xpath('//*[@src]/text()')
# print(node) # ['Harry Potter', '水浒传', '三国演义']


# 3.4 and 与 连接的是谓语(条件)
# 例如: 获取lang="dng"并且class="t1"的title标签的内容
# title = html.xpath('//book/title[@lang="dng" and @class="t1"]/text()')
# title1 = html.xpath('//book/title[@lang="dng"][@class="t1"]/text()')
# print(title) # ['三国演义']
# print(title1) # ['三国演义']


# 3.5 or 或 连接谓语
# 例如: 查找lang="cng"或者lang="bng"的title标签的内容
# title = html.xpath('//book/title[@lang="cng" or @lang="bng"]/text()')
# print(title) # ['Harry Potter', '西游记']


# 3.6 | 连接路径
# 例如: 获取所有title标签和price标签之间的内容
# title = html.xpath('//title/text() | //price/text()')
# print(title) # ['Harry Potter', '29.99', 'Learning XML', '39.95', '西游记', '69.95', '水浒传', '29.95', '三国演义', '29.95']


# 3.8 parse() 作用:从文件中读取数据
# 注意: 读取的文件,必须满足xml格式**(不存在单标签,全部都是上标签)**
content = etree.parse('test.html')
# print(content) # <lxml.etree._ElementTree object at 0x000001DC5CF5ED08>
res = etree.tostring(content,encoding='utf-8')
print(res.decode()) 
<!DOCTYPE html>
<html lang="en">
<head>
  <title>test</title>
</head>
<body>
  <h1>
    这是一个html
  </h1>
</body>
</html>

到此这篇关于python Xpath语法的使用的文章就介绍到这了,更多相关python Xpath语法内容请搜索小牛知识库以前的文章或继续浏览下面的相关文章希望大家以后多多支持小牛知识库！