XPath函数如何使用?

煙雲
发布: 2025-09-05 09:30:03
原创
236人浏览过
XPath函数通过字符串处理、节点筛选和逻辑判断等功能,显著提升路径表达式的灵活性与精准度。典型函数如contains()和starts-with()用于模糊匹配属性值,应对动态class或href;normalize-space()清理文本中的冗余空白,提升数据质量;count()和position()支持列表项的定量分析与索引定位;结合text()、substring-before()、translate()等可精准提取复杂文本中的目标信息,如价格、库存数字;在多语言场景中,通过关键词判断语言类型;面对不规则结构时,利用following-sibling、name()、local-name()实现相对定位与泛化选择,增强选择器的鲁棒性。

xpath函数如何使用?

XPath函数,说白了,就是你在构建路径表达式时,用来给筛选节点、处理数据加点“魔法”的工具。它能让你在原本只能按层级、按属性找节点的基础上,进行字符串操作、数值计算、布尔逻辑判断,甚至对节点集进行更复杂的处理。在我看来,掌握这些函数,是把XPath从“能用”提升到“好用”的关键一步,尤其是在面对那些结构不那么规整,或者你需要从文本里抠出特定信息的时候。

解决方案

使用XPath函数,你通常会把它们嵌入到你的路径表达式中,无论是作为谓词(

[]
登录后复制
里的条件),还是作为最终选择器的一部分。基本语法是
函数名(参数)
登录后复制
。参数可以是节点集、字符串、数字或布尔值,具体取决于函数的需求。

我们可以大致把XPath函数分为几类,每类都有其独特的应用场景:

  1. 节点集函数 (Node Set Functions): 这类函数主要用于处理或获取节点集的信息。

    • count(node-set)
      登录后复制
      : 返回节点集中的节点数量。
      • 例如:
        count(//li)
        登录后复制
        会统计页面上所有
        <li>
        登录后复制
        元素的数量。
    • position()
      登录后复制
      : 返回当前节点在节点集中的位置(从1开始)。
      • 例如:
        //div[position() = 2]
        登录后复制
        会选择第二个
        <div>
        登录后复制
        元素。
    • last()
      登录后复制
      : 返回节点集中的最后一个节点的位置。
      • 例如:
        //p[position() = last()]
        登录后复制
        会选择最后一个
        <p>
        登录后复制
        元素。
    • id(string)
      登录后复制
      : 根据ID属性值选择元素。
      • 例如:
        id('main-content')
        登录后复制
        会选择ID为
        main-content
        登录后复制
        的元素。
  2. 字符串函数 (String Functions): 用于处理节点或属性的文本内容。

    • string(object)
      登录后复制
      : 将任何类型的数据转换为字符串。
      • 例如:
        string(//h1)
        登录后复制
        会获取第一个
        <h1>
        登录后复制
        元素的文本内容。
    • concat(string1, string2, ...)
      登录后复制
      : 连接多个字符串。
      • 例如:
        concat('Hello', ' ', 'World')
        登录后复制
        结果是 "Hello World"。
    • contains(string1, string2)
      登录后复制
      : 检查
      string1
      登录后复制
      是否包含
      string2
      登录后复制
      • 例如:
        //a[contains(@href, 'product')]
        登录后复制
        选择所有
        href
        登录后复制
        属性包含 "product" 的链接。
    • starts-with(string1, string2)
      登录后复制
      : 检查
      string1
      登录后复制
      是否以
      string2
      登录后复制
      开头。
      • 例如:
        //div[starts-with(@class, 'item-')]
        登录后复制
        选择所有
        class
        登录后复制
        属性以 "item-" 开头的
        <div>
        登录后复制
    • substring(string, start, length)
      登录后复制
      : 提取字符串的子串。
      • 例如:
        substring('HelloWorld', 6, 5)
        登录后复制
        结果是 "World"。
    • string-length(string)
      登录后复制
      : 返回字符串的长度。
      • 例如:
        //p[string-length(text()) > 50]
        登录后复制
        选择文本内容长度超过50的
        <p>
        登录后复制
    • normalize-space(string)
      登录后复制
      : 移除字符串开头和结尾的空格,并将内部连续的空格替换为单个空格。
      • 这在处理网页上那些格式不统一的文本时简直是神器,比如
        normalize-space(//div[@class='description']/text())
        登录后复制
  3. 布尔函数 (Boolean Functions): 返回

    true
    登录后复制
    false
    登录后复制
    ,常用于谓词中。

    • not(boolean)
      登录后复制
      : 对布尔值取反。
      • 例如:
        //a[not(@target='_blank')]
        登录后复制
        选择所有
        target
        登录后复制
        属性不为 "_blank" 的链接。
    • true()
      登录后复制
      /
      false()
      登录后复制
      : 返回字面布尔值。
  4. 数值函数 (Number Functions): 用于执行数学计算。

    • number(object)
      登录后复制
      : 将对象转换为数字。
    • sum(node-set)
      登录后复制
      : 计算节点集中所有节点的数值之和。
    • floor(number)
      登录后复制
      : 向下取整。
    • ceiling(number)
      登录后复制
      : 向上取整。
    • round(number)
      登录后复制
      : 四舍五入。

这些函数可以单独使用,也可以嵌套使用,形成非常强大的表达式。比如,你想找一个

class
登录后复制
包含 "card" 并且文本内容里有 "优惠" 字样的
div
登录后复制
,你可以这样写:
//div[contains(@class, 'card') and contains(text(), '优惠')]
登录后复制
。这里的
and
登录后复制
也是一个逻辑运算符,它允许你组合多个条件。

常用XPath函数有哪些,它们各自的典型应用场景是什么?

在我日常的网页抓取和XML处理工作中,有那么几个XPath函数是我的“常客”,用得频率非常高,它们各自解决的问题也挺典型的。

首先是

contains()
登录后复制
starts-with()
登录后复制
,这两个简直是处理动态或模糊属性值的利器。很多网站的
class
登录后复制
id
登录后复制
属性会带有一些随机字符串,比如
item-12345
登录后复制
product-card-abc
登录后复制
。如果你只知道
item-
登录后复制
product-card-
登录后复制
这部分固定前缀,
starts-with(@class, 'item-')
登录后复制
就能帮你精准定位。而如果关键词可能出现在属性值的任何位置,比如
href
登录后复制
属性里包含
category=electronics
登录后复制
,那
contains(@href, 'category=electronics')
登录后复制
就派上用场了。我个人觉得,这两个函数极大地增强了XPath的鲁棒性,让它在面对前端框架生成的复杂HTML时也能游刃有余。

接着是

normalize-space()
登录后复制
。哦,这个函数,简直是文本清洗的救星!网页上的文本内容,特别是那些从数据库里拉出来或者用户输入的内容,经常会带着多余的空格、换行符、制表符。直接获取会很脏,影响后续的数据处理。
normalize-space(text())
登录后复制
可以把这些乱七八糟的空白字符清理得干干净净,只保留一个有意义的、规范化的字符串。我很多时候会直接在提取文本时就加上它,省去了后面用Python或JavaScript再做一次清洗的麻烦。

如知AI笔记
如知AI笔记

如知笔记——支持markdown的在线笔记,支持ai智能写作、AI搜索,支持DeepseekR1满血大模型

如知AI笔记 27
查看详情 如知AI笔记

count()
登录后复制
position()
登录后复制
也很常用,尤其是在你需要处理列表或者重复结构时。比如,你可能想确认某个列表有多少项,或者只想选择列表中的前几项、中间某一项。
count(//ul/li)
登录后复制
告诉我列表项的总数,而
//ul/li[position() < 3]
登录后复制
就能选出前两项。有时候,网站的结构并不提供直接的索引,但你可以通过
position()
登录后复制
来模拟,比如找到某个特定元素后的第三个兄弟节点。

最后,不得不提

text()
登录后复制
。虽然它不是一个函数,但经常和函数一起使用。
//div[@class='price']/text()
登录后复制
就能直接抓取到价格文本。但如果文本分散在多个子节点中,或者夹杂着其他标签,你可能需要
string(.)
登录后复制
或者
normalize-space(.)
登录后复制
来获取所有子孙文本的拼接结果,这在提取段落内容时特别有效。

在实际抓取数据时,如何利用XPath函数处理复杂的文本和属性值?

在实际的数据抓取中,复杂的文本和属性值是常态,而不是例外。XPath函数在这里能发挥出巨大的作用,让你的选择器变得更加智能和灵活。

举个例子,假设你要从一个商品详情页抓取价格。价格信息可能不是一个简单的数字,它可能是“¥ 129.99起”或者“原价: 200.00,现价: 150.00”。 如果你的目标是提取“129.99”,你可以先用

normalize-space()
登录后复制
清理文本,然后结合
substring-before()
登录后复制
substring-after()
登录后复制
甚至
translate()
登录后复制
来“切割”字符串。比如,
substring-before(normalize-space(//div[@class='price']/text()), '起')
登录后复制
就能帮你拿到“¥ 129.99”。如果连货币符号也想去掉,你可能需要更进一步,比如
translate(substring-before(normalize-space(//div[@class='price']/text()), '起'), '¥', '')
登录后复制

再比如,处理属性值。很多网站的图片URL可能藏在

data-src
登录后复制
属性里,或者一个元素的
class
登录后复制
属性包含多个值,如
class="product-item large active"
登录后复制
。如果你只想选择
active
登录后复制
的商品项,你可以用
//div[contains(@class, 'active')]
登录后复制
。但如果
active
登录后复制
只是其中一个状态,你可能还需要结合其他条件,比如
//div[contains(@class, 'product-item') and contains(@class, 'active')]
登录后复制

有时候,链接的

href
登录后复制
属性可能是一个相对路径,或者包含一些你不需要的查询参数。虽然XPath函数不能直接修改URL,但你可以用
starts-with()
登录后复制
筛选出你感兴趣的特定路径,或者用
substring-before()
登录后复制
截取URL的固定部分,比如
substring-before(@href, '?')
登录后复制
来去除问号后的所有参数,当然这只是一个初步的筛选,更精细的URL处理通常在抓取后进行。

我还遇到过一种情况,需要从一个混杂了文字和数字的字符串中提取纯数字。比如“库存:123件”。这时候,

translate()
登录后复制
函数就显得特别强大。你可以通过
translate(., '库存:件', '')
登录后复制
将这些非数字字符替换为空,从而只留下数字部分。然后,如果你想把它当作数字来计算,可以用
number(translate(., '库存:件', ''))
登录后复制
。这种组合使用,确实能解决不少让人头疼的提取问题。

XPath函数在处理多语言内容或不规则HTML结构时有哪些高级用法?

处理多语言内容和不规则HTML结构,是XPath函数真正展现其“高级”之处的场景。这不仅仅是找到元素,更是要以一种灵活且健壮的方式去适应变化。

对于多语言内容,虽然XPath 1.0中没有直接的语言检测函数(XPath 2.0+有

lang()
登录后复制
),但我们依然可以通过结合文本内容判断来间接处理。比如,如果你要抓取一个新闻网站的标题,而这个网站有中文和英文版,但HTML结构可能只有微小差异,甚至完全一样,只是内容不同。 你可以通过检查标题文本中是否包含特定语言的关键词来筛选:
//h2[contains(text(), '新闻') or contains(text(), '最新')]
登录后复制
针对中文,
//h2[contains(text(), 'News') or contains(text(), 'Latest')]
登录后复制
针对英文。这虽然有点笨拙,但在没有
lang
登录后复制
属性或者其他明确语言标识时,是一个实用的方法。 更进一步,如果你知道不同语言的特定日期格式或数字格式,也可以利用
matches()
登录后复制
(XPath 2.0+) 或
translate()
登录后复制
结合
string-length()
登录后复制
来进行模式匹配和筛选。比如,检查文本是否符合某种日期格式的正则表达式

至于不规则HTML结构,这才是XPath函数大显身手的地方。网页开发者并不总是按照W3C标准来写HTML,或者为了快速迭代,结构会变得非常“自由”。

  1. 相对定位与索引的结合: 当一个元素没有明确的ID或class,但它总是出现在某个已知元素之后(或之前)的某个位置时,
    following-sibling::*
    登录后复制
    preceding-sibling::*
    登录后复制
    结合
    position()
    登录后复制
    就非常有用了。
    • 比如,
      //h2[text()='产品详情']/following-sibling::p[position()=1]
      登录后复制
      就能找到标题“产品详情”后的第一个段落。这比硬编码一个绝对路径要灵活得多。
  2. *泛化选择器 `
    结合
    登录后复制
    name()
    登录后复制
    local-name()
    :** 有时候,你不知道具体的标签名是什么,或者标签名可能会变(比如从
    登录后复制
    div
    变成
    登录后复制
    section`),但你知道它一定是某个标题标签(h1-h6)或某个列表项。
    • //*[starts-with(name(), 'h')]
      登录后复制
      可以选择所有
      h1
      登录后复制
      h6
      登录后复制
      的标题。这在处理语义化不那么严格的页面时,能帮你抓取所有层级的标题。
    • 如果页面使用了XML命名空间,
      local-name()
      登录后复制
      函数就显得尤为重要,它会忽略命名空间前缀,只关注标签的本地名称。
  3. 根据文本内容长度筛选: 遇到很多空标签或者占位符标签时,你可能只想要那些有实际内容的元素。
    • //p[string-length(normalize-space(text())) > 0]
      登录后复制
      可以筛选出所有非空的
      <p>
      登录后复制
      标签。这在过滤掉那些视觉上不可见但HTML里存在的空标签时非常有效。
  4. id()
    登录后复制
    函数的妙用:
    即使
    id
    登录后复制
    属性不在你当前路径的直接父级,你也可以通过
    id('some-id')
    登录后复制
    直接跳到那个元素,然后从那里开始你的相对路径。这在处理大型、复杂且有明确ID标识的页面时,能提供一个快速的“锚点”。

总而言之,面对复杂和不规则的结构,XPath函数提供了一种“以不变应万变”的策略。它们允许你根据元素的行为、内容或相对位置来定位,而不是仅仅依赖于其静态的层级和标签名。这需要一些经验和对HTML结构的洞察,但一旦掌握,你的XPath技能会提升一个档次。

以上就是XPath函数如何使用?的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
热门推荐
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号