
在从外部API获取数据时,尤其当数据源的录入标准不统一时,经常会遇到名称拼写不一致或存在多种变体的情况。例如,查询“John Smith”时,数据中可能存在“Jonathan Smith”、“Jon Smith”甚至“Jhon Smith”等形式。传统的精确字符串匹配方法会遗漏这些变体,而直接在API查询参数中尝试使用正则表达式(如J.*n Smith)通常是不可行的,因为大多数REST API的查询接口并不支持这种高级的模式匹配功能。API通常只接受精确匹配的字符串作为参数,将正则表达式作为查询参数传入会导致API无法解析或返回错误。
解决此类问题的有效方法是在客户端进行“模糊匹配”(Fuzzy Matching)。模糊匹配的核心思想是计算两个字符串之间的相似度,而不是判断它们是否完全相同。它通过算法(如Levenshtein距离)量化字符串之间的差异,从而识别出即使存在拼写错误或细微变动,但语义上可能指代同一实体的字符串。
这种方法的通用工作流程是:
在Python中,fuzzywuzzy 是一个流行的库,专门用于字符串模糊匹配。它依赖于 python-Levenshtein 库提供的高效算法。
首先,确保你的环境中安装了 fuzzywuzzy 库:
pip install fuzzywuzzy
fuzzywuzzy 提供了多种计算字符串相似度的方法,其中最常用的是 fuzz.ratio,它计算两个字符串的相似度得分(0-100)。
from fuzzywuzzy import fuzz
# 示例:计算不同字符串的相似度
print(f"John Doe vs Joe Dow: {fuzz.ratio('John Doe', 'Joe Dow')}")
print(f"John Doe vs John M. Doe: {fuzz.ratio('John Doe', 'John M. Doe')}")
print(f"John Doe vs Billy Jean: {fuzz.ratio('John Doe', 'Billy Jean')}")
print(f"John Smith vs Jon Smith: {fuzz.ratio('John Smith', 'Jon Smith')}")
print(f"John Smith vs Jonathan Smith: {fuzz.ratio('John Smith', 'Jonathan Smith')}")
# 输出示例:
# John Doe vs Joe Dow: 67
# John Doe vs John M. Doe: 84
# John Doe vs Billy Jean: 22
# John Smith vs Jon Smith: 86
# John Smith vs Jonathan Smith: 79从上述输出可以看出,fuzzywuzzy 能够有效地识别出相似的名称,并给出相应的相似度得分。得分越高,表示两个字符串越相似。
以下是结合 API 调用和本地模糊匹配的示例框架。假设我们正在查询一个捐款API,目标是找到所有与“John Smith”相关的捐款,包括其各种拼写变体。
import requests
import json
from fuzzywuzzy import fuzz
# 定义目标候选人名称
target_candidate_name = "John Smith"
api_base_url = "https://lda.senate.gov/api/v1/contributions/"
api_key = "YOUR_API_KEY" # 请替换为你的实际API密钥
# 步骤1:宽泛查询API
# 由于API通常不支持模糊匹配,我们需要先获取一个更宽泛的数据集。
# 实际应用中,如果API支持按部分字符串匹配(如“包含”),可以利用它来初步筛选。
# 如果API只支持精确匹配,可能需要获取所有数据,但这在数据量大时不可取。
# 在本例中,为了简化演示,我们假设API返回了一个包含多个捐款记录的列表。
# 实际场景中,你需要根据API文档来构建请求参数,并处理分页等问题。
# 模拟API返回的原始数据,包含名称变体
all_contributions = [
{"id": 1, "contribution_payee": "John Smith", "amount": 1000},
{"id": 2, "contribution_payee": "Jonathan Smith", "amount": 500},
{"id": 3, "contribution_payee": "Jon Smith", "amount": 200},
{"id": 4, "contribution_payee": "J. Smith", "amount": 750},
{"id": 5, "contribution_payee": "Jane Doe", "amount": 1500},
{"id": 6, "contribution_payee": "Johnathan Smith", "amount": 300},
{"id": 7, "contribution_payee": "John Smyth", "amount": 400},
]
found_contributions = []
similarity_threshold = 80 # 定义相似度阈值,可根据实际情况调整
print(f"\n正在搜索 '{target_candidate_name}' 及其变体 (相似度阈值 >= {similarity_threshold}):")
# 步骤2和3:遍历数据并进行模糊匹配
for contribution in all_contributions:
payee_name = contribution.get("contribution_payee")
if payee_name:
# 将字符串转换为小写进行不区分大小写比较,提高匹配鲁棒性
score = fuzz.ratio(target_candidate_name.lower(), payee_name.lower())
print(f" 比较 '{target_candidate_name}' 与 '{payee_name}': 相似度得分 = {score}")
if score >= similarity_threshold:
found_contributions.append(contribution)
print("\n找到的捐款记录:")
for contrib in found_contributions:
print(json.dumps(contrib, indent=2, ensure_ascii=False))
在这个示例中,我们首先模拟了从API获取到的原始捐款数据。然后,我们遍历这些数据,对每个捐款记录中的 contribution_payee 字段与我们的目标名称 target_candidate_name 进行模糊匹配。只有当相似度得分达到或超过预设的 similarity_threshold 时,该记录才会被认为是匹配项。
以上就是使用模糊匹配处理API数据中的名称变体与拼写错误的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号