
许多REST API在处理查询参数时,通常只支持精确匹配或有限的模式匹配(如通配符),而无法直接处理复杂的模糊逻辑或正则表达式。例如,当尝试通过API参数传递一个Python的re.Pattern对象(如r'J.*n Smith')来匹配姓名时,API服务器通常无法解析这种非标准的参数值,导致查询失败或返回非预期结果。
这意味着,如果API的后端数据库不支持内置的模糊搜索功能,我们无法直接在API请求层面实现对姓名拼写变体的识别。在这种情况下,我们需要将模糊匹配的逻辑转移到客户端,即在获取到API返回的原始数据后,再进行进一步的处理和筛选。
模糊匹配(Fuzzy Matching),也称为近似字符串匹配,是一种用于识别两个字符串相似程度的技术。它不依赖于精确的字符序列匹配,而是根据字符串之间的“距离”或相似度得分来判断它们是否代表相同或相近的实体。这对于处理用户输入错误、数据录入不规范或姓名存在多种常用缩写的情况非常有效。
在Python中,fuzzywuzzy库是一个流行的模糊匹配工具,它基于Levenshtein距离算法,提供了多种计算字符串相似度的方法,如:
立即学习“Python免费学习笔记(深入)”;
由于API本身不支持模糊查询,我们的策略是:首先通过API获取一个相对宽泛的数据集(例如,不带精确姓名过滤,或获取某个时间段内的所有相关数据),然后利用fuzzywuzzy库在本地对这些数据进行筛选和匹配。
在使用之前,需要通过pip安装fuzzywuzzy库及其依赖python-Levenshtein(用于提高性能)。
pip install fuzzywuzzy python-Levenshtein
首先,像往常一样使用requests库从API获取数据。在这一步,不应尝试在API参数中加入模糊匹配逻辑。如果API允许,可以尝试获取一个更广泛的、可能包含目标姓名的子集数据。
import requests
import json
# 假设这是您的API链接
ContributionsLink = "https://lda.senate.gov/api/v1/contributions/"
# 初始API请求参数,不包含模糊匹配逻辑
# 实际应用中,您可能需要根据API文档,使用其他参数(如日期范围、州等)
# 来获取一个合理大小的数据集,以便在本地进行处理。
Payee_Parameter = {
"dt_posted": "ascending", # 示例参数
"key": "YOUR_API_KEY" # 替换为您的API密钥
}
try:
response = requests.get(ContributionsLink, params=Payee_Parameter)
response.raise_for_status() # 检查HTTP请求是否成功
api_data = response.json()
# 假设API返回的数据结构是 {'results': [...]} 或直接是列表
# 这里我们简化为直接使用模拟数据
# real_contributions = api_data.get('results', [])
except requests.exceptions.RequestException as e:
print(f"API请求失败: {e}")
api_data = {"contributions": []} # 发生错误时提供空数据
# 模拟API返回的原始数据,实际中这将是 api_data 变量的内容
mock_api_data = {
"contributions": [
{"id": "c001", "payee_name": "John Smith", "amount": 1000},
{"id": "c002", "payee_name": "Jonathan Smith", "amount": 500},
{"id": "c003", "payee_name": "Jon Smith", "amount": 750},
{"id": "c004", "payee_name": "J. Smith", "amount": 200},
{"id": "c005", "payee_name": "Jane Doe", "amount": 300},
{"id": "c006", "payee_name": "John Smyth", "amount": 400}, # 拼写错误
{"id": "c007", "payee_name": "Jonathan Smth", "amount": 600}, # 拼写错误
{"id": "c008", "payee_name": "JOHN SMITH", "amount": 900}, # 大小写不同
{"id": "c009", "payee_name": "Jonathon Smith", "amount": 350}, # 变体
]
}获取到原始数据后,遍历每条记录,将其中的姓名与目标姓名进行模糊匹配。根据相似度得分设置一个阈值,以确定哪些记录是有效匹配。
from fuzzywuzzy import fuzz
from fuzzywuzzy import process # 用于从列表中提取最佳匹配
target_candidate_name = "John Smith"
similarity_threshold = 80 # 定义相似度阈值 (0-100),可根据实际数据调整
found_contributions = []
candidate_names_from_api = [] # 用于 process.extract 的列表
print(f"--- 正在查找与 '{target_candidate_name}' 相关的捐赠记录 (相似度 >= {similarity_threshold}) ---")
# 遍历API返回的每条记录
for record in mock_api_data.get("contributions", []):
payee_name_from_api = record.get("payee_name", "")
# 1. 数据预处理:统一大小写、去除多余空格等,提高匹配准确率
cleaned_payee_name = payee_name_from_api.strip().lower()
cleaned_target_name = target_candidate_name.strip().lower()
# 2. 计算相似度
# fuzz.ratio 适用于比较两个字符串的整体相似度
score = fuzz.ratio(cleaned_payee_name, cleaned_target_name)
# 如果相似度达到阈值,则认为是匹配项
if score >= similarity_threshold:
print(f"匹配成功: '{payee_name_from_api}' (相似度: {score})")
found_contributions.append(record)
else:
print(f"不匹配: '{payee_name_from_api}' (相似度: {score})")
# 收集所有payee_name,以便后续使用 process.extract
candidate_names_from_api.append(payee_name_from_api)
print("\n--- 筛选后的捐赠记录详情 ---")
if found_contributions:
for contrib in found_contributions:
print(json.dumps(contrib, indent=2))
else:
print("未找到符合条件的捐赠记录。")
# 3. 使用 process.extractOne 或 process.extract 查找最佳匹配
# process.extractOne 找到列表中与目标最相似的单个字符串
print(f"\n--- 使用 process.extractOne 查找与 '{target_candidate_name}' 最相似的名称 ---")
if candidate_names_from_api:
best_match_info = process.extractOne(target_candidate_name, candidate_names_from_api, scorer=fuzz.ratio)
if best_match_info:
print(f"最相似的名称是: '{best_match_info[0]}' (相似度: {best_match_info[1]})")
else:
print("未找到任何匹配项。")
else:
print("API数据中没有可供匹配的姓名。")
# process.extract 找到列表中所有高于阈值的匹配项
print(f"\n--- 使用 process.extract 查找所有高于 {similarity_threshold} 相似度的名称 ---")
if candidate_names_from_api:
all_matches_above_threshold = process.extract(target_candidate_name, candidate_names_from_api,
scorer=fuzz.ratio, limit=None) # limit=None 获取所有匹配
found_any_match = False
for match_name, score, _ in all_matches_above_threshold:
if score >= similarity_threshold:
print(f"匹配: '{match_name}' (相似度: {score})")
found_any_match = True
if not found_any_match:
print("未找到任何高于阈值的匹配项。")
else:
print("API数据中没有可供匹配的姓名。")
尽管REST API的查询参数通常不支持复杂的模糊匹配,但通过将模糊匹配逻辑转移到客户端,我们可以有效地解决姓名或实体名称拼写变体的问题。fuzzywuzzy库提供了一个强大且易于使用的解决方案,使得在Python中处理非结构化或不规范的文本数据变得更加可行。通过合理的数据获取策略、适当的阈值设置和必要的性能优化,您可以大大提高从API获取数据的准确性和完整性。
以上就是处理API数据中姓名拼写变体:Python模糊匹配实践的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号