
在处理来自外部api的数据时,我们经常会遇到数据录入不规范的问题,尤其是在处理人名、组织名等自由文本字段时,常常出现拼写错误、缩写或多种变体(例如 "john smith"、"jonathan smith"、"jon smith" 都可能指代同一个人)。当需要从api获取所有与某个特定实体相关的记录时,这种不一致性会带来挑战。
许多RESTful API在设计时,其查询参数通常只支持精确匹配或有限的通配符匹配,而不支持复杂的正则表达式模式。例如,当尝试将一个正则表达式模式(如 r'J.*n Smith')直接作为API请求的查询参数值传递时,API服务器很可能无法解析或识别其为有效的查询条件,导致查询失败或返回非预期的结果。
import requests
import json
import re
# 这种尝试通常不会奏效,因为API通常不直接支持正则表达式作为参数值
candidate_regex = r'J.*n Smith'
# pattern = re.compile(candidate_regex) # 编译的正则表达式对象无法直接作为URL参数值
payee_parameter_incorrect = {
"contribution_payee": candidate_regex, # API通常无法理解这种模式
"dt_posted": "ascending",
"key": "YOUR_API_KEY"
}
# contributions_link = "https://lda.senate.gov/api/v1/contributions/"
# response = requests.get(contributions_link, params=payee_parameter_incorrect)
# print(response.status_code)
# print(response.text) # 往往会看到错误信息或空结果上述代码片段展示了将正则表达式直接作为API参数的常见误区。由于API服务器无法直接执行客户端提供的正则表达式逻辑,我们需要一种在数据获取后进行处理的策略。
当API本身不提供模糊搜索功能时,一种有效的策略是在客户端(即您的Python程序中)获取尽可能广泛的数据集,然后利用模糊匹配(Fuzzy Matching)技术对获取到的数据进行二次筛选和匹配。模糊匹配的核心思想是计算两个字符串之间的相似度得分,而不是进行严格的字符级匹配。
fuzzywuzzy 是一个流行的Python库,它基于 Levenshtein 距离(编辑距离)算法,用于计算字符串之间的相似度。它提供了多种相似度计算方法,非常适合处理拼写错误和名称变体。
安装
首先,您需要安装 fuzzywuzzy 库。它依赖于 python-Levenshtein 模块以获得更好的性能,建议一并安装:
pip install fuzzywuzzy python-Levenshtein
基本用法
fuzzywuzzy 提供了几个核心函数来计算字符串相似度:
以下是 fuzz.ratio 的简单示例:
from fuzzywuzzy import fuzz
print(fuzz.ratio("John Doe", "Joe Dow")) # 67
print(fuzz.ratio("John Doe", "John M. Doe")) # 84
print(fuzz.ratio("John Doe", "Billy Jean")) # 22可以看到,相似的字符串会得到较高的分数。
由于API不支持直接模糊查询,我们的策略是:
以下是一个结合API数据处理的示例代码框架:
import requests
import json
from fuzzywuzzy import fuzz
from fuzzywuzzy import process # 用于从列表中提取最佳匹配
# 假设这是您要查找的目标候选人名称
target_candidate_name = "John Smith"
# 实际API调用:您可能需要根据API文档获取所有相关数据
# 例如,如果API允许按日期范围查询所有捐款,您可以这样做:
contributions_link = "https://lda.senate.gov/api/v1/contributions/"
api_params = {
# 假设API支持按日期获取所有数据,或者您分批次获取
# "dt_posted": "2023-01-01", # 示例参数,实际根据API文档调整
"key": "YOUR_API_KEY" # 请替换为您的实际API密钥
}
# 模拟API响应数据,实际中这将是您从API获取的JSON数据
# 为了演示,我们构造一个包含各种拼写变体的模拟数据
mock_api_response_data = {
"contributions": [
{"id": 1, "contribution_payee": "John Smith", "amount": 100},
{"id": 2, "contribution_payee": "Jonathan Smith", "amount": 50},
{"id": 3, "contribution_payee": "Jon Smith", "amount": 75},
{"id": 4, "contribution_payee": "Jhn Smith", "amount": 120}, # 拼写错误
{"id": 5, "contribution_payee": "Johnny Smith", "amount": 90},
{"id": 6, "contribution_payee": "Jane Doe", "amount": 200},
{"id": 7, "contribution_payee": "John Smtih", "amount": 60}, # 另一个拼写错误
{"id": 8, "contribution_payee": "Jonathon Smith", "amount": 80}
]
}
# 实际应用中,您会执行以下代码获取数据:
# try:
# response = requests.get(contributions_link, params=api_params)
# response.raise_for_status() # 检查HTTP错误
# data = response.json()
# except requests.exceptions.RequestException as e:
# print(f"API请求失败: {e}")
# data = {"contributions": []} # 失败时初始化为空列表
# 使用模拟数据进行演示
data = mock_api_response_data
found_contributions = []
similarity_threshold = 80 # 设置一个相似度阈值 (0-100),根据数据特点和容忍度调整
print(f"正在查找与 '{target_candidate_name}' 相似的捐款记录 (相似度阈值 >= {similarity_threshold}):\n")
# 遍历API返回的每条捐款记录
for record in data.get("contributions", []):
payee_name = record.get("contribution_payee")
if payee_name:
# 将字符串转换为小写进行不区分大小写的比较,提高匹配鲁棒性
score = fuzz.ratio(target_candidate_name.lower(), payee_name.lower())
if score >= similarity_threshold:
found_contributions.append(record)
print(f" 匹配到: '{payee_name}' (相似度: {score})")
if found_contributions:
print("\n--- 找到以下匹配的捐款记录 ---")
for contrib in found_contributions:
print(f" ID: {contrib['id']}, 捐款人: {contrib['contribution_payee']}, 金额: {contrib['amount']}")
else:
print("未找到符合条件的捐款记录。")
# 进一步示例:从一个已知的捐款人列表中找出最接近的目标名称
print("\n--- 使用 process.extractOne 找出最佳匹配 ---")
# 假设这是您从API或其他来源获得的所有不重复的捐款人名称列表
all_unique_payees = [
"John Smith", "Jonathan Smith", "Jon Smith", "Jane Doe",
"Jhn Smith", "John Smtih", "Jonathon Smith", "Michael Johnson"
]
# 找出与目标名称最匹配的一个
best_match = process.extractOne(target_candidate_name.lower(), [p.lower() for p in all_unique_payees])
if best_match:
# best_match 返回一个元组 (匹配的字符串, 相似度得分)
print(f"在所有已知捐款人中,与 '{target_candidate_name}' 最匹配的是: '{best_match[0]}' (相似度: {best_match[1]})")
else:
print("未在列表中找到最佳匹配。")尽管REST API通常不直接支持复杂的正则表达式进行模糊查询,但通过在客户端利用 fuzzywuzzy 等模糊匹配库,我们能够有效地处理API返回数据中的拼写错误和名称变体。这种客户端后处理的方法为数据清洗和聚合提供了一个灵活且强大的解决方案,确保我们能够从非结构化或不规范的数据中提取出所有相关的宝贵信息。
以上就是利用模糊匹配处理API数据中的名称拼写变体的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号