使用Pandas计算DataFrame中历史同期值的专业教程

霞舞
发布: 2025-10-18 10:17:00
原创
143人浏览过

使用Pandas计算DataFrame中历史同期值的专业教程

本教程详细介绍了如何利用pandas库高效地计算dataframe中指定历史周期的数值,并进一步计算绝对变化量和百分比变化量。通过结合`pd.dateoffset`进行日期偏移和`merge`操作,我们能够精确地获取任意月份前的同期数据,从而克服`pct_change()`等方法的局限性,实现灵活且专业的时序数据分析。

深入理解Pandas:高效获取历史同期数据与变化分析

在数据分析领域,比较当前数据与历史同期数据是常见的需求,例如分析月度环比、年度同比等。Pandas库提供了强大的时间序列处理能力,但有时简单的百分比变化(如.pct_change())并不能满足获取精确历史同期值的需求。本教程将详细讲解如何构建一个健壮的Pandas解决方案,以获取指定月份前的历史同期数据,并计算相应的绝对和相对变化。

1. 核心概念与数据准备

要获取历史同期数据,我们需要解决两个关键问题:

  1. 确定历史日期:给定当前日期,如何准确计算出N个月前的日期?
  2. 匹配历史数据:如何将计算出的历史日期与原始数据中的实际日期进行匹配,并提取相应的指标值?

Pandas的pd.DateOffset和merge操作是解决这两个问题的核心工具

首先,我们准备一份示例数据集,其中包含URL、关键词、流量和日期信息。

import pandas as pd
import io 

# 示例输入数据
INPUT_CSV = """
URL,Organic Keywords,Organic Traffic,Date
https://www.example-url.com/,1315,11345,20231115
https://www.example-url.com/,1183,5646,20231015
https://www.example-url.com/,869,5095,20230915
https://www.example-url.com/,925,4574,20230815
https://www.example-url.com/,899,4580,20230715
https://www.example-url.com/,1382,5720,20230615
https://www.example-url.com/,1171,5544,20230515
https://www.example-url.com/,1079,5041,20230415
https://www.example-url.com/,734,3855,20230315
https://www.example-url.com/,853,3455,20230215
https://www.example-url.com/,840,2343,20230115
https://www.example-url.com/,325,2318,20221215
https://www.example-url.com/,156,1981,20221115
https://www.example-url.com/,166,2059,20221015
https://www.example-url.com/,124,1977,20220915
https://www.example-url.com/,98,1919,20220815
https://www.example-url.com/,167,1796,20220715
https://www.example-url.com/,140,1596,20220615
https://www.example-url.com/,168,1493,20220515
https://www.example-url.com/,171,1058,20220415
https://www.example-url.com/,141,1735,20220315
https://www.example-url.com/,129,1836,20220215
https://www.example-url.com/,141,746,20220115
https://www.example-url.com/,129,1076,20211215
"""

# 定义常量
INITIAL_COL_REORDER = ['URL', 'Date', 'Organic Keywords', 'Organic Traffic']
METRIC_COLS = ['Organic Keywords', 'Organic Traffic']
DIMENSION_COLS = ['URL']
DATE_COL = 'Date'
PERIODS = [1, 3, 12] # 需要计算的同期月份数

# 读取CSV数据并进行初步处理
df = pd.read_csv(io.StringIO(INPUT_CSV))
df = df[INITIAL_COL_REORDER] # 重新排序列
df[DATE_COL] = pd.to_datetime(df[DATE_COL], format='%Y%m%d') # 转换日期格式
df = df.sort_values(by=DATE_COL, ascending=False) # 按日期降序排序
登录后复制

2. 构建核心函数:get_last_period_values

该函数将负责计算指定月份前的历史日期,并从原始DataFrame中匹配相应的指标值。

def get_last_period_values(df, months_prior, metric_cols, dimension_cols, date_col):
    df_copy = df.copy() # 避免修改原始DataFrame

    # 1. 计算历史日期
    # 使用pd.DateOffset(months=months_prior)从当前日期减去指定月份
    df_copy[f'{date_col}_Prior'] = df_copy[date_col] - pd.DateOffset(months=months_prior)

    # 2. 合并历史数据
    # 将DataFrame自身与自身进行合并,实现历史数据的查找
    # left_on: 当前DataFrame中用于匹配的列(计算出的历史日期)
    # right_on: 目标DataFrame中用于匹配的列(原始日期)
    # suffixes: 用于区分合并后同名列的后缀
    df_copy = df_copy.merge(
        df_copy[[date_col] + dimension_cols + metric_cols], 
        left_on=f'{date_col}_Prior', 
        right_on=date_col, 
        how='left', # 使用左连接,保留所有当前日期的数据
        suffixes=('', f'_{months_prior}mo_Prior') # 为历史数据列添加后缀
    )

    # 3. 清理辅助列
    # 移除临时的历史日期列以及维度列在合并后产生的重复列
    df_copy = df_copy.drop(columns=[f'{date_col}_Prior'] + [col + f'_{months_prior}mo_Prior' for col in dimension_cols])

    # 4. 计算绝对变化量
    for metric in metric_cols:
        current_metric_col = metric
        prior_metric_col = f'{metric}_{months_prior}mo_Prior'
        df_copy[f'{metric}_{months_prior}mo_Abs_Change'] = df_copy[current_metric_col] - df_copy[prior_metric_col]

    # 5. 计算百分比变化量
    for metric in metric_cols:
        current_metric_col = metric
        prior_metric_col = f'{metric}_{months_prior}mo_Prior'
        # 避免除以零,虽然Pandas会自动处理NaN/Inf
        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[current_metric_col] / df_copy[prior_metric_col] - 1
        df_copy[f'{metric}_{months_prior}mo_Pct_Change'] = df_copy[f'{metric}_{months_prior}mo_Pct_Change'].round(2)

    return df_copy
登录后复制

函数详解:

闪光简历
闪光简历

一款专业的智能AI简历制作工具

闪光简历 25
查看详情 闪光简历
  • df_copy = df.copy(): 这是一个良好的实践,确保在函数内部对DataFrame的修改不会影响到传入的原始DataFrame。
  • df_copy[f'{date_col}_Prior'] = df_copy[date_col] - pd.DateOffset(months=months_prior): 这一行是核心。它为每一行计算出对应的历史日期。pd.DateOffset是一个非常灵活的工具,可以用于添加或减去任意时间单位(年、月、日、小时等)。
  • df_copy.merge(...): 这是另一个关键步骤。我们将原始DataFrame(或其副本)与自身进行左连接。
    • left_on=f'{date_col}_Prior':使用我们刚刚计算出的历史日期作为左侧DataFrame的连接键。
    • right_on=date_col:使用原始DataFrame的实际日期作为右侧DataFrame的连接键。
    • how='left':确保保留所有当前日期的数据。如果某个历史日期在原始数据中找不到匹配项(例如,数据起始日期之前的历史日期),则相应的历史值将显示为NaN。
    • suffixes=('', f'_{months_prior}mo_Prior'):当合并的两个DataFrame中有同名列时,Pandas会自动添加后缀以区分它们。这里我们指定当前列不加后缀,历史列加_Nmo_Prior后缀。
  • df_copy.drop(...): 清理在合并过程中产生的临时列和重复的维度列。
  • 变化量计算: 遍历指定的指标列,计算当前值与历史值之间的绝对差值和百分比变化。百分比变化通常会进行四舍五入以保持可读性。

3. 整合多周期分析:get_period_values

为了方便地计算多个历史周期(例如1个月前、3个月前、12个月前),我们可以再封装一个函数。

def get_period_values(df, periods, metric_cols, dimension_cols, date_col):
    df_copy = df.copy()
    for period in periods:
        df_copy = get_last_period_values(df_copy, period, metric_cols, dimension_cols, date_col)
    return df_copy
登录后复制

这个函数简单地迭代periods列表,对每个周期调用get_last_period_values函数,并将结果累积到df_copy中。

4. 主脚本与结果展示

最后,将所有部分整合到主脚本中运行。

if __name__ == '__main__':
    # ... (数据准备部分,已在前面展示) ...
    # 假设df已经加载并预处理完毕
    df = pd.read_csv(io.StringIO(INPUT_CSV))
    df = df[INITIAL_COL_REORDER]
    df[DATE_COL] = pd.to_datetime(df[DATE_COL], format='%Y%m%d')
    df = df.sort_values(by=DATE_COL, ascending=False)

    df_final = get_period_values(df, PERIODS, METRIC_COLS, DIMENSION_COLS, DATE_COL)

    # 显示最终的DataFrame
    print(df_final.to_string()) # 使用to_string()防止输出被截断
登录后复制

运行上述代码,你将得到一个包含原始数据、1个月前、3个月前和12个月前同期数据,以及相应的绝对和百分比变化量的DataFrame。

5. 注意事项与最佳实践

  • 日期格式统一:确保所有日期列都已正确转换为Pandas的datetime类型。不一致的日期格式会导致匹配失败。
  • 数据排序:虽然merge操作本身不依赖于排序,但在某些场景下(例如使用shift()进行滞后操作或为了更好的可读性),按日期排序是一个好习惯。
  • 缺失值处理:如果某个历史日期在数据集中不存在,合并后的历史值列将包含NaN。在后续分析中,你需要考虑如何处理这些缺失值(例如填充零、删除行或进行插值)。
  • 性能考量:对于非常大的数据集,merge操作可能会消耗较多内存和计算时间。确保merge的键(Date_Prior和Date)是唯一的或尽可能唯一,可以提高效率。如果数据量极其庞大,可以考虑使用Dask或其他分布式计算框架。
  • 灵活性:pd.DateOffset提供了极大的灵活性,你可以根据需求调整months参数,甚至使用years、weeks、days等来计算不同时间粒度的同期值。
  • 维度列:在实际应用中,你可能需要根据多个维度(如URL、Category等)来计算同期值。在merge操作中,将所有相关维度列也作为left_on和right_on的一部分,以确保在正确的分组下进行匹配。例如,如果希望每个URL独立计算同期值,则left_on和right_on都应包含URL和日期列。在提供的解决方案中,dimension_cols参数已经考虑了这一点。

总结

通过本教程,我们学习了如何利用Pandas的pd.DateOffset和merge功能,构建一个高效且灵活的函数来获取DataFrame中任意指定月份的历史同期数据,并计算其绝对和百分比变化。这种方法比简单的.pct_change()更强大,因为它直接提供了历史同期值本身,为更深入的时序分析奠定了基础。掌握这一技术,将使你在处理复杂的业务数据分析时更加得心应手。

以上就是使用Pandas计算DataFrame中历史同期值的专业教程的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号