Pandas窗口函数         

一世执手 提交于 2020-04-06 01:55:10

概念

  • 为了处理数字数据,Pandas提供了几个变体,如滚动,展开和指数移动窗口统计的权重。 其中包括总和,均值,中位数,方差,协方差,相关性等;

  • 所谓窗口,就是将某个点的取值扩大到包含这个点的一段区间,用区间来进行判断

  • 移动窗口就是窗口向一端滑行,默认是从右往左,每次滑行并不是区间整块的滑行,而是一个单位一个单位的滑行;

  • 窗口函数主要用于通过平滑曲线来以图形方式查找数据内的趋势。如果日常数据中有很多变化,并且有很多数据点可用,那么采样和绘图就是一种方法,应用窗口计算并在结果上绘制图形是另一种方法。 通过这些方法,可以平滑曲线或趋势。

rolling()

这个函数可以应用于一系列数据。指定window=n参数并在其上应用适当的统计函数。

DataFrame.rolling(window, min_periods=None, center=False, win_type=None, 
                  on=None, axis=0, closed=None)

参数说明

  • window:表示时间窗的大小,有两种形式:1)使用数值int,则表示观测值的数量,即向前几个数据;2)也可以使用offset类型,这种类型较复杂,使用场景较少,此处暂不做介绍;
  • min_periods:每个窗口最少包含的观测值数量,小于这个值的窗口结果为NA。值可以是int,默认None。offset情况下,默认为1;
  • center: 把窗口的标签设置为居中,布尔型,默认False,居右
  • win_type: 窗口的类型。截取窗的各种函数。字符串类型,默认为None;
  • on: 可选参数。对于dataframe而言,指定要计算滚动窗口的列。值为列名。
  • axis: 默认为0,即对列进行计算
  • closed:定义区间的开闭,支持int类型的window。对于offset类型默认是左开右闭的即默认为right。可以根据情况指定为left、both等。

代码示例

实例:

import pandas as pd
import numpy as np

df = pd.DataFrame(np.random.randn(10, 4),
index = pd.date_range('1/1/2020', periods=10),
columns = ['A', 'B', 'C', 'D'])

print (df.rolling(window=3).mean())

执行上面示例代码,得到以下结果 -

                   A         B         C         D
2020-01-01       NaN       NaN       NaN       NaN
2020-01-02       NaN       NaN       NaN       NaN
2020-01-03 -0.306293  0.214001 -0.076004 -0.200793
2020-01-04  0.236632 -0.437033  0.046111 -0.252062
2020-01-05  0.761818 -0.181635 -0.546929 -0.738482
2020-01-06  1.306498 -0.411834 -0.680948 -0.070285
2020-01-07  0.956877 -0.749315 -0.503484  0.160620
2020-01-08  0.354319 -1.067165 -1.238036  1.051048
2020-01-09  0.262081 -0.898373 -1.059351  0.342291
2020-01-10  0.326801 -0.350519 -1.064437  0.749869

注 - 由于窗口大小为3(window),前两个元素有空值,第三个元素的值将是n,n-1和n-2元素的平均值。这样也可以应用上面提到的各种函数了。

常见用法

rolling()函数除了mean(),还支持很多函数,比如:

  • count() 非空观测值数量
  • sum() 值的总和
  • median() 值的算术中值
  • min() 最小值
  • max() 最大
  • std() 贝塞尔修正样本标准差
  • var() 无偏方差
  • skew() 样品偏斜度(三阶矩)
  • kurt() 样品峰度(四阶矩)
  • quantile() 样本分位数(百分位上的值)
  • cov() 无偏协方差(二元)
  • corr() 相关(二进制)

借助 agg ()函数可以快速实现多个聚类函数,并输出结果,同时还可以进行重命名;

实例:

df2 = pd.DataFrame({
    "date": pd.date_range("2018-07-01", periods=7), 
    "amount": [12000, 18000, np.nan, 12000, 9000, 16000, 18000]})

df2
       date     amount
0   2018-07-01  12000.0
1   2018-07-02  18000.0
2   2018-07-03  NaN
3   2018-07-04  12000.0
4   2018-07-05  9000.0
5   2018-07-06  16000.0
6   2018-07-07  18000.0

窗口大小为2,最少观测值数量为1
df2.rolling(window=2, on="date", min_periods=1).sum()
      date      amount
0   2018-07-01  12000.0
1   2018-07-02  30000.0
2   2018-07-03  18000.0
3   2018-07-04  12000.0
4   2018-07-05  21000.0
5   2018-07-06  25000.0
6   2018-07-07  34000.0

返回多个聚合结果,如sum()、mean()
df2.rolling(window=2, min_periods=1)["amount"].agg([np.sum, np.mean])
      sum   mean
0   12000.0 12000.0
1   30000.0 15000.0
2   18000.0 18000.0
3   12000.0 12000.0
4   21000.0 10500.0
5   25000.0 12500.0
6   34000.0 17000.0

返回多个聚合结果,并进行重命名
df2.rolling(window=2, min_periods=1)["amount"].agg({"amt_sum": np.sum, "amt_mean": np.mean})
    amt_sum amt_mean
0   12000.0 12000.0
1   30000.0 15000.0
2   18000.0 18000.0
3   12000.0 12000.0
4   21000.0 10500.0
5   25000.0 12500.0
6   34000.0 17000.0

延伸用法

通过rolling()函数与聚合函数的拼接,组成新的函数,可以更方便地实现窗口函数的功能

  • rolling_count() 计算各个窗口中非NA观测值的数量
  • rolling_sum() 计算各个移动窗口中的元素之和
  • rolling_mean() 计算各个移动窗口中元素的均值
  • rolling_median() 计算各个移动窗口中元素的中位数
  • rolling_var() 计算各个移动窗口中元素的方差
  • rolling_std() 计算各个移动窗口中元素的标准差
  • rolling_min() 计算各个移动窗口中元素的最小值
  • rolling_max() 计算各个移动窗口中元素的最大值
  • rolling_corr() 计算各个移动窗口中元素的相关系数
  • rolling_corr_pairwise() 计算各个移动窗口中配对数据的相关系数
  • rolling_cov() 计算各个移动窗口中元素的的协方差
  • rolling_quantile() 计算各个移动窗口中元素的分位数

expanding()

expanding()函数只设置最小的观测值数量,不固定窗口大小,实现累计计算,即不断扩展

参数说明

DataFrame.expanding(min_periods = 1,center = False,axis = 0)
  • expanding()函数的参数,与rolling()函数的参数用法相同;
  • rolling()函数,是固定窗口大小,进行滑动计算,expanding()函数只设置最小的观测值数量,不固定窗口大小,实现累计计算,即不断扩展;
  • expanding()函数,类似cumsum()函数的累计求和,其优势在于还可以进行更多的聚类计算;
  • 事实上,当rolling()函数的参数window=len(df)时,实现的效果与expanding()函数是一样的。

实例:

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.randint(1, 9, [5, 4], 'int'),
      index = pd.date_range('1/1/2018', periods=5),
      columns = ['A', 'B', 'C', 'D'])
print(df)
print(df.expanding(min_periods=3).sum())

执行上面示例代码得到以下结果 -

            A  B  C  D
2018-01-01  6  5  3  4
2018-01-02  5  4  7  4
2018-01-03  5  4  6  5
2018-01-04  3  1  7  2
2018-01-05  7  5  4  7
               A     B     C     D
2018-01-01   NaN   NaN   NaN   NaN
2018-01-02   NaN   NaN   NaN   NaN
2018-01-03  16.0  13.0  16.0  13.0
2018-01-04  19.0  14.0  23.0  15.0
2018-01-05  26.0  19.0  27.0  22.0

ewm()

函数ewm()可应用于系列数据。指定com,span,halflife参数,并在其上应用适当的统计函数。它以指数形式分配权重。

import pandas as pd
import numpy as np

df = pd.DataFrame(np.random.randn(10, 4),
   index = pd.date_range('1/1/2019', periods=10),
   columns = ['A', 'B', 'C', 'D'])
print (df.ewm(com=0.5).mean())

执行上面示例函数,得到以下结果 -

                   A         B         C         D
2019-01-01  1.047165  0.777385 -1.286948 -0.080564
2019-01-02  0.484093 -0.630998 -0.975172 -0.117832
2019-01-03  0.056189  0.830492  0.116325  1.005547
2019-01-04 -0.363824  1.222173  0.497901 -0.235209
2019-01-05 -0.260685  1.066029  0.391480  1.196190
2019-01-06  0.389649  1.458152 -0.231936 -0.481003
2019-01-07  1.071035 -0.016003  0.387420 -0.170811
2019-01-08 -0.573686  1.052081  1.218439  0.829366
2019-01-09  0.222927  0.556430  0.811838 -0.562096
2019-01-10  0.224624 -1.225446  0.204961 -0.800444

窗口函数主要用于通过平滑曲线来以图形方式查找数据内的趋势。如果日常数据中有很多变化,并且有很多数据点可用,那么采样和绘图就是一种方法,应用窗口计算并在结果上绘制图形是另一种方法。 通过这些方法,可以平滑曲线或趋势。

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!