WEBKT

Python时间序列数据分析：前向交叉验证的原理、实现与进阶

6 0 0 0

Python时间序列数据分析：前向交叉验证的原理、实现与进阶

传统K折交叉验证的“硬伤”

前向交叉验证：时间序列的“专属”验证方法

Python实战：用Pandas和Scikit-learn实现前向交叉验证

进阶：更复杂的数据处理和模型评估

总结

Python时间序列数据分析：前向交叉验证的原理、实现与进阶

嘿，大家好！今天咱们聊聊时间序列数据分析中的一个重要概念——前向交叉验证（Forward Chaining Cross-Validation）。 相信不少做过数据挖掘、机器学习，尤其是涉及到时间序列预测的朋友，都或多或少听说或者用过交叉验证。但传统的K折交叉验证（K-Fold Cross-Validation）在时间序列问题上往往“水土不服”，这是为啥呢？别急，咱们慢慢道来。

传统K折交叉验证的“硬伤”

先来简单回顾下K折交叉验证。它的核心思想是把数据集分成K份，轮流用其中的K-1份做训练集，剩下的1份做测试集。这样循环K次，就能得到K个模型评估结果，最后取个平均，作为模型的最终性能指标。

这种方法在处理独立同分布（i.i.d）的数据时，那是相当好用。但是！时间序列数据最大的特点是啥？是时间依赖性啊！今天的数据跟昨天的数据、明天的数据，那都是有关系的。如果咱们还用K折交叉验证，那就相当于“剧透”了——用未来的数据去训练模型，然后预测过去的数据。这显然不符合实际情况，而且会导致模型评估结果过于乐观，产生“虚假繁荣”。

举个例子，假设咱们要预测股票价格。如果用K折交叉验证，可能会出现这样的情况：用2024年的数据训练模型，然后去预测2023年的价格。这…现实中哪有这样的操作？

前向交叉验证：时间序列的“专属”验证方法

所以，为了解决这个问题，咱们需要一种更“靠谱”的交叉验证方法——前向交叉验证。

前向交叉验证的核心思想也很简单：始终用过去的数据训练模型，预测未来的数据。它模拟了真实世界中模型的使用场景，避免了“数据泄露”的问题。具体来说，前向交叉验证的步骤如下：

  1. 初始训练集： 选择时间序列数据中最开始的一部分作为初始训练集。
  2. 测试集： 紧随训练集之后的一小段时间的数据作为测试集。
  3. 模型训练与评估： 用训练集训练模型，然后在测试集上评估模型性能。
  4. 训练集扩展： 将测试集并入训练集，形成新的、更大的训练集。
  5. 测试集移动： 选取新的测试集，同样是紧随当前训练集之后的一小段时间的数据。
  6. 重复步骤3-5： 不断重复上述过程，直到测试集到达时间序列数据的末尾。

这样，每次训练都是基于过去的数据，而测试都是针对未来的数据，完美契合时间序列的特性。

Python实战：用Pandas和Scikit-learn实现前向交叉验证

理论说了这么多，咱们还是得上代码！接下来，咱们就用Python的Pandas和Scikit-learn库，一步步实现前向交叉验证。

首先，咱们模拟生成一些时间序列数据。为了方便演示，这里咱们用一个简单的自回归模型（AR）来生成数据：

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import TimeSeriesSplit
from sklearn.metrics import mean_squared_error
 
# 设置随机数种子，保证结果可复现
np.random.seed(42)
 
# 生成时间序列数据
def generate_ar_data(n_samples, coefficients, noise_std):
    # 初始化时间序列
    data = np.zeros(n_samples)
    # 生成初始值
    for i in range(len(coefficients)):
        data[i] = np.random.normal(0, noise_std)
    # 根据AR模型生成数据
    for i in range(len(coefficients), n_samples):
        data[i] = np.dot(coefficients, data[i-len(coefficients):i]) + np.random.normal(0, noise_std)
    return data
 
# 设置AR模型参数
coefficients = [0.5, -0.2, 0.1]
noise_std = 1
n_samples = 200
 
# 生成数据
ar_data = generate_ar_data(n_samples, coefficients, noise_std)
 
# 将数据转换为Pandas DataFrame
df = pd.DataFrame({'value': ar_data})
df.index = pd.date_range(start='2023-01-01', periods=n_samples, freq='D')
 
print(df.head())

这段代码首先定义了一个generate_ar_data函数，用于生成AR模型的数据。然后，咱们设置了AR模型的系数、噪声标准差以及样本数量，并调用函数生成数据。最后，将数据转换为Pandas DataFrame，并设置日期索引。

接下来，咱们用Scikit-learn中的TimeSeriesSplit类来实现前向交叉验证：

# 创建TimeSeriesSplit对象
tscv = TimeSeriesSplit(n_splits=5) #可以更改n_splits来调整划分的折数
 
# 准备特征和目标变量
# 这里咱们用过去3个时间点的值作为特征，预测当前时间点的值
for i in range(3, len(df)):
    df.loc[df.index[i], 'lag_1'] = df['value'].iloc[i-1]
    df.loc[df.index[i], 'lag_2'] = df['value'].iloc[i-2]
    df.loc[df.index[i], 'lag_3'] = df['value'].iloc[i-3]
 
df = df.dropna()
 
X = df[['lag_1', 'lag_2', 'lag_3']]
y = df['value']
 
# 遍历每个划分
for train_index, test_index in tscv.split(X):
    # 获取训练集和测试集
    X_train, X_test = X.iloc[train_index], X.iloc[test_index]
    y_train, y_test = y.iloc[train_index], y.iloc[test_index]
 
    # 训练模型（这里用简单的线性回归模型）
    model = LinearRegression()
    model.fit(X_train, y_train)
 
    # 进行预测
    y_pred = model.predict(X_test)
 
    # 评估模型（这里用均方误差）
    mse = mean_squared_error(y_test, y_pred)
    print(f'Fold MSE: {mse}')
 
    # 可视化预测结果（可选）
    plt.figure(figsize=(10, 6))
    plt.plot(df.index[train_index], y_train, label='Train')
    plt.plot(df.index[test_index], y_test, label='Test')
    plt.plot(df.index[test_index], y_pred, label='Prediction')
    plt.title(f'Fold {len(train_index) // len(test_index) + 1}') #粗略估计当前是第几折
    plt.legend()
    plt.show()

这段代码首先创建了一个TimeSeriesSplit对象，设置划分的折数为5。然后，咱们准备特征和目标变量。这里，咱们用过去3个时间点的值作为特征，预测当前时间点的值。接着，咱们遍历TimeSeriesSplit对象生成的每个划分，获取训练集和测试集，训练线性回归模型，进行预测，并计算均方误差（MSE）来评估模型性能。最后，咱们还用Matplotlib库将每个划分的训练集、测试集和预测结果可视化出来。

进阶：更复杂的数据处理和模型评估

上面的例子比较简单，只是为了演示前向交叉验证的基本流程。在实际应用中，咱们可能需要处理更复杂的数据，并进行更精细的模型评估。

例如，咱们可以：

  • 处理缺失值： 时间序列数据中经常会出现缺失值。咱们可以用插值、填充等方法来处理。
  • 特征工程： 除了滞后特征，咱们还可以提取其他特征，如移动平均、指数平滑、季节性分解等。
  • 模型选择： 除了线性回归，咱们还可以尝试其他模型，如ARIMA、SARIMA、Prophet、LSTM等。
  • 超参数调优： 可以用网格搜索、随机搜索等方法来优化模型超参数。
  • 评估指标： 除了MSE，还可以用MAE、RMSE、MAPE等指标来评估模型性能。
  • 滚动窗口 vs. 扩展窗口: TimeSeriesSplit 使用的是扩展窗口（Expanding Window）, 也可以考虑滚动窗口（Rolling Window）。

为了让大家对实际的应用场景有更直观的了解，这里再补充一个更复杂的例子，其中涉及了数据预处理、特征工程和更详细的可视化：

from sklearn.preprocessing import StandardScaler
 
# 假设咱们有一列名为'temperature'的数据
# 模拟一些缺失值
df['temperature'] = df['value'] * 2 + np.random.normal(0, 2, len(df))  # 假设温度是value的两倍加上一些噪声
df.loc[df.sample(frac=0.1).index, 'temperature'] = np.nan
 
# 处理缺失值（用前一天的值填充）
df['temperature'] = df['temperature'].fillna(method='ffill')
 
# 特征工程：计算过去7天的移动平均和标准差
df['rolling_mean_7'] = df['temperature'].rolling(window=7).mean()
df['rolling_std_7'] = df['temperature'].rolling(window=7).std()
 
df = df.dropna()
 
# 准备特征和目标变量
X = df[['lag_1', 'lag_2', 'lag_3', 'rolling_mean_7', 'rolling_std_7']]
y = df['temperature']
 
# 数据标准化
scaler = StandardScaler()
X = scaler.fit_transform(X)
 
# 再次进行前向交叉验证
all_mse = []
for train_index, test_index in tscv.split(X):
    X_train, X_test = X[train_index], X[test_index]
    y_train, y_test = y.iloc[train_index], y.iloc[test_index]
 
    model = LinearRegression()
    model.fit(X_train, y_train)
 
    y_pred = model.predict(X_test)
 
    mse = mean_squared_error(y_test, y_pred)
    all_mse.append(mse)
    print(f'Fold MSE: {mse}')
 
    # 更详细的可视化
    plt.figure(figsize=(12, 6))
    plt.plot(df.index[train_index], y_train, label='Train', color='blue')
    plt.plot(df.index[test_index], y_test, label='Test', color='green')
    plt.plot(df.index[test_index], y_pred, label='Prediction', color='red')
 
    # 绘制过去7天的移动平均
    plt.plot(df.index[train_index], df['rolling_mean_7'].iloc[train_index], label='Rolling Mean (7 days)', linestyle='--', color='orange')
 
    plt.title(f'Fold {len(train_index) // len(test_index) + 1} - Temperature Prediction')
    plt.xlabel('Date')
    plt.ylabel('Temperature')
    plt.legend()
    plt.grid(True)
    plt.tight_layout()
    plt.show()
 
print(f'\nAverage MSE over all folds: {np.mean(all_mse)}')

这个例子中，咱们假设有一个'temperature'列，并模拟了一些缺失值。然后，咱们用前一天的数据填充缺失值，并计算了过去7天的移动平均和标准差作为新的特征。在模型训练之前，咱们还对特征进行了标准化处理。最后，咱们进行了更详细的可视化，包括训练集、测试集、预测结果以及移动平均线。

总结

好啦，今天关于时间序列前向交叉验证的分享就到这里。希望通过这篇文章，大家对前向交叉验证的原理、实现方法以及应用场景都有了更深入的了解。记住，在处理时间序列问题时，一定要用前向交叉验证，避免“数据泄露”！下次再遇到时间序列预测的任务，可别再傻傻地用K折交叉验证啦！

如果你觉得这篇文章对你有帮助，或者有什么疑问，欢迎在评论区留言，咱们一起交流学习！

数据挖掘机 时间序列分析前向交叉验证Python

评论点评

打赏赞助
sponsor

感谢您的支持让我们更好的前行

分享

QRcode

https://www.webkt.com/article/8792