Lewati ke isi

Fitur Waktu dan Lag

Gambaran singkat

Apa ini? Cara mengubah deret waktu menjadi tabel fitur (lag, rata-rata bergulir, kalender) agar bisa dipakai model regresi.

Analogi

Untuk menebak penjualan bulan ini, Anda mencatat penjualan 1 bulan lalu, 12 bulan lalu, dan bulan apa sekarang. Catatan itu menjadi kolom tabel.

Mengapa penting? Dengan fitur yang tepat, model regresi biasa dapat meramal. Namun fitur yang keliru bisa memuat nilai masa depan, sehingga hasilnya palsu.

Yang akan dipelajari, berurutan:

  1. Fitur lag, statistik bergulir, dan fitur kalender.
  2. Menggeser fitur agar tidak membocorkan masa depan.
  3. Mengenali kebocoran dari masa depan.

Istilah awal:

Istilah Arti sederhana
Lag Nilai pada waktu sebelumnya
Statistik bergulir Rata-rata atau ukuran lain dari beberapa nilai terakhir
sin/cos bulan Cara menyandikan bulan agar Desember dekat dengan Januari

Tujuan pembelajaran

  • Mengubah deret waktu menjadi tabel fitur–target untuk model regresi.
  • Membuat fitur lag, statistik bergulir, dan fitur kalender tanpa kebocoran.
  • Mengenali dan menghindari kebocoran dari masa depan.

Konsep

Model regresi tabular (Ridge, Random Forest, dll.) dapat meramalkan deret waktu bila deret diubah menjadi tabel:

Fitur Contoh Penjelasan
Lag lag_1, lag_12 Nilai 1 dan 12 bulan lalu
Statistik bergulir rata-rata 3 bulan terakhir Harus digeser agar tidak memuat nilai saat ini
Kalender sin/cos bulan, hari dalam minggu, hari libur Menangkap musiman tanpa 12 kolom dummy; sin/cos menjaga kedekatan Desember–Januari
Selisih y_t - y_{t-1} Target yang lebih stasioner daripada level

Aturan emas: fitur untuk waktu \(t\) hanya boleh memakai informasi yang sudah diketahui sebelum \(t\) (atau yang benar-benar tersedia saat prediksi dibuat, misalnya kalender yang sudah pasti).

\[ \text{contoh baris}: \quad \Delta y_t \;\leftarrow\; \bigl[\Delta y_{t-1},\; \Delta y_{t-2},\; \Delta y_{t-3},\; \Delta y_{t-12},\; \text{rata-rata}(\Delta y_{t-1..t-3}),\; \sin, \cos\bigr], \qquad \Delta y_t = y_t - y_{t-1} \]

Implementasi langkah demi langkah

Target adalah perubahan CO2 bulanan (dy), agar tren tidak mendominasi. Bagian kedua sengaja membuat fitur yang bocor untuk memperlihatkan bahayanya. Program examples/forecasting/lag_features.py; program lengkap ada di akhir bagian ini.

Langkah 1: membuat target selisih

lag_features.py
1
2
3
4
5
6
7
8
9
import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

from forecast_utils import load_co2_monthly

y = load_co2_monthly()
dy = y.diff().rename("dy")  # target: perubahan bulanan (menghindari tren yang mendominasi)

load_co2_monthly() (dari forecast_utils.py, lihat Data dan EDA) menghasilkan CO2 bulanan. y.diff() menghitung selisih tiap bulan dengan bulan sebelumnya: perubahan bulanan dy. Prediksi selisih lebih mudah daripada prediksi level yang terus naik.

Langkah 2: fitur yang hanya memakai masa lalu

Tujuan. Membuat tabel fitur untuk bulan \(t\) dari informasi yang sudah diketahui sebelum \(t\).

lag_features.py
# 1. Fitur yang HANYA memakai masa lalu: lag, statistik bergulir (digeser 1), kalender
feat = pd.DataFrame({"dy": dy})
for k in [1, 2, 3, 12]:
    feat[f"lag_{k}"] = dy.shift(k)                       # nilai k bulan lalu
feat["roll_mean_3"] = dy.shift(1).rolling(3).mean()      # rata-rata 3 bulan SEBELUM t
feat["month_sin"] = np.sin(2 * np.pi * feat.index.month / 12)
feat["month_cos"] = np.cos(2 * np.pi * feat.index.month / 12)
print("fitur:", [c for c in feat.columns if c != "dy"])
n_before = len(feat)
feat = feat.dropna()
print("baris sebelum/sesudah dropna: %d / %d (lag membuat baris awal kosong)" % (n_before, len(feat)))
print(feat.head(2).round(2).to_string())
Kode Penjelasan
pd.DataFrame({"dy": dy}) Tabel dengan kolom target dy.
dy.shift(k) Menggeser deret k baris ke bawah: baris bulan \(t\) kini berisi nilai bulan \(t-k\). Itulah fitur lag.
dy.shift(1).rolling(3).mean() Geser dulu 1 bulan, baru hitung rata-rata 3 bulan (rolling(3)). Hasilnya rata-rata tiga bulan sebelum \(t\). Urutan ini yang mencegah kebocoran.
np.sin/cos(2*np.pi*bulan/12) Fitur kalender: bulan diubah menjadi dua fitur lingkaran sehingga Desember dan Januari berdekatan.
feat.dropna() Membuang baris awal yang kosong karena belum ada nilai lag (bukan diisi dari masa depan).
fitur: ['lag_1', 'lag_2', 'lag_3', 'lag_12', 'roll_mean_3', 'month_sin', 'month_cos']
baris sebelum/sesudah dropna: 526 / 513 (lag membuat baris awal kosong)
              dy  lag_1  lag_2  lag_3  lag_12  roll_mean_3  month_sin  month_cos
1959-04-01  0.94   0.03   1.20    0.8    1.10         0.68       0.87      -0.50
1959-05-01  0.65   0.94   0.03    1.2    0.23         0.73       0.50      -0.87

Hasil. Tujuh fitur jujur dibuat. Pembuatan lag menyisakan 513 dari 526 baris karena dy kehilangan 1 baris awal dan lag 12 kehilangan 12 baris. Baris pertama yang tersisa (1959-04) menunjukkan lag_1 = nilai dy bulan sebelumnya (0,03), dan seterusnya.

Langkah 3: fitur yang bocor

Konsep. Statistik bergulir tanpa shift ikut memakai nilai bulan \(t\) sendiri, yaitu target yang ingin diprediksi.

lag_features.py
# 2. Kebocoran: statistik bergulir yang IKUT memakai nilai saat ini
feat["roll_mean_3_LEAK"] = dy.rolling(3).mean().reindex(feat.index)  # termasuk dy_t
honest = ["lag_1", "lag_2", "lag_3", "lag_12", "roll_mean_3", "month_sin", "month_cos"]

dy.rolling(3).mean() tanpa shift menghitung rata-rata \(\Delta y_t\), \(\Delta y_{t-1}\), \(\Delta y_{t-2}\): memuat target saat ini. .reindex(feat.index) menyelaraskannya dengan baris yang tersisa. honest adalah daftar kolom fitur jujur.

Langkah 4: pembagian kronologis dan membandingkan

lag_features.py
# Split kronologis: 24 bulan terakhir sebagai data uji
train, test = feat.iloc[:-24], feat.iloc[-24:]


def fit_eval(columns):
    model = LinearRegression().fit(train[columns], train["dy"])
    rmse = mean_squared_error(test["dy"], model.predict(test[columns])) ** 0.5
    return rmse


print("\nRMSE prediksi perubahan bulanan (ppm) pada 24 bulan terakhir")
print("simpangan baku target uji (acuan)      : %.3f" % test["dy"].std())
print("fitur jujur (hanya masa lalu)          : %.3f" % fit_eval(honest))
print("ditambah fitur bocor (termasuk saat t) : %.3f" % fit_eval(honest + ["roll_mean_3_LEAK"]))
print("korelasi fitur bocor dengan target     : %.2f" % feat["roll_mean_3_LEAK"].corr(feat["dy"]))
print("korelasi fitur jujur dengan target     : %.2f" % feat["roll_mean_3"].corr(feat["dy"]))
Kode Penjelasan
feat.iloc[:-24], feat.iloc[-24:] Pembagian kronologis: 24 baris terakhir (24 bulan terakhir) menjadi data uji; sisanya data latih. Tidak diacak.
def fit_eval(columns) Melatih regresi linear pada kolom tertentu dan mengembalikan RMSE pada data uji.
test["dy"].std() Simpangan baku target uji: acuan tebakan "rata-rata".
.corr() Korelasi tiap fitur dengan target.
RMSE prediksi perubahan bulanan (ppm) pada 24 bulan terakhir
simpangan baku target uji (acuan)      : 1.213
fitur jujur (hanya masa lalu)          : 0.352
ditambah fitur bocor (termasuk saat t) : 0.000
korelasi fitur bocor dengan target     : 0.78
korelasi fitur jujur dengan target     : 0.30

Interpretasi. Fitur jujur memberi RMSE 0,352 (dibanding simpangan baku target uji 1,213) dengan korelasi fitur–target 0,30. Fitur bocor menghasilkan RMSE 0,000 dan korelasi 0,78: karena rata-rata tiga nilai dikalikan 3 dikurangi dua lag sama dengan \(\Delta y_t\), regresi linear menyelesaikannya secara eksak, padahal tidak ada kemampuan meramal sama sekali. Skor yang terlalu bagus (galat ≈ 0) hampir selalu tanda kebocoran, bukan keberhasilan.

Fitur yang baru diketahui kemudian

Selain statistik bergulir, kebocoran sering muncul dari fitur eksternal yang nilainya baru diketahui setelah \(t\) (misalnya cuaca aktual, jumlah promosi yang belum direncanakan). Jika fitur eksternal dipakai, nilainya harus tersedia (atau dapat diramal) pada saat prediksi.

Program lengkap (lag_features.py)
lag_features.py
import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

from forecast_utils import load_co2_monthly

y = load_co2_monthly()
dy = y.diff().rename("dy")  # target: perubahan bulanan (menghindari tren yang mendominasi)

# 1. Fitur yang HANYA memakai masa lalu: lag, statistik bergulir (digeser 1), kalender
feat = pd.DataFrame({"dy": dy})
for k in [1, 2, 3, 12]:
    feat[f"lag_{k}"] = dy.shift(k)                       # nilai k bulan lalu
feat["roll_mean_3"] = dy.shift(1).rolling(3).mean()      # rata-rata 3 bulan SEBELUM t
feat["month_sin"] = np.sin(2 * np.pi * feat.index.month / 12)
feat["month_cos"] = np.cos(2 * np.pi * feat.index.month / 12)
print("fitur:", [c for c in feat.columns if c != "dy"])
n_before = len(feat)
feat = feat.dropna()
print("baris sebelum/sesudah dropna: %d / %d (lag membuat baris awal kosong)" % (n_before, len(feat)))
print(feat.head(2).round(2).to_string())

# 2. Kebocoran: statistik bergulir yang IKUT memakai nilai saat ini
feat["roll_mean_3_LEAK"] = dy.rolling(3).mean().reindex(feat.index)  # termasuk dy_t
honest = ["lag_1", "lag_2", "lag_3", "lag_12", "roll_mean_3", "month_sin", "month_cos"]

# Split kronologis: 24 bulan terakhir sebagai data uji
train, test = feat.iloc[:-24], feat.iloc[-24:]


def fit_eval(columns):
    model = LinearRegression().fit(train[columns], train["dy"])
    rmse = mean_squared_error(test["dy"], model.predict(test[columns])) ** 0.5
    return rmse


print("\nRMSE prediksi perubahan bulanan (ppm) pada 24 bulan terakhir")
print("simpangan baku target uji (acuan)      : %.3f" % test["dy"].std())
print("fitur jujur (hanya masa lalu)          : %.3f" % fit_eval(honest))
print("ditambah fitur bocor (termasuk saat t) : %.3f" % fit_eval(honest + ["roll_mean_3_LEAK"]))
print("korelasi fitur bocor dengan target     : %.2f" % feat["roll_mean_3_LEAK"].corr(feat["dy"]))
print("korelasi fitur jujur dengan target     : %.2f" % feat["roll_mean_3"].corr(feat["dy"]))

Kesalahan umum

Hindari

  • Menghitung statistik bergulir tanpa shift.
  • Menormalkan atau menstandardisasi menggunakan statistik seluruh deret (termasuk masa depan); hitung dari data latih.
  • Mengisi nilai awal yang kosong akibat lag dengan nilai dari masa depan.
  • Memakai bulan sebagai angka 1–12 pada model linear tanpa menyadari Desember dan Januari "berjauhan".

Latihan

  1. Tambahkan lag_24 dan roll_std_6 (digeser). Apakah RMSE jujur membaik?
  2. Ganti target menjadi level y (bukan selisih). Bagaimana RMSE model linear berubah, dan mengapa?
  3. Buat fitur "bulan Desember" biner. Bandingkan dengan sin/cos.

Ringkasan

Fitur lag, statistik bergulir (yang digeser), dan fitur kalender mengubah deret waktu menjadi masalah regresi. Pastikan setiap fitur hanya memakai informasi yang sudah diketahui pada saat prediksi.

Berikutnya: Validasi Kronologis dan Metrik Forecasting.