Lewati ke isi

Memilih Jumlah Klaster dan Validasi

Gambaran singkat

Apa ini? Pelajaran tentang dua pertanyaan: "berapa kelompok yang sebaiknya dibuat?" dan "apakah kelompok yang terbentuk sudah baik?"

Analogi

Anda membagi murid kelas menjadi beberapa tim. Dua tim terlalu besar dan beragam, sedangkan dua puluh tim terlalu kecil untuk berguna. Anda mencari jumlah tim yang anggotanya kompak dan antartimnya jelas berbeda. Ukuran "kompak" dan "jelas berbeda" itulah yang dihitung metrik pada pelajaran ini.

Mengapa penting? Algoritma seperti k-Means menurut saja pada \(k\) yang kita pilih, bahkan jika \(k\) itu tidak cocok. Tanpa label, kita perlu alat ukur untuk memilih \(k\) dan memeriksa kualitas hasil.

Yang akan dipelajari, berurutan:

  1. Metrik internal (dihitung dari data saja): elbow, silhouette, Davies-Bouldin, Calinski-Harabasz.
  2. Kestabilan: apakah kelompok tetap sama jika data diambil ulang?
  3. Validasi eksternal (ARI, NMI): membandingkan dengan label acuan, hanya bila label itu ada.

Istilah awal:

Istilah Arti sederhana
Metrik internal Nilai kualitas yang dihitung hanya dari data dan hasil kelompok
Silhouette Nilai -1 sampai 1; makin dekat 1, kelompok makin jelas terpisah
Kestabilan Hasil tetap mirip meski data sedikit berubah
Validasi eksternal Mencocokkan hasil dengan label yang sudah diketahui

Tujuan pembelajaran

  • Memakai elbow, silhouette, Davies-Bouldin, dan Calinski-Harabasz untuk memilih \(k\).
  • Menilai kestabilan klaster dengan bootstrap.
  • Membedakan validasi internal dan eksternal serta batasan masing-masing.

Metrik internal

Metrik internal menilai klaster tanpa label, hanya dari dua hal: apakah anggota satu klaster rapat (kepadatan), dan apakah antar-klaster berjauhan (keterpisahan). Tidak ada metrik tunggal yang selalu benar, jadi gunakan beberapa sekaligus.

Metrik Arah terbaik Arti
Inertia (jumlah kuadrat dalam klaster) Turun terus saat \(k\) naik; cari "siku" Kekompakan; selalu membaik bila \(k\) ditambah
Silhouette Maksimum (rentang -1 sampai 1) Seberapa dekat titik ke klasternya dibanding klaster terdekat lain
Davies-Bouldin Minimum Rasio sebaran dalam klaster terhadap jarak antar-klaster
Calinski-Harabasz Maksimum Rasio variasi antar-klaster terhadap dalam-klaster

Cara kerja silhouette. Untuk setiap titik \(i\), tanyakan: seberapa dekat saya dengan teman satu klaster (\(a_i\), jarak rata-rata), dibandingkan dengan klaster tetangga terdekat (\(b_i\), jarak rata-rata)? Nilainya:

\[ s_i = \frac{b_i - a_i}{\max(a_i, b_i)} \]

Silhouette klaster atau keseluruhan adalah rata-rata \(s_i\). Nilai dekat 1 berarti klaster jelas; dekat 0 berarti tumpang tindih; negatif berarti titik mungkin salah klaster.

Validasi eksternal dan kestabilan

  • Validasi eksternal membandingkan klaster dengan label acuan yang diketahui: Adjusted Rand Index (ARI; 1 = identik, ≈ 0 = acak) dan Normalized Mutual Information (NMI). Hanya mungkin bila ada label acuan, dan label itu pun belum tentu "kebenaran".
  • Kestabilan: klasterkan sampel bootstrap lalu bandingkan dengan klaster data penuh (ARI pada titik yang terambil). Klaster yang stabil muncul kembali pada sampel berbeda.

Implementasi langkah demi langkah

Wine terstandardisasi, k-Means dengan \(k = 2, \dots, 8\). Kolom ARI_vs_kultivar hanya tersedia karena Wine punya label; pada masalah nyata kolom ini tidak ada. Program examples/clustering/choose_k.py; program lengkap ada di akhir bagian ini.

Langkah 1: metrik internal untuk setiap \(k\)

Tujuan. Mengumpulkan beberapa ukuran kualitas untuk tiap jumlah klaster, tanpa memakai label.

choose_k.py
X, y = load_wine(return_X_y=True)
Z = StandardScaler().fit_transform(X)

# 1. Metrik internal untuk k = 2..8 (tidak memerlukan label)
rows = []
for k in range(2, 9):
    km = KMeans(n_clusters=k, n_init=10, random_state=SEED).fit(Z)
    rows.append({"k": k, "inertia": km.inertia_,
                 "silhouette": silhouette_score(Z, km.labels_),
                 "davies_bouldin": davies_bouldin_score(Z, km.labels_),
                 "calinski_harabasz": calinski_harabasz_score(Z, km.labels_),
                 "ARI_vs_kultivar": adjusted_rand_score(y, km.labels_)})
table = pd.DataFrame(rows).set_index("k")
print(table.round(3).to_string())
print("\nk terbaik menurut silhouette (maks.): %d | Davies-Bouldin (min.): %d | Calinski-Harabasz (maks.): %d" % (
    table["silhouette"].idxmax(), table["davies_bouldin"].idxmin(), table["calinski_harabasz"].idxmax()))
Kode Penjelasan
for k in range(2, 9) Mencoba \(k = 2, 3, \dots, 8\) (range(2, 9) berhenti sebelum 9).
KMeans(n_clusters=k, ...).fit(Z) Melatih k-Means untuk tiap k.
km.inertia_ Jumlah kuadrat jarak ke pusat (selalu turun saat k naik).
silhouette_score(Z, km.labels_) Rata-rata silhouette (makin besar makin baik).
davies_bouldin_score, calinski_harabasz_score Davies-Bouldin (makin kecil makin baik) dan Calinski-Harabasz (makin besar makin baik).
adjusted_rand_score(y, km.labels_) Validasi eksternal terhadap kultivar (hanya karena label ada).
table["silhouette"].idxmax() Nilai indeks (k) dengan silhouette tertinggi.
    inertia  silhouette  davies_bouldin  calinski_harabasz  ARI_vs_kultivar
k                                                                          
2  1658.759       0.259           1.526             69.523            0.374
3  1277.928       0.285           1.389             70.940            0.897
4  1175.428       0.260           1.797             56.181            0.765
5  1109.513       0.202           1.808             46.952            0.599
6  1046.002       0.237           1.554             41.701            0.639
7   981.595       0.204           1.661             38.686            0.566
8   935.201       0.157           1.741             35.805            0.415

k terbaik menurut silhouette (maks.): 3 | Davies-Bouldin (min.): 3 | Calinski-Harabasz (maks.): 3

Interpretasi. Tiga metrik internal sepakat pada \(k=3\): silhouette tertinggi (0,285), Davies-Bouldin terendah (1,389), dan Calinski-Harabasz tertinggi (70,9). Tidak selalu sesepakat ini. Silhouette 0,285 tergolong rendah: ada struktur, tetapi klaster saling berdekatan (pedoman umum: > 0,5 kuat, 0,25–0,5 lemah; ini rule of thumb, bukan standar). Validasi eksternal: ARI tertinggi pada \(k=3\) (0,897); pada \(k=2\) turun ke 0,374 karena dua kultivar digabung.

Dengan kata sederhana: Tiga metrik menunjuk angka yang sama, jadi kita lebih yakin memilih \(k=3\). Namun silhouette 0,285 menunjukkan kelompok belum terpisah tegas, sehingga skor bagus tidak berarti kelompok sempurna.

Langkah 2: metode siku (elbow)

choose_k.py
# 2. Penurunan inertia (siku): selisih relatif antar k
drop = (-table["inertia"].diff() / table["inertia"].shift(1) * 100).dropna().round(1)
print("penurunan inertia (%) dari k-1 ke k:", drop.to_dict())

table["inertia"].diff() menghitung selisih inertia tiap k dengan k sebelumnya (negatif karena inertia turun); dengan tanda minus dan pembagian terhadap inertia k-1, hasilnya persentase penurunan.

penurunan inertia (%) dari k-1 ke k: {3: 23.0, 4: 8.0, 5: 5.6, 6: 5.7, 7: 6.2, 8: 4.7}

Interpretasi. Inertia turun 23,0% dari \(k=2\) ke \(k=3\), tetapi hanya 8,0% (\(k=4\)), 5,6% (\(k=5\)), dan seterusnya sekitar 5%: siku jelas di \(k=3\). Pada banyak data siku tidak setegas ini dan sulit ditentukan.

Dengan kata sederhana: Pada grafik elbow, penurunan tajam berhenti di \(k=3\); sesudahnya menambah kelompok hanya memberi perbaikan kecil. Titik tekukan itulah "siku" yang dicari.

Langkah 3: kestabilan dengan bootstrap

Konsep. Klaster yang nyata seharusnya muncul kembali pada sampel data yang sedikit berbeda. Kita mengambil sampel bootstrap (pengambilan acak dengan pengembalian), mengklasterkannya, dan membandingkan dengan klaster data penuh pada titik-titik yang sama.

choose_k.py
# 3. Kestabilan: klaster pada sampel bootstrap vs klaster data penuh (ARI pada titik yang terambil)
rng = np.random.default_rng(SEED)
print("\nk   rata-rata ARI kestabilan (30 bootstrap)")
for k in range(2, 7):
    full = KMeans(n_clusters=k, n_init=10, random_state=SEED).fit_predict(Z)
    aris = []
    for _ in range(30):
        idx = np.unique(rng.integers(0, len(Z), len(Z)))
        boot = KMeans(n_clusters=k, n_init=10, random_state=int(rng.integers(1_000_000))).fit_predict(Z[idx])
        aris.append(adjusted_rand_score(full[idx], boot))
    print(f"{k:<3} {np.mean(aris):.3f}")
Kode Penjelasan
rng.integers(0, len(Z), len(Z)) Nomor baris acak sebanyak data (boleh berulang) = sampel bootstrap.
np.unique(...) Baris yang terambil, tanpa duplikat.
KMeans(...).fit_predict(Z[idx]) Klastering sampel bootstrap dengan seed acak berbeda.
adjusted_rand_score(full[idx], boot) Kecocokan klaster bootstrap dengan klaster data penuh pada titik-titik terambil.
np.mean(aris) Rata-rata ARI atas 30 bootstrap = skor kestabilan.
k   rata-rata ARI kestabilan (30 bootstrap)
2   0.675
3   0.961
4   0.781
5   0.631
6   0.661

Interpretasi. \(k=3\) sangat stabil (ARI 0,961) sedangkan \(k=2\) (0,675), \(k=4\) (0,781), \(k=5\) (0,631), dan \(k=6\) (0,661) kurang stabil. Kestabilan memberi bukti tambahan yang tidak bergantung pada label.

Dengan kata sederhana: \(k=3\) menghasilkan kelompok yang hampir sama meski data diambil ulang, sedangkan angka lain berubah-ubah. Hasil yang stabil lebih bisa dipercaya.

Langkah 4: gambar elbow dan silhouette

choose_k.py
# 4. Gambar: elbow dan silhouette
fig, axes = plt.subplots(1, 2, figsize=(10, 3.6))
axes[0].plot(table.index, table["inertia"], marker="o")
axes[0].set(title="Elbow (inertia)", xlabel="k", ylabel="inertia")
axes[1].plot(table.index, table["silhouette"], marker="o", color="C1")
axes[1].set(title="Silhouette rata-rata", xlabel="k")
fig.tight_layout()
fig.savefig(OUT / "choose-k.png", dpi=130)

Dua grafik: inertia turun terus terhadap k dengan siku sekitar k=3; silhouette rata-rata tertinggi pada k=3

Cara membaca. Sumbu-x adalah jumlah klaster \(k\). Grafik kiri (inertia) selalu menurun; cari titik tempat penurunan melandai (siku), di sini sekitar \(k=3\). Grafik kanan (silhouette) mencapai puncak pada \(k=3\). Kesepakatan ini tidak menjamin metrik internal selalu menemukan \(k\) yang bermakna (lihat pembahasan perbandingan); gabungkan beberapa bukti dan kebutuhan bisnis.

Program lengkap (choose_k.py)
choose_k.py
from pathlib import Path

import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
from sklearn.cluster import KMeans
from sklearn.datasets import load_wine
from sklearn.metrics import (
    adjusted_rand_score,
    calinski_harabasz_score,
    davies_bouldin_score,
    silhouette_score,
)
from sklearn.preprocessing import StandardScaler

SEED = 42
OUT = Path("docs/assets/img/clustering")
OUT.mkdir(parents=True, exist_ok=True)

X, y = load_wine(return_X_y=True)
Z = StandardScaler().fit_transform(X)

# 1. Metrik internal untuk k = 2..8 (tidak memerlukan label)
rows = []
for k in range(2, 9):
    km = KMeans(n_clusters=k, n_init=10, random_state=SEED).fit(Z)
    rows.append({"k": k, "inertia": km.inertia_,
                 "silhouette": silhouette_score(Z, km.labels_),
                 "davies_bouldin": davies_bouldin_score(Z, km.labels_),
                 "calinski_harabasz": calinski_harabasz_score(Z, km.labels_),
                 "ARI_vs_kultivar": adjusted_rand_score(y, km.labels_)})
table = pd.DataFrame(rows).set_index("k")
print(table.round(3).to_string())
print("\nk terbaik menurut silhouette (maks.): %d | Davies-Bouldin (min.): %d | Calinski-Harabasz (maks.): %d" % (
    table["silhouette"].idxmax(), table["davies_bouldin"].idxmin(), table["calinski_harabasz"].idxmax()))

# 2. Penurunan inertia (siku): selisih relatif antar k
drop = (-table["inertia"].diff() / table["inertia"].shift(1) * 100).dropna().round(1)
print("penurunan inertia (%) dari k-1 ke k:", drop.to_dict())

# 3. Kestabilan: klaster pada sampel bootstrap vs klaster data penuh (ARI pada titik yang terambil)
rng = np.random.default_rng(SEED)
print("\nk   rata-rata ARI kestabilan (30 bootstrap)")
for k in range(2, 7):
    full = KMeans(n_clusters=k, n_init=10, random_state=SEED).fit_predict(Z)
    aris = []
    for _ in range(30):
        idx = np.unique(rng.integers(0, len(Z), len(Z)))
        boot = KMeans(n_clusters=k, n_init=10, random_state=int(rng.integers(1_000_000))).fit_predict(Z[idx])
        aris.append(adjusted_rand_score(full[idx], boot))
    print(f"{k:<3} {np.mean(aris):.3f}")

# 4. Gambar: elbow dan silhouette
fig, axes = plt.subplots(1, 2, figsize=(10, 3.6))
axes[0].plot(table.index, table["inertia"], marker="o")
axes[0].set(title="Elbow (inertia)", xlabel="k", ylabel="inertia")
axes[1].plot(table.index, table["silhouette"], marker="o", color="C1")
axes[1].set(title="Silhouette rata-rata", xlabel="k")
fig.tight_layout()
fig.savefig(OUT / "choose-k.png", dpi=130)
print("\nGambar tersimpan:", (OUT / "choose-k.png").as_posix())

Kesalahan umum

Hindari

  • Memilih \(k\) hanya dari inertia (selalu turun).
  • Mempercayai satu metrik internal saja.
  • Memakai ARI sebagai ukuran akurasi seolah label acuan pasti benar.
  • Melaporkan \(k\) tanpa kestabilannya.
  • Mengabaikan kegunaan praktis: 3 vs 4 segmen mungkin lebih berguna bagi bisnis meski metriknya sedikit lebih rendah.

Latihan

  1. Ulangi dengan AgglomerativeClustering (Ward) pada \(k = 2..8\). Apakah \(k\) terbaiknya sama?
  2. Naikkan jumlah bootstrap menjadi 100. Apakah urutan kestabilan berubah?
  3. Hitung silhouette per klaster untuk \(k=3\) (silhouette_samples). Klaster mana yang paling longgar?

Ringkasan

Pilih \(k\) dengan gabungan elbow, silhouette, Davies-Bouldin, dan Calinski-Harabasz, ditambah kestabilan dan kegunaan. Validasi eksternal berguna jika ada label acuan, tetapi bukan pengganti penilaian internal.

Berikutnya: Perbandingan Algoritma dan Optimasi Parameter.