Perbandingan Algoritma dan Optimasi Parameter¶
Gambaran singkat¶
Apa ini? Pelajaran untuk membandingkan beberapa algoritma klastering pada data yang sama dan menyetel pengaturannya (hyperparameter).
Analogi
Anda mencoba beberapa jalan menuju kantor. Satu jalan terpendek di peta, tetapi melewati pasar yang macet. Memilih jalan hanya dari angka jarak bisa menyesatkan. Begitu pula memilih algoritma hanya dari satu angka metrik.
Mengapa penting? Tidak ada algoritma yang terbaik untuk semua data. Di sisi lain, tanpa label kita menyetel parameter memakai metrik internal, dan metrik itu bisa menyukai hasil yang tidak berguna.
Yang akan dipelajari, berurutan:
- Perbandingan k-Means, Agglomerative, DBSCAN, dan Gaussian Mixture.
- Menyetel parameter DBSCAN dengan mencoba kombinasi
epsdanmin_samples. - Bahaya metrik internal: skor bagus belum tentu hasil bagus.
Istilah awal:
| Istilah | Arti sederhana |
|---|---|
| Hyperparameter | Pengaturan algoritma yang kita pilih sendiri sebelum pelatihan |
| Grid search | Mencoba semua kombinasi pengaturan dalam satu daftar |
| Gaussian Mixture | Algoritma yang menganggap data berasal dari campuran sebaran normal |
Tujuan pembelajaran¶
- Membandingkan algoritma klastering pada data yang sama.
- Mengoptimasi parameter tanpa label dan memahami bahayanya.
- Menyadari bahwa metrik internal dapat memilih hasil yang tidak berguna.
Ringkasan algoritma¶
| Aspek | k-Means | Agglomerative | DBSCAN | Gaussian Mixture |
|---|---|---|---|---|
| Prinsip | Pusat dan jarak | Penggabungan bertahap | Kepadatan | Campuran distribusi normal (probabilitas) |
| Jumlah klaster | Ditentukan | Ditentukan atau dari ambang | Otomatis | Ditentukan |
| Bentuk klaster | Bulat | Bergantung linkage | Bebas | Elips |
| Noise | Tidak ada | Tidak ada | Ya | Tidak ada |
| Hyperparameter kunci | n_clusters, n_init |
linkage, n_clusters |
eps, min_samples |
n_components, covariance_type |
| Scaling | Wajib | Wajib | Wajib | Disarankan |
Optimasi parameter tanpa label¶
Karena tidak ada label, parameter disetel dengan metrik internal (misalnya silhouette), kestabilan, atau kebutuhan bisnis. Bahaya utamanya: metrik internal dapat menyukai hasil yang secara praktis buruk, misalnya sedikit klaster dengan banyak titik dibuang sebagai noise.
Implementasi langkah demi langkah¶
Wine terstandardisasi. DBSCAN disetel pada grid eps × min_samples dengan silhouette (dihitung hanya pada titik non-noise). Label kultivar dipakai hanya sebagai validasi eksternal, bukan untuk menyetel. Program examples/clustering/comparison_tuning.py; program lengkap ada di akhir bagian ini.
Langkah 1: fungsi metrik internal yang menangani noise¶
Metrik internal seperti silhouette tidak dapat menilai titik noise (label -1). Fungsi internal(labels) membuang titik noise dengan mask (mask = labels != -1), dan mengembalikan NaN bila klaster tersisa kurang dari dua (silhouette tidak terdefinisi). Metrik dihitung hanya pada data non-noise Z[mask].
Langkah 2: menyetel parameter DBSCAN tanpa label¶
Konsep. Parameter disetel dengan metrik internal (silhouette) karena tidak ada label.
Dua perulangan bersarang mencoba semua pasangan eps (5 nilai) dan min_samples (3 nilai) = 15 kombinasi. best menyimpan tuple (silhouette, eps, min_samples, label) kombinasi terbaik sejauh ini; best is None or sil > best[0] memperbaruinya bila ditemukan silhouette lebih tinggi.
Langkah 3: membandingkan empat algoritma¶
| Kode | Penjelasan |
|---|---|
GaussianMixture(n_components=3, random_state=SEED).fit_predict(Z) |
Model campuran Gaussian: tiap klaster dimodelkan sebagai distribusi normal; fit_predict memberi klaster dengan probabilitas tertinggi. |
"DBSCAN (parameter di atas)": best[3] |
Label DBSCAN dari kombinasi terbaik (elemen ke-4 tuple best). |
adjusted_rand_score, normalized_mutual_info_score |
Validasi eksternal: ARI dan NMI terhadap kultivar. |
100 * np.mean(lab == -1) |
Persentase titik noise. |
klaster noise% silhouette DB ARI NMI
Metode
k-Means (k=3) 3 0.000 0.285 1.389 0.897 0.876
Agglomerative Ward (k=3) 3 0.000 0.277 1.419 0.790 0.786
Gaussian Mixture (k=3) 3 0.000 0.285 1.389 0.897 0.876
DBSCAN (parameter di atas) 2 17.978 0.323 1.196 0.424 0.531
Interpretasi.
- DBSCAN terpilih oleh silhouette:
eps=2,5,min_samples=10(silhouette 0,323; 2 klaster; 18% noise). Ia punya silhouette tertinggi dan Davies-Bouldin terendah (1,196) pada tabel, tetapi ARI terhadap kultivar hanya 0,424 (NMI 0,531). Metrik internal hanya menilai titik non-noise dan menyukai sedikit klaster padat sehingga memberi skor tinggi pada hasil yang membuang 18% data dan hanya menemukan 2 klaster, bukan 3. Metrik internal bukan bukti bahwa hasil itu paling berguna. - k-Means (k=3): ARI 0,897; silhouette 0,285; Davies-Bouldin 1,389.
- Gaussian Mixture (k=3): hasilnya sama dengan k-Means, kemungkinan karena klaster Wine kira-kira bulat dan terpisah cukup baik (penjelasan ini tidak diuji secara khusus).
- Agglomerative Ward (k=3): ARI 0,790.
Langkah 4: kesepakatan antar-algoritma¶
| comparison_tuning.py | |
|---|---|
Interpretasi. ARI antara k-Means dan Ward 0,853 (mirip tetapi tidak identik) dan antara k-Means dan Gaussian Mixture 1,000. Kesepakatan antar-algoritma adalah petunjuk tambahan: bila beberapa algoritma berbeda menemukan pengelompokan yang mirip, struktur itu lebih mungkin nyata. Kesimpulan bergantung data: pada Wine, algoritma berbasis pusat unggul; pada bulan sabit (DBSCAN) justru DBSCAN. Pilih algoritma berdasarkan bentuk data dan tujuan, bukan peringkat satu metrik.
Dengan kata sederhana: Jika beberapa algoritma yang cara kerjanya berbeda menemukan kelompok yang sama, kelompok itu kemungkinan memang ada di data, bukan akibat satu algoritma saja.
Program lengkap (comparison_tuning.py)
Kesalahan umum¶
Hindari
- Memilih algoritma atau parameter hanya dengan silhouette tertinggi tanpa memeriksa jumlah noise dan jumlah klaster.
- Membandingkan metrik internal antar-algoritma seolah skalanya setara.
- Menyetel parameter memakai label lalu menyebutnya "tak terawasi".
- Mengabaikan kestabilan dan interpretasi.
Latihan¶
- Perluas grid DBSCAN dan tambahkan syarat noise < 10%. Apakah pilihan berubah?
- Tambahkan
covariance_type="diag"pada Gaussian Mixture. - Bandingkan hasil keempat metode setelah mereduksi dimensi dengan PCA 5 komponen.
Ringkasan¶
Bandingkan algoritma pada data yang sama dengan beberapa metrik dan kesepakatan antar-metode. Optimasi parameter tanpa label rawan menyesatkan; periksa selalu jumlah klaster, noise, kestabilan, dan kegunaan.
Berikutnya: Profil dan Interpretasi Klaster.