İstatistik Sözlüğü → Değişken önemi (gain, cover, frequency)
Değişken önemi (gain, cover, frequency)kavram
Ağaç tabanlı ve diğer makine öğrenmesi modellerinde her açıklayıcının modelin tahmin başarısına ne kadar katkı yaptığını özetleyen ölçüler.
Ağaç modellerinde en yaygın ölçü safsızlık azalmasıdır: bir değişkenle yapılan tüm bölünmelerin sağladığı toplam (ya da ortalama) iyileşme. XGBoost'ta bu 'gain' (kazanç) olarak verilir; 'cover' değişkenin bölünmelerinden etkilenen gözlem miktarını (ağırlıklı olarak), 'frequency' ise değişkenin bölünmelerde kaç kez kullanıldığını gösterir. Permütasyon önemi ise bir değişkenin değerleri karıştırıldığında model başarısının ne kadar düştüğünü ölçer ve herhangi bir modele uygulanabilir.
Safsızlığa dayalı önem çok sayıda farklı değeri olan sürekli ya da çok düzeyli değişkenleri kayırma eğilimindedir. Birbiriyle güçlü ilişkili açıklayıcılar önemi paylaşır; biri modelden çıkarılınca diğerinin önemi artabilir. Önem, değişkenin model için ne kadar yararlı olduğunu söyler; etkinin yönünü ya da nedenselliği göstermez. Kısmi bağımlılık grafikleri ve SHAP değerleri bu bilgiyi tamamlar.
Gündelik bir örnek
Bir kredi kartı şirketi dolandırıcılık tahmin modelinde 20 değişken kullanıyor. Kazanç ölçüsüne göre 'işlem tutarı' ve 'gece saatinde işlem' en önemli iki değişken. Ama 'müşteri kimlik numarası' da yüksek önem alıyor; bu gerçek bir ilişki değil, çok sayıda farklı değeri olan bir değişkenin safsızlık ölçüsünü yapay biçimde şişirmesidir ve permütasyon önemi bunu ortaya çıkarıyor.
MerQur'da
Gradyan Artırmada 'Önem türü (Kazanç / Toplam kazanç / Cover / Sıklık)' toplamı 1'e normalleştirilerek verilir; Rastgele Orman ve Karar Ağacında değişken önemi tabloları; Destek Vektör Makinesi ve Yapay Sinir Ağında permütasyon önemi olarak.
Bu kavramın geçtiği analizler
Rastgele OrmanDestek Vektör MakinesiGradyan ArtırmaKarar AğacıYapay Sinir Ağı