İstatistik Sözlüğü → SHAP değerleri
SHAP değerlerikavram
Bir makine öğrenmesi modelinin her bir tahminini, değişkenlerin katkılarının toplamı olarak açıklayan ve oyun kuramındaki Shapley değerlerine dayanan ölçü.
SHAP (SHapley Additive exPlanations) bir tahmini şöyle ayrıştırır: tahmin = temel değer (tüm verinin ortalama tahmini) + her değişkenin SHAP değeri. Bir değişkenin SHAP değeri, o değişkenin olası tüm değişken alt kümelerine eklendiğinde tahminde yarattığı değişimin ağırlıklı ortalamasıdır; bu, Shapley'nin oyun kuramında bir oyuncunun takıma ortalama katkısını adil biçimde paylaştırma yöntemine karşılık gelir. Pozitif SHAP değeri tahmini yukarı, negatif değeri aşağı iter. Ağaç tabanlı modellerde (XGBoost gibi) TreeSHAP algoritması bu değerleri kesin ve hızlı biçimde hesaplar.
Tüm gözlemler üzerinden ortalama mutlak SHAP değeri, bir değişkenin model için genel önemini verir ve permütasyon önemi ya da safsızlık azalmasına göre daha tutarlı bir sıralama sağlar. Ancak SHAP değerleri modelin davranışını açıklar, gerçek dünyadaki nedensel etkiyi değil; ilişkili değişkenler arasında katkının nasıl paylaştırılacağı da kullanılan yaklaşıma göre değişebilir. Değerler modelin çıktı ölçeğindedir: sınıflandırmada çoğu zaman olasılık değil log-odds ölçeğindedir.
Gündelik bir örnek
Bir bankanın modeli bir kredi başvurusu için temerrüt riskini %25 tahmin ediyor; tüm başvuruların ortalama riski %10'dur. SHAP açıklaması, aradaki 15 puanlık farkın şöyle oluştuğunu gösterebilir: düşük gelir +12, kısa iş deneyimi +6, düzenli ödeme geçmişi -3. Katkıların toplamı, ortalamadan bu başvuruya kadar olan farkı tam olarak verir.
MerQur'da
Gradyan Artırmada 'SHAP' seçeneğiyle, XGBoost motorunda ortalama |SHAP| değişken katkıları olarak sunulur; GradientBoosting motorunda üretilmez.
Bu kavramın geçtiği analizler
İlgili kavramlar
Değişken önemi (gain, cover, frequency)Kısmi bağımlılık grafiği