MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → Katsayı yolu ve ridge izi

Katsayı yolu ve ridge izikavram

Düzenlileştirilmiş regresyonda, ceza parametresinin bir değerler ızgarası boyunca değiştirilmesiyle her katsayının nasıl değiştiğini gösteren grafik.

Lasso, ridge ve elastik ağ modellerinde λ (ya da α) cezanın gücünü belirler: λ = 0'da kestirimler sıradan en küçük kareler çözümüne eşittir, λ büyüdükçe katsayılar sıfıra doğru küçülür. Katsayı yolu, yatay eksende ceza parametresi (çoğunlukla log ölçeğinde), dikey eksende standartlaştırılmış katsayılarla her değişken için ayrı bir eğri çizer. Lasso'da katsayılar tek tek tam olarak sıfıra ulaşır. Böylece yol, değişkenlerin modelden hangi sırayla çıktığını ya da modele hangi sırayla girdiğini gösterir.

Ridge'de katsayılar sıfıra yaklaşır ama hiçbir zaman tam sıfır olmaz. Hoerl ve Kennard'ın (1970) ridge izi, katsayıların kararlı hâle geldiği bir λ bölgesini görsel olarak seçmek için önerilmiştir. Günümüzde λ çoğunlukla çapraz geçerlemeyle seçilir ve iz, seçilen değerin anlamını görmek için kullanılır. Yol üzerinde işaret değiştiren ya da çok hızlı küçülen katsayılar genellikle çoklu doğrusal bağlantının işaretidir. Lasso'da birbirine çok bağlı değişkenlerden hangisinin önce girdiği kararsız olabilir; giriş sırasını önem sıralaması gibi yorumlamak tehlikelidir.

Gündelik bir örnek

Bir pazarlama ekibi 15 değişkenle satış tahmini yapıyor ve Lasso kullanıyor. Katsayı yolunda çok güçlü cezada yalnızca 'reklam bütçesi' sıfırdan farklı. Ceza azaldıkça önce 'mevsim', sonra 'fiyat indirimi' modele giriyor. Çapraz geçerlemenin seçtiği noktada 5 değişken modelde kalıyor ve ekip hangi değişkenlerin hangi ceza düzeyinde devreye girdiğini görebiliyor.

MerQur'da

Ridge regresyonda 'Ek çıktı: Ridge izi + CV eğrisi' ızgara boyunca standart katsayı izini ve df(α) değerini verir. Lasso regresyonda 'Katsayı yolu' katsayı yolunu ve değişkenlerin modele giriş sırasını gösterir. Düzenlileştirilmiş regresyonda 'Grafik' seçeneğinden 'Katsayı yolu' seçilebilir.

Bu kavramın geçtiği analizler

Ridge RegresyonLasso RegresyonDüzenlileştirilmiş Regresyon

İlgili kavramlar

Düzenlileştirme (ceza) ve ceza parametresi λ/α