İstatistik Sözlüğü → 1-SE kuralı
1-SE kuralıkavram
Çapraz doğrulamada, en küçük hatalı modelin hatasından en fazla bir standart hata uzaklıktaki modeller arasından en sade olanı seçme kuralı.
Lasso, ridge ya da karar ağacı gibi yöntemlerde ayar parametresi (λ ya da cp) çapraz doğrulama ile seçilir. Her aday değer için ortalama CV hatası ve bu ortalamanın standart hatası hesaplanır. En küçük hatayı veren değer (λ_min) seçilebilir; ancak CV hatası da örneklemden örnekleme değiştiği için, ona çok yakın hata veren daha sade modeller istatistiksel olarak ondan ayırt edilemeyebilir. Breiman ve arkadaşlarının (1984) önerdiği 1-SE kuralı, hatası 'en küçük hata + o noktanın standart hatası' sınırının altında kalan en sade modeli (en büyük λ, en küçük ağaç) seçer.
Bu kural, öngörü doğruluğundan çok az şey kaybederek daha az değişkenli, daha kararlı ve yorumlanması daha kolay modeller verir. Bir kesin optimallik ilkesi değil, aşırı uyumdan kaçınmaya yönelik bir sezgisel kuraldır. Öngörü doğruluğu en önemli ölçütse λ_min, sadelik ve yorumlanabilirlik önemliyse λ_1SE tercih edilir. CV katlarının rastgele bölünmesi sonucu etkileyebileceği için tohum sabitlenmeli ya da CV tekrarlanmalıdır.
Gündelik bir örnek
Bir dizüstü bilgisayar alacaksınız. Testlerde en hızlı model 100 puan alıyor ve çok pahalı; daha ucuz bir model 98 puan alıyor, ama ölçümlerin kendi hata payı ±3 puan. İki model arasındaki fark ölçüm belirsizliğinin içinde kaldığı için daha ucuz ve basit olanı seçmek mantıklıdır. 1-SE kuralı da modeller arasında aynı mantıkla seçim yapar.
MerQur'da
Lasso Regresyonda 'λ seçim kuralı (λ_min, λ_1SE)', Düzenlileştirilmiş Regresyonda 'Alfa / lambda seçim kuralı (En küçük CV hatası, 1-SE kuralı)', Ridge Regresyonda 'α seçim ölçütü' içinde k-kat λ_1SE, Karar Ağacında (CART) 'Budama (Verilen cp / En küçük CV hatası / 1-SE kuralı)' olarak sunulur.
Bu kavramın geçtiği analizler
Ridge RegresyonLasso RegresyonKarar AğacıDüzenlileştirilmiş Regresyon
İlgili kavramlar
k-katlı çapraz geçerlemeDüzenlileştirme (ceza) ve ceza parametresi λ/α