İstatistik Sözlüğü → Ağaç budama ve karmaşıklık parametresi (cp)
Ağaç budama ve karmaşıklık parametresi (cp)kavram
Aşırı büyümüş bir karar ağacından, öngörü başarısına yeterince katkı sağlamayan dalları kaldırarak daha sade ve genellenebilir bir ağaç elde etme işlemi; cp bu sadeleştirmenin ölçüsünü belirler.
Bir karar ağacı, veriyi her bölünmede daha saf alt gruplara ayırarak büyür ve sonunda eğitim verisindeki gürültüyü bile ezberleyecek kadar dallanabilir. CART yöntemindeki maliyet-karmaşıklık budamasında, ağacın hatasına yaprak sayısıyla orantılı bir ceza eklenir. Karmaşıklık parametresi cp, bir bölünmenin tutulması için göreli hatayı en az ne kadar azaltması gerektiğini belirler: hatayı cp kadar azaltmayan bölünmeler budanır. cp büyüdükçe ağaç küçülür; cp = 0 en büyük ağacı verir.
Uygun cp genellikle çapraz doğrulamayla seçilir: her cp değeri için çapraz doğrulama hatası (xerror) ve standart hatası (xstd) hesaplanır. En küçük xerror'u veren cp seçilebilir ya da 1-SE kuralıyla, hatası en küçük hata + bir standart hata sınırında kalan en küçük ağaç tercih edilir. Budama, ağacın büyütülmesini baştan sınırlayan erken durdurma kurallarından (en az düğüm büyüklüğü, en büyük derinlik) farklıdır: önce ağaç büyütülür, sonra geriye doğru kesilir; bu, ilk bakışta zayıf görünen ama sonraki bölünmeleri değerli kılan dalların kaybolmasını önler.
Gündelik bir örnek
Bir bahçıvan, meyve ağacını budarken çok az meyve veren ama ağacın enerjisini tüketen ince dalları keser. Karar ağacında da benzer biçimde, yalnız birkaç gözlemi ayıran ve yeni verilerde işe yaramayan dallar kesilir. Örneğin 40 yapraklı bir ağaç eğitim verisinde %95 doğru sınıflandırırken yeni veride %70'te kalıyorsa, budanmış 8 yapraklı bir ağaç yeni veride %78 başarı gösterebilir.
MerQur'da
Karar Ağacında (CART) 'Karmaşıklık parametresi (cp)' ve 'Budama (Verilen cp / En küçük CV hatası / 1-SE kuralı)' parametreleriyle ayarlanır; CV'ye dayalı seçenekler xval >= 2 gerektirir.