İstatistik Sözlüğü → Bilgi ölçütleri (AIC, AICc, BIC)
Bilgi ölçütleri (AIC, AICc, BIC)kavram
Modelleri, veriye uyumlarını (olabilirlik) ve karmaşıklıklarını (parametre sayısı) birlikte gözeterek karşılaştırmaya yarayan ölçütler; değeri küçük olan model tercih edilir.
Akaike bilgi ölçütü AIC = -2 ln L + 2k, Bayesci (Schwarz) bilgi ölçütü BIC = -2 ln L + k·ln(n) biçimindedir; L en büyük olabilirlik, k parametre sayısı, n örneklem büyüklüğüdür. Uyum iyileştikçe -2 ln L küçülür, her ek parametre ise ceza getirir. AICc, AIC'nin küçük örneklem düzeltmesidir: AICc = AIC + 2k(k + 1)/(n - k - 1); n/k küçükken tercih edilir. BIC'nin cezası n ≥ 8 olduğunda AIC'ninkinden büyüktür; bu yüzden BIC daha yalın modelleri seçer.
Bilgi ölçütlerinin mutlak değeri anlamlı değildir; yalnız aynı veriye uydurulmuş modeller arasındaki farklar yorumlanır. AIC'de 2'den küçük farklar modellerin benzer desteğe sahip olduğunu, 10'dan büyük farklar güçlü bir üstünlüğü gösterir. AIC öngörü başarısını en iyileyen modeli, BIC ise (gerçek model aday kümede ise) gerçek modeli bulmayı hedefler. İç içe olmayan modeller de karşılaştırılabilir, ancak bağımlı değişken her iki modelde aynı biçimde (ör. birinde log dönüşümlü, ötekinde ham değil) ve aynı gözlemlerle modellenmelidir. REML ile kestirilen karma modellerde sabit etkileri farklı modeller AIC ile karşılaştırılmamalıdır.
Gündelik bir örnek
Bir meteoroloji ekibi günlük yağışı açıklamak için iki model deniyor: yalnız sıcaklık içeren model (AIC = 512) ve buna nem ile rüzgârı da ekleyen model (AIC = 498). 14 puanlık fark, ek değişkenlerin getirdiği uyum kazancının karmaşıklık cezasından çok daha büyük olduğunu gösteriyor. Üçüncü bir model ayrıca bulut türünü eklediğinde AIC 497'ye iniyor; 1 puanlık fark bu ek karmaşıklığa değmediğini düşündürüyor.
MerQur'da
Gizil sınıf ve gizil profil analizinde 'Seçim ölçütü' (BIC / SABIC / AIC / CAIC), GWR'de 'Bant seçim kriteri' (AICc / AIC / BIC / CV), doğrusal olmayan regresyonda 'Ek çıktı: AIC/BIC + form karşılaştırması', parametrik sağkalımda 'Dağılımlar arası AIC/BIC tablosu', madde tepki kuramında 'Model karşılaştırması (AIC/BIC)' olarak bulunur; ARIMA'nın otomatik model seçimi AICc'yi kullanır. VAR'da 'Gecikme seçimi' (AIC / HQ / SC (BIC) / FPE), zaman serisi, eşbütünleşme ve panel birim kök testlerinde gecikme seçimi, Cox regresyonunda AIC iki yönlü değişken seçimi ve LOESS'te 'Span seçimi' (AICc) bu ölçütlerle yapılabilir; Bayesci ANOVA ve hiyerarşik Bayesci regresyon BIC tabanlı Bayes faktörü verir. Karma modeller, faktör analizleri, yapısal eşitlik ve yol modelleri, sayım ve sağkalım modelleri ile GARCH model uyumu çıktısında AIC ve BIC raporlanır.
Bu kavramın geçtiği analizler
Poisson / Negatif Binomial RegresyonMultinomial Lojistik RegresyonDoğrusal Karma ModelÇapraz Karma ModelPanel Veri RegresyonuGizil Sınıf AnaliziGizil Profil AnaliziAçıklayıcı Faktör AnaliziDoğrulayıcı Faktör AnaliziYapısal Eşitlik ModeliMadde Tepki KuramıVaryans Bileşenleri AnaliziGenelleştirilmiş Toplamsal ModelDoğrusal Olmayan RegresyonProbit RegresyonBayesci ANOVAHiyerarşik Bayesci RegresyonGWRYol AnaliziCox Regresyonu (Orantılı Tehlikeler Modeli)Parametrik SağkalımZamana Bağlı Cox RegresyonuAralık Sansürlü SağkalımZaman SerisiARIMA TahminÜstel DüzlemeVAREşbütünleşmeGARCHLOESS
İlgili kavramlar
Olabilirlik oranı testi (LRT)Aşamalı (stepwise) değişken seçimi