İstatistik Sözlüğü → Çoklu Doğrusal Regresyon
Çoklu Doğrusal Regresyonanaliz
Sürekli bir sonuç değişkeninin birden fazla öngörücüyle nasıl ilişkili olduğunu, her öngörücünün diğerleri sabitken sonuçta yarattığı ortalama değişimi kestirerek modelleyen yöntem.
Kavram
Bir sonucu (ör. konut fiyatı) çoğu zaman tek bir etken değil, birden çok etken birlikte belirler. Basit korelasyon her etkeni ayrı ayrı inceler ve etkenler birbiriyle ilişkiliyse yanıltıcı olabilir: büyük evler genellikle hem daha çok odalı hem de şehir dışında olabilir. Çoklu doğrusal regresyon tüm öngörücüleri aynı modele koyar ve her birinin, diğerleri sabit tutulduğunda sonuçla olan ilişkisini kestirir.
Model sonucu öngörücülerin doğrusal bir bileşimi olarak yazar: y = b₀ + b₁x₁ + b₂x₂ + … + e. Katsayılar, gözlenen ile modelin öngördüğü değerler arasındaki farkların (artıkların) kareleri toplamını en küçük yapacak biçimde (en küçük kareler) kestirilir. b₁, diğer öngörücüler sabitken x₁'deki bir birimlik artışın y'de yarattığı ortalama değişimdir. R², sonuçtaki değişkenliğin modelce açıklanan payını; F testi modelin bir bütün olarak anlamlı olup olmadığını; her katsayının t testi ve güven aralığı ise o öngörücünün katkısını gösterir. Kategorik öngörücüler kukla değişkenlerle, bir etkinin başka bir değişkene göre değişmesi etkileşim terimleriyle modellenir.
Model bazı varsayımlara dayanır: ilişki doğrusaldır, artıklar birbirinden bağımsızdır, artıkların varyansı sabittir ve (küçük örneklemlerde çıkarım için) artıklar yaklaşık normal dağılır. Öngörücüler birbiriyle çok güçlü ilişkiliyse (eşdoğrusallık) katsayılar kararsızlaşır ve standart hatalar büyür. Birkaç etkili gözlem sonuçları belirgin biçimde değiştirebilir. Regresyon katsayıları ilişkiyi gösterir; nedenselliği ancak tasarım (ör. randomizasyon) destekliyorsa gösterir. Model dışında kalan önemli bir değişken katsayıları yanlı yapabilir.
Ne zaman kullanılır?
- Sürekli bir sonucun birden çok öngörücüyle ilişkisini incelemek, her öngörücünün diğerlerinden bağımsız katkısını görmek ya da sonucu tahmin etmek istendiğinde.
- Sonuç ikili ise lojistik regresyon, sayım ise Poisson ya da negatif binom regresyonu; aynı kişilerden tekrarlı ölçümler ya da kümelenmiş veriler varsa karma etkili modeller kullanılır.
- Öngörücüler çok sayıda ve aralarında güçlü eşdoğrusallık varsa ridge ya da lasso gibi düzenlileştirilmiş regresyon; ilişki açıkça doğrusal değilse polinom terimleri ya da doğrusal olmayan modeller daha uygundur.
Gündelik bir örnek
Bir emlak ofisi 200 satılık dairenin fiyatını metrekare, oda sayısı, bina yaşı ve merkeze uzaklık ile açıklamak istiyor. Çoklu regresyon ör. metrekare için b = 15 000 TL bulabilir: diğer özellikler aynıyken her ek metrekare fiyatı ortalama 15 000 TL artırır. Bina yaşının katsayısı −20 000 TL ise aynı büyüklükte ve konumda bir dairenin fiyatı her ek yaş için ortalama 20 000 TL düşer. R² = 0,72, fiyatlardaki farklılığın yaklaşık %72'sinin bu dört özellikle açıklandığını gösterir; kalan kısım manzara, kat ve dairenin bakımı gibi modele girmemiş etkenlerden gelir.
MerQur'da parametreler
Güven Düzeyi (%90, %95, %99, Diğer (özel))
Kavram: Katsayıların ve tahminlerin güven aralıklarının ne kadar 'emin' olacağını belirler. Daha yüksek güven düzeyi daha geniş aralık demektir; katsayılar, standart hatalar ve p-değerleri değişmez.
Gündelik örnek: Metrekare katsayısı 15 000 TL iken %95 güven aralığı ör. 12 000 ile 18 000 TL arası çıkabilir; %99 güvende aralık 11 000 ile 19 000 TL gibi genişler.
Ne işe yarar: Katsayı güven aralıklarının ve tahmin aralıklarının düzeyini (1 - alfa) belirler; kritik değer t(1 - alfa/2, n - p) alınır. Özel düzey 80.0-99.9 arasındadır.
Sonuca etkisi: Yalnız aralık sınırları değişir; katsayı, SE, t ve p aynı kalır.
Doğrulama verisinde: hsb2 female -2.0098 (SE 1.0227, p = .0508): %95 [-4.0268, 0.0072]; %90 [-3.7000, -0.3195]; %99 [-4.6701, 0.6506]. %90'da aralık sıfırı dışlar, %95 ve %99'da içerir.
Standart hata türü (Klasik (OLS), HC0, HC1, HC2, HC3)
Kavram: Klasik standart hatalar artıkların varyansının tüm gözlemlerde eşit olduğunu varsayar. Dayanıklı (HC) standart hatalar bu varsayım bozulduğunda, yani değişen varyans olduğunda da geçerli kalır; katsayıların kendisini değiştirmez, yalnız belirsizlik tahminlerini düzeltir. Küçük örneklemlerde HC3 önerilir.
Gündelik örnek: Ucuz dairelerde fiyat tahminleri birkaç on bin TL sapıyor, lüks dairelerde ise yüz binlerce TL sapıyorsa artıkların varyansı sabit değildir. HC3 standart hataları bu durumda katsayıların güven aralıklarını daha dürüst biçimde verir.
Ne işe yarar: Değişen varyansa dayanıklı (sandviç) kovaryans kestirir: HC0 White (1980), HC1 = HC0·n/(n - p), HC2 e²/(1 - h), HC3 e²/(1 - h)² (MacKinnon ve White, 1985; Long ve Ervin, 2000). Küçük n'de HC3 önerilir.
Sonuca etkisi: Katsayılar değişmez; SE, t, p, aralık ve genel F (sandviç kovaryanslı Wald F) değişir.
Doğrulama verisinde: elemapi2 acs_k3 SE: klasik 4.3711, HC0 4.5913, HC1 4.6206, HC3 4.7154. Genel F: klasik 61.01, HC1 Wald F 84.6749. hsb2 female p: klasik .0508, HC3 .0592.
Standartlaştırılmış katsayılar (β)
Kavram: Standartlaştırılmış katsayı (β), öngörücüdeki bir standart sapmalık artışın sonuçta kaç standart sapmalık değişime karşılık geldiğini gösterir. Farklı birimlerle ölçülen öngörücülerin göreli etkisini karşılaştırmayı sağlar; ancak öngörücüler ilişkiliyse bu karşılaştırma dikkatle yapılmalıdır.
Gündelik örnek: Metrekare metreyle, merkeze uzaklık kilometreyle ölçüldüğü için ham katsayılar doğrudan karşılaştırılamaz. β değerleri metrekare için 0,60, uzaklık için −0,25 ise metrekarenin fiyatla ilişkisi uzaklığınkinden belirgin biçimde daha güçlüdür.
Ne işe yarar: β_j = b_j·s_xj/s_y; öngörücülerin göreli etkisini birimden bağımsız karşılaştırır.
Sonuca etkisi: Tabloya "β (std)" sütunu ekler. WLS'de ağırlıklı SD kullanılır.
Doğrulama verisinde: elemapi2 meals β = -0.66070, ell -0.14958; hsb2 math .368. census9 WLS medage β = 0.6852.
Değişken seçim yöntemi (Enter (tümü), Adımsal (Stepwise), İleriye doğru (Forward), Geriye doğru (Backward)) ile PIN ve POUT
Kavram: Modele hangi öngörücülerin gireceğine istatistiksel ölçütle karar veren yöntemlerdir: ileriye doğru seçim en yararlı terimleri tek tek ekler, geriye doğru seçim en gereksizleri tek tek çıkarır, adımsal seçim ikisini birleştirir. Keşif amaçlıdır; seçilen modelde p-değerleri ve R² iyimser çıkar ve model yeni veride aynı başarıyı göstermeyebilir.
Gündelik örnek: Emlak ofisi 15 özellik (balkon, otopark, asansör, kat…) arasından fiyatı en iyi açıklayanları bulmak için adımsal seçim kullanabilir. Ancak seçilen 5 özellik bu 200 daireye özgü tesadüflerden de etkilenmiş olabilir; sonucu yeni ilanlarla denemek gerekir.
Ne işe yarar: Seçim kısmi F testinin p değerine göre yapılır: p PIN'den küçükse terim girer, POUT'tan büyükse çıkar. POUT < PIN verilirse POUT = 1.1·PIN alınır ve uyarılır. Keşif amaçlıdır; seçim sonrası p değerleri iyimserdir (Harrell, 2015).
Sonuca etkisi: Son modeli, adım tablosunu ve tüm model istatistiklerini değiştirir; kukla grubu tek terimdir. WLS ve sabitsiz modelle birlikte seçim yapılmaz (hata iletisi). Enter'da PIN ve POUT etkisizdir.
Doğrulama verisinde: Fitness verisi: forward (PIN .50) RunTime, Age, RunPulse, MaxPulse, Weight; adım F'leri 84.01, 2.48, 6.70, 4.10, 1.84. Backward (POUT .10) RestPulse ve Weight çıkar, R² = .8368. Seçim mtcars ve Hald çimento verisinde de sınanmıştır.
Hiyerarşik bloklar
Kavram: Öngörücüleri araştırmacının belirlediği bir sırayla, gruplar (bloklar) halinde modele ekler ve her bloğun açıklanan varyansa (R²) yaptığı ek katkıyı (ΔR²) sınar. Seçim istatistiksel ölçütle değil, kuramla yapılır.
Gündelik örnek: Ofis önce dairenin fiziksel özelliklerini (metrekare, oda, yaş), sonra konum bilgilerini (merkeze uzaklık, semt) ekler. ΔR² = 0,15 ise konum, fiziksel özellikler hesaba katıldıktan sonra fiyat farklılığının ek %15'ini açıklar.
Ne işe yarar: Değişkenleri sırayla girilen bloklara ayırır (bloklar "|", değişkenler "," ile ayrılır); her blok için R², ΔR², F değişimi ve p verir. Kuramsal sırayla eklenen değişken gruplarının katkısını sınar.
Sonuca etkisi: Blok tablosu eklenir. Bilinmeyen ad hata verir; seçim yöntemiyle birlikte verilirse seçim yok sayılır ve uyarılır.
Doğrulama verisinde: elemapi2, 8 değişken | ell: blok 2 ΔR² = .00673, F değişimi 16.673 (1, 385), R² .845. hsb2 "math, female | socst": ΔR² = .0239, F = 8.26.
Kategorik (faktör) değişkenler
Kavram: Kategorik bir öngörücüyü (ör. semt) modele sayısal bir değişken gibi değil, her düzeyi için ayrı bir gösterge (kukla) değişkeniyle sokar. k düzeyli bir değişken k − 1 kukla değişkenle temsil edilir; her katsayı o düzeyin referans düzeyden ortalama farkıdır.
Gündelik örnek: Semt 1, 2, 3 diye kodlanmışsa ve sayısal değişken gibi girilirse model '3 numaralı semt 1 numaralının iki katı etkili' gibi anlamsız bir varsayım yapar. Faktör olarak girildiğinde her semtin fiyat farkı ayrı ayrı kestirilir.
Ne işe yarar: Sayısal kodlu sütunu k - 1 gösterge (kukla) değişkene açar; metin sütunları otomatik açılır. Düzeyler küçükten büyüğe (metinde alfabetik) sıralanır.
Sonuca etkisi: Katsayılar kukla düzeylerine göre yorumlanır.
Doğrulama verisinde: elemapi2 mealcat (dışarıda bırakılan düzey ilk düzey): sabit 805.718, mealcat[2] -166.324, mealcat[3] -301.338. census9 region'da dışarıda bırakılan düzey 1 = NE'dir.
Etkileşim terimleri
Kavram: Bir öngörücünün sonuç üzerindeki etkisinin başka bir öngörücünün düzeyine göre değişip değişmediğini modeller. Etkileşim modeldeyse ana etkiler artık 'genel etki' değil, diğer değişkenin sıfır (ya da referans) düzeyindeki koşullu etki olarak yorumlanır.
Gündelik örnek: Metrekarenin fiyata etkisi şehir merkezinde kenar mahallelere göre daha büyük olabilir. 'metrekare*semt' etkileşimi eklendiğinde model her semt için ayrı bir metrekare katsayısı kestirir: ör. merkezde 20 000 TL, kenar mahallede 10 000 TL.
Ne işe yarar: "a*b" ana etkileri ve çarpımı, "a:b" yalnız çarpımı ekler (model formülü gösterimi); faktörle de çalışır. Merkezleme yapılmaz.
Sonuca etkisi: Çarpım terimi eklenir; ana etkiler koşullu etki olarak yorumlanır.
Doğrulama verisinde: insurance size*type çarpımı -0.00041714 (SE 0.01833, p = .9821). elemapi2 some_col*yr_rnd = 5.99319. hsb2 math*prog ve warpbreaks wool*tension etkileşimleri de sınanmıştır.
Referans kategori (faktörler) (İlk düzey, Son düzey)
Kavram: Kukla kodlamada hangi düzeyin karşılaştırma tabanı (referans) olacağını belirler. Diğer düzeylerin katsayıları bu düzeye göre farklar olarak okunur; seçim modelin uyumunu (R², F) değiştirmez, yalnız katsayıların neyi karşılaştırdığını değiştirir.
Gündelik örnek: Referans semt kenar mahalle seçilirse merkez semtin katsayısı ör. +400 000 TL, 'merkezdeki benzer bir daire kenar mahalledekinden ortalama 400 000 TL pahalı' demektir. Referans merkez olsaydı aynı bilgi kenar mahalle için −400 000 TL olarak görünürdü.
Ne işe yarar: Kukla kodlamada dışarıda bırakılan düzeyi belirler.
Sonuca etkisi: Katsayı yorumu değişir; model uyumu (R², F) değişmez. Faktör yokken etkisizdir.
Doğrulama verisinde: elemapi2 yr_rnd + mealcat, son düzey: mealcat[1] 281.683, mealcat[2] 117.946. warpbreaks son düzey (tension M): tension[L] 10.000, tension[H] -4.722.
Ek çıktı: Sıfırıncı derece / kısmi / yarı-kısmi korelasyonlar
Kavram: Her öngörücü için üç korelasyon verir: sıfırıncı derece (sonuçla basit korelasyon), kısmi (diğer öngörücülerin hem öngörücüden hem sonuçtan çıkarıldığı korelasyon) ve yarı-kısmi (diğer öngörücülerin yalnız öngörücüden çıkarıldığı korelasyon). Yarı-kısmi korelasyonun karesi, o öngörücünün R²'ye tek başına kattığı payı gösterir.
Gündelik örnek: Oda sayısının fiyatla basit korelasyonu 0,65 olabilir, ama metrekare kontrol edildiğinde yarı-kısmi korelasyonu 0,08'e düşer. Bu, oda sayısının fiyatla ilişkisinin büyük ölçüde büyük evlerin çok odalı olmasından kaynaklandığını gösterir.
Ne işe yarar: Her öngörücü için y ile basit, kısmi ve yarı-kısmi (part) korelasyonu verir. WLS ile birlikte kullanılamaz.
Sonuca etkisi: Ek tablo.
Doğrulama verisinde: hsb2 female r = -0.1277, kısmi -0.1394, yarı-kısmi -0.1006.
Ek çıktı: Etkili gözlem tanıları (Cook D, kaldıraç, DFBETAS...)
Kavram: Modeli tek başına belirgin biçimde etkileyen ya da modele uymayan gözlemleri bulur. Kaldıraç, gözlemin öngörücüler bakımından ne kadar olağandışı olduğunu; Cook uzaklığı ve DFFITS, o gözlem çıkarıldığında tahminlerin ne kadar değişeceğini; DFBETAS her katsayının ne kadar değişeceğini; standartlaştırılmış artıklar ise gözlemin modelden ne kadar saptığını gösterir.
Gündelik örnek: 200 dairenin arasında 600 metrekarelik tek bir villa varsa kaldıracı yüksektir ve metrekare katsayısını tek başına değiştirebilir. Cook uzaklığı bu villayı işaret ederse ofis onu ayrıca inceler ya da modeli villa olmadan da kurup sonuçları karşılaştırır.
Ne işe yarar: Cook D, kaldıraç, merkezli kaldıraç, Mahalanobis, DFFITS, DFBETAS, ZRESID/SRESID/SDRESID ve Bonferroni aykırı değer testi. WLS ile birlikte kullanılamaz.
Sonuca etkisi: Ek tablolar.
Doğrulama verisinde: crime, dc: RSTUDENT 3.76585, kaldıraç 0.53638, Cook D 3.20343, DFFITS 4.05061, DFBETAS(single) 3.1391. LifeCycleSavings verisinde 50 x 5 DFBETAS tablosu üretilir.
→ Etkili gözlem tanılaması (Cook uzaklığı, kaldıraç, DFBETAS)
WLS ağırlık değişkeni
Kavram: Ağırlıklı en küçük kareler, her gözleme farklı bir ağırlık vererek kesinliği yüksek gözlemlerin modeli daha çok etkilemesini sağlar. Gözlemler farklı büyüklükteki grupların ortalamalarıysa ya da varyansları bilinen biçimde farklıysa kullanılır.
Gündelik örnek: Ofis tek tek daireler yerine semt ortalamalarıyla çalışıyorsa, 80 satışın ortalaması olan bir semt ile yalnız 3 satışın ortalaması olan bir semt aynı güvenilirlikte değildir. Satış sayısı ağırlık olarak verildiğinde büyük semtler modeli daha çok belirler.
Ne işe yarar: Ağırlıklı en küçük kareler uygular; ağırlığı eksik ya da ≤ 0 olan satır dışlanır. Gözlemler ortalama veya bilinen farklı varyanslı ölçümler olduğunda kullanılır (grup büyüklüğü ağırlık).
Sonuca etkisi: Katsayı, SE, R², F ve tanılar ağırlıklı modele göre hesaplanır; Breusch-Pagan dönüştürülmüş modelde hesaplanır ve ağırlık ölçeğinden bağımsızdır (census9: LM = 5.1574, p = .2715).
Doğrulama verisinde: census9 drate ~ medage + region, ağırlık pop: medage 4.283183 (SE .5393329), region[4] -10.90629, F 37.21, R² .7679. Ağırlıksız modelde region[4] -12.390.
Ek çıktılar (2): ANOVA tablosu + SEE
Kavram: Sonuçtaki toplam değişkenliği modelce açıklanan (regresyon) ve açıklanamayan (artık) parçalara ayırır; F testi bu iki parçanın oranına dayanır. Tahminin standart hatası (SEE), gözlenen değerlerin modelin tahmininden tipik olarak ne kadar saptığını sonucun kendi biriminde gösterir.
Gündelik örnek: Tahminin standart hatası 150 000 TL ise model bir dairenin fiyatını tahmin ettiğinde gerçek fiyat çoğu zaman bu tahminin yaklaşık ±300 000 TL'lik bir bandı içinde kalır. R² yüksek olsa bile bu sapma pratikte büyük olabilir.
Ne işe yarar: Regresyon, artık ve toplam kareler toplamı, sd, MS, F ve tahminin standart hatasını verir.
Sonuca etkisi: Ek tablo.
Doğrulama verisinde: hsb2 SS 9543.72074 / 9963.77926 / 19507.5, MS artık 51.0963039, SEE 7.148168. NIST Longley SS ve F için LRE ≥ 12.
Ek çıktılar (2): Eşdoğrusallık tanıları
Kavram: Öngörücüler arasındaki güçlü doğrusal ilişkiyi (eşdoğrusallık) ölçer. Tolerans ve VIF, bir öngörücünün diğerleriyle ne kadar örtüştüğünü; koşul indeksleri ve varyans oranları ise hangi öngörücü gruplarının sorun yarattığını gösterir. Eşdoğrusallık katsayıları kararsız, standart hataları büyük yapar.
Gündelik örnek: Hem metrekare hem oda sayısı modele girdiğinde ikisi birbiriyle çok güçlü ilişkiliyse VIF yüksek çıkar ve oda sayısının katsayısı beklenmedik biçimde negatif olabilir. Bu, 'oda fiyatı düşürüyor' demek değil, iki değişkenin etkisinin ayrıştırılamadığı anlamına gelir.
Ne işe yarar: Tolerans (1/VIF), özdeğerler, koşul indeksleri ve varyans oranları (Belsley, Kuh ve Welsch, 1980; sabit dahil, sütunlar birim uzunluğa ölçekli).
Sonuca etkisi: Ek tablo.
Doğrulama verisinde: elemapi2 ebeveyn eğitimi modeli: avg_ed VIF = 43.5703, koşul indeksleri 1.000, 2.918, 4.455, 5.940, 42.036, 65.887.
Ek çıktılar (2): RESET testi
Kavram: Modelin işlev biçiminin doğru kurulup kurulmadığını sınar: tahmin edilen değerlerin kare ve küp terimleri modele eklendiğinde açıklayıcılık anlamlı biçimde artıyorsa, model önemli bir doğrusal olmayan ilişkiyi ya da etkileşimi kaçırıyor olabilir.
Gündelik örnek: Bina yaşının fiyata etkisi ilk yıllarda hızlı, sonra yavaş azalıyorsa düz bir çizgi bu ilişkiyi tam yakalamaz. RESET testinin anlamlı çıkması, ofisin yaşın karesini eklemeyi ya da yaşı gruplara ayırmayı düşünmesi gerektiğini gösterir.
Ne işe yarar: Ramsey RESET: ŷ² ve ŷ³ eklenince kısmi F ile işlev biçimi yanlışlığını sınar.
Sonuca etkisi: Ek satır.
Doğrulama verisinde: hsb2 F(2, 193) = 0.6215, p = .538; census9 WLS F(2, 43) = 0.0973, p = .908.
Tahmin + GA/PI ve Veri setine kaydet
Kavram: Her gözlem için modelin tahmin ettiği değeri ve iki farklı aralığı verir: güven aralığı, o öngörücü değerlerine sahip dairelerin ortalama fiyatının belirsizliğini; tahmin aralığı ise tek bir yeni dairenin fiyatının hangi aralıkta olabileceğini gösterir. Tahmin aralığı bireysel değişkenliği de içerdiği için her zaman daha geniştir.
Gündelik örnek: 100 metrekare, 3 odalı, 10 yaşında bir daire için tahmin 3 000 000 TL olabilir. Bu tür dairelerin ortalama fiyatı için güven aralığı ör. 2,9-3,1 milyon TL iken, ofisin yeni ilana koyacağı tek bir dairenin fiyatı için tahmin aralığı 2,7-3,3 milyon TL gibi çok daha geniştir.
Ne işe yarar: Her satır için tahmin, ortalama güven aralığı ve birey tahmin aralığı verir (Y'si eksik satırlar da tahmin edilir); kaydet seçeneği PRE, RES, ZRE, LMCI, UMCI, LICI, UICI sütunlarını veri setine ekler.
Sonuca etkisi: Ek tablo ve sütunlar; aralık düzeyi Güven Düzeyi'ni izler.
Doğrulama verisinde: airquality Ozone: 146 satır, 35'i Y'si eksik yeni gözlem; bunlar için de tahmin, güven aralığı ve tahmin aralığı verilir. Kaydetme hsb2, crime ve airquality verisinde sınanmıştır.
Sabit terimsiz model
Kavram: Modeli sabit terim olmadan, regresyon doğrusu orijinden geçecek biçimde kurar. Yalnız kuramsal olarak tüm öngörücüler sıfırken sonucun da sıfır olması zorunluysa uygundur; bu modelin R²'si farklı tanımlandığı için sabitli modelinkiyle karşılaştırılamaz.
Gündelik örnek: Fiyat modelinde sabit çıkarılırsa '0 metrekarelik, 0 yaşında, merkezde bir dairenin fiyatı 0 TL' varsayılmış olur; arsa değeri gibi etkenler düşünüldüğünde bu gerçekçi değildir. Buna karşılık 'üretilen parça sayısı ile kullanılan hammadde' gibi bir ilişkide sabitsiz model anlamlı olabilir.
Ne işe yarar: Sabiti modelden çıkarır (regresyon orijinden geçer); R² merkezsiz tanımla hesaplanır, sabitli modelle karşılaştırılamaz. Yalnız kuramsal olarak x = 0 iken y = 0 zorunluysa kullanılır.
Sonuca etkisi: R², F, β ve eşdoğrusallık tanıları değişir.
Doğrulama verisinde: NIST NoInt1/NoInt2 katsayı LRE 14.8-15 (sertifikalı). hsb2'de R² 0.489 -> 0.981 (merkezsiz tanım). Faktörlü sabitsiz modelde MerQur k - 1 kukla tutar.
Tanı grafiği (Artık - tahmin, ZRESID × ZPRED, Artık histogramı + normal P-P + Q-Q, Kısmi regresyon grafikleri)
Kavram: Model varsayımlarını görsel olarak denetlemek için grafik seçer: artık-tahmin grafiği doğrusal olmayan örüntüleri ve değişen varyansı, histogram ve Q-Q grafiği artıkların normalliğini, kısmi regresyon grafikleri ise her öngörücünün diğerleri kontrol edildiğindeki ilişkisini ve etkili gözlemleri gösterir.
Gündelik örnek: Artık-tahmin grafiğinde noktalar pahalı dairelere doğru huni gibi açılıyorsa varyans sabit değildir. Metrekarenin kısmi regresyon grafiğinde tek bir noktanın çizgiyi kendine doğru çektiği görülüyorsa, o daire etkili bir gözlemdir.
Ne işe yarar: Görsel tanı seçer; sayısal sonuçları değiştirmez.
Sonuca etkisi: Yalnız grafik sekmesi.
Doğrulama verisinde: ZPRED standartlaştırılmış tahmin, ZRESID artık/sigma olarak hesaplanır; kısmi regresyon eğimleri katsayılara eşittir (math 0.389310; Frisch-Waugh-Lovell).
Model tanıları: Uyum eksikliği, Değişen varyans testleri (Breusch-Pagan, White); Chow kırılma testi (Yok, Gözlem sırası, Grup değişkeni); WLS ağırlık kaynağı (güç), Güç başlangıcı, bitişi ve adımı
Kavram: Modelin varsayımlarını ve kararlılığını sınayan ek testlerdir: değişen varyans testleri (Breusch-Pagan, White) artık varyansının öngörücülere bağlı olup olmadığını, Chow testi model katsayılarının iki alt grup ya da dönem arasında değişip değişmediğini (yapısal kırılma), uyum eksikliği testi ise aynı öngörücü değerlerinde tekrarlı gözlemler varken doğrusal modelin yeterli olup olmadığını sınar. Ağırlık taraması, değişen varyansı düzeltecek WLS ağırlıklarını kestirmeye yardım eder.
Gündelik örnek: Breusch-Pagan testi anlamlıysa fiyat tahminlerinin hatası büyük dairelerde daha fazladır. Chow testi, ör. konut kredisi faizlerinin değiştiği tarihten önceki ve sonraki satışlarda metrekarenin fiyata etkisinin farklı olup olmadığını sınayabilir.
Ne işe yarar: Değişen varyans (özgün Breusch-Pagan, Koenker ve White), yapısal kırılma (Chow; gözlem sırası veya grup değişkeni), tekrarlı tasarımda uyum eksikliği F testi ve ağırlığın w = 1/x^p biçiminde tahmini (güç ızgarası).
Sonuca etkisi: Ek test satırları; ana model değişmez. Doymuş modelde uyum eksikliği "tanımsız" notu verir.
Doğrulama verisinde: cars ve mtcars'ta tekrarlı x değerleriyle uyum eksikliği F testi hesaplanır. Chow testinde kırılma satırı 17 alınmıştır. WLS güç ızgarasında en iyi p 1.5.
Gerçek veride örnek
Veri: UCLA hsb2 (High School and Beyond, 200 öğrenci)
Değişkenler: hedef science (fen puanı), bağımsızlar math, female, socst, read
- Soru: Öğrencilerin fen puanı (science), matematik, okuma, sosyal bilgiler puanları ve cinsiyetle (female) ne ölçüde açıklanır?
- Sonuç: Model anlamlıdır: F(4, 195) = 46.69, p < .001; R² = .489, düzeltilmiş R² = .479. Fen puanındaki değişkenliğin yaklaşık yarısı açıklanır.
- Katsayılar: Matematik (b = 0.389, p < .001) ve okuma (b = 0.335, p < .001) puanları fen puanını anlamlı biçimde artırır; kızların fen puanı diğer değişkenler sabitken 2.01 puan düşüktür ama sınırda anlamsızdır (p = .051); sosyal bilgiler etkisizdir (p = .424).
- Varsayım: Artıklar normal (Shapiro-Wilk W = 0.997, p = .975), bağımsız (Durbin-Watson = 2.005); VIF değerleri 2.17'nin altında, eşdoğrusallık sorunu yok. Breusch-Pagan LM = 10.48, p = .033 ile varyans homojenliği reddedilir.
- Sınırlılık: Değişen varyans nedeniyle sonuç sağlam (HC3) standart hatalar seçeneğiyle yeniden denetlenmelidir.
- APA: F(4, 195) = 46.69, p < .001, R² = .49, düzeltilmiş R² = .48.
İlgili kavramlar
Varyans analizi (ANOVA) tablosuAğırlıklı en küçük kareler (WLS)Hiyerarşik (bloklu) regresyonSabitsiz (orijinden geçen) regresyonÇoklu doğrusal bağlantı (VIF, tolerans, koşul indeksi)Standartlaştırılmış regresyon katsayısı (β)Ramsey RESET testiEtkili gözlem tanılaması (Cook uzaklığı, kaldıraç, DFBETAS)
Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.