MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → En küçük kareler (OLS) yöntemi

En küçük kareler (OLS) yöntemikavram

Regresyon katsayılarını, gözlenen değerler ile modelin tahminleri arasındaki farkların (artıkların) karelerinin toplamını en küçük yapacak biçimde kestiren yöntem.

Doğrusal regresyonda katsayılar Σ (y_i - ŷ_i)² en küçük olacak şekilde seçilir; matris gösteriminde çözüm b = (X'X)⁻¹ X'y'dir. Karelerin alınması pozitif ve negatif hataların birbirini götürmesini engeller ve büyük hatalara daha fazla ağırlık verir. Bu yüzden OLS uç değerlere ve etkili gözlemlere duyarlıdır.

Gauss-Markov kuramına göre model doğru belirlenmişse, hatalar açıklayıcılarla ilişkisizse, varyansları sabitse ve birbirleriyle ilişkisizse OLS doğrusal yansız kestiriciler arasında en küçük varyanslı olandır (BLUE). Normallik varsayımı katsayıların yansızlığı için değil, küçük örneklemde kesin t ve F testleri için gereklidir. Değişen varyans varsa katsayılar yansız kalır ama standart hatalar yanlış olur; o zaman sağlam standart hatalar ya da ağırlıklı en küçük kareler kullanılır. Açıklayıcı içselse OLS yanlıdır ve araç değişken yöntemleri gerekir.

Gündelik bir örnek

Bir taksi şirketi yolculuk ücretini mesafeyle açıklamak istiyor. Grafikteki yüzlerce noktanın arasından öyle bir doğru çiziliyor ki her noktanın doğruya dikey uzaklığının karesi toplandığında elde edilen toplam olası en küçük değer olsun. Bu doğrunun eğimi kilometre başına ücret, kesişimi de açılış ücreti tahminidir.

MerQur'da

Çoklu Doğrusal Regresyonun kestirim yöntemidir; 'Standart hata türü' seçeneğinde Klasik (OLS) hatanın yanında HC0-HC3 sağlam hatalar, 'WLS ağırlık değişkeni' ile ağırlıklı en küçük kareler bulunur. Lasso Regresyonda 'Ek çıktı: Seçilenlerle OLS' seçilen değişkenlerle cezasız yeniden uyum yapar; SAR analizinde 'OLS varsayım tanıları' verilir. Araç Değişkenli Regresyonda 'Kestirici' (2SLS, iki aşamalı EKK), Panel Veri Regresyonunda havuzlanmış OLS ve ARIMA Tahminde koşullu ve koşulsuz en küçük kareler kestirimi de bu yönteme dayanır.

Bu kavramın geçtiği analizler

İki Yönlü ANOVABland-Altman Uyum AnaliziÇoklu Doğrusal RegresyonLojistik RegresyonRidge RegresyonLasso Regresyonİç İçe Karma ModelPanel Veri RegresyonuAraç Değişkenli RegresyonAğırlıklı Doğrusal RegresyonDoğrusal Olmayan RegresyonKantil RegresyonBayesci Doğrusal RegresyonSARMekânsal Hata ModeliGWRAracılık AnaliziÇoklu AtamaARIMA TahminLOESSÖrneklem Seçimi ve Kesik RegresyonVariogram + Kriging

İlgili kavramlar

Ağırlıklı en küçük kareler (WLS)Belirleme katsayısı (R²) ve düzeltilmiş R²