MerQuR+Başvuru Kitabı

102. LOESS (Yerel Regresyon)

Analiz kimliği: loess · Menü adı: LOESS (Yerel Regresyon) · Panel: gui/panels/analyses/loess_panel.py · Motor: stats/loess_regression.py, run_loess (satır 319–467), local_fit (143–205), lowesa/_ehg141 (83–108), select_span (289–316)

102.1 Ne işe yarar

LOESS (locally estimated scatterplot smoothing), bir ya da iki sayısal açıklayıcı ile bağımlı değişken arasındaki ilişkiyi, her noktanın komşuluğunda ayrı bir ağırlıklı polinom uydurarak düzgünleştirir. Önceden bir fonksiyon biçimi varsaymaz. Cevapladığı soru şudur: "Bir yıllık ölüm olasılığı yaşla nasıl bir eğri izliyor; 60 yaşındaki bir hastanın beklenen olasılığı ve belirsizliği nedir?"

y_i=f(\mathbf x_i)+\varepsilon_i,\qquad \hat f(\mathbf x_0)=\hat\beta_0(\mathbf x_0),\quad \hat{\boldsymbol\beta}(\mathbf x_0)=\arg\min_{\boldsymbol\beta}\sum_{j\in N_q(\mathbf x_0)}w_j(\mathbf x_0)\big[y_j-P_d(\mathbf x_j-\mathbf x_0;\boldsymbol\beta)\big]^2
  • f: bilinmeyen düzgün fonksiyon; \varepsilon_i: bağımsız, ortalaması 0 hatalar.
  • N_q(\mathbf x_0): \mathbf x_0'a en yakın q gözlem (komşuluk).
  • w_j(\mathbf x_0): üç küp (tricube) ağırlık; yakın gözlem ağır, komşuluk sınırındaki gözlem sıfır ağırlık alır.
  • P_d: \mathbf x_0 çevresinde ortalanmış d. derece polinom (d=1 ya da 2); kesişimi \hat\beta_0(\mathbf x_0) o noktadaki tahmindir.

MerQur R loess(..., surface = "direct") ile aynı hesabı yapar (Cleveland, Grosse ve Shyu 1992): yaklaştırma (kd-ağacı enterpolasyonu) yoktur; her gözlemde ve her tahmin noktasında yerel uyum doğrudan hesaplanır.

Ne zaman kullanılır?

  • Bir ya da iki açıklayıcıyla ilişkinin biçimini keşfetmek, serpilme grafiğine eğri yerleştirmek için.
  • Parametrik bir modelin (doğrusal, ikinci derece) yeterliliğini görsel olarak sınamak için.
  • Aykırı değerlere karşı sağlam bir eğri gerekiyorsa ("Simetrik" aile).

Ne zaman kullanılmaz?

  • İkiden çok açıklayıcı varsa: panel en çok iki açıklayıcı kabul eder (loess_panel.py:191–192). GAM toplamsal bir model kurar.
  • Sonuç ikili ya da sayımsa: LOESS Gauss tipi en küçük kareler yapar; GAM (Binom/Poisson aile) ya da Lojistik/Poisson Regresyon.
  • Parametreleri yorumlanabilir bir formül gerekiyorsa: Doğrusal Olmayan Regresyon.
  • Gözlem aralığı dışında tahmin gerekiyorsa: yerel uyum uçlarda belirsizdir; dışkestirim yapılmamalıdır.

Sık karıştırılan analizler. LOWESS (Cleveland 1979) LOESS'in tek açıklayıcılı, yerel doğrusal, sağlam ilk sürümüdür; R lowess() farklı varsayılanlarla (span 2/3, 3 sağlam yineleme) çalışır. GAM ceza parametreli bir spline uydurur ve olabilirlik tabanlı aileler sunar; LOESS'in serbestliği span ile ayarlanır. Hareketli ortalama her noktada sabit (derece 0) yerel uyum yapar ve uçlarda yanlıdır; yerel doğrusal ya da ikinci derece uyum bu yanlılığı azaltır.

102.2 Varsayımlar ve veri türü

Varsayım Ne demek MerQur'da nasıl denetlenir
Düzgünlük f yerelde bir polinomla iyi yaklaşılır. Span ile ayarlanır; AICc/GCV ile seçilebilir.
Bağımsız hatalar Ardışık ölçüm, kümelenme yok. Denetlenmez.
Sabit varyans (Gauss) Hata varyansı açıklayıcıya göre değişmez. Denetlenmez; GA bandı bu varsayıma dayanır.
Simetrik hata (Simetrik aile) Aykırılar olabilir, hata dağılımı simetrik. Denetlenmez.
Yeterli komşuluk Her komşulukta yerel polinomun parametre sayısından fazla gözlem. q-1<k ise hata (loess_regression.py:157–158).

Eksik değer. Bağımlı değişken ve açıklayıcıların herhangi birinde eksik ya da sayıya çevrilemeyen değer olan satır çıkarılır (liste bazında; loess_regression.py:343–347). Çıkarılan satır sayısı metne not olarak yazılır (loess_panel.py:274–275).

Uç durumlar (koddan).

  • Açıklayıcı ya da bağımlı değişken sabitse hata (loess_regression.py:354–358).
  • Gözlem sayısı k+2'den azsa hata (k: yerel parametre sayısı; 348–349).
  • Komşuluk yarıçapı sıfırsa (q gözlemin hepsi aynı açıklayıcı değerinde) "Komşuluk yarıçapı sıfır" hatası (176–177). Bu, çok bağlı veride küçük span'de olur.
  • "Kesin" istatistikler n\times n matris gerektirir; n>4000'de hata (382–383).
  • Yerel tasarım tekile yakınsa sözde ters kullanılır ve uyarı yazılır (395–396); iz(\mathbf L)>n-2 ise aşırı uyum uyarısı (429–430); span <0{,}2 ve n<50 ise küçük span uyarısı (431–432).

102.3 Parametreler

Varsayılanlar add_form_rows (loess_panel.py:52–140) ve read_options'tan (143–179) alınmıştır.

Arayüz adı Varsayılan Ne yapar Sonucu nasıl değiştirir
Bağımlı değişken ilk sayısal sütun y. —
Bağımsız değişkenler en az 1 (en çok 2) Açıklayıcılar. İki açıklayıcıda yüzey uydurulur.
Span seçimi Sabit (elle) Sabit; Otomatik: AICc; Otomatik: GCV. Otomatikte span \le1 içindeki tüm komşuluk büyüklükleri taranır; span kutusu kapanır.
Düzgünleştirme (span) 0,75 (0,05–5) Komşuluktaki gözlem oranı: q=\lfloor n\cdot\text{span}+10^{-5}\rfloor. Küçük span bükülgen, büyük span düz eğri.
Yerel polinom derecesi 2 (yerel ikinci derece) 1 ya da 2. 2, tepe ve çukurları daha az yanlı izler; daha çok serbestlik kullanır.
Aile Gauss (en küçük kareler) Gauss; Simetrik (sağlam, bisquare). Simetrikte 4 yinelemeli sağlam ağırlıklandırma.
İstatistikler Yaklaşık (Cleveland–Grosse) Yaklaşık ya da Kesin (tam \mathbf L). Yalnız \delta_1, \delta_2, enp, s ve sd'yi değiştirir; uyum aynıdır.
Açıklayıcıları ölçekle (normalize) açık İki açıklayıcıda her biri %10 kırpılmış SS'ye bölünür. Tek açıklayıcıda etkisizdir.
Güven Düzeyi %95 Noktasal GA düzeyi. Bant genişliği.
Uydurulan değerleri ve artıkları veri setine kaydet kapalı <hedef>_loess_fit, <hedef>_loess_resid. Yeni sütunlar.
Grafik Eğri / kontur Ya da 3B yüzey (iki açıklayıcı). Yalnız grafik.

Bütün varsayılanlar R loess() ile aynıdır (span 0,75, derece 2, Gauss, yaklaşık istatistik, normalize = TRUE); fark yalnız surface = "direct"'tir. R'nin varsayılanı surface = "interpolate"'tir (kd-ağacı ve kübik enterpolasyon); R ile karşılaştırmada loess.control(surface = "direct") verilmelidir.

Span 1'den büyük olursa ne olur?

q en çok n olabilir; span >1 iken tüm gözlemler kullanılır ve komşuluk yarıçapı büyütülür. R ehg127 gibi kare uzaklık \text{span} ile çarpılır: \rho=d^2_{(q)}\cdot\max(1,\text{span}) (local_fit, 165–175). Etkin yarıçap \sqrt{\text{span}} katına çıkar, ağırlıklar düzleşir ve span \to\infty iken uyum küresel bir polinoma (derece 2'de parabol) yaklaşır.

102.4 Tıp örneği

Dosya: Tıp setinde LOESS'e ayrılmış bir dosya yoktur. GAM bölümündeki Tıp verisi kullanılmıştır: english/datasets/Tip/83_gam_mortality_age.xlsx (Türkçe kopyası samples/Tum_Analiz_Tip/83_gam_mortalite_yas.xlsx). Böylece iki esnek yöntem aynı veride karşılaştırılabilir.

Değişken Rol Tür Özet
1yr_mortality_probability Bağımlı sürekli, [0{,}1] ort. 0,1302; SS 0,1461; 0,001–0,545
age Açıklayıcı tam sayı (yıl) ort. 58,49; SS 19,58; 20–90; 68 farklı değer

n ve eksik değer: 200 hasta, eksik değer yok. Yaşlar tam sayı olduğundan çok sayıda bağ vardır; bu, komşuluk sınırını ve küçük span'leri etkiler (102.5.1, 102.6).

Klinik soru: Ölüm olasılığı yaşla nasıl değişiyor? 40, 60 ve 80 yaşındaki hastalar için beklenen olasılık ve %95 GA nedir?

Seçilen ayarlar: Arayüz varsayılanları (span 0,75, derece 2, Gauss, yaklaşık, %95). Karşılaştırma için ek çalıştırmalar: kesin istatistik, simetrik aile, derece 1, AICc ve GCV ile span seçimi.

102.5 Formüller ve hesap adımları

MerQur önce eksik satırları atar; iki açıklayıcıda (normalize açıksa) sütunları ölçekler. Otomatik seçimde span'i belirler. Sonra her gözlemde yerel polinomu uydurur ve düzgünleştirme matrisi \mathbf L'nin ilgili satırını (ya da köşegenini) hesaplar. İz(\mathbf L) her zaman kesin hesaplanır; \delta_1 ve \delta_2 "Yaklaşık"ta Cleveland–Grosse formülüyle, "Kesin"de \mathbf L'den bulunur. Son olarak artık SH, eşdeğer parametre sayısı, arama sd'si ve noktasal GA hesaplanır.

102.5.1 Komşuluk ve üç küp ağırlıklar

q=\min\!\big(n,\;\lfloor n\cdot\text{span}+10^{-5}\rfloor\big),\qquad \rho(\mathbf x_0)=d^2_{(q)}(\mathbf x_0)\cdot\max(1,\text{span})
w_j(\mathbf x_0)=\left(1-u_j^3\right)_+^3,\qquad u_j=\sqrt{\frac{d^2(\mathbf x_j,\mathbf x_0)}{\rho(\mathbf x_0)}}
  • d^2(\mathbf x_j,\mathbf x_0): kare Öklid uzaklığı (iki açıklayıcıda ölçeklenmiş eksenlerde).
  • d^2_{(q)}: q. en küçük kare uzaklık; komşuluğun sınırı.
  • (\cdot)_+: negatifse 0. Sınırdaki gözlem (u=1) sıfır ağırlık alır.
  • 10^{-5}: kayan nokta hatasıyla q'nun bir eksik çıkmasını önler (R ile aynı).

Neden üç küp ağırlık?

Üç küp fonksiyonu [0{,}1]'de düzgündür, merkezde 1'dir ve sınırda hem kendisi hem birinci ve ikinci türevi sıfıra iner. Komşuluğa giren ya da çıkan bir gözlem uyumu sıçratmaz; eğri \mathbf x_0 boyunca düzgün değişir. Cleveland (1979) bu seçimi, düzgünlük ile yerellik arasında iyi bir denge olarak önermiştir.

Koddaki tercih: bağlar ve komşuluk sınırı

Yaş tam sayı olduğundan q. en yakın uzaklıkta çok sayıda bağ olabilir. MerQur argpartition ile tam q gözlem seçer; sınır uzaklığındaki gözlemlerin hangisinin seçildiği sonucu etkilemez, çünkü u=1'de ağırlık sıfırdır. R ehg127 de aynı davranır. Komşuluktaki q gözlemin hepsi aynı açıklayıcı değerini taşırsa \rho=0 olur ve uyum yapılamaz.

102.5.2 Yerel polinom ve düzgünleştirme matrisi

Tek açıklayıcı ve derece 2 için yerel tasarım \mathbf Z_0'ın satırları \big(1,\;x_j-x_0,\;(x_j-x_0)^2\big)'dir:

\hat{\boldsymbol\beta}(x_0)=\big(\mathbf Z_0^{\top}\mathbf W_0\mathbf Z_0\big)^{-1}\mathbf Z_0^{\top}\mathbf W_0\,\mathbf y_{N},\qquad \hat f(x_0)=\mathbf e_1^{\top}\hat{\boldsymbol\beta}(x_0)=\boldsymbol\ell(x_0)^{\top}\mathbf y
  • \mathbf W_0=\operatorname{diag}(w_j); \mathbf y_N: komşuluktaki q gözlem.
  • \boldsymbol\ell(x_0): n uzunluklu ağırlık vektörü; komşuluk dışında sıfır. \hat f(x_0), y'lerin doğrusal bir birleşimidir.
  • \mathbf L: i. satırı \boldsymbol\ell(x_i)^{\top} olan n\times n düzgünleştirme matrisi; \hat{\mathbf y}=\mathbf L\mathbf y.
  • İki açıklayıcıda derece 2 tasarımı 1,\,x_1,\,x_2,\,x_1^2,\,x_1x_2,\,x_2^2 (6 sütun) içerir (_design, 129–140).

Koddaki tercih: sütun dengelemeli SVD

Yerel en küçük kareler normal denklemlerle değil, \sqrt{\mathbf W_0}\mathbf Z_0'ın sütunları birim normlu yapıldıktan sonra SVD sözde tersiyle çözülür. \sigma_1\cdot100\epsilon'dan küçük tekil değerler atılır (R ehg127 eşiği; local_fit, 182–189). Bu, uçlarda ve küçük komşuluklarda tasarım tekile yaklaştığında R ile aynı sözde ters çözümü verir.

102.5.3 İz, δ₁, δ₂ ve eşdeğer parametre sayısı

\operatorname{iz}(\mathbf L)=\sum_iL_{ii},\qquad \delta_1=\operatorname{iz}\big[(\mathbf I-\mathbf L)^{\top}(\mathbf I-\mathbf L)\big],\qquad \delta_2=\operatorname{iz}\Big(\big[(\mathbf I-\mathbf L)^{\top}(\mathbf I-\mathbf L)\big]^2\Big)
\text{enp}=\delta_1+2\operatorname{iz}(\mathbf L)-n,\qquad s=\sqrt{\frac{\text{RSS}}{\delta_1}},\qquad \nu=\frac{\delta_1^2}{\delta_2}
  • İz(\mathbf L): uydurmanın serbestlik derecesi; doğrusal regresyonda 2'dir.
  • \delta_1: E(\text{RSS})=\sigma^2\delta_1 (yanlılık ihmal edilirse); s^2 bu yüzden RSS/\delta_1'dir.
  • enp: \operatorname{iz}(\mathbf L^{\top}\mathbf L)'nin R tanımı; n-\delta_1=2\operatorname{iz}\mathbf L-\operatorname{iz}\mathbf L^{\top}\mathbf L özdeşliğinden.
  • \nu: "arama serbestlik derecesi" (lookup df); s^2'nin dağılımına \chi^2_\nu/\nu ile Satterthwaite yaklaşımı.

Neden δ₁ ve δ₂ yaklaşık hesaplanır?

\mathbf L n\times n'dir; \delta_2 için n^3 işlem gerekir. Cleveland ve Grosse (1991), \delta_1 ve \delta_2'yi iz(\mathbf L), n, boyut ve dereceden kestiren bir enterpolasyon formülü vermiştir. MerQur R'nin Fortran kodunu (ehg141, ehg176, lowesa) aktarır:

z=\min\!\Big\{1,\max\Big[0,\frac{\sqrt{\tau/\operatorname{iz}\mathbf L}-\sqrt{\tau/n}}{1-\sqrt{\tau/n}}\Big]\Big\},\qquad \delta\approx n-\operatorname{iz}(\mathbf L)\exp\!\big[c_1z^{c_2}(1-z)^{c_3}e^{h(z)}\big]

Burada \tau yerel parametre sayısıdır (tek açıklayıcı, derece 2: \tau=3); c_1,c_2,c_3 boyut ve dereceye göre 48 sabitlik tablodan, h(z) ise 10 düğümlü kübik Hermite enterpolasyonundan gelir. Yaklaşım, iz(\mathbf L)'yi kesin kullandığı için uyumu ve tahminleri değiştirmez; yalnız s, enp, \nu ve GA'yı küçük ölçüde etkiler.

102.5.4 Noktasal güven aralığı

\widehat{\operatorname{SH}}\big(\hat f(x_0)\big)=s\,\lVert\boldsymbol\ell(x_0)\rVert,\qquad \hat f(x_0)\pm t_{\nu;\,(1+\gamma)/2}\;s\,\lVert\boldsymbol\ell(x_0)\rVert
  • \lVert\boldsymbol\ell(x_0)\rVert: ağırlık vektörünün Öklid normu; \operatorname{Var}\hat f(x_0)=\sigma^2\lVert\boldsymbol\ell\rVert^2.
  • \gamma: güven düzeyi; t_\nu: arama sd'li t (R predict.loess(se = TRUE) ile aynı).
  • Bant noktasaldır ve yanlılığı içermez: düz bir bölgede doğru, sert bir kıvrımda iyimserdir.

102.5.5 Simetrik (sağlam) aile

"Simetrik" seçilirse uyum dört kez tekrarlanır; ilk uyumdan sonraki her adımda bisquare sağlam ağırlıklar hesaplanır (_lowesw, 208–217):

r_i=y_i-\hat y_i,\qquad c=6\cdot\operatorname{medyan}|r_i|,\qquad \delta_i=\begin{cases}1 & |r_i|\le0{,}001c\\ \big[1-(r_i/c)^2\big]^2 & 0{,}001c<|r_i|\le0{,}999c\\ 0 & |r_i|>0{,}999c\end{cases}
  • Sonraki uyumda yerel ağırlık w_j\delta_j olur; büyük artıklı gözlemler eğriyi daha az çeker.
  • 4 uyum, 3 ağırlık güncellemesi: R iterations = 4.
  • İz(\mathbf L), \delta_1, \delta_2 ilk (sağlam olmayan) uyumdan alınır (R simpleLoess).
  • Artık SH, sözde değerlerden hesaplanır (_lowesp, 220–226): \tilde y_i=\hat y_i+\frac{n\,\delta_i}{\sum_k\tilde\omega_k}r_i, \tilde\omega_k=\big(1-r_k^2/c'\big)\sqrt{\delta_k}, c'=(6\,\text{medyan}|r|)^2/5; s^2=\sum(\tilde y_i-\mathbf L\tilde y)_i^2/\delta_1.

102.5.6 Span seçimi: AICc ve GCV

\text{AICc}=\log\hat\sigma^2+1+\frac{2\,[\operatorname{iz}(\mathbf L)+1]}{n-\operatorname{iz}(\mathbf L)-2},\quad \hat\sigma^2=\frac{\text{RSS}}{n},\qquad \text{GCV}=\frac{\text{RSS}}{\big(n-\operatorname{iz}(\mathbf L)\big)^2}
  • AICc: Hurvich, Simonoff ve Tsai (1998) düzeltilmiş Akaike ölçütü.
  • GCV: n\hat\sigma^2/(n-\operatorname{iz}\mathbf L)^2 tanımı; Craven–Wahba GCV'sinden n çarpanı kadar küçüktür, en küçük noktası aynıdır.
  • n\le200 ise q=k+1,\dots,n tüm değerleri (\text{span}=q/n), n\le1000 ise 100, daha büyük n'de 40 eşit aralıklı q taranır (_candidate_qs, 280–286).
  • Eşitlikte en büyük span seçilir. Yalnız span \le1 taranır.
  • Uyum yapılamayan q değerleri (bağlar nedeniyle \rho=0) taramadan çıkarılır; sonuç metni atlanan aday sayısını ayrı bir satırda yazar. Seçim bundan etkilenmez.

Simetrik ailede span seçimi

Otomatik seçim Gauss uyumunun ölçütüyle yapılır; ardından seçilen span ile simetrik aile uygulanır ve metne bu yazılır (loess_regression.py:375–376). Ölçüt aykırı değerlerden etkilenmiş olabilir.

102.6 Elle hesap: Tıp verisinde sayısal yürüyüş

Ara değerler dogrulama/loess/elle_hesap.py ile, MerQur kodu çağrılmadan hesaplanmıştır: her gözlemde komşuluk sıralamayla bulunmuş, yerel ağırlıklı en küçük kareler numpy.linalg.lstsq ile çözülmüş ve \mathbf L tam olarak kurulmuştur.

Adım 1 — Komşuluk. q=\lfloor200\times0{,}75+10^{-5}\rfloor=150. Hasta 1 (yaş 57) için 150. en yakın uzaklık 26 yıldır; 26 uzaklıkta birden çok bağlı gözlem vardır (31 ve 83 yaşlar). 148 gözlem |x_j-57|<26 ile pozitif ağırlık alır. Örneğin 47 yaşındaki bir hasta için u=10/26=0{,}3846, w=(1-0{,}3846^3)^3=0{,}8389.

Adım 2 — Yerel ikinci derece uyum. Hasta 1'in komşuluğunda (1,\,x-57,\,(x-57)^2) tasarımıyla ağırlıklı en küçük kareler: \hat f(57)=0{,}050780. Hasta 1'in kendi ağırlığı L_{11}=0{,}019049'dur.

Adım 3 — İz ve δ'lar. 200 satırın köşegeni toplanır: \operatorname{iz}(\mathbf L)=4{,}769887. Tam \mathbf L'den kesin değerler \delta_1=194{,}877194, \delta_2=194{,}608263. Cleveland–Grosse yaklaşımında \tau=3, \sqrt{3/200}=0{,}12247:

z=\frac{\sqrt{3/4{,}769887}-0{,}12247}{1-0{,}12247}=0{,}76418,\qquad \delta_1\approx194{,}839546,\qquad \delta_2\approx194{,}530286

Yaklaşık \delta_1 kesinden 0,038 küçüktür (göreli 2\times10^{-4}).

Adım 4 — Özet büyüklükler (yaklaşık).

\text{RSS}=0{,}0782525,\quad s=\sqrt{\frac{0{,}0782525}{194{,}839546}}=0{,}020041,\quad \text{enp}=194{,}839546+2(4{,}769887)-200=4{,}379319
\nu=\frac{194{,}839546^2}{194{,}530286}=195{,}149297,\qquad R^2\text{-benzeri}=1-\frac{0{,}0782525}{4{,}2458673}=0{,}981570

\text{AICc}=\log(0{,}0782525/200)+1+\dfrac{2(5{,}769887)}{200-4{,}769887-2}=-6{,}786412.

Adım 5 — Noktasal GA. \lVert\boldsymbol\ell(57)\rVert=0{,}13097; SH =0{,}020041\times0{,}13097=0{,}0026248. t_{195{,}15;\,0{,}975}=1{,}972195; hasta 1 için %95 GA [0{,}045603;\,0{,}055957].

Adım 6 — Yeni noktalarda tahmin.

Yaş \hat f SH %95 GA
40 0,012967 0,002505 [0,008027; 0,017907]
60 0,065972 0,002753 [0,060543; 0,071401]
80 0,282224 0,002386 [0,277519; 0,286929]

Adım 7 — Seçenekler.

Ayar iz(\mathbf L) enp s RSS R^2-benzeri
Varsayılan (0,75; derece 2) 4,7699 4,3793 0,020041 0,078252 0,98157
Kesin istatistik 4,7699 4,4170 0,020039 0,078252 0,98157
Simetrik aile 4,7699 4,3793 0,021311 0,079602 0,98125
Derece 1 3,0663 2,7069 0,032197 0,203777 0,95201
AICc/GCV seçimi (span 0,45) 7,7221 7,0094 0,018985 0,069044 0,98374

Derece 1, ileri yaştaki hızlanmayı izleyemez; RSS 2,6 katına çıkar. Simetrik ailede en küçük sağlam ağırlık 0,212'dir (hasta 133); 8 hastanın ağırlığı 0,5'in altına iner. Bu veride uç değer yoktur; sağlam uyum Gauss uyumundan çok az ayrılır.

Adım 8 — Span seçimi. q=4,\dots,200 taranır. q=4,\dots,7'de en az bir gözlemin komşuluğundaki bütün yaşlar aynıdır (\rho=0); bu dört aday atlanır ve 193 aday kalır. AICc ve GCV aynı noktada en küçüktür: q=90, span =0{,}45, \text{AICc}=-6{,}879651, \text{GCV}=1{,}8675\times10^{-6}.

Şekil 102.1. Sol: yaş ile bir yıllık mortalite olasılığı; span 0,75 LOESS eğrisi (mor) ve %95 noktasal GA bandı, AICc ile seçilen span 0,45 eğrisi (kesikli turuncu). Sağ: span'e göre AICc (q\ge20); noktalı çizgi seçilen span.

102.6.1 Doğrulama: MerQur, Python ve R

MerQur değerleri execute() sonucunun LoessResult alanlarından alınmıştır (yuvarlanmaz); 40, 60, 80 yaş tahminleri predict_loess ile. R: 4.5.3, stats::loess(..., control = loess.control(surface = "direct", statistics = "approximate" | "exact", trace.hat = "exact")), predict(se = TRUE); AICc ve GCV R'de aynı q ızgarasında elle hesaplanmıştır.

Büyüklük MerQur Python (bağımsız) R 4.5.3 En büyük fark Durum
İz(\mathbf L) 4,769887 4,769887 4,769887 8,9e−15 ✓
\delta_1 (Cleveland–Grosse yaklaşımı) 194,839546 194,839546 194,839546 1,7e−13 ✓
\delta_2 (yaklaşık) 194,530286 194,530286 194,530286 4,5e−13 ✓
enp 4,379319 4,379319 4,379319 2,7e−15 ✓
Artık SH s 0,020041 0,020041 0,020041 9,4e−17 ✓
Arama sd \delta_1^2/\delta_2 195,149297 195,149297 195,149297 3,1e−13 ✓
RSS 0,078252 0,078252 0,078252 6,0e−16 ✓
R^2-benzeri 0,981570 0,981570 0,981570 2,2e−16 ✓
AICc −6,786412 −6,786412 −6,786412 7,1e−15 ✓
\hat y_{1} 0,050780 0,050780 0,050780 8,3e−17 ✓
SH(\hat y_{1}) 0,002625 0,002625 0,002625 1,2e−17 ✓
%95 GA alt (\hat y_{1}) 0,045603 0,045603 0,045603 6,8e−15 ✓
\hat y_{3} 0,482110 0,482110 0,482110 3,3e−16 ✓
SH(\hat y_{3}) 0,004580 0,004580 0,004580 2,2e−17 ✓
%95 GA alt (\hat y_{3}) 0,473077 0,473077 0,473077 1,2e−14 ✓
Tahmin, yaş 40 0,012967 0,012967 0,012967 4,5e−17 ✓
Tahmin SH, yaş 40 0,002505 0,002505 0,002505 8,7e−18 ✓
Tahmin, yaş 60 0,065972 0,065972 0,065972 1,2e−16 ✓
Tahmin SH, yaş 60 0,002753 0,002753 0,002753 1,3e−17 ✓
Tahmin, yaş 80 0,282224 0,282224 0,282224 2,8e−16 ✓
Tahmin SH, yaş 80 0,002386 0,002386 0,002386 9,1e−18 ✓

Seçenekler ve span seçimi:

Büyüklük MerQur Python (bağımsız) R 4.5.3 En büyük fark Durum
Kesin \delta_1=\operatorname{iz}[(\mathbf I-\mathbf L)^{\top}(\mathbf I-\mathbf L)] 194,877194 194,877194 194,877194 3,4e−13 ✓
Kesin \delta_2 194,608263 194,608263 194,608263 2,3e−13 ✓
Kesin enp 4,416968 4,416968 4,416968 2,9e−14 ✓
Kesin s 0,020039 0,020039 0,020039 8,0e−17 ✓
Simetrik: s (sözde değerlerden) 0,021311 0,021311 0,021311 1,6e−16 ✓
Simetrik: RSS 0,079602 0,079602 0,079602 9,4e−16 ✓
Simetrik: \hat y_{133} 0,055253 0,055253 0,055253 1,1e−16 ✓
Simetrik: sağlam ağırlık w_{133} 0,212343 0,212343 — 1,7e−14 ✓ (R nesnesi ağırlığı saklamaz)
Simetrik: SH(\hat y_{133}) 0,002898 0,002898 0,002898 1,7e−17 ✓
Derece 1: iz(\mathbf L) 3,066279 3,066279 3,066279 2,2e−15 ✓
Derece 1: enp 2,706860 2,706860 2,706860 4,9e−15 ✓
Derece 1: s 0,032197 0,032197 0,032197 1,4e−17 ✓
AICc ile seçilen q 90 90 90 0,0e+00 ✓
AICc en küçük değeri −6,879651 −6,879651 −6,879651 1,8e−15 ✓
GCV ile seçilen q 90 90 90 0,0e+00 ✓
GCV en küçük değeri 1,8675·10−6 1,8675·10−6 1,8675·10−6 5,7e−21 ✓
Seçilen span (q = 90) enp 7,009368 7,009368 7,009368 2,8e−14 ✓

38 büyüklüğün tamamı makine duyarlığında eşleşir. R nesnesi sağlam ağırlıkları saklamadığı için (nesnenin pars listesindeki robust alanı birlerden oluşur) o satır yalnız Python ile karşılaştırılmıştır; simetrik aile uyumu ve SH'leri R ile aynıdır. Span taramasında R, q=4,\dots,7 için de (uyarılarla) uyum döndürür; bu adaylar her iki yazılımda en küçük noktadan uzaktır (\text{AICc}>-5{,}6) ve seçimi etkilemez.

102.7 Çıktıyı okuma

Sonuç metni (varsayılan ayarlar, künye kutusu hariç):

── MODEL ──
Yerel regresyon (LOESS), her noktada doğrudan hesaplama
Model: 1yr_mortality_probability ~ lo(age)
Span = 0.7500 (yerel komşuluk: 150 / 200 gözlem)
Yerel polinom derecesi: 2; aile: Gauss (en küçük kareler); ölçekleme: hayır

── UYUM ÖZETİ ──
  Gözlem sayısı                                          200
  Eşdeğer parametre sayısı (enp)                      4.3793
  Artık standart hatası                               0.0200
  İz(L)                                               4.7699
  delta1                                            194.8395
  delta2                                            194.5303
  Arama serbestlik derecesi (delta1²/delta2)        195.1493
  Artık kareler toplamı                               0.0783
  R²-benzeri (1 - AKT/TKT)                            0.9816
  AICc                                              -6.78641
  GCV                                            2.05307e-06
  delta1 ve delta2 Cleveland-Grosse yaklaşımıyla hesaplandı (varsayılan); iz(L) kesin.
  %95 GA bandı noktasaldır: tahmin +/- t(sd = 195.15) x SE.

Tablo sekmesi: her gözlem için açıklayıcı, y, uydurulan değer, artık, tahmin SH'si ve GA sınırları (simetrik ailede sağlam ağırlık da); 6 ondalık. Grafik sekmesi: gözlemler, eğri ve GA bandı; iki açıklayıcıda kontur.

Öğe Nasıl yorumlanır
Span, komşuluk Her yerel uyumda kullanılan gözlem sayısı q.
enp Eğrinin karmaşıklığı; doğrusal regresyon 2, ikinci derece polinom 3.
Artık standart hatası s; y biriminde tipik sapma.
İz(L), delta1, delta2 Serbestlik büyüklükleri; yaklaşık/kesin notu altta.
Arama sd'si GA'daki t'nin sd'si.
R²-benzeri 1-\text{RSS}/\text{TKT}; doğrusal regresyon R^2'si gibi yorumlanır ama F testi yoktur.
AICc, GCV Farklı span'leri karşılaştırmak için; küçük olan iyidir. GCV altı anlamlı basamakla yazılır.

Uyarı iletileri: eksik satır notu; tekile yakın yerel tasarım; aşırı uyum (iz >n-2); küçük span (<0{,}2, n<50); simetrik ailede Gauss ölçütüyle span seçimi.

APA biçiminde rapor cümlesi (Türkçe ondalıkla):

Bir yıllık ölüm olasılığının yaşla ilişkisi yerel ikinci derece regresyonla (LOESS; üç küp ağırlık, span = 0,75, Gauss) düzgünleştirildi (N = 200). Eşdeğer parametre sayısı 4,38, artık standart hatası 0,020 ve R^2-benzeri 0,98 idi. Beklenen ölüm olasılığı 40 yaşta 0,013 (%95 GA [0,008; 0,018]), 60 yaşta 0,066 [0,061; 0,071], 80 yaşta 0,282 [0,278; 0,287] idi; artış 60 yaştan sonra hızlandı. AICc ile seçilen span (0,45) eğriyi biraz daha bükülgen verdi (enp = 7,01) ve aynı sonuca götürdü.

102.8 Uzman soruları

S1. R'de loess() aynı sonucu vermiyor. Neden?

R'nin varsayılanı surface = "interpolate"'tir: uyumu kd-ağacının köşelerinde hesaplar, aradaki noktaları kübik Hermite enterpolasyonuyla bulur. MerQur her noktada doğrudan hesaplar (surface = "direct"). R'ye loess.control(surface = "direct") verildiğinde bu veride uyum, SH, enp ve \delta'lar 10^{-13} düzeyinde aynıdır. Enterpolasyonlu R sonucu dördüncü ondalıkta farklı olabilir.

S2. "Yaklaşık" ve "Kesin" istatistikler neden farklı enp veriyor?

İz(\mathbf L) ikisinde de kesindir; yalnız \delta_1 ve \delta_2 değişir. Yaklaşık formül Cleveland ve Grosse'nin (1991) benzetimle kalibre ettiği bir enterpolasyondur. Bu veride enp 4,379 ve 4,417, s 0,020041 ve 0,020039'dur. Fark raporlama düzeyinde önemsizdir; n\le4000 ise kesin seçenek her zaman kullanılabilir.

S3. Bağlı yaşlarda q-en yakın komşuluk nasıl belirleniyor? Sonuç satır sırasına bağlı mı?

Komşuluk sınırı q. en küçük uzaklıktır. Bu uzaklıkta birden çok bağlı gözlem varsa hangisinin seçildiği önemsizdir: sınırdaki gözlemin ağırlığı (1-1^3)^3=0'dır. Sınırın içindeki tüm gözlemler her durumda seçilir. Bu yüzden uyum satır sırasından bağımsızdır. Sorun yalnız q gözlemin hepsi aynı değerde olduğunda çıkar (\rho=0); bu örnekte q\le7'de olur ve otomatik seçim bu adayları atlar.

S4. GA neden noktasal ve neden yanlılığı içermiyor?

SH, \hat f(x_0)=\boldsymbol\ell^{\top}\mathbf y'nin varyansından gelir: \sigma^2\lVert\boldsymbol\ell\rVert^2. LOESS yanlı bir kestiricidir; eğri sert kıvrıldığında yerel polinom gerçek fonksiyonu tam izleyemez. Bant bu yanlılığı içermez, yani kıvrım bölgelerinde gerçek kapsama nominal düzeyin altında kalabilir. Ayrıca bant noktasaldır; tüm eğri için eşzamanlı bir bant değildir. Bütün eğri için iddia yapılacaksa daha geniş (ör. Bonferroni) bant gerekir.

S5. AICc ile GCV neden burada aynı span'i seçiyor? Her zaman öyle mi?

İkisi de RSS ile iz(\mathbf L) arasında denge kurar. GCV \text{RSS}/(n-\operatorname{iz}\mathbf L)^2'yi, AICc \log\text{RSS}+2(\operatorname{iz}\mathbf L+1)/(n-\operatorname{iz}\mathbf L-2)'yi en küçükler. Büyük n'de ve iz\ll n iken ikisi yaklaşık aynı cezayı verir. Küçük örneklemde GCV aşırı uyuma (küçük span) eğilimlidir; Hurvich, Simonoff ve Tsai (1998) bu nedenle AICc'yi önerir. Bu veride ikisi de q=90'ı seçer.

S6. Simetrik ailede R² ve AICc neye göre hesaplanıyor?

RSS ve R^2-benzeri son (sağlam) uyumun artıklarından, iz(\mathbf L) ise ilk (Gauss) uyumdan hesaplanır. Artık SH ise sözde değerlerden gelir (102.5.5). Bu karışık tanım R'nin simpleLoess davranışıdır. Simetrik ailede AICc ve R^2-benzeri, Gauss uyumlarıyla karşılaştırılmamalıdır.

S7. enp ile iz(L) neden farklı? Hangisi "parametre sayısı"?

İz(\mathbf L) uydurmanın serbestlik derecesidir; enp ise R'nin tanımıyla \operatorname{iz}(\mathbf L^{\top}\mathbf L)'dir. Doğrusal regresyonda \mathbf L izdüşüm olduğundan ikisi de 2'dir. LOESS'te \mathbf L simetrik ve idempotent değildir; bu veride iz(\mathbf L)=4{,}77, enp =4{,}38'dir. Hurvich ve ark. AICc'yi iz(\mathbf L) ile tanımlar; R'nin özet satırı enp yazar.

102.9 Sık hatalar ve tuzaklar

  • R'nin varsayılan loess() sonucuyla karşılaştırmak. R surface = "interpolate" kullanır; surface = "direct" verilmelidir.
  • GA bandını eşzamanlı bant sanmak. Bant noktasaldır ve yanlılığı içermez.
  • Uç bölgede ya da aralık dışında tahmin. Komşuluk uçta tek yanlıdır, SH büyür; aralık dışında yerel polinom dışkestirir.
  • Span'i tek başına seçmek. 0,75 bu veride ileri yaştaki hızlanmayı hafif düzleştirir; AICc span 0,45 seçer. Seçim raporda belirtilmelidir.
  • GCV'yi farklı veriler arasında karşılaştırmak. GCV y'nin ölçeğine bağlıdır (bu veride 1{,}87\times10^{-6}); yalnız aynı veride span'leri karşılaştırmak için kullanılır.
  • Derece 1 ile tepe/çukur aramak. Yerel doğrusal uyum kıvrımları basıklaştırır; derece 2 varsayılandır.
  • Çok bağlı (az farklı değerli) açıklayıcı. Küçük span'de komşuluk yarıçapı sıfır olur ve analiz durur; span büyütülmelidir.
  • İki açıklayıcıda ölçeklemeyi kapatmak. Farklı birimli açıklayıcılarda (yaş yıl, BMI kg/m²) uzaklık büyük birimli değişkene göre belirlenir; "normalize" açık kalmalıdır.

102.10 Kaynaklar

  • Cleveland, W. S. (1979). Robust locally weighted regression and smoothing scatterplots. Journal of the American Statistical Association, 74(368), 829–836. https://doi.org/10.1080/01621459.1979.10481038
  • Cleveland, W. S., & Devlin, S. J. (1988). Locally weighted regression: An approach to regression analysis by local fitting. Journal of the American Statistical Association, 83(403), 596–610. https://doi.org/10.1080/01621459.1988.10478639
  • Cleveland, W. S., & Grosse, E. (1991). Computational methods for local regression. Statistics and Computing, 1(1), 47–62. https://doi.org/10.1007/BF01890836
  • Cleveland, W. S., Grosse, E., & Shyu, W. M. (1992). Local regression models. J. M. Chambers & T. J. Hastie (Ed.), Statistical models in S içinde (ss. 309–376). Wadsworth & Brooks/Cole.
  • Hurvich, C. M., Simonoff, J. S., & Tsai, C.-L. (1998). Smoothing parameter selection in nonparametric regression using an improved Akaike information criterion. Journal of the Royal Statistical Society: Series B, 60(2), 271–293. https://doi.org/10.1111/1467-9868.00125