MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → Doğrusal Karma Model

Doğrusal Karma Modelanaliz

Aynı kişinin tekrarlı ölçümleri ya da aynı okul, hastane veya parseldeki gözlemler gibi birbirine bağımlı verilerde, sürekli bir sonucu hem tüm örneklem için geçerli sabit etkilerle hem de gruptan gruba değişen rastgele etkilerle modelleyen regresyon yöntemi.

Kavram

Sıradan regresyon her gözlemin birbirinden bağımsız olduğunu varsayar. Oysa aynı çocuğun dört yaşta ölçülen boyu, aynı sınıftaki öğrencilerin puanları ya da aynı parseldeki bitkilerin verimi birbirine benzer. Bu benzerlik yok sayılırsa veri olduğundan daha bilgi yüklü sanılır, standart hatalar küçük çıkar ve anlamlılık abartılır. Doğrusal karma model bu gruplanmış yapıyı açıkça modele katar.

Model iki tür etki içerir: y = Xβ + Zb + ε. Sabit etkiler (β), yaş ya da tedavi gibi tüm örneklem için tek bir değerle özetlenen ilişkilerdir. Rastgele etkiler (b), her grubun ortalamadan sapmasıdır; örneğin her kişinin kendi başlangıç düzeyi (rastgele kesişim) ve kendi değişim hızı (rastgele eğim). Model bu sapmaların varyansını kestirir ve toplam değişkenliği gruplar arası ve grup içi bileşenlere ayırır; sınıf içi korelasyon (ICC) varyansın ne kadarının gruplar arasından geldiğini gösterir. Tekrarlı ölçümlerde ardışık ölçümlerin birbirine daha çok benzemesi gibi yapılar da hata kovaryansıyla modellenebilir.

Karma modeller dengesiz verilere ve eksik ölçümlere tekrarlı ölçümler ANOVA'sından çok daha dayanıklıdır; bir kişinin bazı ölçümleri eksikse kişi tümden atılmaz. Varsayımlar: rastgele etkiler ve artıklar yaklaşık normal dağılır ve model doğru belirlenmiştir. Varyans bileşenleri genellikle REML ile kestirilir; farklı sabit etkilere sahip modeller karşılaştırılırken ML kullanılmalıdır. Grup sayısı azsa (ör. 5'ten az) gruplar arası varyans güvenilir biçimde kestirilemez.

Ne zaman kullanılır?

  • Aynı birimlerin zaman içinde tekrar tekrar ölçüldüğü (boylamsal) ya da gözlemlerin okul, hastane, parsel gibi gruplar içinde toplandığı verilerde sürekli bir sonuç incelenirken.
  • Sonuç ikili ya da sayım ise genelleştirilmiş doğrusal karma model (GLMM); bireysel değil yalnız ortalama (popülasyon düzeyi) etkiler ilgilendiriyorsa genelleştirilmiş tahmin denklemleri (GEE) de kullanılabilir.
  • Veri dengeli, eksiksiz ve yalnız birkaç ölçüm zamanı varsa tekrarlı ölçümler ANOVA daha basit bir seçenektir; gruplanma yoksa sıradan çoklu regresyon yeterlidir.

Gündelik bir örnek

Bir diyetisyen, iki farklı beslenme programına katılan 60 kişinin kilosunu altı ay boyunca her ay tartıyor. Her kişinin başlangıç kilosu farklı, kilo verme hızı da kişiden kişiye değişiyor; bazı kişiler de bazı aylarda tartıya gelmemiş. Doğrusal karma model, kişiyi rastgele kesişim ve zamanı rastgele eğim olarak alıp sabit etki olarak 'program' ve 'ay' değişkenlerini inceler. Model örneğin A programındakilerin ayda ortalama 1,2 kg, B programındakilerin 0,8 kg verdiğini ve aradaki farkın şansla açıklanma olasılığını, eksik ölçümü olan kişileri atmadan verir.

MerQur'da parametreler

Sabit etkiler, Bağımlı değişken (DV) ve Grup değişkeni (random intercept)

Kavram: Sabit etkiler tüm örneklem için tek bir katsayıyla özetlenen öngörücülerdir; grup değişkeni ise gözlemleri birbirine benzeyen kümelere ayırır ve her kümeye kendi düzeyini veren rastgele kesişimi tanımlar.

Gündelik örnek: Diyet örneğinde bağımlı değişken kilo, sabit etkiler program ve ay, grup değişkeni kişidir. Rastgele kesişim, her kişinin genel ortalamadan ne kadar ağır ya da hafif başladığını hesaba katar.

Ne işe yarar: Modelin sabit kısmını, sürekli bağımlı değişkeni ve rastgele kesişimin gruplama değişkenini seçer. Metin sütunlar ilk düzey dışarıda bırakılarak gösterge kodlanır. n < 30 veya grup < 5 ise analiz reddedilir.

Sonuca etkisi: Tüm sabit etki ve varyans bileşeni tahminleri değişir. Nakagawa R² ve ICC her koşuda verilir.

Doğrulama verisinde: sleepstudy (1 | Subject): Days 10.4673 (SE 0.8042, sd 161), σ²_Subject 1378.18, σ²_e 960.46; R²m 0.2799 (performance 0.27989).

→ Sabit ve rastgele etkiler

Random slope (opsiyonel) ve Ek rastgele eğimler

Kavram: Rastgele eğim, bir öngörücünün etkisinin gruptan gruba değişmesine izin verir. Böylece sabit etki 'ortalama eğim' olur ve standart hatası gruplar arasındaki eğim farklılıklarını da yansıtır.

Gündelik örnek: Herkes ayda aynı miktarda kilo vermez; kimi 2 kg, kimi 0,3 kg verir. 'Ay' rastgele eğim yapılınca model her kişiye kendi kilo verme hızını tanır ve ortalama hızın belirsizliğini daha dürüst gösterir.

Ne işe yarar: Her grup için ayrı eğim ekler: (1 + x | g). Ek eğimler birden çok sayısal eğim içindir.

Sonuca etkisi: Eğimin sabit etkisinin SE ve sd'si büyür (gruplar arası eğim değişkenliği hesaba katılır).

Doğrulama verisinde: sleepstudy Days SE 0.8042 (sd 161) -> 1.5458 (sd 17); σ²_Intercept 612.09, σ²_Days 35.07; REML ölçütü 1743.628.

→ Rastgele eğim

Rastgele etki kovaryansı (Yapısız (UN, ilişkili), VC / köşegen (ilişkisiz))

Kavram: Rastgele kesişim ile rastgele eğimin birbiriyle ilişkili olmasına izin verilip verilmeyeceğini belirler; yalnız rastgele eğim varken anlamlıdır.

Gündelik örnek: Başlangıçta daha kilolu olanlar daha hızlı kilo veriyorsa kesişim ile eğim arasında ilişki vardır. Yapısız (ilişkili) seçenek bu bağı kestirir; köşegen seçenek bu bağı sıfır kabul eder.

Ne işe yarar: Kesişim ve eğimler arasındaki kovaryansı serbest bırakır (UN) veya sıfırlar (VC).

Sonuca etkisi: Eğim yokken etkisizdir.

Doğrulama verisinde: sleepstudy eğimli: UN -2RLL 1743.628 -> VC 1743.669; σ²_Intercept 627.57, σ²_Days 35.86; Days SE 1.5596.

→ Kovaryans (korelasyon) yapısı (UN, VC, AR(1), değiştirilebilir)

Tahmin yöntemi (REML, ML)

Kavram: REML, varyans bileşenlerini sabit etkilerin kestirilmesinden doğan serbestlik kaybını hesaba katarak yansıza yakın kestirir. ML ise farklı sabit etkilere sahip modellerin olabilirlik oranı testi ya da AIC ile karşılaştırılması için gereklidir.

Gündelik örnek: Kişiler arası kilo farkının büyüklüğünü raporlamak için REML kullanılır. 'Programı modele eklemek uyumu anlamlı biçimde iyileştiriyor mu?' sorusu ise ML ile kurulan iki modelin karşılaştırılmasıyla yanıtlanır.

Ne işe yarar: REML varyans bileşenleri için yansız tahmin verir; ML, sabit etkileri farklı modellerin LRT/AIC karşılaştırması için gereklidir.

Sonuca etkisi: Varyans bileşenleri, -2LL ve bilgi ölçütleri değişir.

Doğrulama verisinde: sleepstudy eğimli ML: sapma 1751.939; Potthoff-Roy UN ML: -2LL 419.477.

→ Kısıtlı en çok olabilirlik (REML)

Sabit etki df yöntemi (Satterthwaite t (varsayılan), Kenward-Roger, Wald z (asimptotik normal))

Kavram: Karma modellerde sabit etki testlerinin serbestlik derecesi kesin olarak bilinmez ve yaklaşık yöntemlerle hesaplanır. Satterthwaite ve Kenward-Roger küçük örneklemde daha temkinli sonuç verir; Wald z büyük örneklem yaklaşımıdır.

Gündelik örnek: Yalnız 12 kişi varsa program etkisinin testi aslında 12 kişiye dayanır, 72 tartıya değil. Satterthwaite ya da Kenward-Roger bunu küçük bir serbestlik derecesiyle yansıtır; Wald z ise bu durumda p-değerini olduğundan küçük gösterebilir.

Ne işe yarar: t testlerinin ve aralıkların serbestlik derecesini belirler; Kenward-Roger ayrıca SE'yi küçük örneklem için büyütür; Wald z sonsuz sd (normal) kullanır.

Sonuca etkisi: sd, p ve aralık değişir; varyans bileşenleri ve R² sd yönteminden bağımsızdır.

Doğrulama verisinde: Eğimli modelde (Days | Subject) sleepstudy dengeli olduğundan Kenward-Roger = Satterthwaite (Days sd 17). Rastgele kesişimli modelde (1 | Subject; Days SE 0.8042, sd 161) Wald z ile Days aralığı [8.891, 12.044], Satterthwaite ile [8.879, 12.056].

→ Satterthwaite ve Kenward-Roger serbestlik derecesi yaklaşımları

Etkileşim: İlk 2 sabit etki arasında etkileşim ekle (var1 × var2) ve Ek etkileşim terimleri

Kavram: Etkileşim, bir sabit etkinin etkisinin başka bir sabit etkinin düzeyine göre değişmesidir; iki değişkenin çarpımı modele eklenerek sınanır.

Gündelik örnek: 'Program × ay' etkileşimi iki programdaki kilo verme hızlarının farklı olup olmadığını sınar. Etkileşim anlamlıysa programların etkisi zamanla açılıyor ya da kapanıyor demektir.

Ne işe yarar: Kutucuk seçilen ilk iki sabit etkinin a:b terimini ekler; metin alanı "a:b", "a*b", "a:b:c" kabul eder.

Sonuca etkisi: Çarpım katsayısı eklenir; ana etkiler koşullu anlam kazanır.

Doğrulama verisinde: opposites time:ccog 0.4329 (SE 0.1619, sd 33); kutucuk ve iki yazım aynı modeli verir.

→ Etkileşim etkisi

2. gruplama değişkeni ve 2. grup ilişkisi (iç içe (1. grup içinde), çapraz)

Kavram: İkinci bir gruplama düzeyi ekler. İç içe yapıda alt gruplar yalnız bir üst grubun içinde bulunur (sınıf okul içinde); çapraz yapıda iki gruplama birbirinden bağımsız olarak her birleşimde görülebilir (öğrenci ve değerlendirici).

Gündelik örnek: Katılımcılar 6 farklı diyet merkezine bağlıysa kişi merkez içinde iç içedir ve merkezler arası farklar da ayrı bir varyans bileşeni olarak kestirilir.

Ne işe yarar: İsteğe bağlı ikinci rastgele kesişim ekler: iç içe (1 | g1:g2), ör. bölünmüş parsel; çapraz (1 | g2).

Sonuca etkisi: Ek varyans bileşeni. İkinci grup aynı zamanda sabit etkideyse model tanımlanamaz ve açık hata verilir.

Doğrulama verisinde: Oats (1 | Block) + (1 | Block:Variety): σ² 214.48 ve 108.94, σ²_e 165.56; Variety F(2, 10) = 1.485. Machines: Machine F(2, 10) = 20.58.

→ İç içe (yuvalanmış) ve çapraz rastgele etkiler

EMMEANS faktörü ve EMMEANS p düzeltmesi (Bonferroni, Šidák, Tukey, Düzeltme yok)

Kavram: Kestirilmiş marjinal ortalamalar, diğer değişkenler sabit tutulduğunda her düzeyin model tabanlı ortalamasıdır; düzeyler arasındaki ikili farklar çoklu karşılaştırma düzeltmesiyle sınanır.

Gündelik örnek: Program A ve B'nin altıncı aydaki ortalama kilosu, başlangıç kilolarındaki farklar hesaba katılarak hesaplanır. Üç program olsaydı üç ikili karşılaştırma yapılır ve Tukey ya da Bonferroni düzeltmesi yanlış alarm riskini sınırlardı.

Ne işe yarar: Kategorik sabit etkinin kestirilmiş marjinal ortalamalarını (kovaryatlar ortalamada) ve ikili farklarını verir.

Sonuca etkisi: Ek tablo; sabit etki olmayan faktör seçilirse uyarı verilir ve EMM atlanır.

Doğrulama verisinde: Oats: Golden Rain 104.50, Marvellous 109.79, Victory 97.63 (SE 7.798). Marvellous - Victory p = 0.1164; Bonferroni 0.3492, Šidák 0.3102, Tukey 0.2458.

→ Tahmini marjinal ortalamalar (EMM)

Hata kovaryans yapısı (R / REPEATED) (σ²I - bağımsız (varsayılan), AR(1) - birinci derece otoregresif, CS - bileşik simetri, UN - yapısız, TOEP - Toeplitz (bantlı), CSH - heterojen bileşik simetri, ARH(1) - heterojen AR(1)), Zaman/sıra değişkeni (REPEATED), Tekrarlı ölçüm deneği (SUBJECT) ve Rastgele etki yok (yalnız R yapısı; gls / MMRM)

Kavram: Aynı kişinin tekrarlı ölçümleri arasındaki hata ilişkisini tanımlar. Örneğin AR(1) birbirine yakın zamanlardaki ölçümlerin daha çok, uzak zamanlardakilerin daha az benzediğini; bileşik simetri ise tüm ölçüm çiftlerinin eşit ilişkili olduğunu varsayar.

Gündelik örnek: Bir kişinin 2. ve 3. ay kiloları birbirine 1. ve 6. ay kilolarından daha yakındır. AR(1) bu azalan benzerliği modeller; doğru yapı seçildiğinde program etkisinin standart hatası daha güvenilir olur.

Ne işe yarar: Aynı denekteki tekrarlı ölçümlerin hata kovaryansını belirler. "Rastgele etki yok" G'yi çıkarır ve yalnız hata yapısıyla model kurar (gls / MMRM).

Sonuca etkisi: Kovaryans parametreleri, -2LL ve sabit etki SE/sd değişir. Sınırdaki varyansın aralığı "-" gösterilir; CS + rastgele kesişim tanımlanamaz ve uyarı verilir.

Doğrulama verisinde: opposites verisi (Singer ve Willett), rastgele etki yok, REML: -2RLL UN 1255.789, CS 1287.048, CSH 1284.954, AR(1) 1265.876, TOEP 1258.081; CS kovaryansı 900.07 / artık 331.28.

→ Kovaryans (korelasyon) yapısı (UN, VC, AR(1), değiştirilebilir)

R yapılarını AIC/BIC ile karşılaştır

Kavram: Farklı hata kovaryans yapılarını aynı sabit etkilerle kurup bilgi ölçütleriyle (AIC, BIC) karşılaştırır; daha küçük değer, uyum ile karmaşıklık arasında daha iyi bir denge demektir.

Gündelik örnek: Bileşik simetri, AR(1) ve yapısız seçeneklerden hangisinin tartı verisine en iyi uyduğu tek tabloda görülür. AIC'si en küçük yapı genellikle tercih edilir.

Ne işe yarar: Aynı sabit etkiler ve aynı G ile yedi yapının -2LL, AIC, AICC ve BIC tablosunu verir.

Sonuca etkisi: Ek tablo.

Doğrulama verisinde: opposites (G yok): en küçük AIC TOEP, 1274.08; -2LL'ler tek tek yapı koşularıyla aynıdır.

→ Kovaryans (korelasyon) yapısı (UN, VC, AR(1), değiştirilebilir)

Olabilirlik oranı testleri (rastgele terimler + sabit terimler, ML)

Kavram: Bir terimi modelden çıkarınca uyumun anlamlı biçimde kötüleşip kötüleşmediğini olabilirlik oranıyla sınar. Rastgele terimler varyans bileşenlerinin gerekliliğini, sabit terimler ise öngörücülerin katkısını gösterir.

Gündelik örnek: Rastgele eğim çıkarıldığında uyum belirgin biçimde kötüleşiyorsa insanların kilo verme hızları gerçekten farklıdır ve her kişiye ayrı eğim vermek gereklidir.

Ne işe yarar: Her rastgele terim aynı yöntemle çıkarılarak, her sabit terim ML ile çıkarılarak LR testi yapar.

Sonuca etkisi: Ek tablo.

Doğrulama verisinde: sleepstudy eğimli REML: eğim çıkarılınca LRT = 42.837, sd 2; Days ML LRT = 23.537.

→ Olabilirlik oranı testi (LRT)

Artık tanıları + rastgele etki tahminleri (BLUP) ve Tahmin ve artıkları veri setine kaydet (PRED, RESID, FIXPRED)

Kavram: Artıklar modelin varsayımlarını (normallik, uç değerler) denetlemeye yarar. BLUP'lar her grubun rastgele etkisinin tahminidir; az gözlemli grupların tahminleri genel ortalamaya doğru çekilir (büzülme).

Gündelik örnek: Her kişinin BLUP'ı onun ortalamadan ne kadar hızlı ya da yavaş kilo verdiğini gösterir. Yalnız iki kez tartılmış birinin tahmini, verisi az olduğu için ortalamaya daha yakın çıkar.

Ne işe yarar: Koşullu artık özeti (Shapiro-Wilk, |e/σ| > 3), artık grafikleri ve her grup için BLUP ± koşullu SD verir; kayıt seçeneği PRED, RESID ve FIXPRED sütunlarını ekler.

Sonuca etkisi: Ek tablolar ve veri sütunları. Kovaryans parametresi SE'leri analitik bilgi matrisinden hesaplanır.

Doğrulama verisinde: sleepstudy eğimli: Cov(Intercept, Days) SE 46.678; BLUP'lar koşullu varyanslarıyla verilir; PRED/RESID/FIXPRED veri setine kaydedilir.

→ Artık (kalıntı) grafikleri ve artık tanılaması

Güven Düzeyi (%90, %95, %99, Diğer (özel))

Kavram: Sabit etkiler için verilen aralıkların güven düzeyini belirler; güven düzeyi arttıkça aralık genişler.

Gündelik örnek: Aylık kilo kaybı %95 güvenle 0,9 ile 1,5 kg arasında bulunabilir; %99 güven istenirse aralık 0,8 ile 1,6 kg gibi genişler.

Ne işe yarar: Sabit etki aralıklarının düzeyini belirler.

Sonuca etkisi: Yalnız aralıklar değişir.

Doğrulama verisinde: sleepstudy eğimli, Days: %95 [7.206, 13.729]; %90 [7.778, 13.156]; %99 [5.987, 14.947].

→ Güven düzeyi ve güven aralığı

Referans düzeyi, EMM ikinci faktör (her düzeyinde karşılaştır), Özel kontrast (L) ve analiz dışı satır raporu

Kavram: Referans düzeyi kategorik değişkenlerin hangi düzeye göre karşılaştırılacağını belirler. Özel kontrast araştırmacının tanımladığı bir sabit etki birleşimini sınar; analiz dışı satır raporu eksik değer nedeniyle modele girmeyen gözlemleri gösterir.

Gündelik örnek: Referans 'kontrol programı' seçilirse diğer programlar ona göre yorumlanır. Analiz dışı satır raporu, örneğin hiç kilo kaydı olmayan satırların modele girmediğini açıkça gösterir; böylece kaç tartının kullanıldığı bilinir.

Ne işe yarar: Kategorik sabit etkilerde referans düzeyini seçer, grup × zaman etkileşiminde her zamanda grupları karşılaştırır, sabit etkilerin doğrusal birleşimini (L matrisi) sınar ve eksik değer nedeniyle dışarıda kalan satırları raporlar.

Sonuca etkisi: Ek karşılaştırma tabloları ve rapor; ana model değişmez.

Doğrulama verisinde: BodyWeight alt kümesinde düzey seçimi, grup × zaman EMM, özel kontrast ve analiz dışı satır raporu sınanmıştır: 153 satırın 111'i analize girer, 42'si dışarıda kalır.

→ Referans kategori (karşılaştırma düzeyi)

Gerçek veride örnek

Veri: Potthoff ve Roy 1964 diş büyümesi (SAS MIXED Örnek 83.2)

Değişkenler: bağımlı y (diş ölçüsü), sabit etkiler Gender ve Age, grup Person (rastgele kesişim)

  • Soru: Çocuklarda diş ölçüsü (y) yaşla birlikte artıyor mu ve erkeklerle kızlar arasında fark var mı? Her çocuk 4 kez ölçüldüğü için kişi rastgele kesişim olarak modellendi (REML).
  • Varsayım: Model yaş etkisinin herkes için aynı olduğunu varsayar; cinsiyete göre farklı büyüme hızı (Gender x Age) ya da rastgele eğim ayrıca denenmelidir.
  • Sonuç: Her yıl diş ölçüsü 0.660 mm artar (SE = 0.062, t(80) = 10.72, p < .001). Erkeklerin ölçüsü kızlardan 2.321 mm büyüktür (SE = 0.761, t(25) = 3.05, p = .005, %95 GA [0.753, 3.889]). Kişiler arası varyans 3.267, kişi içi artık varyans 2.049; ICC = .615.
  • Etki büyüklüğü: Nakagawa R² marjinal = .398 (yalnız sabit etkiler), koşullu = .768 (sabit + rastgele); -2LL (REML) = 437.51, AIC = 447.51.
  • APA: Gender: b = 2.32, SE = 0.76, t(25.00) = 3.05, p = .005; Age: b = 0.66, SE = 0.06, t(80.00) = 10.72, p < .001; R²m = .40, R²c = .77, ICC = .61.

İlgili kavramlar

Olabilirlik oranı testi (LRT)Sabit ve rastgele etkilerKovaryans (korelasyon) yapısı (UN, VC, AR(1), değiştirilebilir)Tahmini marjinal ortalamalar (EMM)Satterthwaite ve Kenward-Roger serbestlik derecesi yaklaşımlarıRastgele eğimİç içe (yuvalanmış) ve çapraz rastgele etkilerEn iyi doğrusal yansız kestirim (BLUP)

Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.