MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → Ağırlıklı Lojistik Regresyon

Ağırlıklı Lojistik Regresyonanaliz

Karmaşık örnekleme tasarımıyla toplanmış anket verisinde evet/hayır biçimindeki bir sonucun olasılığını yordayıcılara bağlayan, katsayıları örnekleme ağırlıklarıyla ve standart hataları tasarıma uygun biçimde kestiren lojistik regresyon.

Kavram

Anketlerde ilgilenilen sonuçların çoğu ikilidir: sigara içiyor mu, aşı oldu mu, fazla kilolu mu? Lojistik regresyon, bu olayın olasılığının yordayıcılarla nasıl değiştiğini modeller. Veri karmaşık bir tasarımla toplandıysa, sıradan lojistik regresyon evreni yanlı temsil edebilir ve aynı kümedeki kişilerin benzerliğini göz ardı ettiği için standart hataları olduğundan küçük gösterir. Ağırlıklı lojistik regresyon bu iki sorunu birlikte giderir.

Model olayın log-odds'unu yordayıcıların doğrusal bir bileşimi olarak yazar: log(p / (1 − p)) = b₀ + b₁x₁ + b₂x₂ + …. Katsayılar, her gözlemin ağırlığıyla katkıda bulunduğu ağırlıklı (pseudo) olabilirlikle kestirilir; standart hatalar tabaka ve küme yapısından hesaplanır. Bir katsayının üsteli, exp(b), odds oranıdır: OR = 1,5, yordayıcıdaki bir birimlik artışın diğer yordayıcılar sabitken olayın odds'unu 1,5 katına çıkardığını, OR = 0,8 ise %20 azalttığını söyler.

Odds oranı olasılık oranı değildir; olay yaygınsa iki ölçü belirgin biçimde ayrışır. Ağırlıklı olabilirlik gerçek bir olabilirlik olmadığından modeller arası karşılaştırma için Wald testleri kullanılır; AIC gibi ölçütler yalnız aynı ağırlıklarla kurulmuş modeller arasında karşılaştırılmalıdır. Sınıflama tablosu ve uyum iyiliği testi, modelin olasılıkları ne kadar iyi tahmin ettiği hakkında ek bilgi verir. Nedensel yorum için tasarım ve kuramsal destek gerekir.

Ne zaman kullanılır?

  • Ağırlık, tabaka ve küme bilgisi içeren bir anketten, ikili bir sonucun olasılığını birden fazla yordayıcıyla evren düzeyinde ilişkilendirmek istendiğinde.
  • Veri basit rastgele örneklemle toplandıysa sıradan ikili lojistik regresyon; sonuç sürekliyse ağırlıklı doğrusal regresyon kullanılır.
  • Yalnız iki kategorik değişken arasındaki ilişki soruluyorsa ağırlıklı frekansın çapraz tablo ve Rao-Scott testi yeterlidir; sonuç ikiden çok sıralı kategoriliyse sıralı lojistik modeller düşünülmelidir.

Gündelik bir örnek

İl genelindeki ortaokul anketinde 2000 öğrencinin boy ve kilosu ölçülüyor ve her öğrencinin fazla kilolu olup olmadığı belirleniyor. Ağırlıklı lojistik regresyon, uyku süresi ve kahvaltı alışkanlığı sabitken günlük ekran süresindeki her ek saatin fazla kilolu olma odds'unu yaklaşık 1,2 katına çıkardığını bulabilir. Aynı okuldaki öğrenciler benzer kantin ve beden eğitimi koşullarını paylaştığı için analiz bu benzerliği hesaba katar ve odds oranının güven aralığını sıradan analizden daha geniş, ama daha dürüst biçimde verir.

MerQur'da parametreler

Prediktörler (X) ve Hedef (Y, ikili)

Kavram: Bağımlı değişken iki değer alan (olay var / yok) sonuçtur; yordayıcılar bu olayın olasılığını etkilediği düşünülen değişkenlerdir. Kategorik yordayıcılar bir temel düzeye göre karşılaştırma yapan kukla değişkenlerle girer.

Gündelik örnek: Fazla kilolu olma (evet/hayır) bağımlı değişken, ekran süresi, uyku süresi ve kahvaltı alışkanlığı yordayıcılardır. Model her yordayıcının fazla kilolu olma olasılığıyla nasıl ilişkili olduğunu, diğerleri sabitken gösterir.

Ne işe yarar: İkili (0/1) bağımlı değişkeni ve yordayıcıları seçer. Tabaka, küme veya FPC sütunu aynı zamanda yordayıcı seçilirse model kullanıcının istediği gibi kurulur.

Sonuca etkisi: Katsayılar, odds oranları, SE ve Wald F.

Doğrulama verisinde: apistrat, ell katsayısı -0.00248964.

Ağırlık (zorunlu)

Kavram: Örnekleme ağırlığı, her gözlemin evrende kaç kişiyi temsil ettiğini gösterir. Lojistik regresyonda her gözlem olabilirliğe ağırlığı oranında katkı verir; böylece katsayılar örneklemin değil evrenin bileşimini yansıtır.

Gündelik örnek: Kırsal öğrenciler örneklemde fazla temsil edildiyse ve kırsalda fazla kiloluluk daha seyrekse, ağırlıksız model il genelindeki ilişkiyi çarpıtabilir. Ağırlıklar her öğrenciye evrendeki payına uygun etki verir.

Ne işe yarar: Örnekleme ağırlığı (seçilme olasılığının tersi). Katsayılar ağırlıklı (pseudo) olabilirlikle, SE Taylor doğrusallaştırmasıyla hesaplanır.

Sonuca etkisi: Katsayılar ve SE.

Doğrulama verisinde: apistrat ell katsayısı -0.00248964 (üç program aynı).

→ Örneklem ağırlığı (tasarım ağırlığı)

Olay (Y = 1) düzeyi

Kavram: Lojistik regresyon, iki kategoriden hangisinin 'olay' (1) sayıldığının olasılığını modeller. Olay kategorisi değiştirilirse katsayıların işareti tersine döner ve odds oranları 1/OR olur; modelin söylediği şey aynı kalır.

Gündelik örnek: Olay 'fazla kilolu' seçilirse ekran süresinin odds oranı 1,2 çıkar. Olay 'fazla kilolu değil' seçilirse aynı ilişki 1/1,2 ≈ 0,83 olarak görünür: ekran süresi arttıkça normal kiloda olma odds'u azalır.

Ne işe yarar: Olay olarak kabul edilen Y düzeyini belirler; otomatik seçenekte sayısal Y'de büyük değer, metin Y'de sözlük sırasında son düzey alınır.

Sonuca etkisi: Olay değişince tüm katsayıların işareti döner (odds oranları terslenir); SE aynı kalır.

Doğrulama verisinde: apistrat ell katsayısı: olay "Yes" iken -0.00248964, olay "No" iken 0.00248964 (üç program aynı).

Tabaka

Kavram: Tabakalama, evrenin örtüşmeyen gruplara bölünüp her gruptan ayrı örneklem çekilmesidir. Lojistik regresyonda tabaka bilgisi katsayıları değil, standart hataları ve sınamaların serbestlik derecesini etkiler.

Gündelik örnek: Kentsel ve kırsal tabakalar tanıtıldığında ekran süresinin odds oranı aynı kalır, ama güven aralığı tasarıma uygun biçimde hesaplanır.

Ne işe yarar: Varyansı tabaka içi PSU toplamlarının sapmalarından hesaplar; tasarım serbestlik derecesi = PSU - tabaka.

Sonuca etkisi: SE, aralık ve serbestlik derecesi.

Doğrulama verisinde: apistrat ell katsayısının SE'si: tabakasız 0.0134141, okul türüne göre tabakalı 0.0134669.

→ Tabakalı örnekleme (tasarım tabakası)

Küme / PSU

Kavram: Küme (PSU), kişilerin topluca seçildiği birimdir. Aynı kümedeki kişiler benzer koşulları paylaştığından gözlemler bağımsız değildir ve standart hatalar genellikle büyür.

Gündelik örnek: Kantininde yalnız paketli atıştırmalık satan bir okulda fazla kilolu öğrenci oranı yüksek olabilir. Bu okuldaki öğrencilerin ortak durumu, okul küme olarak tanıtıldığında standart hataya yansır.

Ne işe yarar: Birincil örnekleme birimini belirler; serbestlik derecesi = PSU - tabaka.

Sonuca etkisi: SE ve serbestlik derecesi.

Doğrulama verisinde: apiclus1 (dnum kümeli) SE 0.0126995, sd 14.

→ Birincil örneklem birimi (PSU) ve küme örneklemesi

FPC (popülasyon)

Kavram: Sonlu evren düzeltmesi, evrenin önemli bir kısmı örnekleme alındığında varyansı (1 − n/N) ile çarparak küçültür. Örnekleme oranı küçükse etkisi ihmal edilebilir.

Gündelik örnek: Kırsal tabakadaki okulların yarısı örnekleme girdiyse, o tabakadan gelen belirsizlik azaltılır ve odds oranlarının güven aralıkları biraz daralır.

Ne işe yarar: Sonlu evren düzeltmesi; varyans (1 - n_h/N_h) ile çarpılır.

Sonuca etkisi: SE ve aralık küçülür.

Doğrulama verisinde: apiclus1 küme: FPC yok 0.0126995, FPC ile 0.0124427.

→ Sonlu anakütle düzeltmesi (FPC)

Tek PSU'lu tabaka (Katkısız (certainty, varsayılan), Ortalamaya göre (adjust))

Kavram: Bir tabakada yalnız bir küme varsa tabaka içi kümeler arası fark hesaplanamaz. Seçenek, bu tabakanın varyansa katkı vermemesini ya da tüm kümelerin ortalamasına göre daha temkinli bir katkı hesaplanmasını belirler.

Gündelik örnek: Tek okulu seçilmiş bir ilçe tabakası varsa, o ilçede okullar arası farkın büyüklüğü bilinemez; temkinli seçenek bu bilinmezliği standart hatalara ekler.

Ne işe yarar: Tek PSU'lu tabakanın varyans katkısını belirler.

Sonuca etkisi: Yalnız tek PSU'lu tabaka varken SE.

Doğrulama verisinde: apiclus1 katkısız SE 0.0158432; ortalamaya göre 0.0158448.

→ Birincil örneklem birimi (PSU) ve küme örneklemesi

Tabakayı modele sabit etki (kukla) olarak da ekle

Kavram: Tabakayı sabit etki olarak eklemek her tabakaya kendi kesişimini (temel olay olasılığını) verir; katsayılar böylece tabaka içi ilişkiyi gösterir. Eklenmezse tabaka yalnız standart hata hesabında kullanılır.

Gündelik örnek: Kentsel öğrencilerde hem ekran süresi hem fazla kiloluluk daha yaygınsa, tabaka eklenmeden bulunan odds oranı kısmen kent-kır farkını yansıtır. Tabaka eklenince odds oranı aynı tabakadaki öğrenciler arasındaki ilişkiyi gösterir.

Ne işe yarar: Tabakayı kukla sabit etki olarak da modele ekler; varsayılan kapalıdır.

Sonuca etkisi: Katsayılar, SE ve testler; yalnız tabaka seçiliyken etkindir.

Doğrulama verisinde: apistrat ell katsayısı: kapalı -0.00248964, açık -0.00783729 (tabaka kuklaları modele eklenir). Katsayılar R ve SPSS ile aynı.

→ Tabakalı örnekleme (tasarım tabakası)

Güven Düzeyi (%90, %95, %99, Diğer (özel))

Kavram: Katsayıların ve odds oranlarının güven aralıklarının evrendeki gerçek değeri ne kadar güvenceyle kapsayacağını belirler. Odds oranı aralıkları log ölçeğinde kurulup geri dönüştürüldüğü için genellikle asimetriktir.

Gündelik örnek: Ekran süresinin odds oranı 1,20 ise %95 güven aralığı örneğin 1,05 ile 1,37 arasında olabilir; aralık 1'i içermediği için ilişki anlamlıdır. %99 güven istenirse aralık genişler.

Ne işe yarar: Katsayı ve odds oranı güven aralıklarının düzeyini belirler (t dağılımı).

Sonuca etkisi: Yalnız aralıklar.

Doğrulama verisinde: apistrat mobility OR %95 GA [0.996, 1.134].

→ Güven düzeyi ve güven aralığı

Referans düzeyleri

Kavram: Kategorik bir yordayıcının odds oranları, seçilen referans düzeye göre hesaplanır. Referansı değiştirmek modelin uyumunu değiştirmez, yalnız hangi karşılaştırmanın doğrudan okunacağını belirler.

Gündelik örnek: Kahvaltı sıklığı 'hiç', 'bazen' ve 'her gün' ise referans 'her gün' seçildiğinde odds oranları kahvaltıyı atlayan öğrencilerin her gün kahvaltı yapanlara göre fazla kilolu olma odds'unu doğrudan gösterir.

Ne işe yarar: Kategorik yordayıcının karşılaştırma düzeyini belirler; boşsa alfabetik ilk düzey.

Sonuca etkisi: Kukla katsayıları ve odds oranları yeniden ifade edilir; model uyumu değişmez.

Doğrulama verisinde: apistrat stype: temel düzey E iken H katsayısı -1.03694, temel düzey H iken E katsayısı 1.03694.

→ Referans kategori (karşılaştırma düzeyi)

Etkileşim terimleri

Kavram: Etkileşim terimi, bir yordayıcının olay olasılığına etkisinin başka bir yordayıcının düzeyine göre değişip değişmediğini sınar. Etkileşim varsa her yordayıcının odds oranı tek başına yorumlanamaz.

Gündelik örnek: Ekran süresinin fazla kiloya etkisi kahvaltı yapmayan öğrencilerde daha güçlü olabilir. 'Ekran süresi × kahvaltı' terimi bu farkın anlamlı olup olmadığını sınar.

Ne işe yarar: 'a*b' biçiminde çarpım terimleri ekler.

Sonuca etkisi: Ek katsayılar ve terim testi.

Doğrulama verisinde: ell*meals katsayısı 0.000326119 (üç program aynı).

→ Etkileşim etkisi

Alt-popülasyon (domain) sütunu ve Domain değeri

Kavram: Modeli evrenin bir alt kesimi için kurarken diğer gözlemler silinmez, sıfır ağırlık alır; böylece tasarımın tamamı standart hata hesabında korunur. Veriyi önceden filtrelemek standart hataları yanlış çıkarır.

Gündelik örnek: Model yalnız 8. sınıflar için kurulacaksa 'sınıf = 8' alt-popülasyon olarak verilir; diğer sınıflardaki öğrenciler sıfır ağırlıkla veri setinde kalır ve okulların tasarım bilgisi kaybolmaz.

Ne işe yarar: Modeli yalnız verilen değere sahip alt-popülasyon için kurar; tasarım tam korunur.

Sonuca etkisi: Katsayılar alt-popülasyondan hesaplanır.

Doğrulama verisinde: apistrat comp_imp = Yes alt-popülasyonunda ell katsayısı -0.0400618.

→ Alan (alt anakütle) tahmini

Ek çıktılar: Sınıflama tablosu ve Sınıflama kesim değeri

Kavram: Sınıflama tablosu, tahmin edilen olasılık bir kesim değerini aştığında kişiyi 'olay var' diye sınıflayıp bu tahminleri gerçek durumla karşılaştırır. Duyarlılık gerçek olayların ne kadarının yakalandığını, özgüllük olay olmayanların ne kadarının doğru ayrıldığını gösterir; kesim değeri ikisi arasındaki dengeyi belirler.

Gündelik örnek: Kesim 0,5 seçilirse model yalnız olasılığı yüksek öğrencileri 'fazla kilolu' sayar ve birçok gerçek vakayı kaçırabilir (düşük duyarlılık). Okul sağlık taramasında vakaları kaçırmamak önemliyse kesim örneğin 0,3'e indirilir; bu kez yanlış alarmlar artar.

Ne işe yarar: Kesim değerine göre (p-şapka >= kesim ise olay) gözlenen ve öngörülen sınıflama tablosunu, doğru sınıflama yüzdesini, duyarlılığı ve özgüllüğü verir. Kesim değeri yalnız sınıflama tablosu açıkken etkindir.

Sonuca etkisi: Yalnız sınıflama tablosu.

Doğrulama verisinde: apistrat, kesim 0.5: ağırlıklı doğru sınıflama 0.827948, duyarlılık 1. Kesim 0.3 için özgüllük 0; kesim 0.8 için 0.439115.

→ Sınıflandırma tablosu (karışıklık matrisi)

Ek çıktılar: Archer-Lemeshow uyum iyiliği testi

Kavram: Uyum iyiliği testi, modelin tahmin ettiği olasılıkların gözlenen olay sıklıklarıyla uyuşup uyuşmadığını sınar. Kişiler tahmin olasılıklarına göre gruplara ayrılır ve her grupta gözlenen ile beklenen olay sayıları karşılaştırılır; Archer-Lemeshow testi bunu tasarımı hesaba katarak yapar. Anlamlı bir sonuç kötü uyumu gösterir.

Gündelik örnek: Model bir grup öğrenci için ortalama %10 fazla kilo olasılığı tahmin ediyorsa o gruptaki öğrencilerin yaklaşık %10'u gerçekten fazla kilolu olmalıdır. En yüksek olasılıklı grupta tahmin %40, gerçek oran %60 ise model bu kesimi iyi anlatmıyordur.

Ne işe yarar: Tasarım tabanlı uyum testi (Archer ve Lemeshow, 2006): p-şapkanın ağırlıklı ondalık gruplarında ortalama artıkların sıfır olduğu hipotezi için Wald F. Eşit olasılık tahminleri aynı gruba alınır.

Sonuca etkisi: Ek test.

Doğrulama verisinde: apistrat F = 3274.84; NHANES F = 4.99325 (7 grup).

→ Hosmer-Lemeshow uyum iyiliği testi

Ek çıktılar: Tahmin ve artıkları veri setine kaydet

Kavram: Her gözlem için modelin tahmin ettiği olay olasılığını ve gözlenen sonuçla tahmin arasındaki farkı (artık) veri setine ekler. Bu değerler, risk düzeylerine göre gruplama ya da modelin zayıf kaldığı kesimleri bulma gibi sonraki çalışmalarda kullanılabilir.

Gündelik örnek: Her öğrencinin tahmini fazla kilo olasılığı kaydedildiğinde, örneğin olasılığı 0,4'ün üstünde olan öğrencilerin hangi okullarda yoğunlaştığı haritalanabilir.

Ne işe yarar: SVY_PRED_P (olasılık) ve SVY_RESID sütunlarını ekler.

Sonuca etkisi: Yalnız yeni sütunlar.

Doğrulama verisinde: 1. satır olasılık 0.792397 (üç program aynı).

Varyans yöntemi (Taylor (varsayılan), Jackknife (JK1 / JKn), BRR (dengeli yarım örneklem), Fay BRR, Bootstrap (Rao-Wu), Hazır replikasyon ağırlıkları) ve ilgili alanlar (Fay katsayısı (rho), Bootstrap replikasyon sayısı, Rastgele tohum, Replikasyon ağırlık sütunları, Replikasyon türü (JK1, JKn, BRR, Fay, bootstrap, other), Ölçek (scale), Replikasyon ölçekleri (rscales), Sapma merkezi)

Kavram: Standart hata formüle dayalı Taylor doğrusallaştırmasıyla ya da replikasyon yöntemleriyle (jackknife, dengeli yarım örneklem, bootstrap) hesaplanabilir. Replikasyon yöntemlerinde model tasarıma uygun her alt örneklemde yeniden kurulur ve katsayıların dağınıklığı standart hatayı verir; yakınsamayan alt örneklemler hesaptan çıkarılabilir.

Gündelik örnek: Bootstrap'ta okullar yeniden örneklenip model yüzlerce kez kurulur. Bir tekrarda rastlantı sonucu kahvaltı yapmayan öğrencilerin hepsi fazla kilolu çıkarsa model o tekrarda ayrışır ve katsayı sonlu bir değere oturmaz; böyle bir tekrar dışarıda bırakılır ve bu durum bildirilir.

Ne işe yarar: Standart hatayı Taylor yerine yeniden örnekleme ile hesaplar; her replikasyonda model yeniden kestirilir, Wald testleri replikasyon kovaryansından yapılır. Bootstrap'ta yakınsamayan ya da ayrışan replikasyon varyanstan çıkarılır ve uyarı yazılır.

Sonuca etkisi: SE, p, aralık ve Wald F; katsayı tahminleri değişmez. Örnek: apistrat, 500 replikasyon ve tohum 12345 ile 1 replikasyon çıkarılır, mobility SE 0.0332'dir.

Doğrulama verisinde: apistrat JKn Wald F 0.122424830393, payda sd 195, p 0.884840360414; nhanes BRR model Wald F 55.7640515423, sd 10.

→ Taylor doğrusallaştırması ve yineleme (replikasyon) varyans yöntemleri

Gerçek veride örnek

Veri: California API apistrat, R survey paketi (Lumley)

Değişkenler: ikili hedef sch_wide (okul hedefine ulaştı mı; olay Yes), prediktörler ell, meals, mobility; ağırlık pw, tabaka stype

  • Soru: Tabakalı okul örnekleminde (ağırlık pw, tabaka stype) okulun tüm okul hedefini tutturması (sch_wide = Yes) ell, meals ve mobility ile ilişkili mi?
  • Model: Tasarım tabanlı ağırlıklı lojistik regresyon (olay = Yes), Taylor SE; t testleri t(194); n = 200.
  • Genel test: Wald F(3, 194) = 1.20, p = .310; ayarlı Wald F(3, 195) = 1.19, p = .315. Yordayıcılar birlikte anlamlı değildir.
  • Katsayılar: mobility b = 0.061 (SE = 0.033), OR = 1.063, %95 GA [0.996, 1.134], p = .065 (sınırda, anlamlı değil); meals (OR = 0.997, p = .737) ve ell (OR = 0.998, p = .854) etkisizdir.
  • Model uyumu: McFadden R² = .029, Nagelkerke R² = .044; açıklanan değişkenlik çok küçüktür.
  • APA: Model geneli (ayarlı Wald): F(3, 195) = 1.19, p = .315; mobility: OR = 1.06, 95% CI [1.00, 1.13], p = .065.

İlgili kavramlar

Birincil örneklem birimi (PSU) ve küme örneklemesiHosmer-Lemeshow uyum iyiliği testiTabakalı örnekleme (tasarım tabakası)Sınıflandırma tablosu (karışıklık matrisi)Sonlu anakütle düzeltmesi (FPC)Taylor doğrusallaştırması ve yineleme (replikasyon) varyans yöntemleriOdds oranı (OR)Örneklem ağırlığı (tasarım ağırlığı)

Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.