İstatistik Sözlüğü → Gizil Sınıf Analizi
Gizil Sınıf Analizianaliz
Kategorik sorulara (evet/hayır, var/yok gibi) verilen yanıt örüntülerinin ardında, doğrudan gözlenemeyen kaç alt grup (gizil sınıf) bulunduğunu ve her bireyin bu gruplara ait olma olasılığını kestiren model.
Kavram
Pek çok araştırmada ilgilenilen grup doğrudan ölçülemez: 'risk altındaki öğrenciler', 'gerçekten hasta olanlar' ya da 'sadık müşteriler' gibi gruplar ancak bir dizi kategorik göstergedeki yanıt örüntülerinden çıkarılabilir. Gizil sınıf analizi (LCA), bu göstergelerin ardında birbirinden farklı yanıt eğilimleri taşıyan birkaç gizli alt grup olduğunu varsayar ve bu grupların sayısını, büyüklüğünü ve özelliklerini veriden kestirir.
Model iki tür parametre kestirir: her sınıfın toplumdaki oranı ve her sınıfta her göstergeye belirli bir yanıtın verilme olasılığı (sınıf koşullu yanıt olasılıkları). Temel varsayım yerel bağımsızlıktır: aynı sınıftaki bireyler için göstergeler birbirinden bağımsızdır, yani göstergeler arasındaki ilişkinin tamamı sınıf farklılıklarından kaynaklanır. Kestirim EM algoritmasıyla yapılır; her birey için sonsal sınıf olasılıkları hesaplanır ve birey en olası sınıfa (modal atama) yerleştirilebilir. Sınıf sayısı, farklı sayıda sınıf içeren modeller BIC gibi bilgi ölçütleri ve LMR, BLRT gibi olabilirlik oranı testleriyle karşılaştırılarak seçilir.
Sınıflar verinin bir özetidir, kesin olarak var olan gruplar değildir; seçilen sınıf sayısı ölçütlere, örneklem büyüklüğüne ve yorumlanabilirliğe göre birlikte değerlendirilmelidir. EM algoritması yerel en iyi çözümlere takılabildiğinden çok sayıda rastgele başlangıç gerekir. Entropi, bireylerin sınıflara ne kadar net atandığını gösterir (1'e yakın değer iyi ayrışma). Yerel bağımsızlık ciddi biçimde bozulursa model, göstergeler arasındaki fazladan ilişkiyi açıklamak için gereğinden fazla sınıf önerebilir.
Ne zaman kullanılır?
- Bireylerin bir dizi kategorik göstergedeki (ikili ya da çok kategorili) yanıt örüntülerine göre, sayısı önceden bilinmeyen alt gruplara ayrılması istendiğinde (anket tipolojileri, tanı testleri arasında uyum, davranış örüntüleri).
- Göstergeler sürekli ölçümlerse gizil profil analizi; gizil yapı gruplar değil sürekli bir boyut (ör. bir yetenek düzeyi) olarak düşünülüyorsa madde tepki kuramı ya da faktör analizi kullanılır.
- Olasılık modeli ve uyum karşılaştırması gerekmeyen hızlı bir keşifsel gruplama yeterliyse uygun bir uzaklık ölçüsüyle (ör. Jaccard, Gower) hiyerarşik kümeleme de kullanılabilir.
Gündelik bir örnek
Bir okulun rehber öğretmeni, 300 öğrenciye altı evet/hayır sorusu soruyor: ödevlerini zamanında yapıyor mu, derse katılıyor mu, sık devamsızlık yapıyor mu, okulda kendini yalnız hissediyor mu, gibi. Yanıtların tek tek incelenmesi karmaşık bir tablo verir; gizil sınıf analizi ise bu yanıt örüntülerinin ardında örneğin üç grup bulabilir: 'uyumlu ve katılımcı' (%55), 'akademik olarak geride ama sosyal' (%30) ve 'hem devamsız hem yalnız' (%15). Her öğrenci için bu gruplara ait olma olasılıkları da hesaplanır; üçüncü gruba %90 olasılıkla ait görünen öğrenciler öncelikli olarak görüşmeye çağrılabilir.
MerQur'da parametreler
En çok sınıf sayısı
Kavram: Gizil sınıf sayısı veriden doğrudan okunamaz; bu yüzden 1, 2, 3… sınıflı modeller ayrı ayrı kestirilip karşılaştırılır. En çok sınıf sayısı bu karşılaştırmanın üst sınırıdır; seçilen sınıf sayısı bu aralığın dışına çıkamaz.
Gündelik örnek: Rehber öğretmen 1 ile 5 arasında sınıf içeren modelleri dener. Üst sınır 3 tutulsaydı, veride aslında dört farklı öğrenci grubu olsa bile bu hiç görülemezdi.
Ne işe yarar: 1..K sınıflı modeller kestirilir ve ölçütlerle karşılaştırılır.
Sonuca etkisi: Karşılaştırılan modellerin aralığını belirler; ölçütle seçilen K bu aralıkla sınırlıdır.
Doğrulama verisinde: (carcinoma, K = 1..4 log-olabilirlik): -524.4648, -317.2568, -293.7050, -289.2858 (küresel maksimum). K_en çok 4'te BIC ile 3 seçilir; 6'da K = 5 ve 6 için -286.8843 ve -286.1866, yine 3 seçilir (K = 6 parametreleri zayıf tanımlıdır: aynı log-olabilirlikte farklı çözümler).
Raporlanacak sınıf sayısı (0 = otomatik)
Kavram: Karşılaştırılan modeller arasından ayrıntılı olarak raporlanacak olanı belirler. Otomatik seçimde bilgi ölçütü en iyi modeli seçer; araştırmacı yorumlanabilirlik ya da kuramsal nedenlerle belirli bir sınıf sayısını da isteyebilir.
Gündelik örnek: BIC dört sınıfı önerse de dördüncü sınıf yalnız 8 öğrenciden oluşuyor ve anlamlı bir yorum taşımıyorsa öğretmen üç sınıflı modeli ayrıntılı raporlamayı seçebilir.
Ne işe yarar: Ayrıntılı raporlanacak modelin sınıf sayısı; 0 ise seçim ölçütüne göre en iyi K raporlanır.
Sonuca etkisi: Sınıf oranları, koşullu olasılıklar, uyum ve sınıf atamaları seçilen K'ya göre değişir.
Doğrulama verisinde: 2 sınıf: AIC 664.514, BIC 706.074. 3 sınıf: sınıf oranları 0.4447, 0.3736, 0.1817; G² 15.26171, X² 20.50335, artık sd 95, npar 23. 4 sınıf: log-olabilirlik -289.2858 (küresel çözüm; yaklaşık -289.79'luk bir yerel maksimum da vardır).
Rastgele başlangıç sayısı ve Rastgele tohum
Kavram: EM algoritması rastgele bir başlangıçtan yola çıkar ve olabilirliğin en yüksek noktası yerine yerel bir tepeye ulaşabilir. Çok sayıda başlangıçla çalışmak ve en iyi log-olabilirliğin birçok başlangıçta tekrarlandığını görmek, bulunan çözümün gerçek en iyi çözüm olduğuna güveni artırır; tohum sonucu tekrarlanabilir kılar.
Gündelik örnek: Sisli bir dağlık arazide en yüksek tepeyi arayan biri tek bir noktadan yürümeye başlarsa küçük bir tepeye çıkıp orada kalabilir. 20 farklı noktadan başlayan 20 yürüyüşçünün çoğu aynı zirvede buluşuyorsa en yüksek tepe büyük olasılıkla bulunmuştur.
Ne işe yarar: EM yerel maksimuma takılabilir; en iyi log-olabilirlik ve kaç başlangıçta tekrarlandığı raporlanır (Linzer & Lewis 2011).
Sonuca etkisi: Çok başlangıç küresel maksimumu bulma olasılığını artırır; tek başlangıçta yerel bir çözüm raporlanabilir.
Doğrulama verisinde: carcinoma'da 1, 20, 100 başlangıç ve tohum 7 aynı çözümü verir. gss82 K = 3: 100 başlangıç -2754.5454 (küresel maksimum); 1 başlangıç -2762.0048 (yerel maksimum).
Eksik göstergeler (Liste bazında / FIML)
Kavram: Liste bazında silmede tek bir göstergesi eksik olan birey tümüyle çıkarılır. FIML (tam bilgi en çok olabilirlik) ise her bireyin yanıtladığı göstergeleri kullanır; eksikliğin gözlenen yanıtlarla açıklanabildiği (MAR) varsayımı altında yansız kestirim verir ve örneklemi korur.
Gündelik örnek: 300 öğrenciden 25'i yalnızlık sorusunu boş bırakmışsa liste bazında silme bu 25 öğrenciyi tümüyle dışarıda bırakır. FIML ise bu öğrencilerin diğer beş soruya verdiği yanıtları da kullanarak onları modelde tutar.
Ne işe yarar: Liste bazında eksik göstergeli satırları atar; FIML'de eksik göstergeler olabilirliğe girmez (MAR altında en çok olabilirlik).
Sonuca etkisi: n ve dolayısıyla tüm kestirimler değişir; FIML eksik göstergeli satırları da kullanır.
Doğrulama verisinde: (election, 12 gösterge, K = 3): Liste bazında n = 1311 (kovaryatsız) ve 1300 (PARTY), log-olabilirlik -16714.6591 ve -16222.3233; FIML n = 1785 ve 1760, -21311.5357 ve -20609.2728.
Kovaryatlar
Kavram: Kovaryatlar, bireylerin hangi sınıfa ait olacağını yordayan değişkenlerdir; sınıf üyeliği çok terimli lojistik regresyonla bu değişkenlere bağlanır. Böylece 'hangi özellikteki bireylerin belirli bir sınıfta olma olasılığı daha yüksek?' sorusu aynı modelde yanıtlanır.
Gündelik örnek: Öğretmen sınıf düzeyini kovaryat olarak eklerse model, örneğin 'üst sınıftaki öğrencilerin hem devamsız hem yalnız grubunda yer alma olasılığı alt sınıflara göre iki kat yüksek' gibi bir sonuç verebilir.
Ne işe yarar: Sınıf üyeliğini çok terimli logit ile yordar (tek adımlı gizil sınıf regresyonu; 1. sınıf temel kategori).
Sonuca etkisi: Sınıf oranları kovaryata bağlı olur; log-olabilirlik, koşullu olasılıklar ve sınıf atamaları değişebilir.
Doğrulama verisinde: election PARTY: sabit 2/1 -3.81813 (SE 0.31109), PARTY 2/1 0.79327 (0.06232), sabit 3/1 1.16155 (0.17989), PARTY 3/1 -0.57436 (0.06401). cheating verisinde GPA kovaryatı K = 2 ile de kestirilir.
Seçim ölçütü (BIC / SABIC / AIC / CAIC)
Kavram: Bilgi ölçütleri, modelin veriye uyumunu (log-olabilirlik) parametre sayısıyla cezalandırarak birleştirir; değeri en küçük olan model seçilir. AIC hafif, BIC ve CAIC daha ağır ceza verir ve daha az sınıfa yönelir; SABIC ikisinin arasında, küçük örneklemlerde BIC'ten daha az tutucu bir ölçüttür.
Gündelik örnek: Dört sınıflı model veriyi üç sınıflıdan biraz daha iyi açıklayabilir ama daha çok parametre kullanır. BIC bu küçük kazancın ek karmaşıklığa değmediğine karar verip üç sınıfı seçebilirken AIC dört sınıfı seçebilir.
Ne işe yarar: Sınıf sayısını seçmekte kullanılan bilgi ölçütü; en küçük değerli K seçilir.
Sonuca etkisi: Yalnız seçilen K'yı değiştirebilir; her K'nın kestirimleri değişmez.
Doğrulama verisinde: (carcinoma, K = 1..4): AIC 1062.930, 664.514, 633.410, 640.572; BIC 1082.324, 706.074, 697.136, 726.463; SABIC 1060.196, 658.655, 624.427, 628.464; CAIC 1089.324, 721.074, 720.136, 757.463; dördü de K = 3'ü seçer.
En çok EM iterasyonu
Kavram: EM algoritması her yinelemede kestirimleri biraz iyileştirir ve değişim çok küçülünce durur. En çok iterasyon sayısı, algoritmanın yakınsamadan önce durdurulmamasını sağlayacak kadar yüksek tutulmalıdır; aksi halde yarım kalmış bir çözüm raporlanır.
Gündelik örnek: Her turda sınıf oranları ve yanıt olasılıkları biraz daha netleşir; birkaç yüz turdan sonra değerler artık değişmez. Tur sınırı çok düşükse öğrencilerin sınıf olasılıkları henüz yerine oturmadan hesap kesilir.
Ne işe yarar: Her başlangıçta EM algoritmasının en çok iterasyon sayısı.
Sonuca etkisi: Az iterasyonda model yakınsamayabilir ve daha düşük log-olabilirlik raporlanır; MerQur uyarı verir.
Doğrulama verisinde: 50 iterasyonda K = 4 yakınsamaz (log-olabilirlik -289.3868, -289.2858'den küçük) ve MerQur açık uyarı verir; K = 1..3 aynı.
BLRT bootstrap sayısı (0 = kapalı)
Kavram: Parametrik bootstrap olabilirlik oranı testi (BLRT), K sınıflı modelin K − 1 sınıflı modelden anlamlı biçimde daha iyi olup olmadığını sınar. Olabilirlik oranının dağılımı, K − 1 sınıflı modelden benzetimle üretilen veri setlerinde elde edilir; anlamlı bir p, ek sınıfın gerekli olduğuna işaret eder.
Gündelik örnek: Model, 'gerçekte yalnız iki öğrenci grubu olsaydı' varsayımıyla yüzlerce yapay okul verisi üretir ve bunlarda üç sınıflı modelin ne kadar iyileşme sağladığına bakar. Gerçek verideki iyileşme bu yapay okulların neredeyse hiçbirinde görülmeyecek kadar büyükse üçüncü sınıf gerçek bir gruptur.
Ne işe yarar: K'ya karşı K-1 parametrik bootstrap olabilirlik oranı testi (McLachlan 1987; Nylund ve ark. 2007).
Sonuca etkisi: Uyum değişmez; tablo BLRT p sütunuyla genişler. p bootstrap örneklerine ve tohuma bağlıdır.
Doğrulama verisinde: (100 örnek): Gözlenen LR 414.416, 47.104, 8.838 (= 2·Δ log-olabilirlik); p 0.0099, 0.0099, 0.119.
Ek çıktılar: kaydet
Kavram: Her birey için en olası sınıfı (modal sınıf) ve her sınıfa ait olma olasılıklarını (sonsal olasılıklar) veri setine ekler. Modal sınıf pratik bir etiket verir; olasılıklar ise bu etiketin ne kadar kesin olduğunu gösterir.
Gündelik örnek: Bir öğrenci 'hem devamsız hem yalnız' sınıfına 0,95 olasılıkla, bir başkası 0,52 olasılıkla atanmış olabilir. İkinci öğrencinin etiketi belirsizdir; öğretmen kararlarını yalnız etikete değil, bu olasılıklara da dayandırmalıdır.
Ne işe yarar: Modal sınıf ve sonsal sınıf olasılıklarını veri setine ekler.
Sonuca etkisi: Kestirimler değişmez; veri setine yeni sütunlar eklenir.
Doğrulama verisinde: carcinoma K = 3: 118 x 3 sonsal olasılık matrisi verir.
LMR testi (her zaman raporlanır)
Kavram: Lo-Mendell-Rubin (LMR) testi de K sınıflı modeli K − 1 sınıflı modelle karşılaştırır, ancak benzetim yerine olabilirlik oranının düzeltilmiş bir yaklaşık dağılımını kullanır. Sınıf sayısı karşılaştırıldığında olağan ki-kare testi geçerli olmadığı için böyle özel testlere gerek duyulur.
Gündelik örnek: LMR testi üç sınıf için p < 0,001, dört sınıf için p = 0,40 veriyorsa üçüncü sınıfı eklemek modeli belirgin biçimde iyileştirir, dördüncü sınıf ise kayda değer bir şey katmaz; öğretmen üç grupla devam eder.
Ne işe yarar: K sınıflı modeli K-1 sınıflı modelle düzeltilmiş olabilirlik oranıyla karşılaştırır; MerQur düzeltmesi LR/(1 + 1/(dp·ln n)) (dp = parametre farkı, Lo, Mendell & Rubin 2001).
Sonuca etkisi: Uyum değişmez; sınıf sayısı seçimine yardımcı LMR p sütunu verilir.
Doğrulama verisinde: carcinoma K = 3: 45.901 (p 2.48e-07); K = 4: 8.613 (p 0.376).
Gerçek veride örnek
Veri: Agresti 2002 carcinoma, R poLCA paketi (n = 118)
Değişkenler: göstergeler A-G (7 patoloğun ikili karsinom tanısı)
- Soru: Yedi patoloğun 118 doku kesitine verdiği ikili (kanser var / yok) kararlarının ardında kaç gizil hasta sınıfı vardır?
- Model seçimi: 1-4 sınıflı modeller EM ile (20 rastgele başlangıç) kestirildi. BIC değerleri 1082.32, 706.07, 697.14 ve 726.46; en küçük BIC ile 3 sınıflı model seçildi (LMR p < .001: 3 sınıf 2 sınıftan iyidir; 4 sınıfta LMR p = 0.376).
- Sonuç: Sınıf oranları .44, .37 ve .18; modal atamayla 51, 44 ve 23 kesit.
- Sınıflandırma kalitesi: Entropi = 0.926 ve ortalama sonsal olasılıklar 0.88-0.99; sınıflar iyi ayrışır.
- Betimsel: Birinci sınıfta patologlar neredeyse oybirliğiyle "var" der, ikinci sınıfta "yok" der; küçük üçüncü sınıf, patologların görüş ayrılığına düştüğü belirsiz kesitlerdir (ör. A ve G için olasılıklar 0.49 ve 0.37).
- Sınırlılık: Mutlak uyum G² = 15.26 ve X² = 20.50 (sd = 95) seyrek hücreler nedeniyle χ² dağılımına yaklaşmaz; K = 3 ve 4'te en iyi iki log-olabilirlik birbirine yakındır, çok başlangıç zorunludur.
- APA: Gizil sınıf analizi 1-4 sınıfla kestirildi (EM, 20 rastgele başlangıç, N = 118); 3 sınıflı çözüm seçildi (BIC = 697.14), sınıf oranları .44, .37, .18 (entropi = .93, LMR p < .001).
İlgili kavramlar
Küme sayısının seçimiBootstrap olabilirlik oranı testi (BLRT)Lo-Mendell-Rubin (LMR) testiEM (beklenti-en büyükleme) algoritmasıRastgele başlangıçlar ve yerel en iyi çözümKovaryat (ortak değişken)Bilgi ölçütleri (AIC, AICc, BIC)
Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.