İstatistik Sözlüğü → Probit Regresyon
Probit Regresyonanaliz
İkili bir sonucun (öldü / yaşadı, geçti / kaldı) olasılığını, standart normal dağılımın birikimli fonksiyonu aracılığıyla yordayıcılara bağlayan ve doz-yanıt çalışmalarında etkili doz (ED50, LD50) kestirimi için sıkça kullanılan regresyon modeli.
Kavram
Sonuç evet/hayır biçimindeyken doğrudan doğrusal regresyon kurmak 0'ın altında ya da 1'in üstünde olasılıklar üretebilir. Bu nedenle olasılık, yordayıcıların doğrusal bileşimine S biçimli bir eğriyle bağlanır. Probit modelde bu eğri standart normal dağılımın birikimli fonksiyonudur (Φ): P(Y = 1) = Φ(b₀ + b₁x₁ + …). Model, her bireyin gözlenmeyen bir 'tolerans' eşiği olduğunu ve bu eşiklerin normal dağıldığını varsayan bir düşünceye dayanır: doz bireyin eşiğini aşınca yanıt ortaya çıkar. Bu yorum özellikle toksikoloji ve tarımdaki doz-yanıt çalışmalarında doğaldır.
Probit katsayıları gizil ölçekte, yani z-puanı biriminde okunur: pozitif bir katsayı olayın olasılığını artırır, ama artışın büyüklüğü olasılığın başlangıç düzeyine bağlıdır. Bu nedenle katsayılar yerine çoğu zaman ortalama marjinal etki (yordayıcıdaki bir birimlik artışın olasılığı ortalama kaç puan değiştirdiği) raporlanır. Doz-yanıt analizinde ED_p, olayın p olasılıkla gerçekleştiği dozdur; ED50 bireylerin yarısında yanıt oluşturan dozdur ve güven sınırları Fieller yöntemiyle kurulur.
Probit ve logit modelleri çoğu veride neredeyse aynı olasılıkları verir; logit katsayıları kabaca probit katsayılarının 1,6-1,8 katıdır. Logit odds oranı yorumu sunduğu için genel amaçlı analizlerde daha yaygındır; probit ise gizil normal tolerans varsayımının anlamlı olduğu durumlarda ve doz-yanıt geleneğinde tercih edilir. Model uyumu Hosmer-Lemeshow testi ve sınıflama tablosuyla değerlendirilir; gruplu verideki aşırı yayılım standart hataları küçük göstereceği için ayrıca kontrol edilmelidir.
Ne zaman kullanılır?
- İkili bir sonucun olasılığını yordayıcılarla ilişkilendirirken, özellikle doz-yanıt deneylerinde etkili ya da öldürücü dozun (ED50, LD50) kestirilmesi gerektiğinde ve gizil normal eşik yorumu anlamlıyken.
- Sonuçların odds oranıyla anlatılması isteniyorsa ikili lojistik regresyon daha yaygın ve kolay yorumlanan seçenektir.
- Sonuç ikiden çok sıralı kategoriliyse sıralı probit ya da sıralı lojistik model; olay sayısı bir zaman ya da alan birimine göre sayılıyorsa Poisson regresyonu kullanılır.
Gündelik bir örnek
Bir seracı, yaprak bitlerine karşı yeni bir doğal ilacın hangi derişimde etkili olduğunu bulmak istiyor. Beş farklı derişimin her birinde 50 yaprak biti deneniyor ve 24 saat sonra ölenler sayılıyor: en düşük derişimde 4, en yüksekte 47 bit ölüyor. Probit regresyon derişimin logaritmasıyla ölüm olasılığı arasında S biçimli eğriyi kurar ve böceklerin yarısını öldüren derişimi (LD50) güven aralığıyla verir. Seracı, örneğin %90 etki için gereken derişimi (LD90) de hesaplayıp gereğinden fazla ilaç kullanmaktan kaçınabilir.
MerQur'da parametreler
Prediktörler (X) ve Hedef (Y, ikili)
Kavram: Bağımlı değişken, olayın gerçekleşip gerçekleşmediğini gösteren 0/1 değişkenidir; yordayıcılar olayın olasılığını etkilediği düşünülen değişkenlerdir. Veri gruplar hâlinde özetlenmişse bağımlı değişken her gruptaki olay sayısı olabilir.
Gündelik örnek: Her satır tek bir yaprak bitiyse bağımlı değişken 'öldü = 1, yaşadı = 0', yordayıcı da ilaç derişimidir. Her satır bir derişim grubuysa bağımlı değişken o gruptaki ölü bit sayısıdır.
Ne işe yarar: İkili (0/1) bağımlı değişkeni ve yordayıcıları seçer; deneme sütunu seçiliyse Y olay sayısıdır. İkiden çok değerli Y hata verir.
Sonuca etkisi: Tüm çıktılar.
Doğrulama verisinde: UCLA admit ~ gre + gpa + rank: gre katsayısı 0.0013756.
Kategorik (faktör) değişkenler
Kavram: Sayılarla kodlanmış ama yalnız grup etiketi işlevi gören değişkenler kategorik olarak tanımlanmalıdır. Böylece her düzey, bir temel düzeye göre kendi etkisini alır; aksi halde model kodlar arasında anlamsız bir doğrusal ilişki varsayar.
Gündelik örnek: Deney üç ayrı serada yapıldıysa ve seralar 1, 2, 3 diye kodlandıysa, sera kategorik tanımlanmalıdır. 3 numaralı seranın 1 numaralıdan 'iki kat' etkisi olduğunu varsaymak anlamsızdır.
Ne işe yarar: Virgülle yazılan sayısal kodlu sütunları kategorik yapar (ilk düzey temel düzey olacak biçimde kuklalar); boş bırakılırsa sayısal kalır.
Sonuca etkisi: Katsayılar ve AME.
Doğrulama verisinde: rank -> rank_2..4 kuklaları oluşturulur; boş bırakılınca rank tek sayısal yordayıcı olur.
Güven Düzeyi (%90, %95, %99, Diğer (özel))
Kavram: Katsayıların, marjinal etkilerin ve etkili doz kestirimlerinin güven aralıklarının ne kadar güvenceli olacağını belirler. Düzey yükseldikçe aralık genişler.
Gündelik örnek: LD50 %95 güvenle 2,1 ile 2,8 mg/L arasında bulunduysa, %99 güven istendiğinde bu aralık genişler ve seracının dozu seçerken hesaba katması gereken belirsizlik artar.
Ne işe yarar: Wald güven aralığı (b +- z SE), AME aralığı ve Fieller ED sınırlarının düzeyini belirler.
Sonuca etkisi: Yalnız aralıklar.
Doğrulama verisinde: gre %95 [0.0001038, 0.002647]; %90 [0.0003083, 0.002443]; %99 [-0.000296, 0.003047]. Örnek 99.1 ED50 (log10 doz) 3.391: %95 [2.612, 4.271], %90 [2.749, 4.100].
Hosmer-Lemeshow
Kavram: Hosmer-Lemeshow testi, gözlemleri tahmin olasılıklarına göre gruplara ayırır ve her grupta gözlenen olay sayısını modelin beklediğiyle karşılaştırır. Anlamlı sonuç, modelin olasılıkları bazı kesimlerde sistematik olarak yanlış tahmin ettiğini gösterir.
Gündelik örnek: Model, ölüm olasılığı %20 civarında tahmin edilen 100 bitten yaklaşık 20'sinin öleceğini öngörür. Gerçekte 35'i ölmüşse model düşük dozlardaki etkiyi küçümsüyordur ve test bunu yakalar.
Ne işe yarar: Tahmin olasılıklarının 10 kantil grubunda gözlenen ve beklenen uyumu sınar (Hosmer-Lemeshow testi). Bireysel ikili veride uygundur; gruplu veride Pearson veya sapma uyum testi daha uygundur.
Sonuca etkisi: Yalnız ek tablo.
Doğrulama verisinde: UCLA binary: ki-kare 12.609, sd 8, p 0.126. Olay/deneme verisinde 7 farklı olasılık olduğundan MerQur yinelenen kesimleri atıp 5 grupla (sd 4) hesaplar.
Olay kategorisi (Büyük değer (varsayılan), Küçük değer)
Kavram: Olay kategorisi, iki sonuçtan hangisinin olasılığının modelleneceğini belirler. Diğer kategori seçilirse katsayıların işareti tersine döner; modelin söylediği şey değişmez.
Gündelik örnek: Olay 'öldü' seçilirse derişimin katsayısı pozitiftir: derişim arttıkça ölüm olasılığı artar. Olay 'yaşadı' seçilirse aynı katsayı negatif çıkar: derişim arttıkça hayatta kalma olasılığı azalır.
Ne işe yarar: P(Y = büyük değer) ya da P(Y = küçük değer) modellenir; katsayı işaretleri tersine döner.
Sonuca etkisi: Katsayı işaretleri, duyarlılık ve özgüllük.
Doğrulama verisinde: gre katsayısı 0.0013756 ve -0.0013756; duyarlılık 0.2362 ve 0.9304.
Sınıflama kesimi
Kavram: Sınıflama kesimi, tahmin edilen olasılığın hangi değerden sonra 'olay var' diye sınıflanacağını belirler. Kesim düşürüldükçe gerçek olayların daha fazlası yakalanır (duyarlılık artar) ama yanlış alarmlar da çoğalır (özgüllük düşer).
Gündelik örnek: Kesim 0,5 ise ölüm olasılığı %50'nin üstünde tahmin edilen bitler 'ölecek' sayılır. Seracı için hayatta kalan her bit yeni bir koloni demekse, kesimi 0,3'e indirmek hayatta kalma riskini daha sıkı izlemeyi sağlar.
Ne işe yarar: Tahmin olasılığı bu değere eşit ya da büyükse olay sayılır; doğruluk, duyarlılık, özgüllük ve 2x2 tabloyu belirler.
Sonuca etkisi: Yalnız sınıflama çıktıları.
Doğrulama verisinde: UCLA binary doğruluk: kesim 0.3 için 0.610, 0.5 için 0.710, 0.7 için 0.685.
Ek çıktı: AME (ortalama marjinal etki)
Kavram: Ortalama marjinal etki, bir yordayıcıdaki küçük bir artışın olay olasılığını ortalama ne kadar değiştirdiğini olasılık biriminde verir. Probit katsayısı z-ölçeğinde olduğundan doğrudan yorumlanması zordur; marjinal etki aynı bilgiyi 'yüzde puan' olarak anlatır. Kategorik yordayıcılarda düzeyler arası olasılık farkı hesaplanır.
Gündelik örnek: Ortalama marjinal etki 0,18 ise derişimin logaritmasındaki bir birimlik artış ölüm olasılığını ortalama 18 yüzde puanı yükseltir. 'Sera 2'de ölüm olasılığı sera 1'e göre ortalama 6 puan düşük' gibi bir sonuç da kategorik yordayıcının marjinal etkisidir.
Ne işe yarar: Ortalama marjinal etkiyi (dy/dx) delta yöntemi SE ile verir. Kategorik yordayıcıda ayrık değişim hesaplanır (düzey - temel düzey, diğer kuklalar 0).
Sonuca etkisi: Yalnız ek tablo.
Doğrulama verisinde: Sürekli yordayıcılarda gre 0.000561, gpa 0.155; rank2 -0.1564, rank3 -0.2868, rank4 -0.3213.
Ek çıktı: Sınıflama tablosu
Kavram: Sınıflama tablosu, modelin seçilen kesime göre yaptığı tahminleri gerçek sonuçlarla dört hücrede karşılaştırır: doğru olay, doğru olay-dışı, yanlış alarm ve kaçırılan olay. Doğruluk, duyarlılık ve özgüllük bu tablodan hesaplanır.
Gündelik örnek: 250 bitlik denemede model 120 ölümün 105'ini, 130 hayatta kalanın 112'sini doğru tahmin ettiyse duyarlılık 105/120 ≈ 0,88, özgüllük 112/130 ≈ 0,86 olur.
Ne işe yarar: Kesim değerine göre 2x2 sınıflama tablosunu verir.
Sonuca etkisi: Yalnız ek tablo.
Doğrulama verisinde: Kesim 0.5'te tp 30, tn 254, fp 19, fn 97.
Ek çıktı: Doz-yanıt (ED/LD)
Kavram: Etkili doz (ED_p), olayın p olasılıkla gerçekleştiği doz düzeyidir; ölüm söz konusuysa öldürücü doz (LD_p) adını alır. ED50 bireylerin yarısında yanıt oluşturan dozdur. Güven sınırları Fieller yöntemiyle, iki kestirimin oranı olan bu büyüklüğün belirsizliğini doğru yansıtacak biçimde hesaplanır.
Gündelik örnek: Model LD50'yi 2,4 mg/L, LD90'ı 5,1 mg/L bulduysa seracı, bitlerin yarısını öldürmek için 2,4, onda dokuzunu öldürmek için yaklaşık 5,1 mg/L'lik bir çözelti hazırlaması gerektiğini bilir.
Ne işe yarar: ED_p = (Phi^-1(p) - a)/b (ilk yordayıcı doz, diğerleri ortalamada) ve Fieller güven sınırlarını (z; heterojenlik çarpanı yok) verir.
Sonuca etkisi: Yalnız ek tablo.
Doğrulama verisinde: Örnek 99.1 doz verisi: ED50 (doz) 3.853 [3.100, 4.596]; log10 doz ile 3.391 [2.612, 4.271].
Doz-yanıt seçenekleri: log10(doz)
Kavram: Doz-yanıt ilişkisi çoğu zaman dozun kendisiyle değil logaritmasıyla doğrusaldır, çünkü dozdaki iki katlık bir artış düşük ve yüksek dozlarda benzer etki yaratır. Logaritmik doz, deneylerde dozların genellikle katlanarak artırılmasıyla da uyumludur.
Gündelik örnek: Seracı derişimleri 1, 2, 4, 8 ve 16 mg/L olarak seçtiyse log10 dönüşümü bu dozları eşit aralıklı hâle getirir. Ölüm olasılığı her iki katlık artışta benzer miktarda yükseliyorsa log ölçeği modeli belirgin biçimde iyileştirir.
Ne işe yarar: İlk yordayıcının log10 değerini alır (<= 0 satırlar atılır ve uyarı verilir).
Sonuca etkisi: Doz ölçeği ve ED.
Doğrulama verisinde: Örnek 99.1 log10(Dose) katsayısı 3.4181 (SE 0.7455).
Doz-yanıt seçenekleri: Doğal yanıt
Kavram: Doğal yanıt, olayın tedaviden bağımsız olarak da belirli bir oranda gerçekleşmesidir (ör. ilaç verilmeyen grupta da bazı bireylerin ölmesi). Abbott düzeltmesi bu taban oranı modele ekler, böylece etkili doz yalnız tedaviye bağlı yanıt üzerinden hesaplanır.
Gündelik örnek: Hiç ilaç sıkılmayan kontrol grubunda da 50 bitin 5'i 24 saat içinde doğal nedenlerle ölüyorsa, bu %10'luk taban ölüm ilaca atfedilmemelidir. Doğal yanıt seçeneği bu payı ayırır ve LD50'yi ilacın gerçek etkisine göre verir.
Ne işe yarar: Abbott düzeltmesi P = C + (1 - C) Phi(xb); C en çok olabilirlikle kestirilir; ED bu modelden hesaplanır.
Sonuca etkisi: Katsayılar, C ve ED tablosu.
Doğrulama verisinde: Örnek 99.4: C 0.27347 (SE 0.09459), log-olabilirlik -387.2467. Örnek 99.1 log10 modelinde C 0.1186. İkili UCLA verisinde C sınırdadır (yaklaşık 0) ve sınır uyarısı verilir.
Deneme sayısı (n) sütunu
Kavram: Veri olay/deneme biçimindeyse her satır bir grubu temsil eder: bağımlı değişken olay sayısı, deneme sütunu da o gruptaki birey sayısıdır. Model bu sayılardan her grubun olay oranını kullanır.
Gündelik örnek: Her derişim için tek satır vardır: '2 mg/L, 50 bit, 18 ölü'. Deneme sayısı sütunu 50'yi, bağımlı değişken 18'i taşır; böylece 250 bit için 250 ayrı satır yazmak gerekmez.
Ne işe yarar: Seçilirse veri olay/deneme biçimindedir: Y yanıt veren sayısı, bu sütun deneme sayısıdır; veri Bernoulli satırlarına açılır (BIC bu n ile).
Sonuca etkisi: Gruplu veride n ve BIC.
Doğrulama verisinde: Örnek 99.1: 7 satır, 74 deneme.
Aşırı yayılım ölçeği (Yok (ölçek = 1), Pearson, Deviance)
Kavram: Aşırı yayılım, gruplu verideki değişkenliğin modelin binom varsayımıyla beklenenden büyük olmasıdır; örneğin aynı gruptaki bireyler birbirinden bağımsız değilse ortaya çıkar. Görmezden gelinirse standart hatalar olduğundan küçük, güven aralıkları dar çıkar; ölçek düzeltmesi standart hataları buna göre büyütür.
Gündelik örnek: Aynı derişimdeki 50 bit tek bir yaprakta toplanmışsa ve o yaprak ilacı daha az tutmuşsa, ölümler birbirinden bağımsız değildir. Gruplar arasındaki dalgalanma beklenenden büyük çıkar; Pearson ölçek düzeltmesi LD50'nin güven aralığını bu gerçeğe göre genişletir.
Ne işe yarar: Standart hatayı kök(phi) ile ölçekler (phi, Pearson ki-karesi ya da sapma bölü serbestlik derecesi); olay/deneme biçiminde phi gruplanmış satırlardan hesaplanır. Ölçek yalnız katsayı tablosuna uygulanır (LR, Tip III, AME ve ED ölçeklenmez).
Sonuca etkisi: Katsayı SE, z, p ve aralıklar.
Doğrulama verisinde: Örnek 99.1 doz verisi: phi_Pearson 3.483280904, phi_sapma 4.049526004.
Frekans ağırlığı
Kavram: Frekans ağırlığı, bir satırın aynı değerlere sahip kaç gözlemi temsil ettiğini gösterir. Analiz, o satırı ağırlığı kadar tekrarlanmış gibi işler; bu, örnekleme ağırlığından farklıdır ve gerçek gözlem sayısını değiştirir.
Gündelik örnek: Veri '2 mg/L, öldü, 18' ve '2 mg/L, yaşadı, 32' biçiminde özetlenmişse frekans ağırlığı 18 ve 32'dir. Model bu iki satırı 50 ayrı bit gibi değerlendirir.
Ne işe yarar: Her satırı frekans kadar tekrarlanmış gözlem sayar.
Sonuca etkisi: Katsayılar, n ve SE.
Doğrulama verisinde: Frekans ağırlıklı veride katsayılar ve n, her satırın frekansı kadar tekrarlandığı açık veriyle aynıdır.
Bağlantı (dağılım) (Probit (normal), Logit (lojistik))
Kavram: Bağlantı fonksiyonu, doğrusal bileşimi olasılığa çeviren S eğrisini belirler. Probit normal dağılımı, logit lojistik dağılımı kullanır; iki eğri ortada çok benzerdir ve en çok uçlarda ayrışır, lojistik dağılımın kuyrukları biraz daha kalındır.
Gündelik örnek: Aynı yaprak biti verisine hem probit hem logit uydurulduğunda LD50 değerleri genellikle birbirine çok yakın çıkar. Fark daha çok LD99 gibi uç dozlarda görülür; çok yüksek etki hedefleniyorsa bağlantı seçimi doz kararını etkileyebilir.
Ne işe yarar: Probit formunda bağlantıyı logit yapar; marjinal etki, AME, doğal yanıt ve Fieller ED/LD seçilen bağlantının dağılımını kullanır.
Sonuca etkisi: Katsayılar ve ED.
Doğrulama verisinde: Log10 doz-yanıt örneğinde logit bağlantı seçildiğinde katsayılar, SE'ler ve ED10/50/90 lojistik dağılımdan hesaplanır.
Gerçek veride örnek
Veri: UCLA IDRE binary (lisansüstü kabul)
Değişkenler: hedef admit (kabul 0/1), prediktörler gre, gpa ve rank_t (okul sırası, kategorik)
- Soru: Lisansüstü programa kabul olasılığı GRE puanı, not ortalaması (GPA) ve mezun olunan okulun sırasıyla (r1-r4) nasıl ilişkilidir? (Bağımlı değişken ikili; probit bağlantı.)
- Model testi: LR χ²(5) = 41.56, p < .001; yordayıcılar birlikte kabul olasılığını anlamlı biçimde açıklar.
- Sonuç: GRE (b = 0.0014, z = 2.12, p = .034) ve GPA (b = 0.478, z = 2.44, p = .015) kabul olasılığını artırır; r1'e göre r2 (b = -0.415, p = .034), r3 (b = -0.812, p < .001) ve r4 (b = -0.936, p < .001) okullardan gelenlerin kabul olasılığı düşüktür.
- Etki büyüklüğü / uyum: McFadden R² = .083 (zayıf açıklayıcılık); AUC = 0.693, kesim 0.5'te doğruluk %71, duyarlılık .236, özgüllük .930: model kabul edilenleri yakalamada zayıftır.
- Ek bulgu: Ortalama X'te marjinal etki: GPA'daki 1 puanlık artış kabul olasılığını yaklaşık 0.167 artırır; r4 okulu r1'e göre olasılığı 0.327 düşürür.
- APA: Probit regresyon, LR χ²(5) = 41.56, p < .001, McFadden R² = .08; GPA b = 0.48, z = 2.44, p = .015, N = 400.
İlgili kavramlar
Etkili doz (ED50, LD50) ve doz-yanıtOrtalama marjinal etki (AME)Abbott düzeltmesi (doğal yanıt)Hosmer-Lemeshow uyum iyiliği testiBağlantı (link) fonksiyonuAşırı yayılım ve ölçek parametresiSınıflandırma tablosu (karışıklık matrisi)Frekans ağırlığı (özet tablo verisi)
Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.