MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → Bootstrap Güven Aralığı

Bootstrap Güven Aralığıanaliz

Bir istatistiğin güven aralığını, dağılım varsayımına ya da hazır bir formüle dayanmadan, eldeki veriden yerine koyarak binlerce yeni örneklem çekip istatistiği her birinde yeniden hesaplayarak bulan yöntem.

Kavram

Güven aralığı hesaplamak için istatistiğin örneklemden örnekleme nasıl değiştiğini, yani örnekleme dağılımını bilmek gerekir. Ortalama için bu dağılımın formülü bilinir, ama medyan, kırpılmış ortalama, değişim katsayısı ya da iki medyanın farkı gibi istatistikler için basit ve güvenilir bir formül çoğu zaman yoktur; ayrıca formüller genellikle normallik gibi varsayımlara dayanır. Bootstrap bu sorunu, ana kütleden yeni örneklemler çekemesek de eldeki örneklemi ana kütlenin en iyi temsilcisi sayarak çözer.

Yöntem şöyle işler: n gözlemlik veriden, yerine koyarak, yine n gözlemlik bir 'bootstrap örneklemi' çekilir; bazı gözlemler birkaç kez, bazıları hiç seçilmez. İstatistik bu örneklemde hesaplanır. İşlem binlerce kez (B kez) tekrarlanır ve elde edilen değerlerin dağılımı örnekleme dağılımının yerine kullanılır. Bu dağılımın standart sapması bootstrap standart hatasını, ortalamasının gözlenen değerden farkı yanlılığı verir. En basit aralık olan yüzdelik aralıkta %95 güven için dağılımın %2,5 ve %97,5 noktaları alınır; BCa aralığı ise yanlılık ve çarpıklık için ek bir düzeltme yapar.

Bootstrap sihirli değildir: eldeki örneklemin ana kütleyi iyi temsil ettiğini ve gözlemlerin bağımsız olduğunu varsayar. Çok küçük örneklemlerde (ör. 10'dan az gözlem) örneklem ana kütlenin şeklini yansıtamayabilir ve aralıklar olduğundan dar çıkabilir. Uç değerlere ya da en büyük değer gibi verinin tek bir noktasına bağlı istatistiklerde iyi çalışmaz. Sonuç rastgele yeniden örneklemeye dayandığı için B yeterince büyük seçilmeli ve tekrarlanabilirlik için tohum kaydedilmelidir.

Ne zaman kullanılır?

  • Medyan, kırpılmış ortalama, değişim katsayısı, iki medyanın farkı ya da korelasyon gibi standart güven aralığı formülü olmayan ya da formülü güçlü varsayımlara dayanan istatistikler için.
  • Veri çarpıksa ve örneklem orta büyüklükteyse, normal dağılıma dayanan aralıklara alternatif ya da onları doğrulamak için; dağılım normale yakın ve örneklem büyükse klasik t aralığı ile bootstrap aralığı neredeyse aynıdır.
  • Amaç bir güven aralığı değil, iki grubun farkını sınamaksa dağılımdan bağımsız bir seçenek olarak permütasyon testi kullanılır; gözlemler zamana ya da kümelere göre bağımlıysa bu yapıyı koruyan blok veya küme bootstrap gerekir.

Gündelik bir örnek

Bir hastane, belirli bir ameliyattan sonra hastaların kaç gün yattığını raporlamak istiyor. 40 hastanın yatış süreleri çoğunlukla 3-5 gün, ama birkaç komplikasyonlu hasta 15-20 gün yatmış; dağılım sağa çarpık ve medyan 4 gün. Medyan için basit bir güven aralığı formülü olmadığından hastane bootstrap kullanıyor: 40 hastanın kayıtlarından yerine koyarak 40'lık yeni örneklemler çekiliyor ve her birinde medyan hesaplanıyor. 10000 tekrardan sonra medyanların ortadaki %95'i 3,5 ile 5 gün arasına düşüyorsa bu, medyan yatış süresinin %95 bootstrap güven aralığıdır.

MerQur'da parametreler

Sütun (sayısal ya da ikili sütun listesi)

Kavram: Bootstrap, seçilen değişkenin gözlenen değerlerini yeniden örneklenecek 'mini ana kütle' olarak kullanır. Oran gibi istatistikler için değişkenin ikili (0/1) kodlanmış olması gerekir; eksik değerler yeniden örneklemeye katılmaz.

Gündelik örnek: Hastane yatış süresini (gün) sayısal sütun olarak seçer. 'Yeniden yatış oldu mu?' sorusunu 0/1 kodlayan bir sütun seçerse bootstrap bu kez yeniden yatış oranının güven aralığını verir.

Ne işe yarar: İstatistiğin hesaplanacağı sütunu seçer (yalnız sayısal ve ikili sütunlar listelenir, eksikler atılır). Oran için 0/1 ya da sayısal kodlu sütun gerekir.

Sonuca etkisi: Tüm çıktıyı belirler.

Doğrulama verisinde: hsb2 write ortalaması 52.7750, yüzdelik %95 GA (51.445, 54.070); law GPA ortalaması 3.0947, GA (2.9773, 3.2113).

İstatistik (ortalama, medyan, SD, oran, kırpılmış ortalama, varyans, değişim katsayısı, yüzdelik, Pearson, Spearman, ortalama farkı, medyan farkı)

Kavram: Bootstrap'in gücü, örnekleme dağılımının formülü bilinmeyen istatistiklere de uygulanabilmesidir. Ortalama ve oran gibi formülü olan istatistiklerde klasik aralıkları doğrular; medyan, kırpılmış ortalama, değişim katsayısı, yüzdelik ve iki grup farkı gibi istatistiklerde ise çoğu zaman en pratik yoldur.

Gündelik örnek: Yatış süresi çarpık olduğu için hastane ortalama yerine medyanı raporlamak istiyor. Bootstrap medyanın güven aralığını, ortalamanınkini hesapladığı kadar kolay verir.

Ne işe yarar: GA'sı hesaplanan istatistiği seçer. SD ve varyans n - 1 ile, yüzdelik doğrusal enterpolasyonla (tip 7) hesaplanır; iki grup farkı alfabetik birinci düzey - ikinci düzey biçimindedir.

Sonuca etkisi: Gözlenen değer, bootstrap dağılımı ve tüm GA'lar değişir.

Doğrulama verisinde: aircondit: ortalama 108.08, GA (46.58, 191.00); medyan 88.0 (12.5, 115.0); SD 136.23 (41.16, 201.43). law Pearson LSAT-GPA 0.7764 (0.456, 0.962). 4 veride 12 istatistik için gözlenen değer ve GA verilir.

2. sütun (yalnız Pearson ve Spearman'da)

Kavram: Korelasyonun bootstrap aralığında iki değişkenin değerleri birbirinden ayrılmaz: her gözlemin değer çifti bir bütün olarak yeniden örneklenir. Böylece iki değişken arasındaki ilişki her bootstrap örnekleminde korunur.

Gündelik örnek: Hastane, hastanın yaşı ile yatış süresi arasındaki ilişkiyi merak ediyor. Her hastanın 'yaş, yatış süresi' çifti tek bir kart gibi torbaya konur; kartlar çekildikçe korelasyon yeniden hesaplanır.

Ne işe yarar: Korelasyonun ikinci değişkenini seçer; satır çiftleri birlikte yeniden örneklenir.

Sonuca etkisi: Yoksa ya da birinci sütunla aynıysa analiz uyarıyla durur. Diğer istatistiklerde etkisizdir.

Doğrulama verisinde: hsb2 write-math Pearson 0.6174, B = 500 için GA (0.5403, 0.6931); sınırlar yeniden örneklemeye bağlı olarak Monte Carlo payı kadar değişebilir.

Grup / tabaka ve Tabakalı yeniden örnekleme (onay kutusu)

Kavram: İki grubun farkı incelenirken yeniden örnekleme her grubun içinde ayrı yapılır; böylece her bootstrap örneklemi gruplarının özgün büyüklüklerini korur. Tabakalı yeniden örnekleme aynı mantığı diğer istatistiklere uygular: önemli bir alt grubun oranı her bootstrap örnekleminde sabit kalır.

Gündelik örnek: Hastane, laparoskopik ve açık ameliyat olan hastaların medyan yatış süresi farkını istiyorsa iki grubun kayıtları ayrı torbalara konur ve her torbadan kendi büyüklüğü kadar çekilir. Böylece hiçbir bootstrap örneğinde bir grup tümüyle kaybolmaz.

Ne işe yarar: İki grup farkı istatistiklerinde grup (tam 2 düzey) seçilir; tabakalı onayı diğer istatistiklerde her grup düzeyi içinde ayrı yeniden örnekleme yapar.

Sonuca etkisi: Fark istatistiklerinde grup zorunludur ve örnekleme zaten tabaka içidir; tabakalı kapalıyken diğer istatistiklerde grup etkisizdir.

Doğrulama verisinde: hsb2 write ortalaması SE 0.6707 iken tabakalıda 0.6489; GA (51.445, 54.070) iken (51.490, 54.025).

→ Bootstrap (yeniden örnekleme)

B (yeniden örnek sayısı, 100-100000)

Kavram: B, yeniden örneklemenin kaç kez tekrarlanacağıdır. B arttıkça bootstrap dağılımı daha düzgün oluşur ve aralığın sınırlarındaki rastlantısal (Monte Carlo) dalgalanma azalır. Standart hata için birkaç yüz tekrar çoğu zaman yeterliyken güven aralığı sınırları için binlerce tekrar gerekir.

Gündelik örnek: Yalnız 200 tekrarla aralık bir çalıştırmada 3,5-5 gün, ötekinde 3-5,5 gün çıkabilir. 10000 tekrarla sınırlar her çalıştırmada neredeyse aynı kalır.

Ne işe yarar: Yeniden örnek sayısını belirler ve MC hatasını denetler (B < 1000 için uyarı verilir).

Sonuca etkisi: GA sınırları B ile değişir.

Doğrulama verisinde: aircondit ortalama için B = 200 GA (55.33, 187.59), 2000 (47.41, 192.59), 10000 (46.58, 191.00); yüzdelik alt sınırın MC SD'si B = 10000'de 0.53. Yüzdelik ve BCa için B >= 2000 önerilir (Efron ve Tibshirani, 1993).

→ Bootstrap (yeniden örnekleme)

Tohum

Kavram: Bilgisayardaki rastgele sayılar aslında bir başlangıç değerinden (tohum) üretilen belirlenimli dizilerdir. Aynı tohum aynı rastgele çekilişleri, dolayısıyla aynı sonucu verir; bu, analizin başkaları tarafından birebir tekrarlanabilmesini sağlar.

Gündelik örnek: Hastanenin raporunda medyan için '3,5-5 gün' yazıyorsa ve kullanılan tohum belirtilmişse bir denetçi aynı veri ve tohumla tam olarak aynı aralığı elde eder. Tohum değişirse sınırlar yalnız son basamaklarda küçük farklar gösterir.

Ne işe yarar: Tekrarlanabilirlik için rastgele sayı üreteci tohumunu belirler (numpy default_rng); aynı tohum aynı sonucu verir.

Sonuca etkisi: GA sınırları MC payı kadar değişir.

Doğrulama verisinde: aircondit için tohum 0 GA (47.00, 189.00), 12345 (46.08, 190.50), 42 (46.58, 191.00).

→ Rastgele tohum (seed)

GA yöntemi (Yüzdelik, BCa)

Kavram: Yüzdelik aralık, bootstrap dağılımının uç yüzdeliklerini doğrudan alır ve en sezgisel yöntemdir. BCa (yanlılığı düzeltilmiş ve hızlandırılmış) aralık, istatistiğin yanlılığını ve standart hatasının değerle birlikte değişmesini hesaba katan iki düzeltme yapar; çarpık verilerde ve yanlı istatistiklerde genellikle daha doğru kapsama sağlar. Normal, basic ve studentize aralıklar karşılaştırma için ek seçeneklerdir.

Gündelik örnek: Yatış süreleri sağa çarpık olduğu için ortalamanın bootstrap dağılımı da hafifçe sağa çarpıktır. Yüzdelik aralık 4,8-7,1 gün verirken BCa bu çarpıklığı düzelterek 4,9-7,4 gün gibi biraz sağa kaymış bir aralık verebilir.

Ne işe yarar: Birincil GA'yı seçer: yüzdelik ya da BCa (Efron, 1987). Yüzdelik, BCa, normal, basic ve studentize (ortalama ve ortalama farkında) aralıklar her zaman ek satırlarda raporlanır.

Sonuca etkisi: Birincil GA ve künye değişir. BCa tanımsızsa (jackknife varyansı 0) etiket "Yüzdelik (BCa hesaplanamadı)" olur ve uyarı yazılır.

Doğrulama verisinde: hsb2 write yüzdelik (51.445, 54.070), BCa (51.415, 54.035) (z0 = -0.0168, a = -0.0056). aircondit ortalama BCa (56.00, 224.08), a = 0.0938.

→ BCa bootstrap güven aralığı

Kırpma / yüzdelik, % (yalnız kırpılmış ortalama ve yüzdelikte)

Kavram: Kırpılmış ortalama, her iki uçtan belirli bir oranda gözlem atıldıktan sonra kalanların ortalamasıdır; aykırı değerlere karşı ortalamadan daha dirençlidir. Kırpma %0 iken sıradan ortalamaya, %50'ye yaklaştıkça medyana yaklaşır. Yüzdelik istatistiğinde ise bu değer hangi yüzdeliğin (ör. 90.) inceleneceğini belirler.

Gündelik örnek: %10 kırpılmış ortalama, en kısa ve en uzun yatan %10'luk dilimleri dışarıda bırakır ve komplikasyonlu birkaç hastanın etkisini sınırlar. Hastane planlama için 'hastaların %90'ı kaç günde taburcu oluyor?' sorusunu soruyorsa 90. yüzdeliğin aralığını ister.

Ne işe yarar: Kırpılmış ortalamada her uçtan kırpılan oranı (⌊np⌋ gözlem), yüzdelik istatistiğinde p'yi belirler.

Sonuca etkisi: Kırpma %0 ortalamaya, p = 50 medyana eşittir. Geçerli kırpma aralığı %0 ile %50 arasıdır (50 hariç); dışında gerekçeli uyarı verilir.

Doğrulama verisinde: aircondit kırpma %0 = 108.08, %10 = 80.7, %20 = 71.5; p = 50 = 88, p = 90 = 220.

→ Kırpılmış ortalama

Oranda sayılan değer (yalnız oran istatistiğinde)

Kavram: Oran, belirli bir özelliği taşıyan gözlemlerin payıdır. Hangi değerin 'başarı', yani sayılacak durum olduğu açıkça belirlenmelidir; aksi hâlde oran yanlış özelliğe göre hesaplanabilir.

Gündelik örnek: Bir sütunda hastanın taburcu sonrası durumu 0 'sorunsuz', 1 'yeniden yatış', 2 'acile başvuru' diye kodlanmışsa ve yalnız yeniden yatış oranı merak ediliyorsa sayılacak değer 1 olarak belirtilir.

Ne işe yarar: Oranın "başarı" değerini belirler; boşsa x > 0 oranı kullanılır.

Sonuca etkisi: Oran ve GA değişir.

Doğrulama verisinde: hsb2 female için boş ve "1" aynıdır (0.545, GA 0.475-0.615); "0" 0.455; ses "2" 0.475.

Güven düzeyi (%90, %95, %99, Diğer/özel)

Kavram: Güven düzeyi, bootstrap dağılımının hangi yüzdeliklerinin aralık sınırı olarak alınacağını belirler: %95 için %2,5 ve %97,5. Güven düzeyi yükseldikçe sınırlar dağılımın daha uç noktalarına kayar ve aralık genişler.

Gündelik örnek: %95 güvenle medyan yatış süresi 3,5-5 gün, %99 güvenle 3-5,5 gün çıkabilir. Uçlardaki yüzdelikler daha az bootstrap değerine dayandığı için yüksek güven düzeylerinde daha büyük bir B seçmek iyi olur.

Ne işe yarar: α = 1 - düzey; GA yüzdelikleri α/2 ve 1 - α/2'dir. Özel değer yalnız "Diğer" seçiliyken etkindir.

Sonuca etkisi: GA sınırları ve başlık değişir.

Doğrulama verisinde: aircondit ortalama yüzdelik GA'sı %80 (62.00, 158.43), %90 (52.83, 175.09), %95 (46.58, 191.00), %99 (35.17, 223.00).

→ Güven düzeyi ve güven aralığı

Gerçek veride örnek

Veri: UCLA OARC hsb2 (High School and Beyond, n = 200)

Değişkenler: sütun write (yazma puanı), istatistik ortalama

  • Soru: Yazma puanı ortalaması için dağılım varsayımı gerektirmeyen %95 güven aralığı nedir? (n = 200, B = 10000 yeniden örnekleme, tohum 42)
  • Sonuç: Gözlenen ortalama 52.775; bootstrap yüzdelik %95 GA (51.445, 54.070), genişlik 2.625.
  • Bootstrap dağılımı: Bootstrap SE = 0.6707 (klasik SE 0.670 ile neredeyse aynı), yanlılık 0.0045; ortalama için yanlılık ihmal edilebilir.
  • Diğer aralıklar: BCa (51.415, 54.035), normal (51.456, 54.085), basic (51.480, 54.105), bootstrap-t (51.430, 54.070); hepsi birbirine ve klasik t aralığına [51.45, 54.10] çok yakındır.
  • Yorum: Aralık, aynı yöntem tekrar tekrar uygulansaydı gerçek ortalamayı yaklaşık %95 oranında kapsardı; bu tek aralığın parametreyi içerme olasılığı değildir.
  • Sınırlılık: Sonuçlar rastgele yeniden örneklemeye bağlıdır; farklı tohum ya da program son ondalıklarda Monte Carlo payı kadar fark verir.
  • APA: M = 52.78, 95% bootstrap CI [51.45, 54.07] (percentile, B = 10000).

İlgili kavramlar

Kırpılmış ortalamaBootstrap (yeniden örnekleme)Değişkenlik katsayısı (CV)Yüzdelik (kantil) ve yüzdelik tanımlarıRastgele tohum (seed)JackknifeSpearman sıra korelasyonuBCa bootstrap güven aralığı

Örneklerdeki sayılar MerQur'un bağımsız, kamuya açık doğrulama verileri üzerindeki çıktılarıdır; ayrıntılar için MerQur Teknik Not'a bakınız.