MerQuR+Başvuru Kitabı

220. Yapısal konu modeli (STM)

Şablon kimliği: yapisal_konu_modeli · Kategori: metin · Dil: R · Dosya: pro/sablonlar/metin/yapisal_konu_modeli.R (satır 1–675; üstbilgi 1–221) · Örnek veri: _ornek/yapisal_konu_modeli_gadarian.csv (ikinci örnek: yapisal_konu_modeli_anayasalar.csv) · Paketler: stm 1.3-8, tm 0.7-20, SnowballC 0.7-1, stringi 1.8-7, igraph 2.3-4

220.1 Ne işe yarar

Açık uçlu anket yanıtları, haberler, tutanaklar ya da makale özetleri gibi metin koleksiyonunda gizli konuları bulur ve konuların belgelerdeki payının (yaygınlık) ve sözcük kullanımının (içerik) belge düzeyindeki ortak değişkenlerle nasıl değiştiğini kestirir (Roberts, Stewart ve Tingley, 2019; stm paketi). Her belge, K konunun karışımıdır; her konu, sözcükler üzerinde bir olasılık dağılımıdır.

\boldsymbol\theta_d\sim\mathrm{LogisticNormal}\bigl(\mathbf x_d'\boldsymbol\Gamma,\ \boldsymbol\Sigma\bigr),\qquad z_{d,n}\sim\mathrm{Kategorik}(\boldsymbol\theta_d),\qquad w_{d,n}\sim\mathrm{Kategorik}\bigl(\boldsymbol\beta_{d,z_{d,n}}\bigr)
  • d: belge; n: belgedeki sözcük konumu; K: konu sayısı; \boldsymbol\theta_d (K boyutlu, toplamı 1): belgenin konu payları.
  • \mathbf x_d: yaygınlık ortak değişkenleri (doğrusal terimler ve düzgün s() terimleri); \boldsymbol\Gamma: ortak değişken katsayıları; \boldsymbol\Sigma: konular arası kovaryans (konu korelasyonlarını verir).
  • z_{d,n}: sözcüğün konusu; w_{d,n}: gözlenen sözcük; \boldsymbol\beta_{d,k}: k konusunun sözcük dağılımı; içerik ortak değişkeni varsa belgenin içerik düzeyine göre değişir.

Kestirim, değişimli (variational) EM ile yapılır; yakınsama ölçütü kanıt alt sınırının (ELBO) göreli değişimidir (220.4.3).

Ne zaman kullanılır? Metinden konuları bulmak ve konu yaygınlığının belge özellikleriyle (deney grubu, yıl, parti, yazar) ilişkisini sınamak; örnek veride "göçmenlik kaygısı" deneysel koşulunun konuları nasıl değiştirdiği.

Ne zaman kullanılmaz?

  • Yalnız sınıflandırma ya da gözetimli etiketleme gerekiyorsa: bu şablon konuları gözetimsiz bulur; etiketli veri için başka yöntem gerekir (şablon yok).
  • Çok kısa belgeler (birkaç sözcük) için konu kestirimi kararsızdır; belgeleri birleştirmek gerekir.
  • Belgeler zamana göre sıralı ve konu dinamiği isteniyorsa: bu şablon zaman için yalnız ortak değişken kullanır (düzgün s() terimi); dinamik konu modeli değildir.
  • Sözcüklerin sırası ve anlamı önemliyse (cümle düzeyi anlam): çantadaki sözcük (bag-of-words) varsayımı yetmez.

Temel programla ilişki. Temel programda metin madenciliği, metin ön işleme ya da konu modeli analizi yoktur; analiz kayıt defterinde (core/analysis_registry.py) metin verisine dönük bir analiz bulunmaz. Yakın analizler sayısal ya da kategorik veri içindir: K-Means Clustering, Hierarchical Clustering, Latent Class Analysis (LCA) ve PCA belgeleri/sütunları gruplar ya da boyut indirger, ama sözcük sayımından konu çıkarmaz ve belge düzeyinde ortak değişkenle konu yaygınlığını modellemez. Bu şablonun getirdiği: metin ön işleme (küçük harf, durak sözcük, kök bulma), konu modeli, K seçimi, konu yaygınlığı ve içerik etkileri, temsilî belgeler ve konu korelasyonları.

220.2 Şablonun girdileri

Form, üstbilgideki yirmi sekiz [[param]] bloğundan kurulur (yapisal_konu_modeli.R:12–220).

Alan (form etiketi) · ad Tür · sekme Varsayılan Geçerli değerler Kodda etkisi
Metin sütunu · metin sütun · Değişkenler boş herhangi Belge metni (247–250).
Yaygınlık ortak değişkenleri (doğrusal) · yayginlik sütunlar · Değişkenler boş herhangi Yaygınlık formülüne doğrusal (429–432).
Yaygınlık ortak değişkenleri (düzgün, s()) · yayginlik_duzgun sütunlar (sayısal) · Değişkenler boş sayısal, \ge4 farklı değer s() B-spline terimi (429–432).
İçerik ortak değişkeni · icerik sütunlar · Değişkenler boş kategorik, \le20 düzey; yalnız ilki content (433).
Konu sayısı · K tamsayı · Model 10 2–200 stm(K = ) (490).
Başlatma · baslatma seçim · Model Spectral Spectral, LDA, Random init.type (490).
Tohum (0 = çalıştırmanın tohumu) · tohum tamsayı · Model 12345 0–2147483647 seed, set.seed (268, 466, 584).
Metin dili · dil seçim · Seçenekler english 13 dil Durak sözcük, kök bulucu, küçük harf kuralı (304–383).
Durak sözcükler · durak seçim · Seçenekler otomatik otomatik, snowball, stopwords-iso, nltk, yok Durak listesi (311–345).
Ek durak sözcükler · ek_durak metin · Seçenekler boş virgül/boşlukla ayrılmış Küçük harfe çevrilip çıkarılır (346–353).
Kök bulma · kok_bul onay · Seçenekler açık açık / kapalı stem (355–362).
Küçük harfe çevir · kucuk_harf onay · Seçenekler açık açık / kapalı lowercase (305–310, 379).
Sayıları sil · sayi_sil onay · Seçenekler açık açık / kapalı removenumbers (380).
Noktalamayı sil · noktalama_sil onay · Seçenekler açık açık / kapalı removepunctuation (380).
Unicode noktalamayı da sil · unicode_noktalama onay · Gelişmiş kapalı açık / kapalı ucp (380).
En kısa sözcük · en_kisa tamsayı · Seçenekler 3 1–20 wordLengths = c(en_kisa, Inf) (381).
Seyrek terim alt eşiği · alt_esik tamsayı · Seçenekler 1 0–100000 prepDocuments(lower.thresh = ) (394).
K seçimi (searchK) · k_ara onay · Seçenekler kapalı açık / kapalı searchK (453).
Aday K değerleri · k_adaylari metin · Seçenekler 5, 10, 15, 20 tamsayılar searchK(K = ) (454–460).
En çok EM iterasyonu · en_cok_iter tamsayı · Gelişmiş 500 1–10000 max.em.its (468, 491).
Yakınsama ölçütü · yakinsama ondalık · Gelişmiş 0,00001 10^{-10}–0,01 emtol (468, 491).
s() serbestlik derecesi · duzgun_sd tamsayı · Gelişmiş 10 3–30 s(x, df = ) (429–431).
Spectral başlatmada en çok sözcük · spektral_v tamsayı · Gelişmiş 10000 100–100000 control$maxV (436–443).
Konu başına gösterilecek sözcük · sozcuk_sayisi tamsayı · Çıktı 7 1–50 labelTopics(n = ) (524).
Konu başına temsilî belge · temsili_belge tamsayı · Çıktı 3 0–20 findThoughts (562–579).
Temsilî belgede en çok karakter · belge_uzunlugu tamsayı · Çıktı 300 40–5000 Metin kesme (568–575).
Konu korelasyonu yöntemi · korelasyon seçim · Çıktı simple simple, huge topicCorr(method = ) (627–635).
Korelasyon eşiği · korelasyon_esik ondalık · Çıktı 0,01 0–1 cutoff (635).

Örnek ayar (ornek_param, satır 9): metin = open.ended.response, yayginlik = [treatment], yayginlik_duzgun = [pid_rep], K = 3, tohum = 12345, temsili_belge = 2; diğer alanlar varsayılandır.

Şablonun kendi denetimleri (mq_hata ve .uyar):

Koşul İleti (özet) Satır
Veri açık değil "Önce Veri sekmesinde bir veri açın." 247
Metin sütunu seçilmemiş "Metin sütununu seçin." 249
Metin sütunu ortak değişken de "…çıkarın." 252
Aynı değişken doğrusal ve düzgün uyarı: yalnız düzgün terim kullanıldı 253–258
Birden çok içerik değişkeni uyarı: yalnız ilki kullanıldı 260–265
Eksiksiz belge <5 "Eksiksiz en az 5 belge gerekli." 286
Ortak değişken sabit ya da tek düzeyli "'…' sabit ya da tek düzeyli; çıkarın." 287–291
Düzgün terim için <4 farklı değer "…doğrusal olarak girin." 293–294
İçerik değişkeni sayısal uyarı: her farklı değer ayrı düzey 293–296
İçerik değişkeni >20 düzey "…20'den çok düzey içeriyor." 300
Gerekli paketler kurulu değil kurulum talimatı 234–244
Ön işlemeden sonra belge <5 "…5'ten az boş olmayan belge kaldı." 388–390
K> terim sayısı "K = … sözlükteki terim sayısından büyük." 424
K\ge belge sayısı "K = … belge sayısından küçük olmalı." 425
İçerik değişkeni ön işlemeden sonra tek düzeyli "…tek düzeyli kaldı." 426
Spectral başlatma başarısız "Spectral başlatma başarısız oldu…" (başka başlatmaya geçilmez) 489–499

Eksik değerler ve sütun türü. Metni boş ya da eksik olan satırlar ve ortak değişkenlerinden biri eksik olan satırlar çıkarılır ve sayıları yazılır (274–285). Ön işlemede içi boşalan belgeler ve seyrek terim süzgeciyle çıkan belgeler "Ön işleme özeti" tablosunda ayrıca görünür. Doğrusal yayginlik listesinde sayısal olarak aktarılan 0/1 sütun (örnek veride treatment) sayısal terim olarak girer (katsayı adı treatment); metin ya da kategorik sütun faktöre çevrilir ve kukla değişkenlerle girer (örnek: anayasa1961 Anayasası). Faktör düzeyleri veri sekmesinin düzey sırasıyla gelir (Bölüm 1.3) ve ilk düzey başvurudur. Tohum. Şablonun formunda kendi tohum alanı vardır (varsayılan 12345; 0–2147483647) ve çıktının ilk satırında "Tohum (seed): …" yazılır (272). Atama modeli bu değeri stm(seed =), searchK(seed =, heldout.seed =) ve set.seed() olarak kullanır. Alan 0 ya da boşsa Kod panelindeki çalıştırma tohumu (Bölüm 1.3) kullanılır (268–270); doluysa panel tohumu sonucu belirlemez ve çıktıdaki "Tohum (seed)" satırı kullanılan tohumdur. Spectral başlatma belirlenimcidir: tohum değişse de EM sonucu aynıdır; tohum yalnız estimateEffect benzetimini ve searchK'nın ayrılmış-veri bölünmesini etkiler. LDA ve Random başlatma tohuma bağlıdır (220.8).

220.3 Örnek veri

yapisal_konu_modeli_gadarian.csv, stm paketinin gadarian veri setidir (Gadarian ve Albertson, 2014; Roberts ve ark., 2014): Amerikalı katılımcıların göçmenlik konusundaki endişelerini açık uçlu soruyla yazdığı 341 yanıt. Deneysel koşul (treatment) göçmenlik konusunda kaygı uyandırıcı ya da nötr bir metin okutulmasıdır. Eksik değer yoktur; yanıtlar ortalama 22,7 sözcüktür (ortanca 14; en uzunu 183).

Değişken Rol Tür (veri sekmesinin algıladığı) Özet
MetaID kullanılmaz sayısal belge kimliği
treatment yaygınlık (doğrusal) ikili (0/1) 1: 171 yanıt, 0: 170 yanıt
pid_rep yaygınlık (düzgün) sayısal Cumhuriyetçi parti kimliği; 7 farklı değer (0–1)
open.ended.response metin metin küçük harfli İngilizce yanıt

İkinci örnek veri yapisal_konu_modeli_anayasalar.csv: Türkiye anayasa metinlerinden madde düzeyinde 402 kayıt (1876 Kânûn-ı Esâsî 119, 1921 Teşkîlât-ı Esâsîye 23, 1924 Teşkîlât-ı Esâsîye 105, 1961 Anayasası 155 madde; metin uzunluğu ortalama 296 karakter); sütunlar anayasa, yil, madde, bolum (9 eksik), metin.

Bölümde kullanılan çalıştırmalar (dogrulama/cikti/): ykm_ornek (örnek ayar); ykm_t2 (tohum = 2); ykm_kara (k_ara, k_adaylari = 2, 3, 4, 5, 8); ykm_icerik (yayginlik = [pid_rep], icerik = [treatment]); ykm_lda, ykm_lda_t2 (baslatma = LDA, tohum 12345 ve 2); ykm_yak (en_cok_iter = 5); ykm_nostem (kok_bul = kapalı); ykm_tr (anayasalar; metin, dil = turkish, yayginlik = [anayasa], K = 4, tohum = 1, temsili_belge = 1).

220.4 Yöntem: formüller ve hesap adımları

Hesap sırası: (1) metin ön işleme, (2) seyrek terim süzgeci, (3) konu modeli, (4) konu sözcükleri ve yaygınlık, (5) temsilî belgeler, (6) ortak değişken etkileri, (7) konu korelasyonları, (8) \boldsymbol\theta ve \boldsymbol\beta tabloları. İsteğe bağlı olarak (3)'ten önce K seçimi yapılır.

220.4.1 Ön işleme

tm::textProcessor (379) şu sırayla çalışır: küçük harfe çevirme, noktalama silme (sözcük içi tireler kalır), durak sözcük silme, sayı silme, Snowball kök bulma, ardından en kısa sözcük uzunluğu süzgeci. Şablon bu adımları form seçeneklerine bağlar. Sonra prepDocuments(lower.thresh) (394), en çok alt_esik belgede geçen terimleri çıkarır (varsayılan 1: yalnız bir belgede geçen terimler). Çıkarılan belge, terim ve sözcük sayıları "Ön işleme özeti" tablosuna yazılır (400–415); örnek veride sözlük 1102 terimden 462'ye iner (220.7).

Koddaki tercih

Küçük harf: Türkçede stringi::stri_trans_tolower(x, locale = "tr") (I→ı, İ→i) şablonda yapılır ve textProcessor lowercase = FALSE ile çağrılır (305–310, 379); diğer dillerde textProcessor kendi tolower'ını kullanır. Durak sözcük: dilin tm (Snowball) listesi varsa o (İngilizce 174 sözcük); yoksa (Türkçe, Arapça, Yunanca, Lehçe, Çekçe) stopwords paketinin stopwords-iso listesi (Türkçe 471 sözcük); kullanılan liste çıktıya yazılır (311–345). Kök bulma: SnowballC kök bulucusu dilde yoksa uyarı verilir ve kök bulma uygulanmaz (355–362). Türkçede kök bulucu kuralla ek kırpar; çıktıya uyarı notu yazılır (363–367).

220.4.2 Konu modeli

Model stm(documents, vocab, K, prevalence, content, data, init.type, seed, max.em.its, emtol, control) ile kurulur (489–499). Yaygınlık formülü doğrusal terimleri ve s(x) (B-spline) terimlerini birleştirir; boşsa yaygınlık ortak değişkensiz (ortak önsel) kestirilir ve estimateEffect çalıştırılmaz (434–435). İçerik formülü ~ içerik_değişkeni biçimindedir (433).

Neden Spectral başlatma

Spectral başlatma (Arora ve ark., 2013; Roberts ve ark., 2016), eş-oluşum matrisinin ayrışımından belirlenimci bir başlangıç verir: tohum bağımsızdır ve rastgele ya da LDA başlatmalarının sık düştüğü yerel eniyilerden kaçınır. Bu yüzden önerilen ve varsayılandır. Sözlük spektral_v'den büyükse (varsayılan 10000) başlatma yalnız en sık sözcüklerle yapılır ve bu uyarı olarak yazılır (436–443); kestirim bütün sözlükle sürer.

Başlatma ve yerel eniyi

Değişimli EM yerel eniyiye yakınsar. Spectral belirlenimci olsa da LDA ve Random başlatmalar tohuma bağlıdır ve farklı tohumlar farklı çözümlere (ve farklı ELBO'ya) götürür: örnek veride LDA, tohum 12345'te \mathrm{ELBO}=-18060{,}97 (318 iterasyon), tohum 2'de -18175{,}81 (248 iterasyon) verir (220.7). Şablon başka bir başlatmaya kendiliğinden geçmez (489–499).

220.4.3 Yakınsama

EM her iterasyonda kanıt alt sınırını (ELBO, b_t) hesaplar; durma kuralı göreli değişimdir:

\delta_t=\frac{b_t-b_{t-1}}{|b_{t-1}|},\qquad \delta_t<\varepsilon\ (=\texttt{emtol})\ \Rightarrow\ \text{yakınsadı};\qquad t=\texttt{en\_cok\_iter}\ \Rightarrow\ \text{durur (yakınsamadı)}
  • b_t: iterasyon t sonundaki ELBO (büyük = daha iyi; negatiftir); \delta_t: göreli değişim.
  • \varepsilon: yakinsama alanı (varsayılan 10^{-5}); t: EM iterasyon sayısı.

Şablon yakınsama durumunu, son ELBO'yu ve son göreli değişimi yazar; yakınsamadıysa uyarı verir ve ELBO tablosunu ve grafiğini sunar (500–521). Göreli değişim eksi ise (b_t<b_{t-1}), stm yine "yakınsadı" sayar (\delta_t<\varepsilon eksi değerde de sağlanır) ve şablon bu durumu ayrıca uyarır (512–516). İçerik değişkenli modellerde sık görülür (örnek: ykm_icerik, 13 iterasyon, \delta=-1{,}40\cdot10^{-4}).

220.4.4 K seçimi (searchK)

k_ara açıksa her aday K için ayrı bir model kurulur (searchK, 453–486); belgelerin bir kısmının sözcükleri ayrılır ve ölçütler hesaplanır: ayrılmış olabilirlik (ayrılan sözcüklerin log-olabilirliği; büyük iyidir), artık dağılımı (1'e yakınsa iyi; Taddy, 2012), kanıt alt sınırı, anlamsal tutarlılık (Mimno ve ark., 2011; büyük iyidir), dışlayıcılık (Roberts ve ark., 2014). Geçersiz adaylar (K<2, K>V, K\ge belge sayısı) atlanır ve yazılır (455–460).

searchK sonucu asıl modelle karşılaştırılamaz

searchK her aday için ayrılmış-veri üzerinde kendi modelini kurar; sinir, iterasyon ve artik değerleri asıl modelin ELBO tablosuyla aynı değildir (örnek veri, K=3: searchK 422 iterasyon ve -17462{,}14; asıl model 486 iterasyon ve -18182{,}64). Ölçüt tablosu K'lar arasında karşılaştırma içindir. Şablon searchK sonucuna göre K'yi kendiliğinden değiştirmez; seçilen K forma elle yazılır.

Şablonun searchK çağrısında iki ölçüt hesaplanmaz

Şablon searchK'yı do.call ile çağırır ve content argümanını yalnız içerik değişkeni varken iletir (467–471); içerik değişkeni yokken content hiç verilmez ve anlamsal tutarlılık ile dışlayıcılık hesaplanır (bağımsız doğrulama: dogrulama/yapisal_konu_modeli/searchk_dogrudan.R). İçerik değişkenli modelde stm bu iki ölçüyü hesaplamaz; sütunlar boş kalır ve çıktıdaki uyarı bunu söyler.

220.4.5 Konu sözcükleri, yaygınlık, temsilî belgeler

labelTopics dört sözcük listesi verir: en olası (\beta_{kv} büyük), FREX (sıklık ve dışlayıcılığın uyumlu ortalaması), Lift (\beta_{kv} / sözcüğün genel sıklığı) ve Score (log-oran tipi bir ağırlık) (524–549). İçerik modelinde labelTopics bu listeler yerine konu, içerik düzeyi ve etkileşim sözcüklerini döndürür (stm tanımı; 527–548). Konu yaygınlığı, belgeler üzerinden ortalama \bar\theta_k=\frac1D\sum_d\theta_{dk} ve bu yaygınlığın sırasıdır (552–559). findThoughts her konunun en yüksek \theta_{dk}'li belgelerini (temsilî belge) listeler (562–579).

220.4.6 Ortak değişken etkileri

estimateEffect(1:K ~ yaygınlık formülü, fit, uncertainty = "Global") (581–585), her konunun \theta'sını ortak değişkenlere bağlayan doğrusal regresyonu, \theta'nın belirsizliğini hesaba katarak kestirir: \theta'nın posterior dağılımından 25 örnek çekilir (Global belirsizlik), her örnekte regresyon kestirilir ve sonuçlar birleştirilir; summary 500 benzetimle standart hata ve t verir. Katsayılar konu oranı ölçeğindedir (doğrusal olasılık). Çekimler rastgele olduğundan şablon önce set.seed(tohum) çağırır (584).

Neden Global belirsizlik

uncertainty = "None" \theta'yı sabit sayar ve standart hataları küçültür; "Global" belge düzeyindeki belirsizliği yayar ve daha dürüst güven aralıkları verir. Bedeli: sonucun Monte Carlo değişkenliği (220.8, S6).

220.4.7 Konu korelasyonları

topicCorr(fit, method, cutoff) konular arasındaki korelasyonu \boldsymbol\Sigma'dan çıkarır (627–651): simple yöntemi korelasyon kestirimini cutoff eşiğiyle süzer; huge yöntemi yarı parametrik bir grafik model kestirir (huge paketi kuruluysa). Grafik, pozitif korelasyonlu konuları bağlar (igraph kuruluysa).

220.5 Kod adım adım

Satırlar Ne yapar Neden / dikkat
222–232 Üç dilli .m; .uyar; .dolu. Uyarılar hem anında hem sonda listelenir.
234–245 Paket denetimi (stm, tm); kurulum talimatı. Paket kurulmaz.
246–272 Veri, sütun rolleri, birden çok içerik ve doğrusal/düzgün çakışması uyarıları; K ve tohum; "Tohum" satırı. Çıktının ilk satırı tohumu yazar.
274–301 Eksik/boş satırlar; faktör kodlaması; düzgün terim ve içerik denetimleri. Çıkarılan satır sayısı yazılır.
303–367 Dil kodu; Türkçe küçük harf; durak sözcük kaynağı; ek durak sözcükler; kök bulma; Türkçe notu. Kullanılan durak listesi çıktıya yazılır.
378–396 textProcessor ve prepDocuments. Başarısızlık iletiyle durur.
397–426 "Ön işleme özeti" tablosu ve konsol özeti; belge, K, içerik denetimleri. Seyrek terim eşiğini yükseltmek sözlüğü küçültür.
428–446 Formüller; Spectral maxV; model özeti. Yaygınlık yoksa estimateEffect yapılmaz.
448–486 İsteğe bağlı searchK; tablo ve grafik. İçerik değişkeni yoksa anlamsal tutarlılık ve dışlayıcılık dolu gelir; content yalnız içerik değişkeni varken iletilir.
488–521 stm; ELBO, göreli değişim; yakınsama uyarıları; tablo ve grafik. Yakınsama durumu her çıktıda yazılır.
523–559 labelTopics; yaygınlık tablosu ve grafiği. İçerik modelinde sözcük tablosu farklı.
561–579 Temsilî belgeler (findThoughts). Metin belge_uzunlugu karaktere kesilir.
581–625 estimateEffect (Global); tablo; en çok dört ortak değişken için grafik. Çekimler set.seed(tohum)'a bağlıdır.
627–651 Konu korelasyonu ve ağ. huge yoksa simple'a düşer ve yazar.
653–668 \boldsymbol\theta ve \boldsymbol\beta tabloları. 5000 satırdan sonrası gösterilmez.
670–675 Uygulanamayan seçenekler ve uyarılar listesi.

220.6 Elle hesap: örnek veride bağımsız yeniden hesap

Bağımsız hesap iki yoldan yapılmıştır. dogrulama/yapisal_konu_modeli/r_dogrulama.R, stm'yi şablon sarmalayıcısı olmadan doğrudan çağırır (textProcessor, prepDocuments, stm, labelTopics, estimateEffect; aynı girdi, tohum ve ayar) ve searchk_dogrudan.R searchK'yı doğrudan çağırır. elle_hesap.py ise şablonun kaydettiği tablolardan ve metinden bağımsız hesaplar yapar: (1) kök bulma kapalıyken ön işlemeyi elle (küçük harf, Unicode noktalama silme, durak sözcük listesi, sayı silme, en kısa sözcük uzunluğu, belge sıklığı eşiği) yazar; (2) \theta ve \beta tablolarından satır/sütun toplamlarını, konu yaygınlığını ve en olası sözcükleri yeniden hesaplar; (3) ELBO tablosundan göreli değişimi hesaplar. Kök bulucu (Snowball) Python'da yeniden yazılmamıştır; kök bulma açık koşularda ön işleme sayıları yalnız R doğrudan çağrısıyla karşılaştırılır.

Adım 1 — Ön işleme (kök bulma kapalı). 341 yanıttan sözlük 1374 terim, 4096 sözcük; yalnız bir belgede geçen 875 terim çıkarılır (bir belge de boşalır) ve modele 499 terim, 3208 sözcük girer. Elle yazılan ön işleme aynı sayıları verir.

Adım 2 — Spectral başlatmalı model. K=3; yaygınlık formülü ~ treatment + s(pid_rep). 486 EM iterasyonundan sonra b_{486}=-18182{,}6399, \delta_{486}=(b_{486}-b_{485})/|b_{485}|=9{,}4965\cdot10^{-6}<10^{-5}.

Adım 3 — Yaygınlık. \bar\theta=(0{,}238024;\,0{,}348919;\,0{,}413056); \theta satırları ve \beta sütunları 1'e 10^{-14} içinde toplanır.

Adım 4 — En olası sözcükler. \beta tablosundan en büyük yedi değer: konu 1 immigr, american, need, countri, care, citizen, becom; konu 2 illeg, job, tax, will, worri, take, secur; konu 3 peopl, come, think, get, countri, work, english. Şablonun ve labelTopics'in listeleriyle aynıdır.

Adım 5 — Etki kestirimi. Aynı tohumla doğrudan estimateEffect: treatment katsayıları konu 1 için -0{,}009220, konu 2 için 0{,}142457, konu 3 için -0{,}132896; şablonun tablosuyla 9 haneye kadar aynıdır.

Adım 6 — K seçimi. K=2, 3, 5 için ayrılmış olabilirlik, artık dağılımı, kanıt alt sınırı ve iterasyon sayısı doğrudan searchK çağrısıyla aynıdır; anlamsal tutarlılık ve dışlayıcılık da doğrudan çağrıyla aynıdır (220.4.4).

220.6.1 Doğrulama: MerQuR+, Python ve R

Büyüklük MerQuR+ Python (bağımsız) R (bağımsız) En büyük fark
Kök bulma kapalı: terim sayısı 1374 1374 1374 0 ✓
Kök bulma kapalı: sözcük sayısı 4096 4096 4096 0 ✓
Kök bulma kapalı: seyrek terim (çıkarılan) 875 875 875 0 ✓
Kök bulma kapalı: modele giren terim 499 499 499 0 ✓
Kök bulma kapalı: modele giren sözcük 3208 3208 3208 0 ✓
Örnek: terim sayısı (kök bulma açık) 1092 — 1092 0 ✓
Örnek: sözcük sayısı (kök bulma açık) 4087 — 4087 0 ✓
Örnek: seyrek terim (çıkarılan) (kök bulma açık) 639 — 639 0 ✓
Örnek: modele giren terim (kök bulma açık) 453 — 453 0 ✓
Örnek: modele giren sözcük (kök bulma açık) 3437 — 3437 0 ✓
Örnek: EM iterasyon sayısı 486 486 486 0 ✓
Örnek: son ELBO −18182,63993861 −18182,63993861 −18182,63993861 0 ✓
Örnek: ilk ELBO −19213,14400202 — −19213,14400202 0 ✓
Örnek: son göreli değişim 9,496471·10−6 9,496471·10−6 9,496471·10−6 2,0e−16 ✓
Örnek: konu 1 yaygınlığı 0,23802444 0,23802444 0,23802444 3,1e−16 ✓
Örnek: konu 2 yaygınlığı 0,34891922 0,34891922 0,34891922 0 ✓
Örnek: konu 3 yaygınlığı 0,41305635 0,41305635 0,41305635 3,3e−16 ✓
Örnek: konu 1 (Intercept) kestirim (estimateEffect, tohum 12345) 0,20471044 — 0,20471044 0 ✓
Örnek: konu 1 (Intercept) SH 0,02730939 — 0,02730939 0 ✓
Örnek: konu 1 treatment kestirim (estimateEffect, tohum 12345) −0,00921998 — −0,00921998 0 ✓
Örnek: konu 1 treatment SH 0,02033959 — 0,02033959 0 ✓
Örnek: konu 1 s(pid_rep)1 kestirim (estimateEffect, tohum 12345) 0,02438557 — 0,02438557 0 ✓
Örnek: konu 1 s(pid_rep)1 SH 0,14103287 — 0,14103287 0 ✓
Örnek: konu 2 (Intercept) kestirim (estimateEffect, tohum 12345) 0,18585591 — 0,18585591 0 ✓
Örnek: konu 2 (Intercept) SH 0,03942636 — 0,03942636 0 ✓
Örnek: konu 2 treatment kestirim (estimateEffect, tohum 12345) 0,14245708 — 0,14245708 0 ✓
Örnek: konu 2 treatment SH 0,02638876 — 0,02638876 0 ✓
Örnek: konu 2 s(pid_rep)1 kestirim (estimateEffect, tohum 12345) 0,28106572 — 0,28106572 0 ✓
Örnek: konu 2 s(pid_rep)1 SH 0,17819277 — 0,17819277 0 ✓
Örnek: konu 3 (Intercept) kestirim (estimateEffect, tohum 12345) 0,60941675 — 0,60941675 0 ✓
Örnek: konu 3 (Intercept) SH 0,04331221 — 0,04331221 0 ✓
Örnek: konu 3 treatment kestirim (estimateEffect, tohum 12345) −0,13289581 — −0,13289581 0 ✓
Örnek: konu 3 treatment SH 0,0301996 — 0,0301996 0 ✓
Örnek: konu 3 s(pid_rep)1 kestirim (estimateEffect, tohum 12345) −0,3030935 — −0,3030935 0 ✓
Örnek: konu 3 s(pid_rep)1 SH 0,19844461 — 0,19844461 0 ✓
İçerik modeli: modele giren terim 453 — 453 0 ✓
İçerik modeli: EM iterasyon sayısı 13 — 13 0 ✓
İçerik modeli: son ELBO −18317,82749072 — −18317,82749072 0 ✓
İçerik modeli: konu 1 yaygınlığı 0,25059757 — 0,25059757 0 ✓
İçerik modeli: konu 2 yaygınlığı 0,37428685 — 0,37428685 0 ✓
İçerik modeli: konu 3 yaygınlığı 0,37511558 — 0,37511558 0 ✓
Türkçe örnek: terim sayısı (kök bulma açık) 4704 — 4704 0 ✓
Türkçe örnek: sözcük sayısı 11893 — 11893 0 ✓
Türkçe örnek: modele giren terim 1685 — 1685 0 ✓
Türkçe örnek: EM iterasyon sayısı 278 — 278 0 ✓
Türkçe örnek: son ELBO −54062,39755296 — −54062,39755296 0 ✓
Türkçe örnek: konu 1 yaygınlığı 0,08423602 — 0,08423602 0 ✓
Türkçe örnek: konu 2 yaygınlığı 0,50933827 — 0,50933827 0 ✓
Türkçe örnek: konu 3 yaygınlığı 0,18919861 — 0,18919861 0 ✓
Türkçe örnek: konu 4 yaygınlığı 0,2172271 — 0,2172271 0 ✓
θ satır toplamları − 1 (en büyük mutlak sapma) 0 1,110223·10−15 — 1,1e−15 ✓
β sütun toplamları − 1 (en büyük mutlak sapma) 0 8,770762·10−15 — 8,8e−15 ✓
En olası 7 sözcük: eşleşen konu sayısı (şablon = β'dan elle = labelTopics) 3 3 3 0 ✓
searchK K = 2: ayrılmış olabilirlik −5,17135024 — −5,17135024 0 ✓
searchK K = 2: artık dağılımı 2,05562739 — 2,05562739 0 ✓
searchK K = 2: kanıt alt sınırı −17649,90446916 — −17649,90446916 0 ✓
searchK K = 2: EM iterasyonu 222 — 222 0 ✓
searchK K = 2: anlamsal tutarlılık −90,15888305 — −90,15888305 0 ✓
searchK K = 2: dışlayıcılık 7,47629075 — 7,47629075 0 ✓
searchK K = 3: ayrılmış olabilirlik −5,31995073 — −5,31995073 0 ✓
searchK K = 3: artık dağılımı 1,97886828 — 1,97886828 0 ✓
searchK K = 3: kanıt alt sınırı −17462,13857018 — −17462,13857018 0 ✓
searchK K = 3: EM iterasyonu 422 — 422 0 ✓
searchK K = 3: anlamsal tutarlılık −89,35801445 — −89,35801445 0 ✓
searchK K = 3: dışlayıcılık 8,44865209 — 8,44865209 0 ✓
searchK K = 5: ayrılmış olabilirlik −5,17221081 — −5,17221081 0 ✓
searchK K = 5: artık dağılımı 1,81579375 — 1,81579375 0 ✓
searchK K = 5: kanıt alt sınırı −17216,58144238 — −17216,58144238 0 ✓
searchK K = 5: EM iterasyonu 473 — 473 0 ✓
searchK K = 5: anlamsal tutarlılık −108,20511754 — −108,20511754 0 ✓
searchK K = 5: dışlayıcılık 9,0518595 — 9,0518595 0 ✓
searchK: anlamsal tutarlılık ve dışlayıcılık sütunlarındaki dolu hücre sayısı (şablon; doğrudan çağrıda 3 K için 6 değer; aday K = 2, 3, 4, 5, 8 için 10 hücre) 10 — 10 0 ✓

Ölçütü karşılayan: 72/72. Bağımsız R sütunu stm paketini şablon sarmalayıcısı olmadan doğrudan çağırır (aynı girdi, tohum ve ayar); bağımsız Python sütunu ön işlemeyi elle (kök bulma kapalı) ve θ, β, ELBO denetimlerini şablonun kaydettiği tablolardan yeniden hesaplar. Python sütunu boşsa o büyüklük için bağımsız Python hesabı yoktur. searchK satırları şablonun content argümanı vermeden yaptığı çağrıyı doğrudan stm::searchK çağrısıyla karşılaştırır. Kök bulma açıkken (Snowball kök bulucu) ön işleme Python'da yeniden yazılmamıştır.

220.7 Çıktıyı okuma

Örnek veri, örnek ayar (ykm_ornek); konsol (kısaltılmış):

Tohum (seed): 12345
Kesme işaretli durak sözcükler (50 farklı sözcük, ör. don't, can't) noktalama silinmeden önce eşleştirildi: 75 geçiş çıkarıldı.
Dil: english; durak sözcükler: Snowball (174 sözcük; textProcessor varsayılanı); kök bulma: açık; küçük harf: açık; sayı silme: açık; noktalama silme: açık; en kısa sözcük: 3 karakter.
Model: K = 3; yaygınlık: ~treatment + s(pid_rep); içerik: yok; başlatma: Spectral; en çok 500 EM iterasyonu, emtol = 1e-05.
Yakınsama: 486 EM iterasyonu; yakınsadı. Son kanıt alt sınırı (ELBO) = -18182,6399; son göreli değişim = 9,4964711e-06 (emtol = 1e-05).
estimateEffect: θ'nın 25 örneklemi (Global belirsizlik) ve özet için 500 benzetim; tohum 12345. Katsayılar konu oranı ölçeğindedir (doğrusal olasılık).
Not: estimateEffect p değerleri 25 θ çekimine dayanır ve tohuma duyarlıdır; ...

Ön işleme özeti: 341 satır; sözlük 1092 terim ve 4087 sözcük; seyrek süzgeçle 639 terim ve 650 sözcük çıkar; modele 341 belge, 453 terim, 3437 sözcük girer.

Konu sözcükleri ve yaygınlıkları:

Konu En olası sözcükler FREX Yaygınlık Sıra
1 immigr, american, need, countri, care, citizen, becom immigr, need, money, concern, new, bring, just 0,2380 3
2 illeg, job, tax, will, worri, take, secur illeg, job, tax, secur, welfar, crime, social 0,3489 2
3 peopl, come, think, get, countri, work, english peopl, come, think, get, work, english, live 0,4131 1

Konular kök sözcüklerle yazılır (kök bulma açık): illeg = illegal, peopl = people. Konu 2 yasa dışı göçmenliği iş, vergi ve güvenlikle ilişkilendirir, konu 3 genel olarak insanlar, ülke ve dil üzerine yazılan yanıtları toplar, konu 1 göçmen ve vatandaşlık ihtiyacına odaklanır. Konu korelasyonları (simple): konu 2–3 -0{,}862, konu 1–3 -0{,}379, konu 1–2 -0{,}143.

treatment etkisi (estimateEffect, Global belirsizlik):

Konu Kestirim SH t p
1 −0,0092 0,0203 −0,453 0,6506
2 0,1425 0,0264 5,398 1{,}3\cdot10^{-7}
3 −0,1329 0,0302 −4,401 1{,}5\cdot10^{-5}

pid_rep için düzgün terimin altı baz katsayısı da tabloda yer alır (s(pid_rep)1 … s(pid_rep)6); bunlar tek tek yorumlanmaz, pid_rep grafiğiyle okunur.

Şekil 220.1. Yakınsama: kanıt alt sınırının (ELBO) EM iterasyonuna göre izi (`ykm_ornek`; 486 iterasyon).

Şekil 220.2. Konu yaygınlıkları: belgeler üzerinden ortalama konu oranı ve en olası üç sözcük.

Şekil 220.3. `treatment` etkisi: konulara göre kaygı koşulu − nötr koşul farkı ve %95 güven aralığı.

Öğe Ne yazar Nasıl yorumlanır
Ön işleme özeti Her adımda çıkan belge, terim ve sözcük. Sözlüğün çoğu seyrek terimdir (639/1092); çok seyrek ön işleme sonucu değiştirir.
Yakınsama EM iterasyonu, ELBO, son göreli değişim. YAKINSAMADI ya da eksi göreli değişim uyarı demektir; sonuçlar kesin değildir.
Konu sözcükleri En olası, FREX, Lift, Score. Konuyu adlandırmak için en olası ve FREX birlikte okunur; Lift ve Score nadir sözcükleri öne çıkarır.
Konu yaygınlığı Belgeler üzerinden ortalama \theta ve sıra. Konunun korpustaki payı.
Temsilî belgeler Her konunun en yüksek \theta'lı belgeleri. Konu adı için sözcük listesinden daha güvenilir; satır, veri setindeki satırdır.
Ortak değişken etkileri Konu başına katsayı, SH, t, p. Katsayı konu oranının değişimidir (doğrusal olasılık); p rastgele çekime bağlıdır (S6).
Konu korelasyonları \boldsymbol\Sigma'dan konu korelasyonu. Yüksek pozitif değer konuların birlikte geçtiğini gösterir.
\theta, \beta tabloları Belge–konu ve konu–sözcük olasılıkları. Satır/sütun toplamı 1'dir; sonraki analizler için dışa alınır.

Tohum ve başlatma. Spectral başlatmada tohum 2 ile (ykm_t2) ELBO, iterasyon sayısı, konu sözcükleri ve yaygınlıklar aynıdır; yalnız estimateEffect çekimleri değişir: konu 2 için treatment katsayısı 0,1425'ten 0,1411'e (p=1{,}3\cdot10^{-7} yerine 1{,}7\cdot10^{-7}), konu 3 için −0,1329'dan −0,1293'e (p=1{,}5\cdot10^{-5} yerine 1{,}9\cdot10^{-6}) değişir; bu veride karar tohumla değişmez. LDA başlatma (ykm_lda) 318 iterasyonda -18060{,}97, tohum 2'de (ykm_lda_t2) 248 iterasyonda -18175{,}81'e yakınsar; yaygınlıklar (0{,}305;\,0{,}367;\,0{,}328) ve (0{,}322;\,0{,}319;\,0{,}359) olur ve konu 1'in treatment p değeri sırasıyla 1{,}1\cdot10^{-13} ve 0{,}0572'dir: farklı çözümde konular ve kararlar farklı çıkabilir.

K seçimi (ykm_kara; K=2{,}3{,}4{,}5{,}8): ayrılmış olabilirlik -5{,}171; -5{,}320; -5{,}086; -5{,}172; -5{,}219 (büyük iyidir; en iyisi K=4); artık dağılımı 2{,}056; 1{,}979; 1{,}857; 1{,}816; 1{,}812 (K=8 en yakın 1'e); anlamsal tutarlılık -90{,}16; -89{,}36; -98{,}92; -108{,}21; -153{,}36 (büyük iyidir; en iyisi K=3); dışlayıcılık 7{,}48; 8{,}45; 8{,}82; 9{,}05; 9{,}46 (K arttıkça yükselir). K=4 500 iterasyona ulaşır.

İçerik modeli (ykm_icerik): içerik değişkeni sayısal (0/1) olduğundan her değer düzey sayılır ve uyarı yazılır; model 13 iterasyonda \delta=-1{,}40\cdot10^{-4} ile "yakınsadı" der ve eksi değişim uyarısı verir. labelTopics sözcük tablosu konu, içerik düzeyi ve konu × düzey etkileşimi satırlarından oluşur.

Yakınsamayan model (ykm_yak, en_cok_iter = 5): "5 EM iterasyonu; YAKINSAMADI", \delta=0{,}00157 ve uyarı.

Türkçe örnek (ykm_tr): 402 madde; Türkçe küçük harf kuralı uygulanır, durak sözcükler stopwords-iso listesinden (471 sözcük) gelir, Snowball Türkçe kök bulucusu kullanılır; sözlük 4704 terimden 1685'e iner (8720 sözcük); K=4; 278 EM iterasyonu, ELBO -54062{,}40. Konu 2 (heyeti, olunur, intihap, meclisi, icra, tâyin, kanunu) yaygınlığı 0,509 ile en büyüktür ve 1876–1924 dönemi metinlerine özgü sözcüklerle belirginleşir; konu 4 (kanunla, kamu, düzenlenir, devlet, özel, sahiptir, hallerde) 1961 metninde belirgindir (anayasa1961 Anayasası katsayısı +0{,}515). anayasa1961 Anayasası katsayısı konu 1'de +0{,}233 (p<10^{-13}), konu 2'de -0{,}967 (p<10^{-170}).

Rapor cümlesi. Açık uçlu yanıtlar (341) İngilizce metin için küçük harfe çevrildi, durak sözcükler ve sayılar silindi, sözcükler Snowball ile köklerine indirildi ve yalnız bir belgede geçen terimler çıkarıldı (453 terim); "don't", "can't" gibi kesme işaretli durak sözcükler noktalama silinmeden önce çıkarıldı. Spectral başlatmalı yapısal konu modeli (K=3; yaygınlıkta deney koşulu ve pid_rep için düzgün terim) 486 EM iterasyonunda yakınsadı (\delta=9{,}5\cdot10^{-6}). En yaygın konu genel göç ve ülke yanıtlarına ilişkindi (0,41). Kaygı koşulu, yasa dışı göçmenlik, iş ve vergi konusunun (konu 2) payını 0{,}142 artırdı (SH=0{,}026; p<0{,}001) ve konu 3'ün payını 0{,}133 azalttı (SH=0{,}030; p<0{,}001); farklı bir tohumla bu iki sonuç da p<0{,}001 kaldı.

220.8 Sık hatalar ve tuzaklar

  • K seçimi bir kural değil bir araçtır. Ayrılmış olabilirlik, artık dağılımı ve (hesaplanabildiğinde) anlamsal tutarlılık/dışlayıcılık farklı K önerebilir (örnek veride ayrılmış olabilirlik K=2, artık dağılımı K=8). Sonuç, konuların yorumlanabilirliğiyle birlikte değerlendirilir; şablon K'yi kendiliğinden seçmez.
  • searchK'da içerik değişkeni varsa anlamsal tutarlılık ve dışlayıcılık yok. stm bu iki ölçüyü içerik değişkenli modelde hesaplamaz; sütunlar boş kalır. İçerik değişkeni yoksa dolu gelir.
  • Yakınsama durumuna bakmadan yorum yapmak. "YAKINSAMADI" ya da eksi göreli değişim uyarısı varsa sonuçlar kesin değildir; en_cok_iter artırılır ya da farklı başlatma/tohumla denetlenir. Eksi değişimle "yakınsadı" yazılması bilinen bir stm davranışıdır (220.4.3).
  • LDA ve Random başlatma tohuma bağlıdır. Farklı tohumlar farklı konu çözümleri verir; çözüm kararlılığı için birkaç tohum denenir. Spectral başlatma belirlenimcidir.
  • p değerleri tohuma bağlıdır. estimateEffect yalnız 25 çekim kullanır; tohum değişince katsayı, SH ve p değişir; sınır değerler (p\approx0{,}05) iki yana düşebilir. Çıktı ve tohum alanı açıklaması bunu not eder; sonucu birkaç tohumla yineleyin.
  • Ön işleme seçimleri konuları değiştirir. Kök bulma, durak listesi, en kısa sözcük ve seyrek terim eşiği konu sözcüklerini ve \theta'yı etkiler. Kök bulma açık ve kapalı karşılaştırması önerilir; özellikle Türkçede (Snowball Türkçe kök bulucusu sınırlıdır).
  • Kesme işaretli durak sözcükler. İngilizce durak listesindeki don't, can't, i'm gibi 50 sözcük noktalama silinmeden önce tam sözcük olarak metinden çıkarılır (368–377) ve çıkarılan geçiş sayısı çıktıya yazılır; kullanıcının kesme işaretsiz yazdığı biçimler (dont, cant) listede olmadığından kalır, gerekiyorsa ek_durak alanına yazın.
  • Düzgün terim katsayıları tek tek yorumlanmaz. s(x) baz katsayılarıdır; etkiyi grafik gösterir.
  • İçerik değişkeni yalnız bir tane. Birden çok seçilirse yalnız ilki kullanılır (uyarı yazılır). Sayısal içerik değişkeni her farklı değerle düzeye dönüşür.
  • Kategorik yaygınlık değişkeninde başvuru düzeyi. Faktörün ilk düzeyi (Bölüm 1.3) başvurudur; katsayılar bu düzeye göre farktır.
  • Çok sayıda belge ya da sözcük. \theta ve \beta tabloları 5000 satırdan sonra gösterilmez (666–668).
  • Belge sayısı çok az. En az 5 belge zorunludur; anlamlı konu için yüzlerce belge gerekir.
  • Tohum. Formdaki tohum belirler; alan 0 ya da boşsa Kod panelindeki çalıştırma tohumu kullanılır.

220.9 Uzman soruları

S1. STM, LDA'dan nasıl ayrılır?

LDA belge–konu dağılımı için tek bir Dirichlet önseli kullanır ve belge özelliklerinden habersizdir. STM, konu yaygınlığını ortak değişkenlerin doğrusal (ya da düzgün) bir fonksiyonu olarak, lojistik-normal önselle modeller; bu önsel konular arası korelasyona da izin verir (Dirichlet vermez). İçerik ortak değişkeni de konu–sözcük dağılımını belge grubuna göre değiştirir (Roberts ve ark., 2014; 2016).

S2. Spectral başlatma neden tohumdan bağımsız?

Spectral başlatma, sözcük eş-oluşum matrisinin ayrıştırılmasıyla (Arora ve ark., 2013) konu–sözcük dağılımlarına belirlenimci bir başlangıç verir. Aynı veri ve aynı K için başlangıç hep aynıdır; EM de belirlenimcidir. Örnek veride tohum 12345 ve 2 aynı ELBO (-18182{,}6399) ve iterasyon sayısını (486) verir (220.7).

S3. Neden estimateEffect "Global" belirsizlikle?

Yaygınlık \theta_{dk} gözlenmeyen bir niceliktir; yalnız kestirimini regresyona koymak standart hatayı küçültür. Global belirsizlik \theta'yı posteriorundan çekip her çekimde regresyon kurar ve sonuçları birleştirir. Bu, hem \theta belirsizliğini hem örnekleme belirsizliğini yansıtır; bedeli Monte Carlo değişkenliğidir (S6).

S4. Konu sayısı nasıl seçilir?

Tek bir doğru ölçüt yoktur. Ayrılmış olabilirlik ayrılan sözcüklerin tahmin gücünü, artık dağılımı modelin açıklanamayan değişkenliğini (1'e yakın iyi; Taddy, 2012), anlamsal tutarlılık konunun üst sözcüklerinin birlikte geçmesini (Mimno ve ark., 2011), dışlayıcılık konuyu diğerlerinden ayıran sözcükleri ölçer. Şablonun searchK çağrısı içerik değişkeni yokken son ikisini de hesaplar. Seçim ölçüt, yorumlanabilirlik ve çalışmanın amacıyla birlikte yapılır.

S5. Eksi göreli değişim neden "yakınsadı" yazılıyor?

stm, durma kuralını \delta_t<\varepsilon olarak uygular; ELBO azaldığında \delta_t eksi olur ve kural sağlanır. Bu, gerçek yakınsama olmayabilir (iyileşme yoktur ama modelin sabit olduğu söylenemez). İçerik değişkenli modelde ykm_icerik 13 iterasyonda -1{,}4\cdot10^{-4} ile durur; şablon bunu ayrıca uyarır.

S6. Aynı model neden iki tohumda farklı p değeri verir?

estimateEffect \theta'dan yalnız 25 çekim yapar ve her çekimde regresyon kestirir; kestirimler çekimlerin ortalamasıdır. Çekim sayısı az olduğundan Monte Carlo değişkenliği standart hatanın birkaç yüzde noktasına çıkar. Örnek veride konu 3 için p=1{,}5\cdot10^{-5} (tohum 12345) ve 1{,}9\cdot10^{-6} (tohum 2); model, ELBO ve konular aynıdır ve karar değişmez; ama LDA başlatmalı çözümde konu 1 için p=0{,}057 ve 1{,}1\cdot10^{-13} gibi farklı sonuçlar çıkabilir (220.7). Sınıra yakın p değerlerinde karar tohumla değişebilir. Önlem: birkaç tohumla yinelemek ve kararlı sonucu raporlamak.

S7. Türkçe için kök bulma ne kadar güvenilir?

Snowball'un Türkçe kök bulucusu yalnız ekleri kuralla kırpar; eklemeli biçimlerde, ünlü uyumunda ve Osmanlıca sözcüklerde zayıftır, farklı sözcükleri aynı köke bağlayabilir ya da aynı sözcüğü farklı köklerde bırakabilir (örnek: türkiy, meclisi/mec). Şablon bunu çıktıya not düşer; kök bulma açık ve kapalı iki koşulla konuların kararlılığı denetlenmelidir.

S8. İçerik ortak değişkeni ile yaygınlık ortak değişkeni arasındaki fark nedir?

Yaygınlık, konunun belgedeki payını (hangi konular ne kadar konuşuluyor) değiştirir; içerik, aynı konuyu anlatırken kullanılan sözcükleri (bir konuyu nasıl konuşuyorlar) değiştirir. İçerik modeli parametre sayısını artırır, searchK anlamsal tutarlılığı hesaplayamaz ve ELBO daha kararsız seyreder.

220.10 Kaynaklar

  • Arora, S., Ge, R., Halpern, Y., Mimno, D., Moitra, A., Sontag, D., Wu, Y., & Zhu, M. (2013). A practical algorithm for topic modeling with provable guarantees. Proceedings of the 30th International Conference on Machine Learning (PMLR 28), 280–288.
  • Gadarian, S. K., & Albertson, B. (2014). Anxiety, immigration, and the search for information. Political Psychology, 35(2), 133–164. https://doi.org/10.1111/pops.12034
  • Mimno, D., Wallach, H. M., Talley, E., Leenders, M., & McCallum, A. (2011). Optimizing semantic coherence in topic models. Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, 262–272.
  • Porter, M. F. (1980). An algorithm for suffix stripping. Program, 14(3), 130–137. https://doi.org/10.1108/eb046814
  • Roberts, M. E., Stewart, B. M., & Airoldi, E. M. (2016). A model of text for experimentation in the social sciences. Journal of the American Statistical Association, 111(515), 988–1003. https://doi.org/10.1080/01621459.2016.1141684
  • Roberts, M. E., Stewart, B. M., Tingley, D., Lucas, C., Leder-Luis, J., Gadarian, S. K., Albertson, B., & Rand, D. G. (2014). Structural topic models for open-ended survey responses. American Journal of Political Science, 58(4), 1064–1082. https://doi.org/10.1111/ajps.12103
  • Roberts, M. E., Stewart, B. M., & Tingley, D. (2019). stm: An R package for structural topic models. Journal of Statistical Software, 91(2), 1–40. https://doi.org/10.18637/jss.v091.i02
  • Taddy, M. (2012). On estimation and selection for topic models. Proceedings of the 15th International Conference on Artificial Intelligence and Statistics (PMLR 22), 1184–1193.