MerQuR+İstatistik Sözlüğü

İstatistik Sözlüğü → Rastgele başlangıçlar ve yerel en iyi çözüm

Rastgele başlangıçlar ve yerel en iyi çözümkavram

Yinelemeli algoritmaların farklı başlangıç noktalarından defalarca çalıştırılması; amaç, algoritmanın yalnızca yerel bir en iyi çözüme (yerel optimum) takılıp kalmasını önlemek ve gerçek en iyi çözüme ulaşma olasılığını artırmaktır.

K-ortalamalar, gizil sınıf ve profil analizlerindeki EM algoritması, sinir ağlarının eğitimi ya da t-SNE gibi yöntemler, bir amaç fonksiyonunu (küme içi kareler toplamı, log-olabilirlik, kayıp) adım adım iyileştirir. Bu fonksiyonların birçok tepesi ya da çukuru olabilir; algoritma başladığı noktaya en yakın olana yakınsar ve orası küresel en iyi çözüm olmayabilir. Bu nedenle algoritma farklı rastgele başlangıçlarla çok kez çalıştırılır ve en iyi amaç değerini veren çözüm raporlanır. k-means++ gibi akıllı başlangıç yöntemleri, başlangıç merkezlerini birbirinden uzak seçerek kötü çözümlere takılma olasılığını azaltır.

En iyi log-olabilirliğin birçok başlangıçta tekrar bulunması, küresel en iyi çözüme ulaşıldığına dair güven verir; yalnız bir kez bulunmuşsa başlangıç sayısı artırılmalıdır. Sonuçların yinelenebilmesi için rastgele sayı tohumu raporlanmalıdır. Başlangıç sayısını artırmak hesaplama süresini uzatır ama çözüm kalitesini düşürmez. Çözümler arasındaki farklılık, modelin (ör. çok sayıda sınıfın) veriyle iyi desteklenmediğinin de bir işareti olabilir.

Gündelik bir örnek

Sisli bir dağlık bölgede en yüksek tepeyi bulmaya çalışan bir yürüyüşçü, yalnızca her adımda yukarı çıkan yönü izlerse, bulunduğu yere en yakın küçük tepenin zirvesine ulaşır ve orayı en yüksek nokta sanabilir. Aynı yürüyüşü bölgenin 20 farklı yerinden başlatıp ulaşılan zirvelerden en yükseğini seçmek, gerçek en yüksek tepeyi bulma şansını çok artırır.

MerQur'da

K-Ortalamalar Kümelemede 'Başlangıç (k-means++ / Rastgele)' ve 'Başlangıç sayısı (nstart)', Gizil Sınıf ve Gizil Profil Analizinde 'Rastgele başlangıç sayısı ve Rastgele tohum', Yapay Sinir Ağında 'Tohum tekrarı (başlangıç sayısı)', t-SNE'de 'Başlangıç (PCA / Rastgele)', Çok Boyutlu Ölçeklemede 'Başlangıç sayısı' parametreleriyle ayarlanır. Gözlenemeyen Bileşenler Modelinde olabilirlik çok tepeli olabildiği için çok başlangıçlı ML ile en iyi log olabilirlik seçilir.

Bu kavramın geçtiği analizler

Yapay Sinir AğıK-Ortalamalar KümelemeGizil Sınıf AnaliziGizil Profil Analizit-SNEÇok Boyutlu ÖlçeklemeGözlenemeyen Bileşenler Modeli

İlgili kavramlar

Yakınsama ve en fazla iterasyonRastgele tohum (seed)