Merkezi limit teoremi (CLT), istatistikte popüler bir kavramdır. Pek çok (hevesli) veri bilimcinin bunu bir tür biçimde ya da en azından teoremin yüksek düzeyde ne hakkında olduğunu duyduğuna inanıyorum. Teoremin genellikle, veri boyutu büyük olduğunda normal (Gaussian) dağılıma herhangi bir veri dağılımı arasında sihirli bir şekilde bağlantı sunduğu söylenir.
Bununla birlikte, teoremin gerçek kavramının, ben dahil birçokları için oldukça belirsiz olduğunu gözlemliyorum. Evet, teorem herhangi bir dağılımı normal dağılıma bağlar. Ama ne tür bir bağlantı? Belirsiz. Ve bağlantı kurma süreci nasıl? Ayrıca belirsiz.
Benim için daha da kötüsü, bir zamanlar teoremin boyut büyük olduğunda herhangi bir verinin her zaman normal dağılımı izleyeceğini ima ettiğini düşünmüştüm. Ya da başka bir deyişle, büyük veri noktalarında çarpık (veya normal olmayan) bir dağılım olması mümkün DEĞİLDİR. Lanet olsun!
Bu makale aracılığıyla CLT'yi açıklamaya çalışacağım, böylece yukarıdaki yanlış anlamanın aynısına kapılmayacaksınız. Son bölümde, teoremin önemini, her veri bilimcisinin kavraması gereken temel yetkinliklerden biri olan hipotez testinde de tartışacağım.
Bu makalenin menüleri aşağıdaki gibidir:
Aşağıdaki, merkezi limit teoreminin (CLT) kesin (matematiksel) şeklidir.
Panik yapmayın! Her birinizin katı bir matematikçi olduğunu varsaymadığım için, teoremin "sade İngilizce" versiyonunu sunuyorum:
Yeterince büyük bir örneklem büyüklüğü verildiğinde, bir değişken için ortalamanın örnekleme dağılımı , o değişkenin popülasyondaki dağılımına bakılmaksızın normal bir dağılımı yaklaşık olarak yaklaştıracaktır.
Daha da iyisi, ortalamanın örnekleme dağılımının ortalaması, nüfus ortalamasına eşittir.
Veya daha yüksek bir seviyede, bir değişkenin değerleri aşağıdaki gibi farklı olasılık dağılımlarını takip edebilir.
Bununla birlikte, ortalamanın örnekleme dağılımı , örneklem büyüklüğünün büyük olması nedeniyle her zaman çan eğimli (normal dağılım) şekli izleyecektir.
Yukarıdaki tartışmadan, bir kez daha vurgulamak istiyorum: normal dağılımı takip etmeyi / yaklaşık olarak yapmayı garanti eden, popülasyondaki orijinal değişken dağılımı DEĞİLDİR; bunun yerine, ortalamanın örnekleme dağılımıdır.
Ortalamanın örnekleme dağılımı nedir? Teoremin gerçekte ne hakkında olduğunu anlamama yardımcı olan gerçekten anahtar kavramdır. Öyleyse, aşağıdaki adım adım bir örnekle birlikte çökertelim!
Yukarıdakilere göre, ortalamanın örnekleme dağılımı, birçok örnek setinden topladığımız araçların her birinin oluşturduğu dağılımdır. Örneğimizde, k set örnek var (her biri n yükseklik değerinden oluşur ).
Şimdi merkezi limit teoremini iş başında görme zamanı!
Aşağıdaki olasılık kütle fonksiyonuna sahip çılgın (dengesiz) bir zarımız olduğunu varsayalım.
Yukarıdaki tabloyu okumak için bir örnek: zarın 5 gösterme olasılığı 0.3'tür (dengeli bir zarda olduğu gibi 1/6 ~ 0.166 yerine). Ayrıca, bu zar dağılımının ortalamasının 4 olduğuna dikkat edin.
(1x0,15) + (2x0,05) + (3x0,05) + (4x0,3) + (5x0,3) + (6x0,15) = 4
Sonra, bu zar dağılımını görselleştirelim! Açıktır ki, dağılım çan şeklinde bir yana, simetrik değildir.
Şimdi aşağıdakileri yapıyoruz. Zar dağılımını bilmiyormuş gibi davranıyoruz. Tek bildiğimiz elimizde zar olduğudur ve aşağıdaki prosedürü uygulayarak zar dağılımının ortalamasını tahmin etmek istiyoruz.
Yukarıdaki n = 5'in yalnızca açıklama amacıyla seçildiğine dikkat edin (her bir örnek ortalamayı hesaplamak için). CLT'nin devreye girmesine izin vermek için oldukça küçük. Aşağıda, tam olarak aynı prosedürü izleyen n = {10,30,50} olduğunda histogramları gösteriyoruz .
N = 10 için histogram
Birdenbire, histogram (ortalamanın örnekleme dağılımı) zaten bir şekilde çan şeklindedir! (Şekil 2'yi hatırlayın, orijinal dağıtım ciddi şekilde değil.) Bu gerçekten CLT'nin eylem halindeki bir göstergesidir .
Yine de yine de simetrik değildir (kırmızı daireye bakın), bu da ortalamanın 4'ten (temel gerçek) daha büyük olduğu anlamına gelir.
N = 30 için histogram
For n = 30, symmetricity daha iyi oluyor. Hala biraz sola eğimli olmasına rağmen, yine ortalamanın 4'ten biraz daha büyük olduğunu ima ediyor.
N = 50 için histogram
N = 50 için neredeyse simetrik bir Gauss dağılımına sahibiz . Dağılım 4'te merkezlenmiştir. Bu demektir ki, deneyimiz için n = 50 seçmiş olsaydık, çılgın zarımızın ortalamasını doğru tahmin etmiş olurduk.
Gözlemlenecek şeyler
Örnek boyutu n arttıkça demomuzda dikkat edilmesi gereken iki şey var :
Merkezi limit teoremi, hipotez testinde en azından aşağıdaki iki açıdan hayati önem taşır.
Testlerin normallik varsayımı
Zaten bildiğimiz gibi, birçok parametrik test, veriler üzerinde t-testi, ANOVA, vb. Gibi normallik varsayar.
Bu konuda daha fazla ayrıntıya girmek için, her biri 1000 örnekten türetilen sürekli bir metriğin iki grubundan iki aracı karşılaştıracağımızı hayal edin. Başlangıçta devam etmek için t-testini kullanmak istedik, ancak birisi verilerimizin normallik varsayımına itiraz ettikten sonra şüpheye dönüştü.
CLT'yi anlarsak, veri popülasyonu normal olmasa bile, ortalamanın örnekleme dağılımının yine de normal dağılımı izleyeceğini bildiğimiz için böyle bir endişe gereksizdir. Ve önemsememiz gereken tek şey bu çünkü araçları test etmek üzereyiz.
Nokta hipotez tahminlerinin kesinliği
Yukarıdaki demoyu gerçekleştirdikten sonra ikinci gözlemimizi hatırlayın; n büyüdükçe dağılım şekli değişkenlikte sıkılaşır . Bu, hipotez testimizin örneklem boyutu ne kadar büyükse, verilerimizden kaynaklanan nokta hipotez tahminlerinin gerçek popülasyon parametresine tam olarak yaklaştığından o kadar emin olduğumuz anlamına gelir.
İki yolu karşılaştırma örneğimize devam ediyoruz. Örneklem büyüklüğü 10.000'e çıkarılırsa, iki grubumuzun iki ortalama tahminin kesinliği konusunda daha emin oluruz - orijinal ayarda olduğu gibi 1000 ile karşılaştırıldığında.
Tebrikler - ve şimdiye kadar okuduğunuz için teşekkür ederim! 🎉
Bu yazıda, istatistikteki en önemli sonuçlardan biri olan merkezi limit teoremini tartıştık. Özellikle, dağılımı - başka değil - örneklem büyüklüğü büyük olduğunda normal dağılımı takip etmesi garanti edilen “ortalamanın örnekleme dağılımı” anahtar kavramını anlamayı vurguladık. Daha sonra teoremi, hayali bir çılgın zarın ortalamasını tahmin etmek için kullanarak eylem halinde gösterdik.
Bunu bir sözle bitirmek istiyorum. CLT yalnızca varyansı sonlu olan dağıtım için geçerlidir. Cauchy dağılımı gibi sonsuz varyanslı dağıtım anlamına gelir, CLT'nin sonucu geçerli olmayacaktır.
Sonuç olarak, umarım bu makale merkezi limit teoremini anlamanıza yardımcı olur!
Önümüzdeki 24 saat içinde, Ethereum ağında 100 milyon token serbest bırakılacak. Bu, kripto para birimi sektöründe şimdiye kadar görülen en büyük kripto odaklı veri bilimi deneyinin başlangıcı olacak.
MIT Seçim Laboratuvarı'nda yüksek lisans araştırmacısı ve doktora derecesi olan Jesse Clark tarafından yazılmıştır.
Oakland, CA'da halka açık verileri kullanarak hava kalitesini tahmin etmek Google ve EDF, Oakland'daki hava kirliliğini haritalama çalışmalarını yayınladığında, bu çalışmanın sonuçları büyük ilgi gördü. Yayınladıkları veriler, hava kalitesinin Doğu ve Batı Oakland'daki şehir bloklarına göre nasıl değiştiğini gösteren ilk veri kümelerinden biriydi.
Daniel Fleck ve David Lubert ile yazılmıştır Dizimizin ilk blogu, bir veri bilimi projesini uygun şekilde değerlendirmek için Net Şimdiki Değer (NPV), İç Getiri Oranı (IRR) ve Karlılık Endeksi'ni (PI) kullanmaya odaklanacaktır. Ayrıca, bir veri bilimi metodolojisinin kullanılmasının, bu aynı ekonomik ölçütlerin girdilerini daha yüksek kaliteli değerlendirmeler geliştirmek için nasıl daha da iyileştirebileceğini tartışacağız.
Öz bileşimi ve SVD için yararlı olan doğrusal cebir temel kavramını anlayın Bu makalede, öz ayrıştırma veya tekil değer ayrıştırma (SVD) gibi matris çarpanlara ayırma yöntemlerini anlamanın ilginç bir yolu olan temel kavramını öğreneceksiniz. Tanımlar Temel, vektör uzaylarını (vektör setleri) tanımlamak için kullanılan bir koordinat sistemidir.