“ Sağlam ve tahmine dayalı basit bir doğrusal regresyon modeli oluşturmayı öğrenin ”
Bu yazıda, bunun için yaygın olarak yapılan analizler de dahil olmak üzere basit doğrusal regresyon arkasındaki teknik kavramları parçalayacağım.
Basit doğrusal regresyon (SLR), başka bir değişken verilen bir değişkenin değerini tahmin etmek veya verilen iki değişken arasındaki doğrusal ilişkinin gücünü belirlemek için kullanılan istatistiksel bir tekniktir.
Örneğin, bir şirket, yıllık satışları tahmin etmek için reklam harcamalarını kullanmak istiyorsa ve yıllık satışlar, reklam harcamalarıyla yaklaşık olarak doğrusal bir ilişkiye sahipse, bir SLR modeli takılabilir, öyle ki bu model, reklam harcamasının bir değeri göz önüne alındığında, yıllık satışları tahmin edebilecektir. . Aşağıdaki şekil hattın nasıl takılacağını göstermektedir:
Yukarıdaki viz oluşturmak için kullanılan R kodu:
Çizgi, her bir veri noktası ile çizgi arasındaki dikey mesafe en aza indirilecek şekilde yerleştirilir.
İşte takılan hattın denklemi:
Y = β₀ +β₁x+ ε
burada β₀ kesişim noktasıdır, β₁ uydurulan doğrunun eğimidir ve ε, bağımlı değişkenin gözlenen değeri ile uydurulan değer arasındaki farktır.
Örneğimizde Y, bir şirketin yıllık satışları (bin olarak), x reklam harcamasıdır (yüzlerce), β₀ ve β₁, takılan modelin parametreleridir ve epsilon, takılan değerler ile yıllık gerçek değerler arasındaki farktır. satışlar (artıklar).
R'de, bu komutu kullanarak bir SLR modeline sığdırabiliriz:
Taktığımız SLR modelinin sağlam olmasını sağlamak için yerine getirilmesi gereken 4 varsayım vardır.
Yukarıdaki varsayımların veri kümemiz için geçerli olup olmadığını kontrol etmek için bazı teşhis grafiklerine sahip olabiliriz. Aşağıda her bir varsayımı kontrol etmek için yapabileceğimiz birkaç çizim bulunmaktadır:
2. Takılan değerlere karşı Kalıntıların Dağılım Grafiği
Bu grafik, artıkların ilişkisiz olup olmadığını kontrol eder (bağımsızlık varsayımının ihlali yok). Yukarıdaki modelin uygun değerlerinden herhangi birinde artık kümeleri yoktur, dolayısıyla artıklar ilişkisiz görünmektedir.
Bu çizim ayrıca artıkların sıfır ortalamaya sahip olduğunu (sıfır civarında dağıtılmış) ve artıkların sabit varyansa sahip olduğunu kontrol eder. Yukarıdaki çizimde, noktalar sıfır çizgisi etrafında dağılmıştır ve tüm uygun değerler arasında aralıkta değişiklik göstermiyor gibi görünmektedir, dolayısıyla bu varsayımların her ikisinin de geçerli olduğu görülmektedir.
Kalıntı analizinin bağımsızlık varsayımını kontrol etmediğini unutmayın . Unutmayın, varsayım bağımsızdır, ilişkisiz hatalar değil. Ancak artık analizle değerlendirebileceğimiz tek şey, ilişkisiz hatalardır. Bağımsızlığın değerlendirilmesi daha karmaşıktır. Veriler randomize bir denemeden geliyorsa, bağımsızlık kurulur. Ancak üzerine regresyon uygulayacağınız verilerin çoğu gözlemsel çalışmalardandır ve bu nedenle bağımsızlık geçerli değildir.
Sıfır ortalama varsayımı genellikle bir sorun değildir. Ancak, artıklar ilişkili görünüyorsa veya artıkların varyansı sabit değilse, bağımlı değişkene bazı dönüşümler uygulamamız gerekir. Deneyebileceğimiz 3 şey:
a. Bağımlı değişkeni dönüştürün. Bir yol, bağımlı değişkenin günlüğünü almaktır.
B. Bağımlı değişkeni yeniden tanımlayın. Örneğin, tüm şirket için satışları tahmin etmek yerine, çalışan başına satışları bağımlı değişken olarak kullanabiliriz (ham değer yerine orana dönüştürerek).
C. Ağırlıklı en küçük kareler regresyonunu (WLS) kullanın. Bu, her bir veri noktasına, değişen varyansa yardımcı olabilecek uygun değerinin varyansına dayalı olarak bir ağırlık atar. Bu makale, WLS'nin nasıl uygulanacağına dair iyi bir açıklama sunar:https://medium.com/datamotus/solving-the-problem-of-heteroscedasticity-through-weighted-regression-e4a22f1afa6b
3. Histogram ve artıkların QQ grafiği
Son olarak, artıkların normalliğini kontrol eden histograma ve artıkların QQ grafiğine sahibiz. QQ grafiklerine aşina değilseniz, daha derinlemesine geçen bu orta dereceli makaleyi önereceğim:https://towardsdatascience.com/q-q-plots-explained-5aa8495426c0
Temel olarak, bir QQ grafiği, teorik normal dağılımın her bir niceliğini takip eden artık değerlerinin her bir niceliğinin ne kadar yakın olduğunu ölçer. Artıklar yaklaşık olarak normal dağılmışsa, QQ grafiğindeki noktalar çizgiyi yakından takip etmelidir. Burada, x değerlerinin her iki ucunda (değerler alanının alt ucu ve üst ucu) bu varsayımın doğru görünmediğini görüyoruz, noktalar çizgiden çok uzakta.
Histogram grafiğine bakıldığında, artıkların çan şeklindeki normal bir dağılım yerine iki modlu bir dağılım izlediği görülmektedir. Dolayısıyla normallik tutmuyor gibi görünüyor.
Normallik varsayımı geçerli değilse, bağımlı değişken üzerinde bir Box-Cox dönüşümü yapmayı düşünün.
Hepsini bir araya getirirsek, yukarıdaki model tanılama grafiklerinin tümünü oluşturacak kod şudur:
Model tanılama sırasında herhangi bir sorun ortaya çıkmazsa, modelden sonuçlar üretmeye ve bu sonuçları yorumlamaya geçebiliriz.
SLR'nin katsayısını, kesişim noktasını, p değerlerini, F istatistiğini ve uyum iyiliğini görüntülemek için şu komutu kullanabiliriz:
Bu komut, şu ölçümlerin bir raporunu oluşturacaktır:
Unutulmaması gereken önemli metrikler, ilk önce F testinin p değeridir. Bu bize, inşa ettiğimiz genel modelin önemli olup olmadığını söyler. p değeri < 0.05 ise, %95 anlamlılık düzeyindeki boş hipotezi reddederiz ve modelimizdeki tüm yordayıcıların anlamsız olduğu sonucuna varırız. Bu durumda bağımsız değişkene dönüşümleri veya modele başka bağımsız değişkenlerin eklenmesini dikkate almamız gerekecek. Burada p değeri 8.873e-10 < 0.05'tir ve bu da takılan modelin anlamlı olduğunu gösterir.
t-testinden elde edilen p-değeri de bize, verilen modelde hangi değişkenlerin istatistiksel olarak anlamlı olduğuna dair bir ölçü verir. p değeri <0,05 ise, t-testinden boş hipotezi reddederiz ve değişkenin anlamlı olduğu sonucuna varırız. Bu, tüm önemsiz değişkenleri bırakmamız gerektiği anlamına gelmez (birden fazla doğrusal regresyon için üzerinde çalışacağım gelecek blogda bu konuda daha fazla bilgi). Burada, modelde katsayı istatistiksel olarak anlamlıyken kesişim istatistiksel olarak önemsizdir.
Son olarak, R-kare, model için bir uyum iyiliği sağlar. Bize x'i kullanan uygun model tarafından açıklanabilen y'nin değişkenlik oranını söyler. R-kare, 0'ın en düşük olduğu (y'nin değişkenliği takılan model tarafından açıklanamaz) en yüksek olduğu 1'e kadar 0-1 arasında değişir. Buradaki R-kare değeri yaklaşık 0.81'dir.
Bir modelin sağlamlığı (uyum iyiliği) ile tahmin gücü arasında bir fark olduğunu unutmayın. Uyum iyiliği , model varsayımlarının geçerli olduğu anlamına gelir.
Tahmin gücü , bir veya daha fazla varsayım tutmasa bile tahmin değişkenlerinin verileri tahmin etmesi anlamına gelir.
Mümkün olduğunca hem sağlamlık hem de yüksek tahmin gücü elde etmeye çalışmamız önemlidir. Bu, en iyi uyum iyiliğini elde etmek ve model varsayımlarının geçerli olduğundan emin olmak için uygun dönüşümleri yapmamız gerektiği anlamına gelir. Bir veya daha fazla varsayımın tutmaması durumunda, tahminler için hala kullanılabilir olabileceğinden, uydurulan değerleri göz ardı etmemeliyiz. Bu durumda, doğrulama performansının tahminlerde kullanılacak model için yeterince yüksek olup olmadığını görmek için performansı ölçmek için doğrulama gerçekleştirin.
Modeli kullanıma uygun bulduktan sonra onu konuşlandırabilir ve tahminler için kullanabiliriz. Regresyon modelleri için, gerçekte, bağımlı değişken ve tahminler (eğer varsa) nadiren eşit olduğu için modelin ham tahminleriyle nadiren ilgileniriz. Genellikle gerekli olan, tahmin aralığıdır (tahminlerin içinde bulunabileceği değer aralığı).
Tahmin aralığının, daha dar olacak olan uygun bir değer için bir güven aralığı ile karıştırılmaması gerektiğini unutmayın.
Bir tahmin aralığı oluşturmak için:
Bu, bir alt ve üst sınırın yanı sıra aralığın ortasındaki bir değeri verecektir (bu, model tarafından verilen uygun değerdir)
Bununla, bir veri kümesi kullanarak sağlam ve tahmine dayalı basit bir doğrusal regresyon modeli oluşturabilmeli ve model tarafından verilen tahminleri yorumlayabilmelisiniz.
Yukarıdaki analizlerin Python versiyonunu da burada bulabilirsiniz:
Gelecek olan bu blog dizisinde, Regresyon ile ilgili kavramları açıklayacağım. Bu alt konular hakkında bir takip olarak yazmayı planlıyorum, bu yüzden beni Medium'da takip edin ve ilgileniyorsanız bizi takip etmeye devam edin:
II. Çoklu doğrusal gerileme
III. ANOVA
IV. Genelleştirilmiş Doğrusal Modeller I: Lojistik Regresyon
V. Genelleştirilmiş Doğrusal Modeller II: Poisson Regresyonu
Yasal Uyarı: Bu makale yalnızca eğitim amaçlıdır. Kimseyi web sitelerini, özellikle de bu tür eylemlere karşı hüküm ve koşulları olabilecek web mülklerini kazımaya teşvik etmiyoruz.
Biçimsel bir sistem, temel sembollerden ve bu sembolleri manipüle etmek için bir dizi kuraldan oluşan bir mantık yapısıdır. Bu semboller “temeldir” çünkü içsel bir anlamları yoktur.
Amerika Birleşik Devletleri Yüksek Mahkemesi'nin (SCOTUS) yakın tarihli bir taslağı taslağına göre, olası ve Roe v. Wade'in olası devrilmesinin sadece bir Amerika Birleşik Devletleri (U.
1. Güneş Koruyucu Kullanmama Güneş Koruyucu herhangi bir cilt bakımı rutininin önemli bir parçasıdır ve günlük olarak kullanılmalıdır.
2017 yılında bakmaya başladığım Carl G. Jung'un çalışmasına ve zihnime ve ruhuma nüfuz ediyor.
Feragatname: Irk, ırk ölçümleri” vb. gibi belirli kelimelerin etrafına tırnak işaretleri koyacağım, çünkü bu terimler yalnızca tarihsel ayrımcılıkla yüklü değil, aynı zamanda “ırk” da bilimsel değildir.