İstatistiksel öğrenmedeki temel konular etrafında odaklanan yeni bir dizi (nispeten kısa) gönderi yazıyorum . Özellikle, bu seride beklenmedik keşifler, hakkında daha az konuşulan bağlantılar ve istatistiksel öğrenme için başlık altı konseptleri yer alacak.
İlk yazım, Veri Biliminde temel bir kavram olan sırt düzenlenmesi ile başlıyor . Sıradan en küçük kareler (OLS) tahminleri, tepe tahminleri ve PCA arasındaki basit ama zarif ilişkiler, spektral ayrıştırma merceğinden bulunabilir. Bu ilişkileri Çok Değişkenli Analizin 8.8.1 Alıştırması ile görüyoruz .
Bu makale, blog yazılarımdan birinden tüm ispatlar çıkarılmış şekilde uyarlanmıştır. LaTex biçimli matematik ve HTML stil sayfalarını tercih ederseniz, bu makaleyi blogumda okuyabilirsiniz .
Aşağıdaki regresyon modeli verildiğinde:
sütun dikkate X`X (bu yazı 'hem de T aracı devrik üst indis) Daha sonra mahya tahmini ortalama 0 ve varyans 1. için standardize edilmiş p olan
burada belirli bir X için , λ≥0 küçük bir sabit tepe düzenlileştirme parametresidir. Λ = 0 olduğunda, bunun sadece OLS formülasyonu olduğuna dikkat edin. Ayrıca, var-cov matrisi X`X = GLG`'nin spektral ayrışımını düşünün . Orijinal veri matrisinin temel bileşen dönüşümü W = XG olsun .
Eğer α = G` β temel bileşenler parametre vektörünü temsil eder sırt tahminlerine göre, o zaman gösterebilir α * OLS elde edilebilir şapka (tahmin α sadece sırt düzenlilestirme parametresi ile ölçekleme ile):
Bu sonuç bize iki önemli içgörü gösteriyor:
İki küçülme etkisini göstermek için , sıralı ana bileşenlerin bir fonksiyonu olarak küçülme yüzdesini (1-hattan önceki oran ( α )) ve sırt düzenlenmesi parametresinin değerini çizdim. İki küçülme etkisi bu şekilde açıkça görülmektedir.
Sonuç 1.1'den , var-cov matrisinin spektral ayrıştırılması yoluyla OLS tahmin şapka ( β ) ve sırt tahmini β * arasında doğrudan bir bağlantı kurabileceğimizi izler (Bu nedenle bu makalenin başlığı). Özellikle bizde
Tahmin edicilerin kalitesinin bir ölçüsü β * iz ortalama kare hatasıdır (MSE):
Şimdi, önceki iki sonuçtan, tepe tahminlerinin izleme MSE'sinin iki bölüme ayrıştırılabileceğini gösterebiliriz: varyans ve sapma ve bunlar için açık bir formül elde edebiliriz. MSE için tam formülün mevcudiyeti, düzenlileştirme yolu gibi şeylerin kolayca hesaplanmasını sağlar. Özellikle bizde
burada ilk bileşen varyansların toplamıdır:
ve ikinci bileşen, karesel önyargıların toplamıdır:
Bu, Sonuç 1.3'ten çıkan hızlı ama açıklayıcı bir sonuçtur. İz MSE fonksiyonunun λ'ya göre kısmi bir türevini alıp λ = 0 alırsak,
Λ 0 olduğunda izleme MSE fonksiyonunun gradyanının negatif olduğuna dikkat edin. Bu bize iki şey söyler:
sklearn.metrics.make_regressionFonksiyonu kullanarak 50 örnek ve 10 özellik içeren gürültülü bir regresyon veri seti oluşturdum. Özellikle, varyansların çoğunun (PCA anlamında) bu 10 özellikten sadece 5'i ile açıklanmasını istedim, yani son 5 özdeğer nispeten küçük. İşte düzenleme yolu ve katsayı hata grafiği.
Şekilden şunu açıkça görebiliriz:
Spektral ayrıştırma merceğinden, doğrusal regresyon tahminleri, tepe regresyon tahminleri ve PCA arasında basit ama zarif bir bağlantı olduğunu görüyoruz. Özellikle:
Özlü, okunabilir ve verimli kod yazmak ister misiniz? Python dekoratörleri yolculuğunuzda size yardımcı olabilir. Fluent Python'un 7. bölümünde Luciano Ramalho, dekoratörleri ve kapanışları tartışıyor.
Yılın o zamanları civarında, herkes orada fikir veriyor ve bir önceki yıl neler olduğuna dair listeler veriyordu. 2021 hem toplumlar arası hem de ekonomik olarak tuhaf bir yıl olduğu için farklı olacağını düşünebilirsiniz.
Torchvision kitaplığının sezgisel bir anlayışı - temel bilgilerden ileri düzeye (Bölüm 1/3) Torchvision nedir? Torchvision, PyTorch ile el ele giden bir Bilgisayar Görüşü kütüphanesidir. Verimli Görüntü ve Video dönüşümleri için yardımcı programlara, yaygın olarak kullanılan bazı önceden eğitilmiş modellere ve bazı veri setlerine sahiptir (torchvision PyTorch ile birlikte gelmez, ayrı olarak kurmanız gerekecektir.
Torchvision kitaplığının sezgisel bir şekilde anlaşılması - 14 görsel dönüşüm örneğiyle (Bölüm 2/3) Bölüm 1 için (torchvision'daki modüllere giriş), lütfen aşağıdaki bağlantıyı ziyaret edin. Bu makalede, veri kümesi (görüntüler) yüklendikten hemen sonra bir dizi halinde gerçekleştirilebilen basit görüntü dönüştürme işlevlerini deneyeceğiz.
Grafik Sinir Ağları (GNN'ler), grafik verilerinden öğrenmek için standart bir araç kutusu olarak ortaya çıktı. GNN'ler, içerik önerisi veya ilaç keşfi gibi farklı alanlarda yüksek etkili sorunlar için iyileştirmeler sağlayabilir.
Bir önceki yazımda, blob algılama ve bağlantılı bileşenlere dayalı olarak ilgilenilen nesneleri nasıl tanımlayacağımızı öğrendik. Bununla birlikte, belirli ilgi çekici nesneleri görüntülerimizden ayırmamız gereken zamanlar olacaktır.
'Big Brother' yıldızı Claire Rehfuss, hayranlarını spoiler hesaplarına güvenmemeleri konusunda uyarıyor.
Kody Brown, iki karısı Meri Brown ve Christine Brown'ı arkadaş bölgelendirdi. İki eşin reddedilmeyi nasıl ele aldığı tamamen farklıydı.
Kristen Stewart bir keresinde 'Pamuk Prenses' rol arkadaşı Chris Hemsworth'a sert bir yumruk attı ve bu, oyuncunun geleceğini görmediği bir saldırıydı.
GQ Magazine ile yaptığı bir röportajda BTS'den Jin, BTS ve Coldplay'in şarkısı 'My Universe'nin bir bölümünün 'son bölümü yapmadığını' açıkladı.
Her hafta güncellenen mini bulmacamız, en sevdiğimiz HowStuffWorks okumalarımızı zeki ipuçlarıyla birleştiriyor!
Doğru deterjanı seçme konusunda endişelenmenize gerek kalmadan çamaşır yıkamak yeterince kötü. Peki en iyisi hangisi? Yoksa önemli mi?
Kentucky kırsalındaki Fugates ve Combs aileleri, genetik piyangoyu kaybettiler ve her ikisi de, evlenirken tenlerinin mavi görünmesine neden olan nadir bir çekinik özelliği paylaştılar. Bunun nedeni neydi? Ve ailelere ne oldu?
İki babasız erkek civciv, California akbabasını yok olmaktan kurtarmak için bir programda yetiştiriliyor. Böyle 'bakire' doğumlar nasıl mümkün olabilir?
Vanderpump Rules yıldızı Katie Maloney-Schwartz, Perşembe günü Instagram'da yaptığı dürüst ve içten bir gönderiyle kendini sevme yolculuğunda kaydettiği ilerlemeyi anlattı.
Jessica Alba, kendisini ve çocuklarını Dolly ve Lucy adlı iki köpekle sarılıp oynarken gösteren keyifli bir videoyu Instagram hesabından paylaştı.
Geçen hafta sonu bir Porto Riko tatili sırasında nişanlanan Megan Fox ve Makineli Tüfek Kelly'den bir kaynak, "İlk görüşte aşk durumuydu" diyor.
Polise göre Devonne Marsh'ın kimliği belirlenemeyen kız arkadaşını çakmak gazıyla kaplayarak alevleri tutuşturduğu iddia edildi.