Kapsamlı ve gereksiz veri kümeleri, çeşitli özellikler makine öğrenimi algoritmalarının performansını etkilediğinden, herhangi bir veri bilimcisi için bir kabustur. Dolayısıyla, analiz için daha fazla kullanabileceğimiz özniteliklerin sayısını azaltmak için boyutluluk azaltma teknikleri gereklidir.
Bu yazıda, bir boyutluluk indirgeme tekniği olan Faktör Analizini tartışacağım ve bu istatistiksel tekniğe genel bir bakış sunacağım. Faktör Analizinin temel işleyişi; veri setinde faktör analizinin ne zaman ve nasıl kullanılacağı içerik parçasında tartışılmaktadır.
Boyutsallık Azaltma hakkında genel bilgi almak istiyorsanız, bu bloga başvurabilirsiniz .
Faktör Analizi, boyut azaltma için kullanılan denetimsiz , olasılıklı bir makine öğrenme algoritmasıdır . İlişkili değişkenleri, ortak bir varyansı paylaşan faktörler adı verilen daha az gizli değişken halinde yeniden gruplandırmayı amaçlar . Faktör analizinin temel amacı, bir dizi ortak faktör aracılığıyla n değişken arasındaki karşılıklı ilişkileri bulmaktır (faktör sayısı n değişkenden azdır). Basit bir ifadeyle, değişkenleri anlamlı kategoriler halinde gruplandırır.
Faktör Analizi, gizli faktörlerin daha düşük boyutlu uzayda olduğu fikrine dayanır. Yeni gözlemler, gizli değişkenler artı Gauss gürültüsünün doğrusal bir dönüşümü olarak modellenmiştir.
Doğru sonuçlar elde etmek için faktör analizini uygulamadan önce aşağıdaki ön koşulları kontrol etmeliyiz -
Faktör analizi uygulama yöntemlerini öğrenmeden önce, bu makalenin ilerleyen kısımlarında kullanılan temel terminolojilere kısaca bir göz atalım.
Faktör, ortak bir varyansı paylaşan ilişkili değişkenleri temsil eden gizli (gizli veya gözlemlenmemiş) bir değişkendir. Maksimum faktör sayısı, değişkenlerin sayısına eşittir.
Özdeğerler, belirli bir temel bileşenin açıklayabileceği toplam varyansı temsil eder. Varyans negatif olamaz, bu nedenle negatif özdeğerler yanlış bir model anlamına gelir. Buna karşılık, sıfıra yakın özdeğerler, ilk bileşen tüm varyansı kaplayabildiğinden çoklu bağlantıya işaret eder. Örneğin, 2,5 özdeğeri, faktörün 2,5 değişkenin varyansını açıklayacağı anlamına gelir.
Faktör yüklemesi, değişken ve faktör için korelasyon katsayısıdır. Değişkenin faktöre ne kadar katkıda bulunduğunun bir ölçüsüdür. Dolayısıyla, yüksek faktör yükleme puanı, değişkenlerin faktörlerin boyutlarını daha iyi dikkate aldığı anlamına gelir.
Topluluklar, her değişken için kare yüklerin toplamıdır. Her bir değişkendeki varyans miktarını gösterir. Belirli bir değişken için topluluklar düşükse, örneğin 0-0.5 arasındaysa, bu, değişkenin herhangi bir faktöre önemli ölçüde yüklenmeyeceğini gösterir. Rotasyonların değişkenlerin toplulukları üzerinde herhangi bir etkisi yoktur.
Faktör analizinde yer alan çeşitli adımlar şunlardır:
Veri setinin faktörlenebilirliğini kontrol etmek, 'veri setindeki faktörleri bulabilir miyiz?' anlamına gelir. Faktörlenebilirliği kontrol etme yöntemleri şunlardır:
Verilen veri seti, yüksek ve düşük korelasyonların bir kombinasyonu mu? Cevabınız evet ise faktör analizine geçebiliriz.
Kaiser-Meyer-Olkin Örnekleme Yeterliliği Ölçütü, değişkenler arasındaki kısmi korelasyonların küçük olup olmadığını test eder. Altta yatan faktörlerin neden olduğu değişkenlerdeki varyans oranlarını belirten bir istatistiktir. Yüksek değerler yani 1'e yakın değerler faktör analizinin veri seti için faydalı olduğunu gösterir. Değer 0,5'ten küçükse faktör analizine geçilmemelidir.
Korelasyon matrisinin bir kimlik matrisi olduğu hipotezini test eder. Ayrıca değişkenlerin ilişkisiz olduğunu ve bu nedenle faktör analizinin burada uygulanamayacağını gösterecektir. Değer 0,05'ten küçükse faktör analizine geçebilirsiniz. Esasen, birkaç faktörle özetleyebileceğimiz değişkenler arasında belirli bir fazlalık olup olmadığını kontrol eder. Testin boş hipotezi , değişkenlerin ortogonal olduğu , yani korelasyonsuz olduğudur.
Çok fazla faktör çıkarırsak, istenmeyen hata varyansı oluşabilir. Öte yandan, bir avuç faktörün çıkarılması, değerli ortak varyansı dışarıda bırakabilir. Bu nedenle, çıkarılacak faktör sayısına karar vermek için en uygun yolu seçmek çok önemlidir.
Esas olarak özdeğerler ve dağlama testi, yani dağlama grafiği, tutulacak faktörlerin sayısını belirler. Bir özdeğer analitik bir yaklaşımdır, kayşat grafiği ise grafiksel bir yaklaşımdır. Her iki yöntemi de ayrıntılı olarak görelim.
Bu yaklaşım aynı zamanda Kaiser Kriteri olarak da bilinir . Bu yöntemde özdeğeri 1'in üzerindeki tüm faktörler korunur. Birden fazla özdeğer, faktörün benzersiz bir değişkenden daha fazla varyansı açıkladığı anlamına gelir. Özdeğeri 1'den büyük olan faktörlerin seçilmesinin nedeni oldukça basittir. Verilerimiz standart ölçeklidir, dolayısıyla özelliğin varyansı da 1'dir. Tek bir gözlemlenen değişkenden daha fazla varyansı açıklayan faktörleri elde ederiz.
Bu kriterin bazen çıkarılan faktör sayısında fazla tahmine yol açtığı tespit edilmiştir. Bu nedenle, scree testini analitik yöntemle konjugasyonda kullanmak daha iyi bir yaklaşım olacaktır .
Grafiksel yaklaşım, dağılma grafiği olarak adlandırılan faktörlerin öz değerlerinin görsel temsiline dayanır.
Resmin kaynağı
Kayşat grafiği özdeğerlerden ve faktörlerden oluşur. Tutulacak faktör sayısı, grafiğin “dirseğine” bırakılan veri noktalarıdır. Grafiğin dirseği, özdeğerlerin aynı hizada göründüğü noktadır.
Kayşat grafiği özdeğerlerden ve faktörlerden oluşur. Tutulacak faktörlerin sayısı, grafiğin "dirseğine" bırakılan veri noktalarıdır. Grafiğin dirseği, özdeğerlerin aynı hizada göründüğü noktadır.
Optimum faktör sayısını bulduktan sonra, faktörleri faktör yükleri, ortak noktalar ve varyans yardımıyla yorumlamamız gerekir. Faktörlerdeki değişkenler arasındaki ilişkilerin gücünü belirlemek için faktörlerin yorumlanması esastır.
Faktörleri en önemli yüklemeler aracılığıyla belirleyebiliriz . Faktörlerin tanımlanmasını doğrulamak için sıfır yükler ve düşük yükler kullanılır. Yüklerin işaretleri, korelasyonun yönünü gösterir, faktör yüklemesinin büyüklüğünün veya tutulacak faktör sayısının yorumlanmasını etkilemez. Yükleme puanları -1 ile 1 arasındadır. -1 veya 1'e yakın değerler faktörün bu değişkenleri etkilediğini gösterir. Buna karşılık, yükleme değeri 0'a göre daha fazlaysa, faktörün değişken üzerinde daha az etkisi vardır.
Faktör analizi döndürülmemişse, döndürme orantısal varyansın dağılımını değiştirdiği için varyanslar özdeğerlere eşit olacak ve kümülatif varyansı aynı tutacaktır.
Ortaklık , faktörlerin açıkladığı her bir değişkenin varyansının oranıdır. Rotasyonların değişkenlerin ortaklığı üzerinde herhangi bir etkisi yoktur. Daha yüksek topluluk, değişkendeki varyansın daha önemli bir miktarının faktör çözümü tarafından çıkarıldığını gösterdi. Faktörün daha iyi ölçülmesi için analiz toplulukları 0,4 veya daha büyük olmalıdır.
Rotasyon ve faktör analizi uygulamak, türetilmiş faktörlerin tahmin değerini doğal olarak iyileştirmez. Yine de, döndürülmemiş faktörler bazen belirsiz olduğundan, faktörlerin daha iyi görselleştirilmesine ve yorumlanmasına yardımcı olur.
İki tür döndürme vardır: Dikey Döndürme ve Eğik Döndürme .
Ortogonal döndürme, faktörlerin birbirinden 90° döndürülmesidir. İki standart ortogonal teknik, Quartimax ve Varimax döndürmedir. Quartimax, her bir değişkeni açıklamak için gereken faktör sayısını en aza indirmeyi içerir. Varimax, her faktöre yüksek yüklemeli değişkenlerin sayısını azaltır ve küçük yüklemeleri daha da küçültür.
Eğik döndürme, faktörlerin birbirinden 90° döndürülmediği zamandır. Standart eğik döndürme teknikleri Direct Oblimin ve Promax'tır . Direct Oblimin, çıktı yapısını basitleştirmeye çalışırken, Promax daha büyük veri kümelerindeki hızı nedeniyle uygundur. Promax, yükleri dörtlü bir güce yükseltmeyi içerir, bu da sonuçta faktörler arasında daha mükemmel korelasyonlarla sonuçlanır ve basit bir yapı elde eder. Eğik döndürme ile ilgili tek sorun, faktörleri birbiriyle ilişkili hale getirmesidir.
Makine Öğrenimi ve Derin Öğrenme ile derinden ilgilenen, hevesli bir araştırmacıyım. Umarım bu makaleyi faydalı bulursunuz. 😇Mlearning.ai Gönderim Önerileri
Yasal Uyarı: Bu makale yalnızca eğitim amaçlıdır. Kimseyi web sitelerini, özellikle de bu tür eylemlere karşı hüküm ve koşulları olabilecek web mülklerini kazımaya teşvik etmiyoruz.
Zeta Alpha'dan aylık ML makaleleri seçkisi: Ses oluşturma, Backprop'suz Gradyanlar, Uzmanların Karışımı, Çok Modluluk, Bilgi Alma ve daha fazlası. Mart ayı yapay zeka dünyasındaki gelişmelerle dolu olarak geldi: hemen arkamızda WSDM konferansı ve AAAI'nin de henüz sona ermiş olması gibi yayınlar ve konferanslar gelmeye devam ediyor.
Bugün, bazıları akademi ve siyasi yorumlarda olmak üzere, okült ve New Age hareketlerini tarihsel olarak faşizm ve aşırı sağcılığa bağlayan bir düşünce türü var. Benim gibi okültizm hakkında eleştirel bir anlayışla yazsa bile, onun yaygın tarihini ve etkisini - entelektüel, ruhsal, sosyal ve edebiyatta - yakalamak zordur.
Bir zamanlar küçük bir mutfağı olan bir “oyun” alanı, pinpon ve langırt masası olan büyük bir reklam ajansında çalıştım. Buradaki fikir, bir içki ya da atıştırmalık alıp gevşemek için iş arkadaşlarınızla biraz oyun oynayabilmenizdi.
Bu dolunay, Boğa burcundaki son yeni ay sırasında ortaya çıkanların üzerine inşa edilmiştir. Senin için ne ortaya çıktı? Bu muhtemelen, son bir hafta içinde hepimiz için yüzeye çıkanlara göre bir doruk noktası ve aydınlatıcı an olacak.
Sen bir yazarsın! Orası. Senin için söyledim.