Çoklu Doğrusal Regresyon
Bir tane bağımlı değişken ile bununla ilişkisi olan bir dizi bağımsız değişken arasındaki ilişkiyi ortaya koymak için yapılan analizdir.
Çoklu doğrusal regresyon iki ve daha fazla bağımsız değişken ve bir bağımlı değişken arasındaki doğrusal bağıntıyı inceler. Çoklu regresyonda bağımlı ve bağımsız değişkenler arasında bir bağıntı vardır. Bağımsız değişkenleri X, Bağımlı değişkenleri Y ile gösterelim.
- Y bağımlı değişken gözlem vektörü
- X bağımsız değişkenler gözlem matrisi
- B katsayılar vektörü
- E rasgele hata vektörü
Verilere çoklu regresyon uygulanabilmesi için, bağımsız değişkenler arasında çoklu bağımlılık (multicollinearity) olmaması gerekir.
Çok Değişkenli Doğrusal Regresyon
Çok değişkenli doğrusal regresyon analizi çoklu doğrusal regresyon analizinin genellenmiş biçimidir. Bağımlı değişken sayısı iki ve daha fazla olduğu durumlarda.
Parametre tahminleri ve modelin geçerliliğini belirlemek için gerekli kareler toplamlarının hesaplanması çoklu regresyon yöntemi ile benzerlik göstermektedir.
Bu modelde q bağımlı ve p bağımsız değişken bulunmaktadır.
Y,bağımlı değişkenler matrisini göstermekte ve q değişkenli normal dağılım göstermektedir.
X,bağımsız değişkenler matrisini göstermekte ve p değişkenli normal dağılım göstermektedir.
E,rasgele hata matrisini göstermekte ve p çok değişkenli normal dağılım göstermektedir.
Şimdi, denklemler için herhangi bir sayıda giriş değişkenine sahip olabildiğimizin gösterimini sunuyoruz.
- = i. eğitim verisinin özelliklerinin değeri
- = i. eğitim verisinin özellik girdisi
- = eğitin verilerinin sayısı
- = özelliklerin sayısı
Bu çoklu özellikleri barındıran hipotez fonksiyonunun çok değişkenli biçimi aşağıdaki gibidir:
Matris çarpımının tanımını kullanarak, çok değişkenli hipotez işlevi kısaca şu şekilde temsil edilebilir:
Bu, bir eğitim örneği için hipotez fonksiyonunun bir vektörizasyonudur.
Birden Çok Değişken için Gradient Descent
Gradyan iniş denkleminin kendisi genellikle aynı şekildedir; Sadece ‘n’ özelliklerimiz için bunu tekrarlamalıyız: