Bir Sinir Ağının insan beynine gevşek bir şekilde dayanan bir sistem olduğunu biliyorum. Peki, bir Evrimsel Sinir Ağı ile düzenli bir Sinir Ağı arasındaki fark nedir? Biri çok daha karmaşık ve ahem, kıvrımlı mı?
Bir Sinir Ağının insan beynine gevşek bir şekilde dayanan bir sistem olduğunu biliyorum. Peki, bir Evrimsel Sinir Ağı ile düzenli bir Sinir Ağı arasındaki fark nedir? Biri çok daha karmaşık ve ahem, kıvrımlı mı?
Yanıtlar:
TLDR: Evrişimsel -sinir ağı, en az bir evrişim katmanına sahip sinir ağlarının bir alt sınıfıdır. Yerel bilgileri (örn. Bir görüntüdeki komşu pikseller veya bir metindeki çevreleyen kelimeler) yakalamak ve modelin karmaşıklığını azaltmak için (daha hızlı eğitim, daha az örneğe ihtiyaç duyar, aşırı sığdırma şansını azaltır) mükemmeldir.
Yapay Sinir Ağları (NN) veya daha kesin olarak Yapay Sinir Ağları (YSA) , Büyük Veri ve hızlı bilgi işlem olanaklarının (Derin Öğrenme'nin çoğu) son zamanlarda çok fazla ilgi gören (tekrar!) Bir Makine Öğrenimi algoritmaları sınıfıdır. algoritmalar aslında YSA'nın farklı varyasyonlarıdır).
YSA sınıfı , Evrişimli Sinir Ağları ( CNN ), Tekrarlayan Sinir Ağları ( RNN ), örneğin LSTM ve GRU , Otomatik Kodlayıcılar ve Derin İnanç Ağları gibi çeşitli mimarileri kapsar . Bu nedenle, CNN sadece bir tür YSA'dır.
Genel olarak, bir YSA, bir üniteden diğerine bir sinyal (genellikle gerçek değerli bir sayı) geçirebilen bağlı ve ayarlanabilir ünitelerden oluşan bir koleksiyondur (düğümler, nöronlar ve yapay nöronlar). Birimlerin sayısı (katmanları), türleri ve birbirlerine bağlanma şekilleri ağ mimarisi olarak adlandırılır.
Bir CNN, spesifik olarak, bir veya daha fazla katlama ünitesi tabakasına sahiptir . Bir evrişim birimi, girdisini birlikte bir yakınlık oluşturan bir önceki tabakadan gelen birden fazla birimden alır. Bu nedenle, (küçük bir mahalle oluşturan) giriş birimleri ağırlıklarını paylaşır.
Evrişim birimleri (ve havuzlama birimleri) özellikle aşağıdaki gibi faydalıdır:
(Derin) CNN'ler hakkında daha fazla bilgi için aşağıdakileri okuyun:
ps ANN “insan beynine gevşek bir şekilde dayanan bir sistem” değil , hayvan beyinlerinde nöron bağlantılarından esinlenen bir sistem sınıfıdır .
Konvolüsyonel Sinir Ağları (CNN'ler) hesaplama karmaşıklığını azaltmak ve çeviri değişmezliğini sağlamak için mimari kısıtlı sinir ağlarıdır (ağ, giriş kalıplarını çeviriden bağımsız olarak aynı şekilde yorumlar - görüntü tanıma açısından: bir muz, nerede olursa olsun bir muzdur resim). Evrişimli Sinir Ağları üç önemli mimari özelliğe sahiptir.
Yerel Bağlanabilirlik: Bir katmandaki nöronlar yalnızca bir sonraki katmandaki uzaysal olarak kendilerine yakın olan nöronlara bağlanır. Bu tasarım, ardışık katmanlar arasındaki bağlantıların büyük çoğunluğunu keser, ancak en yararlı bilgileri taşıyanları tutar. Burada yapılan varsayım, girdi verilerinin uzamsal bir öneme sahip olduğu ya da bilgisayar görme örneğinde, iki uzak piksel arasındaki ilişkinin muhtemelen iki yakın komşundan daha az anlamlı olduğudur.
Paylaşılan Ağırlıklar: CNN'leri "evrimsel" yapan kavram budur. Bir katmanın nöronlarını ağırlıkları paylaşmaya zorlayarak, ileri geçiş (ağ üzerinden veri besleme), yeni bir görüntü oluşturmak için görüntünün üzerine bir filtrenin dönmesine eşdeğer olur. CNN'lerin eğitimi daha sonra filtreleri öğrenme görevi haline gelir (verilerde hangi özelliklere bakmanız gerektiğine karar verme).
Havuzlama ve ReLU: CNN'lerin iki doğrusallığı yoktur: havuzlama katmanları ve ReLU fonksiyonları. Havuzlama katmanları bir giriş verisi bloğunu dikkate alır ve sadece maksimum değeri iletir. Bunu yapmak çıktının boyutunu azaltır ve öğrenmek için ek parametre gerektirmez, bu nedenle havuzlama katmanları genellikle ağın boyutunu düzenlemek ve sistemi hesaplama sınırının altında tutmak için kullanılır. ReLU işlevi bir giriş alır, x ve maksimum {0, x} değerini döndürür.
ReLU(x) = argmax(x, 0). Bu, tanh (x) veya sigmoid (x) 'e, modelin ifade gücünü arttırmak için doğrusal olmayan özellikler olarak benzer bir etki sağlar.
Bir başka yanıtta belirtildiği gibi, Stanford'un CS 231n kursu bunu ayrıntılı olarak ele almaktadır. Daha fazla bilgi için bu yazılı kılavuza ve bu derse göz atın . Gibi Blog gönderileri bu bir ve bu bir de çok faydalıdır.
CNNs yaptıkları yapıya sahip neden hala şüpheleriniz varsa, ben okumayı önermek onları tanıttı kağıdı bu oldukça uzun olsa ve belki kontrol bu tartışmayı yaptığımız varsayımları Yann Lecun ve doğuştan priors hakkında Christopher Manning (arasında bir modelin mimarisini tasarlıyoruz).
Bir konvolüsyonel sinir ağı sahip olan bir yağdır evrişimsel katmanlar. Genel bir sinir ağı, gevşekçe, bir insan beyninden (çok doğru olmayan) ilham alıyorsa, evrişimli sinir ağı, insanlarda ve diğer hayvanlarda (gerçeğe daha yakın) görsel korteks sisteminden ilham alır. . Adından da anlaşılacağı gibi, bu katman konvolüsyonu öğrenilebilir bir filtreyle ( çekirdek olarak da bilinir ) uygular, sonuç olarak ağ görüntülerdeki desenleri öğrenir: kenarlar, köşeler, yaylar ve daha karmaşık şekiller. Evrişimli sinir ağı, diğer havuzları da içerebilir, yaygın olarak havuzlaşır ve yoğun tabakalar.
Bu konuda CS231n öğreticisini şiddetle tavsiye ederim : çok detaylı ve çok güzel görselleştirmeler içeriyor.