Generative Adversarial Networks ( aka GANs), derin öğrenmedeki en heyecan verici son yeniliklerden birini temsil eder. GAN'lar ilk olarak 2014 yılında Montreal Üniversitesi'nden Ian Goodfellow ve Yoshua Bengio tarafından tanıtıldı ve Yann LeCun bunları ' ML'de son 10 yılda en ilginç fikir' olarak değerlendirdi .
GAN, tipik bir oyun teorisi senaryosunda iki sinir ağının rekabet ettiği üretken bir modeldir. İlk sinir ağı, eğitim verilerinize benzeyen yeni sentetik veri örnekleri oluşturmaktan sorumlu olan jeneratördür ; rakibi ise, ayırıcı , jeneratör tarafından üretilen gerçek (eğitim) ve sahte (yapay olarak oluşturulmuş) örnekler arasında ayrım yapmaya çalışır. Jeneratörün görevi, ayırıcıyı kandırmaya çalışmaktır ve ayrımcı kandırılmaktan direnmeye çalışır. Bu nedenle sistem bir bütün olarak hasım olarak tanımlanıyor .
Aşağıdaki şekilde gösterildiği gibi, jeneratörün girişi basitçe rastgele bir sestir, ancak yalnızca ayırıcı, sınıflandırma amacıyla eğitim verilerine erişebilir. Jeneratör, çıkışını, özellikle ayırıcı ağın geri bildirimine dayalı olarak geliştirmeye devam eder (eğitim verileriyle eşleşme durumunda pozitif, eşleşme yoksa olumsuz).
Resmi olarak GAN'lar, bir oyuncu kazanırsa rakip kaybeder ve sıfır toplamlı (minimax) kooperatif olmayan oyuna dayanır . İlk oyuncu eylemlerini maksimize etmeye çalışırken, ikinci oyuncunun eylemleri onları en aza indirmeyi amaçlar. Bir oyun teorisi perspektifinden bakıldığında, GAN modeli, ayırıcı ve jeneratör yukarıda açıklanan minimax oyunu için en uygun nokta olan iyi bilinen Nash dengesine ulaştığında birleşir . İki oyuncu birbirini yanıltmaya çalıştığı için Nash dengesi, oyunculardan biri rakibin ne yapacağına bakılmaksızın hareketini değiştirmediğinde gerçekleşir.
Bu nedenle, GAN'ların önemli yakınsama sorunlarıyla pratikte eğitilmeleri oldukça zordur, jeneratörün gerçek verilere kabul edilebilir derecede yakın sahte veriler üretmeye başlaması biraz zaman alır.
GAN'lar, onları eğitirken öne çıkabilecek bir dizi ortak arıza moduna sahiptir. Bu başarısızlıklar arasında, dünyanın dört bir yanındaki çeşitli araştırma gruplarının çalışmalarının odaklandığı üç büyük sorun vardır. Bu sorunların hiçbiri tam olarak çözülmemiş olsa da, insanların denediği bazı şeylerden bahsedeceğiz.
GAN'ları eğitirken amaç, gerçek verilerinizi taklit eden çok çeşitli sahte veriler üretmektir (yani, aynı dağıtımı uydurmak) . Rastgele bir girdiden tamamen farklı ve yeni bir çıktı (örneğin yeni bir gerçekçi insan yüzü) yaratmak istiyoruz . Bununla birlikte, jeneratör , girdiye bakılmaksızın, ayırıcıya en makul görünen bir veya sınırlı sayıda örnek bulduğunda , jeneratör sadece bu çıktıyı üretmeyi çok yavaş öğrenebilir. Başlangıçta eğitim ilerlemesinin iyi bir göstergesi olarak görünse bile, bu, Mod Çöküşü veya helvetica senaryosu adı verilen GAN'ları eğitirken karşılaşılan en zorlu başarısızlıklardan biridir . Böyle bir durum, ayırıcı yerel bir minimumda kaldığında ve gerçek bir girdi ile jeneratörün çıktısını ayırt edemediğinde gerçekleşebilir. Bu noktada, jeneratör bu kara deliği kolayca fark edecek ve aynı çıktıyı veya en çok biraz farklı olanları üretmeye devam edecektir.
Düzeltme girişimleri
GAN'lar sık sık bir araya gelemez. Tartışmalı eğitim senaryoları, her iki ağın da nihayetinde dengeye ulaşması hedefiyle, iki sinir ağının birbirine karşı rekabet ettiğini varsayarsak, kolayca istikrarsız görünebilir. Bu tür risklerin nasıl atlanacağına dair derin bir bilgi olmadan, bu, saf bir varsayım olarak kabul edilebilir, çünkü rakip gradyan güncellemelerinin rastgele bir salınımla değil, yakınsama ile sonuçlanacağına dair hiçbir garanti yoktur.
Düzeltme girişimleri
Araştırmalar, ayrımcınız çok iyi olursa, yok olan gradyanlar nedeniyle jeneratör eğitiminin başarısız olabileceğini öne sürdü. Gerçekte, optimal bir ayırıcı, jeneratörün ilerleme kaydetmesi için yeterli bilgi sağlamaz. Geri yayılımı uyguladığımızda, çarpan etkisi olan farklılaşma zincir kuralını kullanırız. Böylece gradyan, son katmandan ilk katmana geriye doğru akar. Geriye doğru akarken gittikçe küçülür. Bazen gradyan o kadar küçüktür ki ilk katmanlar çok yavaş öğrenir veya tamamen öğrenmeyi durdurur. Bu durumda, gradyan ilk katmanların ağırlık değerlerini hiç değiştirmez, bu nedenle ağdaki ilk katmanların eğitimi etkili bir şekilde durdurulur. Bu, yok olan gradyan sorunu olarak bilinir .
Düzeltme girişimleri
Rabeh Ayari, kredi riski modelleme ve dolandırıcılık analitiği için uygulamalı yapay zeka sorunları üzerinde çalışan ve makine öğreniminde orijinal araştırmalar yapan Kıdemli Veri Bilimcisi. Uzmanlık alanlarım arasında derin sinir ağları kullanarak veri analizi, makine öğrenimi, veri görselleştirme, özellik mühendisliği, doğrusal / doğrusal olmayan regresyon, sınıflandırma, ayrık optimizasyon, işlem araştırması, evrimsel algoritma ve doğrusal programlama yer alır. Bana bir mesaj bırakmak için çekinmeyin burada !
Yeni başlayanlar için EDA birkaç zorluk oluşturabilir. Bu makale, keşifsel veri analizine yeni başlayan herkesin bir noktada karşılaşabileceği zorluklardan birini tartışıyor.
Sorumluluk Reddi: Bu makale Spotify ile bağlantılı değildir ve Spotify ve şu anda alakalı olmayabilecek geçmiş yapılar hakkında doğrulanmamış bilgiler içerebilir. Müzik bir ifade biçimi, bir sanat biçimi ve bir bütün olarak kültürel bir etkinliktir.
Sinirbilimden Otomatik Farklılaşmaya, Sinir Ağı Teorisi ve Sinir Süreçlerinde Yetersiz Uyum Halihazırda takip edilmekte olan farklı Derin Öğrenme araştırma akışlarına daha iyi bir genel bakış mı arıyorsunuz? Makul bir şekilde geçemeyecek kadar çok açık arXiv sekmeniz var mı? Tam videoları izlemek için çok mu az zamanınız var? Keşke bir makalenin ana fikrinin ve konseptinin hızlı bir özeti olsaydı. O halde 'Makine Öğrenimi-Kolaj' serisini tanıtmaktan mutluluk duyuyorum.
Grafik Sinir Ağları (GNN'ler), grafik verilerinden öğrenmek için standart bir araç kutusu olarak ortaya çıktı. GNN'ler, içerik önerisi veya ilaç keşfi gibi farklı alanlarda yüksek etkili sorunlar için iyileştirmeler sağlayabilir.
Selam! Bu kısa serinin görüntü bölümleme hakkındaki ilk bölümünü okumadıysanız, lütfen burada okuyun. Eşikleme ve renk segmentasyonunu önceki hikayemde tartıştık, böylece 2. bölümümüz Renk Segmentasyonuna ve Görüntü Farklılaşmasına odaklanacak.
Steven Spielberg ve George Lucas, onlarca yıldır yakın arkadaşlardır. Ama Spielberg bir keresinde Lucas'a en büyük iltifatı ödemişti.
'Loki' yönetmeni Kate Herron, diziyi tamamlamak için 'duygusal bir İncil' de dahil olmak üzere çeşitli kaynaklara güvendi.
Kate Herron, Marvel'in hit dizisi 'Loki'nin 1. sezonunda ustaca bir iş çıkardı, ancak 2. sezonun neler getireceğini görmek için heyecanlı.
Damon Dash ve Jay-Z, bir 'Makul Şüphe' NFT satma hakları için gergin bir yasal savaşın ortasında.
Çoğu ABD kıyı şeridinde halk, plajlara "yanal" erişim hakkına sahip olmuştur. Ancak bu kumlu alan ateşli bir şekilde tartışılıyor.
Bir yıllık gecikme ve hala devam eden küresel bir salgın arasında, Tokyo 2020 (veya tercih ederseniz 2021), kimsenin beklediği Olimpiyatlar değil. Ama asla unutamayacağımız biri olacağı kesin.
Nature dergisinde yayınlanan 10 yıllık benzeri görülmemiş bir araştırma, ormansızlaşma ve yangınların Amazon yağmur ormanlarının atmosferden karbon emisyonlarını emme kabiliyetini büyük ölçüde azalttığını buldu.
Bugün, Blue Origin milyarder kurucusu Jeff Bezos ve diğer üç kişiyi, Virgin Galactic'in milyarder kurucusu Richard Branson'ı aynı görevde uçurmasından bir hafta sonra uzaya uçtu. Uzay turizmi bir milyonerin hobisinden fazlası mı olacak?
Güney Carolina'da siyahi bir adam Rock Hill şehrine, polis departmanına ve ABD'ye dava açıyor
Alaska'nın başsavcısının başsavcısı, araştırmacıların, onun Yahudi karşıtı propagandayı yaymak için kullandığı gizli bir sağcı Twitter hesabını işlettiği ve Kara Hayat Önemlidir hareketini kınadığı iddiasının ortaya çıkmasından sonra, şimdi eyaletin hukuk departmanı tarafından bir soruşturmanın konusu. , beyazlık karşıtı diye sızlanmak ve translara karşı bağnaz olmak. Deseret milliyetçileri olarak bilinen aşırılık yanlısı bir Mormon grubunun sözde destekçisi olarak (“Mormon” ve “Deseret” yerine “beyaz” okursanız, görünüşe göre çok uzakta değilsiniz), yetkili nefretini arkasına saklamakla suçlanıyor. bir takma ad.
Kuşları beslemek eğlenceli olabilir - sorun şu ki gölette ördek ve kaz beslemek çoğumuzun düşündüğünden çok daha zararlı. Kilerinizden yerel sudaki vahşi yaşam yiyeceklerini vermek sadece onların diyetini değiştirmekle kalmaz, aynı zamanda çevreyi de değiştirir.
Adam Driver (Le Gris) Ridley Scott'ın yakında çıkacak olan tarihi destanının fragmanı, pek çok şıngırdayan zırhı, suçlamaları ve Adam Driver'ın iyi bir eski haykırışını içeriyor. 2 dakika boyunca, güçlü bir oyuncu kadrosuyla desteklenen büyük görüntülerle, bir kadına karşı işlenen bir suç, The Last Duel'de kılıçlarla savaşan iki adam arasındaki bir çatışmanın çerçevesi haline gelir.
24 yaşındaki Juan Miranda-Jara, bebeği dünyaya getirmek için Oklahoma hastanesine 12 yaşındaki bir kızı getirdikten sonra tutuklandı ve tecavüzle suçlandı.
Kim Kardashian West, eski Kanye West ile dört çocuğu paylaşıyor: kızları North, 8 ve Chicago, 3, artı oğulları Saint, 5½ ve Psalm, 2
Lindsey Vonn ve Diego Osorio birlikte spor salonuna gittiler, Anna Kendrick yeni filmi Larsa Pippen'ın Miami sahiline vurduğu sette görüldü. Yıldızların ne yaptığını görün.
Dünyada neredeyse hiç kimse yedi kez Olimposlu olmadı. Kim Rhode değil