Yeni başlayan birine makine öğreniminin neden bu kadar zor olduğunu sorun ve büyük olasılıkla 'arkasındaki matematik gerçekten karmaşık' veya 'Tüm bu katmanların ne yaptığını tam olarak anlamıyorum ' satırlarında bir yanıt alacaksınız . Bu açıkça doğruysa ve makine öğrenimi modellerini yorumlamak kesinlikle çamurlu bir konu olsa da gerçek şu ki, makine öğrenimi zordur çünkü çoğu zaman sahip olduğumuz veriler modellerimizin karmaşıklığına dayanamaz. Bu, pratikte çok yaygın bir sorundur ve modelleriniz yalnızca verileriniz kadar iyi olduğu için, veri sıkıntısı ile karşılaştığınızda kullanılacak en alakalı yönergelerden bazılarını topladım.
Bu, verilerle çalışan herkesin bir noktada merak ettiği bir şey. Maalesef, size doğrudan cevap verecek sabit kurallar yoktur ve yalnızca yönergelere ve deneyime başvurabilirsiniz.
Öncelikle probleminizin ne kadar karmaşık olduğunu düşünmelisiniz . Müşteri davranışını tahmin etmek, kediler ve köpekler arasında ayrım yapmakla aynı şey değildir. Ne de olsa, bazı insanlar sizin için bir insan olarak okunamayabilir, ama kesinlikle kendinizi bir köpeği bir kediden ayırmaktan terlemiş bulamazsınız.
Ayrıca, algoritma seçiminiz setinizin yeterli boyutunu da belirleyecektir. Derin sinir ağları gibi daha karmaşık modeller, daha yüksek set boyutu gereksinimleri pahasına, doğrusal benzerlerinden çok daha fazla ayrıntı yakalayabilir.
Bu kılavuzlardan herhangi biri başarısız olursa (ki tam olarak böyle olabilir) , tıpkı bir veya başka bir modeli seçmek için mevcut literatürden ilham alacağınız gibi , hangi girdinin kullanıldığına bir göz atın. Sonuçta, pek çok insan orada tekerleği yeniden icat etmiyor, bu yüzden birinin benzer bir sorunla karşılaşmış olma şansınız yüksek olacak.
Dikkate alınması gereken önemli bir nokta da, verilerinizin bir tür mevsimsellik sunup sunmadığıdır . Her yıl tekrar etmeyi beklediğiniz gibi, günlük bir düzeni izleyen bir dizi tahminle kesinlikle aynı olmayacaktır.
Muhtemelen 10 kere kuralını duymuşsunuzdur (yani kabaca en az 10 kat daha fazla özelliğe sahip olmanız gerekir). Aslında bu genellikle iyidir, ancak dikkat edin, özellikleriniz hedefleri iyi bir şekilde ayırmıyorsa, bu temel kural probleminiz için tamamen yararsız olacaktır.
Belki sadece belirli bir sayı istediniz ve bu tamamen anlaşılabilir bir durumdur. Doğrusal bir algoritma olması durumunda, sınıf başına yüzlerce örnek iyi bir başlangıç noktası olabilir. Daha karmaşık algoritmalara geçerken, doğrusal olmayan herhangi bir model bu miktarla ilgilenmeyecektir. Bu tür algoritmalar için, kendinizi en az on binlerce örnekle güvence altına almak, hatta derin sinir ağlarıyla çalışırken milyonlara ulaşmak istersiniz.
Son bir öneri olarak ve şimdi tartışacağım tekniklerden herhangi birini düşünmeden önce, sahip olduğunuz örneklerin sayısıyla bir öğrenme eğrisi [1] çizin . Belki de model seçiminiz, sahip olduğunuz ayarlanmış boyuta zaten doymuştur veya belki eğrinizin başlangıçta düşündüğünüzden çok daha uzak olduğunu öğreneceksiniz.
Potansiyel olarak! Daha fazla veri toplamanın bariz seçiminin yanı sıra, probleminizin özelliklerine bağlı olarak izleyebileceğiniz farklı stratejiler vardır. Yapay veri oluşturmanın yollarını keşfetmeden önce, yararlı olabilecek bir şey eklememe izin verin: özellik mühendisliği . Erişiminiz olan veri kümesinin tahmin gücünden yararlanın, çünkü örneklerin eksikliğini telafi etmeye gerçekten yardımcı olabilir. Aşırı heyecanlanmayın ve yüzlerce özellik yaratmayın: modelinize ne kadar yüksek özgürlük verirseniz, o kadar kolay takılır!
Şimdi, daha fazla veri toplamak mümkün olsun ya da olmasın, yönergelere geri dönelim, bunlar setinizin boyutunu artırmak için en yaygın kullanılan yöntemlerdir.
Veri artırma, halihazırda mevcut olan örnekleri dönüştürerek yenilerini oluşturmak için kullanan bir tekniktir. Görüntüler bağlamında, en yaygın dönüşümlerden bazıları ölçekleme, kırpma, döndürme, çevirme, gürültü ekleme veya renk değişikliklerini içerir. Bu teknik, yalnızca veri kıtlığını çözmek için değil, aynı zamanda sahip olduğumuz seti karmaşıklaştırmak için de yararlıdır, böylece gerçek hayat senaryosunda bulacaklarımıza daha benzer olabilir, yani ders kitabı örneklerinden kaçınabilir.
Tartışılan geometrik ve renk alanı dönüşümlerinden başka ilginç veri artırma teknikleri de var. Örneğin, rastgele silme, tıkanmayı simüle etmek için bir resmin parçalarını kasıtlı olarak maskeler ve modelin daha açıklayıcı özellikler bulmaya zorlanması nedeniyle harika sonuçlar elde edebilir.
Dönüşümlerle ilgili son bir uyarı: Talihsiz bir değişiklik veri sınıfınızı değiştirebileceğinden, artırılmış veri etiketlerinize dikkat edin. Bunun bazı örnekleri, altıyı sıfıra indirmek, potansiyel olarak kötü huylu bir melanomun rengini değiştirmek veya bir yol işaretini farklı ama mevcut bir yöne çevirmek olabilir.
Veri sentezi, mevcut veri noktalarını dönüştürmek yerine tamamen yenilerini üretir. Bunu yapmak için popüler yöntemler, derin öğrenme algoritmalarından geçer. Bunlardan biri, üretken düşmanlık ağlarıdır (GAN'lar) ve yenilerini oluşturmak için örneklerinizin temelindeki dağıtımını öğrenen gerçekten harika bir algoritmadır. Elbette, bu modelin ne yaptığına dair çok basit bir açıklama ama bu makalede ele alınması biraz karmaşık.
Yaygın olarak kullanılan başka bir veri sentezi tekniği Sentetik Azınlık Aşırı Örnekleme Tekniğidir (SMOTE) [5] ve özellikle setiniz dengesiz olduğunda faydalı olabilir. Yöntemin önerdiği şey, modelinizin performansını iyileştirmek için çoğunluk sınıfının altından örnekleme ve azınlık sınıfının yüksek hızda örneklenmesinin bir kombinasyonudur. Lütfen SMOTE'u sunan orijinal çalışmanın, ROC alanındaki performansı tanımladığını ve bu dengesiz senaryoda oldukça yanıltıcı olacağına dikkat edin. Basitçe söylemek gerekirse, bu algoritma azınlık sınıfı için rasgele bir veri noktası seçer, sonra onu en yakın komşularında bulur ve yine rasgele olarak bu k'den biri seçilir. Yeni oluşturulan veri noktası, seçilen iki nokta [6] arasındaki düz çizgide rastgele sentezlenecektir.
Hangi tekniği seçeceğiniz büyük ölçüde probleminize bağlı olacaktır. Tabii ki, görüntü oluşturmak için bir GAN kullanmak, kolayca bulunabilen bir Python kitaplığı ile bir GAN'ı döndürmekten oldukça karmaşıktır. Ayrıca, zaman kısıtlamalarınızı göz önünde bulundurun, yeni verileri sentezlemek için bir GAN kullanmak, bir değil iki model eğitimi içerecektir ve belki bunun için zamanınız olmayabilir.
Bir kez daha senaryonuzun özelliklerinin dikkate alınması gerekiyor. Resimlerle mi yoksa tablo verileriyle mi çalışıyorsunuz? Ne yazık ki, tablolarla uğraşırken setinizin boyutunu büyütmek için pek çok kolay peasy tekniği bulamayacaksınız. Sentetik veriler oluşturmak için GAN'ları kullanmak için yaklaşımlar vardı [7], ancak açıkçası gerçek yaşam uygulamaları sınırlıdır ve topluluk bu özel kullanım durumu için genellikle bu yöntemi önermektedir. Yine de denemeye karar verirseniz, bazı hususların dikkate alınması gerekir. Üretken hasım modeli eğilimleri yakalayamayabileceğinden, zaman serisi verilerine dikkat edin. Genel olarak SMOTE, tablo şeklindeki verileri sentezlemek için daha etkili bir seçenek olarak görülmüştür. Ayrıca, yeni sentezlenmiş veya büyütülmüş bir görüntü beynimizin anlaması için hiçbir zorluk oluşturmazken, bu tablo veriler için geçerli olmayabilir. Bir alan uzmanının bile anlayamayacağı örnekleri kullanmamanızı tavsiye ederim, çünkü modeliniz büyük olasılıkla zaten açıklanabilirlikten yoksun olacaktır.
Veri artırma ve sentezle ilgili son bir not olarak, elinizdeki tüm teknikleri kullanmaya karar verdiyseniz, devasa bir veri kümesine sahip olmak çok kolay olurdu. Ciddi bir aşırı uydurma vakası hızla ortaya çıkabileceğinden, bu kesinlikle bir avantaj değildir.
Transfer öğrenimi, göreviniz için başlangıç noktası olarak önceden eğitilmiş modelleri kullanır. Bu, hem çevrimiçi olarak bulunan büyük miktarda veriden hem de halihazırda eğitilmiş mevcut karmaşık modellerden yararlanmamızı sağlar.
Transfer öğrenme fikri, belirli bir kullanım senaryosundan kazanılan bilginin bazı ilgili alanlara genişletilebileceği gerçeğinden kaynaklanmaktadır. Muhtemelen bu ifadeden, bunun işe yaraması için, sizinkine benzer veriler üzerinde eğitilmiş algoritmaları aramanız gerektiğini tahmin edebilirsiniz. İhtiyaçlarınıza uygun bir model bulduğunuzda, algoritmayı yeniden eğitmeniz gerekir, ancak sıfırdan değil, bu gerçekten harika bir avantaj çünkü eğitim süreniz (ve kaynaklarınız) büyük ölçüde azalacak. Ardından, yapacağınız şey, sonuncusu hariç tüm katmanları dondurmak veya birkaç tane daha eklemek ve yalnızca özel verilerinizdekileri yeniden eğitmektir. Yenilerini eğittikten sonra, her zaman tüm ağın son bir eğitim turunu yapabilirsiniz (ancak bu gerekli olmayabilir). Her durumda, eğer yeni katmanlar hala rastgele başlatılmış ağırlıklara sahipse (yani eğitilmemişse) tüm ağı eğitmemeyi hatırlamak önemlidir, çünkü bu, tüm ağ üzerinde çok büyük güncellemeleri zorlayacak ve sonunda aşırı uyuma neden olacaktır.
Elbette transfer öğrenimini pratikte uygulamanın birçok yolu vardır. Basit tutmak istiyorsanız ve Keras kullanıyorsanız, eğitilebilir niteliği kullanmak kadar kolaydır. Bunu yanlış olarak ayarlamak, katmanı dondurur ve eğitim sırasında güncellemez. İhtiyaçlarınıza en uygun olanı seçebilmeniz için Keras Uygulamalarında mevcut modellerin çok güzel ve kapsamlı bir listesini bulabilirsiniz .
Bazen daha açık ve belki de tek seçenek basitçe daha fazla veri toplamaktır. Bunun için büyük olasılıkla yeni veri noktalarını toplamanıza ve etiketlemenize (varsa) yardımcı olan alan uzmanlarından yararlanmak isteyeceksiniz.
Koleksiyonla ilgili olarak, kullanım durumunuz izin veriyorsa, açık kaynak kitaplıkları kullanmayı da düşünün. En iyi herkese açık veri kümelerinden bazıları Kaggle, Google Veri Kümesi Araması , ImageNet , Amazon İncelemeleri veya UCI Makine Öğrenimi Havuzunda bulunabilir ; Aradığınız veri türüne bağlı olarak (resimler, tablo verileri, metin vb.) GCP veya AWS gibi bazı büyük bulut sağlayıcıları tarafından sağlanan mevcut verilere de bir göz atmaya değer.
Belki kendinizi yeterince veriyle buluyorsunuz, ancak maalesef etiketlenmemiş. Olası çözümler, örneğin Amazon Mechanical Turk gibi araçları kullanan kitle kaynak kullanımı veya daha sonra setinizin geri kalanını etiketlemek için mevcut etiketli verilere sahip bir model eğiteceğiniz yarı denetimli öğrenme olabilir.
Veri kıtlığı sorununu çözmenin sayısız yolu vardır ve bu nedenle bir yaklaşım seçmek çok zor ve zor olabilir. En popüler tekniklerden bazılarını inceledikten sonra, çözülmesi gereken makine öğrenimi sorununun özelliklerini dikkatlice düşünürdüm, yani sadece model veya veri özelliklerinin seçimi değil, aynı zamanda zaman veya bütçe kısıtlamaları gibi işle ilgili hususlar da.
Muhtemelen tartışılan stratejilerin bir kombinasyonuna ihtiyacınız var veya belki de tek olası çıkış yolunuz daha fazla veri toplamaktır. Durum ne olursa olsun, bu ML sürecinizde çok önemli bir adımdır ve başarınız için anahtardır.
[1] Jason Brownlee, Makine Öğrenimi için Ne Kadar Eğitim Verisi Gerekiyor?https://machinelearningmastery.com/much-training-data-required-machine-learning/
[2] Rohit Dwivedi, Veri Artırma Kodlarla Görüntü Sınıflandırma Performansını Nasıl Etkiler? https://analyticsindiamag.com/image-data-augmentation-impacts-performance-of-image-classification-with-codes/
[3] OpenGenus, Veri büyütme Teknikleri https://iq.opengenus.org/data-augmentation/
[4] Agnieszka Mikołajczyk, Michał Grochowski, Görüntü sınıflandırma probleminde derin öğrenmeyi iyileştirmek için veri artırmahttps://www.researchgate.net/publication/325920702_Data_augmentation_for_improving_deep_learning_in_image_classification_problem
[5] Benjamin Biering, Yapay Zekaya Başlarken: Ne kadar veriye ihtiyacınız var? https://2021.ai/getting-started-ai-how-much-data-needed/
[6] Nitesh V. Chawla ve diğerleri, SMOTE: Sentetik Azınlık Aşırı Örnekleme Tekniği https://arxiv.org/pdf/1106.1813.pdf
[7] Lei Xu, Kalyan Veeramachaneni, Generative Adversarial Networks Kullanarak Tablo Verilerini Sentezleme
https://arxiv.org/abs/1811.11264
K-NN, tahmine dayalı modelleri artırmak için bir özellik mühendisliği olarak kullanılabilir. İstatistikteki son gelişmelerin çoğu, klasik istatistiksel yöntemler olarak sınıflandırılan tahmin modellerine ayrılmıştır.
Giriş Covid döneminde, iç ve dış mekanlarda hemen hemen her yerde gerekli olduğu için kalabalık ölçümü büyük bir zorluk olarak kabul ediliyor. Donanım ve yazılım tabanlı çözümler sunarak, kapalı mekanlarda (süpermarketler, derslikler, iş yerleri gibi) ziyaretçi sayılabilecek birçok sistemin hayata geçirildiğini görüyoruz.
Sorumluluk Reddi: Bu makale Spotify ile bağlantılı değildir ve Spotify ve şu anda alakalı olmayabilecek geçmiş yapılar hakkında doğrulanmamış bilgiler içerebilir. Müzik bir ifade biçimi, bir sanat biçimi ve bir bütün olarak kültürel bir etkinliktir.
Sinirbilimden Otomatik Farklılaşmaya, Sinir Ağı Teorisi ve Sinir Süreçlerinde Yetersiz Uyum Halihazırda takip edilmekte olan farklı Derin Öğrenme araştırma akışlarına daha iyi bir genel bakış mı arıyorsunuz? Makul bir şekilde geçemeyecek kadar çok açık arXiv sekmeniz var mı? Tam videoları izlemek için çok mu az zamanınız var? Keşke bir makalenin ana fikrinin ve konseptinin hızlı bir özeti olsaydı. O halde 'Makine Öğrenimi-Kolaj' serisini tanıtmaktan mutluluk duyuyorum.
Grafik Sinir Ağları (GNN'ler), grafik verilerinden öğrenmek için standart bir araç kutusu olarak ortaya çıktı. GNN'ler, içerik önerisi veya ilaç keşfi gibi farklı alanlarda yüksek etkili sorunlar için iyileştirmeler sağlayabilir.
Selam! Bu kısa serinin görüntü bölümleme hakkındaki ilk bölümünü okumadıysanız, lütfen burada okuyun. Eşikleme ve renk segmentasyonunu önceki hikayemde tartıştık, böylece 2. bölümümüz Renk Segmentasyonuna ve Görüntü Farklılaşmasına odaklanacak.
Kevin Hart kısa süre önce iptal kültürüne karşı çıktı ve mükemmel olması beklenen tek kişinin halk figürleri olduğunu belirtti.
'Sopranos'un sonlarında, yazarlar Tony Soprano için alternatif bir kimlik oluştururken Alfred Hitchcock etkisine gittiler.
Showbiz Cheat Sheet, Amanda Brugel ile 'The Handmaid's Tale'in 4. sezonunda Rita'yı oynaması ve karakterle ilgili umutları hakkında röportaj yaptı.
Cameron Hamilton, Lauren Speed ile olan evliliğinde ırk ilişkileriyle boğuşmayı öğrenmek zorunda kaldığını söyledi. 'Aşk Kördür' çifti bunu yeni bir kitapta belgeliyor.
İçinde yaşadığımız ve çalıştığımız binaları nasıl ısıtıp soğuttuğumuz, sera gazı emisyonlarını azaltmak için önemlidir. İyi haber şu ki teknoloji zaten var: fırınlardan üç ila dört kat daha verimli olan elektrikli ısı pompaları.
Hayali bir sayı, negatif bir sayının karekökü olan bir değerdir. Tek boyutlu bir sayı doğrusu üzerinde var olamaz. Açıklayacağız.
İlk olarak Hindistan'da tanımlanan delta koronavirüs varyantı vakalarındaki artış, Avrupa ve ABD'deki yeniden açma planlarına tehdit oluşturabilir mi?
Tüm çöllerde kum yoktur ve kesinlikle hepsi sıcak değildir. Sadece son derece kurular ve çok az bitki örtüsü var. Bu, çöllerin süper yüksek rakımlar da dahil olmak üzere gezegenin her yerinde bulunduğu anlamına gelir.
Xbox Series X|S'in piyasaya sürülmesinden bir yıldan kısa bir süre sonra Microsoft, müşterilerin raftaki bir Xbox oyununun hangi Xbox konsolu ile uyumlu olduğunu anlamalarını kolaylaştırmak amacıyla konsol oyunları için standart kutu resmini değiştiriyor. .Xbox News ilk değişikliği fark etti: Yakınlaştıralım ve daha yakından bakalım: Böylece küçük siyah çubuğu daha büyük beyaz bir kutuyla değiştiriyorlar ve kutunun üst kısmındaki eski yeşil bandı kaldırıp yerine yenisiyle değiştiriyorlar. solda küçük bir Xbox logosu.
Yeni Razer Blade 14. Razer şimdiden 13 inçten 17 inç'e kadar geniş bir dizüstü bilgisayar yelpazesi üretiyor, ancak yeni Blade 14 ile Razer, şimdiye kadarki en güçlü 14 inç oyun dizüstü bilgisayarı olduğunu iddia ediyor.
Artık taytların pantolon dışında uygun olup olmadığı tartışılmaz (bunlar), ancak pantaloon stilinde son zamanlardaki bir mikro trend bende bazı kişisel endişelere yol açtı. Yani, tozluklardaki popo kesikleri fikrine neden razıyız ve bunu durdurmak için ne yapılmalı? İnsanlar bu eğilimin iki önemli örneğini gün ışığına çıkardılar ve her iki yineleme farklı olsa da, ruhsal olarak benim için yeterince benzer derin huzursuzluk.
E3 2021'de üç yıl önce ortaya çıktığından çok daha etli bir gösterime sahip olmasına rağmen, 11 Kasım 2022'de Xbox Series X/S ve PC'de yayınlanması dışında, Bethesda'nın bir sonraki devasa rol yapma oyunu Starfield hakkında çok az şey biliniyor.Todd Howard ve Bethesda Game Studios'un diğer üyeleri, oyunu olabildiğince abartmak için tur atıyorlar, bu yüzden Starfield'ın ne olabileceğine dair kısa bir bakış için, öyle olmasalar bile, muhtemelen söylediklerini kontrol etmeye değer. Henüz ayrıntıları konuşmaya hazır.
Kraliçe Elizabeth, Avustralya Başbakanı Scott Morrison'ı, COVID-19 salgınının başlangıcından bu yana ilk yüz yüze görüşmesini kutlayarak Windsor Kalesi'nde ağırladı.
Ilana Glazer, eşi David Rooklin ile bu yılın başlarında ilk çocuklarını beklediklerini duyurdu.
Salı günü Chris Lane, yeni doğan oğlu Dutton Walker'a söylediği PEOPLE ile 'Ain't Even Met You Yet' şarkısının prömiyerini yaptı.
A Bear to Share, 26 Ekim'de HarperCollins Publishers tarafından yayınlanacak.