Yapay Zeka Algoritmalarının Matematiksel ve İstatistiksel Konularını Keşfetmek.
Giriş :
Matematik ve İstatistiğe dayalı AI algoritmaları, bu makalede Matematiğin AI'daki önemini açıklamaktadır. AI Algoritmalarının arkasındaki matematiği anlamak zordur ve dik bir öğrenme eğrisine ihtiyaç duyar. AI algoritmaları, kavramlar diğer disiplinlerden alınmış olsa bile Matematik konularını kullanır (Örnek: Yapay Sinir Ağları için Biyolojik Nöron).
Neden Matematik : Aşağıda, AI'da Matematiğe ihtiyaç duymanın birkaç nedeni var.
AI'da birçok modül var ve bunlardan birkaçını Stuart Russell, Peter Norvig'in Yapay Zeka : Modern Bir Yaklaşım kitabına göre listeledim .
Aşağıdaki AI'daki Modülün amacını öğrenmek istiyorsanız, şema bunu açıklar, hatta bir acemi bile modüllerin yol haritasını anlayabilir.
AI alanlarının ana hatları aşağıdaki diyagramda kategorize edilebilir.
Matematiksel Konular / Kavramlar, yalnızca Makine Öğrenimi ve Derin Öğrenmeye özgü değil, hemen hemen tüm alanları (AI alanları) kapsayacaktır .
AI alanları ve algoritmalarla ilgili gerekli Matematik konuları / kavramları bir sonraki makalede kısaca ele alınacaktır.
Her konunun üzerinden geçerek ve gerekli olan temel kavramlardan ve AI Algoritmalarında nerede ve nasıl kullanılacağından kısa bir şekilde bahsedin. Bu okuyuculara değinerek, algoritmaları öğrenirken ve geliştirirken tanıdık gelecektir.
Temel formüller, Fonksiyonlar, Üstel, Logaritmalar, Öklid Mesafesi, Düzlem, Hiper düzlem, Doğrusal, Doğrusal olmayan, eğim, eğriler ve temeller, parabol, daire vb.
Giriş : Cebirin Soyut Cebir, Vektör Cebir, Doğrusal Cebir gibi birden çok varyasyonu vardır.
Soyut Cebir : Cebir Kanunları, Gruplar, homomorfizm, İzomorfizm, Halka Teorisi vb.
Doğrusal Cebir ve Vektör Cebirde gerekli olan konular aşağıdadır. Vektör Cebir kavramlarının, Lineer Cebir'de ele aldıkları bazı ders kitaplarında çok az olduğuna dikkat edin.
Doğrusal Cebir Kavramları : Vektörler, Matrisler - Matris Türleri (Özdeşlik, Ters, Bitişik), Tensörler, Matrislerin Özellikleri (İz, Belirleyici, ortogonal, İzdüşümler, simetrik, tekil vb.), Ürün Kuralları - İç çarpım, Dış çarpım , Vektör-Matris, Matris Çarpımı, Vektörlerin Doğrusal Kombinasyonu, Hadamard, Ayrıştırma - Öz Değer Ayrışımı, SVD, vb., Gelişmiş Kavramlar (QC'de kullanımlar) - Hilbert Uzayları, Tensör çarpımı, Hermitian, Üniter vb.,
Lineer Cebiri AI ve QC'de yenileyebilirsiniz, bu makale her iki alanda da gerekli olan hemen hemen tüm konuları kapsayacaktır.Yapay Zeka ve Kuantum Hesaplamada Doğrusal Cebir
Makine Öğrenimi ve Diğer alanlarda uygulanan Vektör Kavramları:
Tanımlayıcı İstatistikler : Ortalama, Varyans, Medyan, Mod, Standart Sapma, Kovaryans, Beklentiler, Dağılımlar (Bernoulli, Düzgün, Normal (tek ve çok değişkenli), Poisson, Binom, Üstel, Gama), Eklem ve Marjinal Dağılımlar, Olasılık, Olasılık aksiyomları , Koşullu Olasılık, Rastgele Değişken, Bayes Kuralı (En önemli), Zincir Kuralı, Parametrelerin Tahmini : MLE (Maksimum Olabilirlik Tahmini), MAP (Maksimum A Posterior), Bayes Ağları veya Olasılıklı Modeller veya Grafik modeller.
Yapay Zeka'da Olasılığın gücünü bu makalede görebilirsiniz.Yapay Zeka'da Olasılığın Gücü
Türevler : Türev Kuralları: toplama, çarpım, bölme, zincir kuralı, hiperbolik (tanh), minima, maxima vb. Türev uygulamaları. ,, Entegrasyonlar (Dönüşümleri kullanıyorsanız).
Not : Skaler türevler kullanmıyoruz, ancak bunlar vektör ve matris hesabını anlamaya ve Sayısal Hesaplamayı çok iyi anlamaya yardımcı olacaktır.
Çok Değişkenli Kalkülüs, Kısmi Türevler, Gradyan Algoritmaları.
Doğrusal Cebir ile Kalkülüs Varyasyonu : Vektör Hesabı ve Matris Hesabı, Makine Öğrenimi ve Derin öğrenmede en önemlidir
Vektör ve Matris Hesap kavramları : Gradyan, Zincir Kuralı, Jacobians, Hessian.
Aşağıdaki diyagram Gradient Descent algoritmasını açıklar, Parametreleri optimize etmek için Sinir ağı mimarisinde Geri yayılma (BP) ile çalışır .
BP, Sinir Ağı uygulama bölümünü açıklar.
Kavramlar : Entropi (Shannon Entropy), Infogain, Cross Entropy, Kullback-Leibler (KL) Divergence. Entropi, dağılımın bozukluğunu ölçer.
Aşağıda Shannon Entropy diyagramı dağılımları açıklamaktadır.
Kümeler, Diziler, Limitler, Metrik Uzaylar, Tek değerli ve sürekli fonksiyonlar, Yakınsama, Diverjans ve Taylor Serileri.
Extrema, Minima, Maxima, Eyer noktası, Taşma, Yönlü türev, Alt akış, Dışbükey, İçbükey, Dışbükeylik, Lagrange eşitsizliği.
Makine öğrenimi ve DL'de ağırlıkların optimizasyonunda kullanılan aşağıdaki kavramlar:
Giriş: Yöneylem Araştırması (OR), Matematiği işletme sorularına uygulama çalışmasıdır. Uygulamalı Matematiğin bir alt alanıdır. VEYA optimizasyon sorusunu cevaplamak için Matematik ve İstatistik kullanır.
Algoritmalar ve İstatistikler :
VEYA büyük ölçüde Algoritmalar, Matematik ve İstatistiklere güveniyor. Ameliyathanedeki algoritmaların en önemlisi Optimizasyon Algoritmalarıdır: Bir maksimum veya minimum bulmaya çalışan algoritmalar.
Optimizasyon : Zor olan, bir dizi kısıtlama verildiğinde, bir soru için olası en iyi çözümün olmasıdır. Optimizasyon, bir maliyetin veya faydanın Maksimizasyonu veya Minimizasyonu olabilir.
Esas olarak, OR üzerinde Maliyet fonksiyonunda optimizasyon tekniğini kullanıyoruz.
Kümeler, Fonksiyonlar, Birinci dereceden Mantık, İlişkiler, Veri yapıları, Algoritmalar, Algoritmalar için Zaman ve Uzay Karmaşıklığı, Özyineleme, kombinatorikler, Ağaçlar, Grafikler, Sonlu Durum Makineleri, Dinamik Programlama vb.,
Lütfen bazı konuların veya kavramların Olasılık, Matrisler, Boole Cebri, Diller gibi Ayrık Matematiğin bir parçası olduğunu, ancak bunların ilgili alanlarda geleceğini unutmayın.
Aşağıdaki diyagramda, Algoritmalar için geçerli olan sadece iyi bilinen DM kavramlarından bahsedilmiştir. Sonlu Otomata, Biçimsel Diller, Boole Cebri, Olasılık, Matrisler gibi çeşitli diğer kavramlardan, karışıklık ve çarpışmaları önlemek için bahsedilmemiştir.
Çeşitli konular / kavramlar : Dönüşümler (Laplace Dönüşümleri, Z-Dönüşümleri, Fourier Dönüşümleri), dağıtım fonksiyonları (Sigmoid, Softmax, Softplus, Tanh, vb.), Sinyal İşleme, Biyolojik Nöron Kavramı, Topoloji, Fizik Temelleri ve Kontrol Teorisi, vb., Sadece birkaç konu / kavramdan bahsediliyor ancak liste tükenebilir.
Bu konuları (yukarıda bahsedilen) tek bir algoritmada birleştirelim ve bunların nasıl çalıştığını görelim. Bunun için Çok Sınıflı metin Sınıflandırma örneğini kullandım, bu örnekte Sinir Ağı mimarisini kullanıyorum ve Matematik konularının görevi tamamlamak için nasıl dahil olduğunu açıklıyorum.
Aşağıdaki Diyagram, Matematik konularının Sinir Ağına nasıl dahil olduğunu açıklamaktadır. Yapay Zeka algoritmasını Sinir Ağlarında uygulamak, böylece kullanıcı tek seferde iki öğrenme tekniğini kolayca anlayabilir.
Sinir Ağı Mimarisi, her katmanda birçok düğüme sahiptir ve Giriş ve Çıkış Katmanı ile birlikte birçok katmanımız vardır. Bu örnekte Input katmanıyla birlikte 1 gizli katman ve 1 çıktı katmanı kullandım.
Çok Sınıflı Sınıflandırma Algoritması Katmanları:
Girdi katmanı : Vektörler biçiminde Girdi olarak özellikler veya boyutlar.
Gizli katman : Her katmanda birden fazla Gizli katman ve nöron olabilir. Bu örnekte sadece bir Gizli Katman kullanıyoruz.
Çıktı Katmanı : Soft-max işlevi dağıtım üretir.
Sinir Ağı Mimarisi, nöron kavramı üzerine inşa edilmiştir. NN, CNN, RNN, Üretken Modeller, Otomatik Kodlayıcılar, Kod Çözücüler gibi tüm Sinir Ağı mimarileri Derin Öğrenmenin bir parçası ve Yapay Sinir Ağları üzerinde çalışıyor.
Biyolojik Nöron ve Yapay Nöronu karşılaştıran aşağıdaki şema.
Çok Sınıflı Sınıflandırma için Yapay Sinir Ağı.
Sinir Ağı Eğitimi İleri Besleme veya İleri Yayılma ve Geri Yayılma veya Geri Yayılma ile yapılabilir .
Her katmandaki her düğüm, Vektör'deki Öğedir ve her katman vektörlenmiştir. Ağırlıkların ve girdilerin (Giriş katmanındaki girdiler ve gizli katmandaki düğümler) doğrusal kombinasyonunu birleştiren İleri Besleme Yayılımı, bu, Vektör ve Matris ürününün yanı sıra Eğilim Vektörünün eklenmesi kullanılarak yapılabilir.
2 Katman gizli ve çıktı katmanımız olduğundan, Feedforward ve Back propagation 2 aşamada hesaplanacaktır.
Yukarıdaki Sinir ağında ara değişkenleri tanımlayalım.
Parametrelerin boyutlarını bilin:
Bu makalede Derin Öğrenmedeki Matrisler ve Vektörler hakkında ayrıntılı olarak yer verdim.
Faz-1'deki ara değişkenleri hesaplayalım.
Faz-2'deki ara değişkenleri hesaplayalım. Şimdi Girdi, çıktı katmanına gizli bir katmandır.
İleri Besleme Yayılımının Tamamlanmasından Sonra Geri Yayılma başlar. BP 2 aşamada yapılır. Çıkış Katmanında Faz-1 ve Gizli Katmanda Faz-2.
Aşama-1 Geri Yayılma:
BP, Feedforward'ın durduğu yerden başlar. Maliyet Fonksiyonu J veya H. BP ile başlamak, Gerçek Analiz, Sayısal Hesaplama, Dışbükey Optimizasyon, Gradyan İniş ve varyantları Algoritmalar, Matris Hesabı / Vektör Hesabı, vb. Gibi Matematiksel Konuların çoğunu içerir.
Sigmoid ve Softmax'ın Zincir Kuralı ve Türevleri:
Ara Değişkenler ve Geri Yayılma:
Çok Sınıflı Sınıflandırma için Maliyet Fonksiyonu
Maliyet Fonksiyonunu her katmandaki parametrelere göre farklılaştırıyoruz. yani
Çıktı katmanı parametrelerinden başlayarak matematiksel olarak tanımlanabilir
Yukarıdaki formülde birinci bölümün türevi şu şekildedir:
Sonraki Denklem (1) 'deki İkinci kısma göre farklılaşın
Aynı şekilde, J'yi Önyargıya göre ayırt etmemiz gerekir
Aşama-2 Geri Yayılma:
Burada zincirle bağlantılı terimleri genişletiyorum ve çok fazla açıklama yapmadan kesin yerlerde ikame ediyorum, çünkü kafamın karışması ihtimali var.
Aşağıdaki Diyagram, her katmanda İleri ve Geri Yayılımın çıktılarını açıkça belirtmektedir.
Basit bir ifadeyle, eğitim setinin tamamını eğitiyoruz, epoch sayısı tamamlandığında veya Minima'ya ulaşıldığında tüm parametreler optimize edilecek ve bilinmeyen veriler üzerinde doğruluk ile birlikte iyi sonuçlar verecek.Derin Öğrenme kullanımları ve nasıl farklı AI-Alanlar hakkında daha fazla bilgi edinebilirsiniz. Öğrenmeye (ML / DL) dahil edilmiştir.
Matematik ve İstatistik konuları çok önemlidir, bu olmadan ruhsuz bir insan vücudu gibi bir şey.Matematik konularını, kapmak zorunda olduğunuz ve çalışmaya başladığınız konularla ilgili gereklilik geldiğinde, yukarıda belirtilen konular dışında kullandığın kadar öde olarak değerlendirebilirsiniz. AI Algoritmalarındaki her türlü konuyu veya kavramı anlamak için minimum düzeyde gereklidir.
Derin Öğrenme için Matris Hesabı :https://arxiv.org/pdf/1802.01528.pdfEvet, backprop'u anlamalısın
Yapay Zeka : Modern Bir Yaklaşım, Stuart Russell, Peter Norvig.
Önümüzdeki 24 saat içinde, Ethereum ağında 100 milyon token serbest bırakılacak. Bu, kripto para birimi sektöründe şimdiye kadar görülen en büyük kripto odaklı veri bilimi deneyinin başlangıcı olacak.
Bir ürün yöneticisi olarak sürekli olarak ekibimi ve kendimi daha verimli ve etkili hale getirmenin yollarını arıyorum. Aşağıda, zamandan tasarruf etmek ve daha fazla etki yaratmak için ChatGPT'yi bir Proje Yöneticisinin iş akışına nasıl dahil edebileceğinize dair birkaç başlangıç fikri verilmiştir.
Rust'ın rand kasası için daha iyi bir kriptografik olmayan yazılıma ihtiyacı var. Bu, bir tane tasarlamaya nasıl başladığımın bir açıklaması.
Gözlerimi kapatıp zamanda geriye döndüğümde, profesör kara tahtanın yanında dururken, üzerine tebeşirle matematiksel tanımlar yazarken arka sırada oturan ve üzgün görünen bir üniversite öğrencisi görüyorum. Profesör tahtaya her yazı yazışında tıklama, tıklama, tıklama sesi hala açıktı.
Hepimiz çocukken iki sayıyı nasıl çarpacağımızı öğrendik. (😄) 'yı unutmuşsak, 19 ve 95 sayılarının nasıl çarpılacağına bakalım.
Denklemlerin doğasına ilişkin bu oldukça görsel araştırmaya başlamadan önce, bir denklemin bir ilişki olduğunu ve bu ilişkinin birden fazla şekilde yazılabileceğini hatırlamamız gerekir. Bu makale boyunca, uzun zaman önce öğrendiğiniz eski gelenekleri unutmanız ve unutmanız önemlidir, çünkü bu tamamen yeni (en azından benim için) bir düşünce biçimidir.