1BİL551 – YAPAY ZEKA Kümeleme Yrd. Doç. Dr. Mehmet Dikmen
2Sınıflandırma (Classification) Eğiticili (supervised) sınıflandırma: Sınıflandırma: Sınıf sayısı ve bir grup örneğin hangi sınıfa ait olduğunu bilinirEğiticisiz (unsupervised) sınıflandırma: Kümeleme: Hangi nesnenin hangi sınıfa ait olduğu ve grup sayısı belirsizdir.
3Kümeleme (Clustering) Kümeleme, eğiticisiz öğrenme ile gerçekleştirilir.Küme: Birbirine benzeyen nesnelerden oluşan gruptur.Aynı kümedeki örnekler birbirine daha çok benzerFarklı kümedeki örnekler birbirine daha az benzer
6Benzerlik Ölçüsü: Nümerik Veri kümesi içindeki nümerik örneklerin birbirine olan benzerliğini ölçmek için mesafe ölçüsü kullanılabilir.Ancak mesafe ölçüsü benzerlikle ters orantılıdır.L1 Norm (City Block / Manhattan Distance)L2 Norm (Euclidean Distance)L3 Norm (Minkowski distance)
7Mesafe Ölçüsü: L1 Norm L1 Norm: City Block / Manhattan Distance p boyutlu uzayda verilen i ve j noktalarının birbirine olan uzaklığı:
8Mesafe Ölçüsü: L2 Norm L2 Norm: Euclidean Distance p boyutlu uzayda verilen i ve j noktalarının birbirine olan uzaklığı:
9Mesafe Ölçüsü: L3 Norm L3 Norm: Minkowski distance p boyutlu uzayda verilen i ve j noktalarının birbirine olan uzaklığı:NOT: q=2 için Euclidean uzaklığını verir
10Mesafe Ölçüsü Mesafe ölçüsü ile ilgili özellikler: d(i,j) 0 d(i,i) = 0d(i,j) = d(j,i)d(i,j) d(i,k) + d(k,j)
11Benzerlik Ölçüsü: Binary i ve j örneklerine ait binary (ikili) özellikler bir olasılık tablosu (contingency table) ile gösterilir:j ÖrneğiiÖrneği1abcda: i örneğinde 0, j örneğinde 0 olan özelliklerin sayısıb: i örneğinde 0, j örneğinde 1 olan özelliklerin sayısıc: i örneğinde 1, j örneğinde 0 olan özelliklerin sayısıd: i örneğinde 1, j örneğinde 1 olan özelliklerin sayısıSimple Matching Coefficient (SMA): İkili değişkenin simetrik olduğu durumlardaJaccard coefficient: İkili değişkenin asimetrik olduğu durumlarda
12Benzerlik Ölçüsü: Binary i= ve j=i ve j örneklerinin birbirlerine olan benzerlikleri;a=1, b=2, c=3, d=2 olduğuna göreSim SMC(i,j)= 3/8Sim jaccard(i,j)= 2/7 olur.
14K-Means KümelemeK-means algoritması basit ve etkin bir istatistiki kümeleme yöntemidir.K-means algoritması veri kümesini birbirinden ayrık kümelere böler.K küme sayısının başlangıçta bilinmesi gerekir.
15K-Means Kümeleme Algoritmanın adımları; Belirlenecek küme sayısı (k) seçilir.k adet rastgele başlangıç küme merkezi belirlenir. (Veri kümesindeki örneklerden de seçilebilir)Öklid mesafesi kullanılarak kalan örneklerin en yakın olduğu küme merkezleri belirlenir.Her küme için yeni örneklerle küme merkezleri hesaplanır.Eğer kümelerin yeni merkez noktaları bir önceki merkez noktaları ile aynı ise işlem bitirilir.Değilse yeni küme merkezleri ile 3. adımdan itibaren işlemler tekrarlanır.
16Iteration 1Rastgele belirlenen başlangıç merkezleri: her merkez için en yakın noktaları belirlex2x2x1x1Küme merkezleri yeniden hesaplanır
17Iteration 2 Yeni küme merkezlerine en yakın noktaları belirle x2x2x1x1Küme merkezlerini yeniden hesapla
27Hiyerarşik KümelemeKüme sayısının bilinmesine gerek yoktur ancak bir sonlanma kriterine ihtiyaç duyar.Step 0Step 1Step 2Step 3Step 4bdceaa bd ec d ea b c d eagglomerative(AGNES)divisive(DIANA)
28Hiyerarşik Kümeleme: AGNES (Agglomerative Nesting) Başlangıçta her nesne bir küme olarak alınır.Aralarında en az uzaklık bulunan kümeler birleştirilir.Kümeler arasında mesafe tek bağ metodu (single linkage method) ile hesaplanırBütün örnekler tek bir demet içinde kalana kadar birleştirme işlemi devam eder.
29Hiyerarşik Kümeleme: DIANA (Divisive Analysis) AGNES’in yaptığı işlemlerin tersini yapar.Başlangıçta bütün örnekler bir demet içindeyken işlem sonunda her örnek bir demet oluşturur.
30Hiyerarşik Kümeleme: Dendrogram Dendrogram: Kümelerin nasıl birleştiğini gösterir.
31Microsoft Üstün Mühendislik Başarısı Sorular?Microsoft Gizliliği