ChatGPT gibi bir yapay zeka ürününü geliştirmenin maliyetini ölçmek zor olabilir.
ABD’nin Iowa eyaletindeki Raccoon ve Des Moines nehirlerinden alınan bol miktarda su, Microsoft destekli OpenAI teknolojisinin maliyetlerinden biri.
Nehirlerden alınan su, insan yazısını nasıl taklit edeceğini öğrenen yapay zeka destekli ChatGPT sohbet robotu için kullanılan güçlü bir süper bilgisayarı soğutmaya yardımcı oluyor.
Üretken yapay zeka teknolojisinden yararlanmak için yarışan Microsoft, OpenAI ve Google gibi önde gelen teknoloji şirketleri, yapay zeka araçlarına yönelik artan talebin, pahalı yarı iletkenler ve su tüketimindeki artış gibi ağır maliyetler taşıdığını kabul etti.
Ancak teknoloji şirketleri bu maliyetlerin ayrıntılarını genellikle gizli tutuyor.
Üst düzey bir Microsoft yöneticisi yaptığı bir konuşmada sohbet robotunun en gelişmiş dil modeli GPT-4’dan bahsederken, "kelimenin tam anlamıyla Des Moines'in batısındaki mısır tarlalarının yanında yapıldığını" söylemeden önce Iowa'da çok az kişi bunu biliyordu.
Büyük bir dil modeli oluşturmak, insanlar tarafından yazılan geniş bir metin hazinesindeki kullanımların analizini gerektiriyor.
Tüm bu analiz süreci çok fazla elektrik tüketirken çok fazla ısı üretiyor.
Sıcak günlerde veri merkezlerini serin tutabilmek için, genellikle depo büyüklüğündeki binaların dışındaki soğutma kulesine su pompalanması gerekiyor.
Microsoft, yayınladığı son çevre raporunda, şirketin küresel su tüketiminin 2021'den 2022'ye yüzde 34 oranında arttığını açıkladı. Bu oran, yaklaşık 1,7 milyar galona veya 2 bin 500 olimpik yüzme havuzundan fazlasına denk geliyor.
Bu, şirketin önceki yıllarda açıkladığı oranlara kıyasla keskin bir artış. Araştırmacılar, bunu şirketin yapay zeka operasyonlarına bağlıyor.
California Üniversitesi’nin Riverside yerleşkesinde ChatGPT gibi üretken yapay zeka ürünlerinin çevresel etkisi üzerine çalışan araştırmacı Shaolei Ren, "Artışın büyük kısmının yapay zekadan kaynaklandığını söylemek doğru olur" dedi. Ren, bu artışa "üretken yapay zekaya yapılan yoğun yatırım ve OpenAI ile ortaklık da dahil" diye ekledi.
Ren'in ekibi, bu yılın sonlarında yayınlanacak bir makalede, ChatGPT'ye 5 ila 50 soru sorulduğunda ya da komut verildiğinde, 500 mililitre su harcadığını tahmin ediyor. Su kullanımı, ChatGPT sunucularının bulunduğu yere ve sezona bağlı olarak değişiyor.
Ren’in ekibinin tahmini, veri merkezlerine elektrik sağlayan enerji santrallerini soğutmak gibi, teknoloji şirketlerinin ölçmediği dolaylı su kullanımını da içeriyor.
Ren, "Çoğu insan ChatGPT'nin altında yatan kaynak kullanımının farkında değil" dedi.
Ren, "Kaynak kullanımının farkında değilseniz, kaynakların korunmasına yardımcı olmamızın hiçbir yolu olmaz" diye ekledi.
Bir diğer teknoloji şirketi Google, aynı dönemde su kullanımında yüzde 20'lik bir artış bildirdi. Ren bunu da büyük ölçüde yapay zeka çalışmalarına bağladı.
Google'ın su kullanımındaki artış her yerde aynı oranda gerçekleşmedi.
Şirketin su kullanımı, kamuoyunun takip ettiği Oregon'da istikrarlıyken Las Vegas yakınlarında bir senede iki katına çıktı.
Iowa'da da su kullanımını arttıran şirket, Council Bluffs veri merkezlerine başka herhangi bir yerden daha fazla içme suyu çekiyordu.
Microsoft, Associated Press'in sorularına yanıt olarak geçen hafta yaptığı açıklamada, şirketin "büyük sistemleri hem eğitim hem de uygulamada daha verimli hale getirmenin yolları üzerinde çalışırken" yapay zekanın enerji ve karbon ayak izini ölçmek için araştırmalara yatırım yaptığını söyledi.
Şirket, "Veri merkezlerine güç sağlamak için temiz enerji kullanımımızı arttırmaya, yenilenebilir enerji satın almaya ve 2030 yılına kadar karbon negatif, su pozitif ve sıfır atık olma şeklindeki sürdürülebilirlik hedeflerimizi karşılamaya yönelik diğer çabalarımızı arttırırken emisyonlarımızı izlemeye, ilerlemeyi hızlandırmaya devam edeceğiz" ifadelerini kullandı.
OpenAI, geçen Cuma yaptığı açıklamada şirketin, bilgi işlem gücünün en iyi şekilde kullanılması konusu üzerine "önemli ölçüde düşündüğünü" söyledi.
Verimliliği arttırmak için çalıştıklarını belirten şirket, "Büyük modellerin eğitiminin enerji ve su kullanımı açısından fazla olabileceğini biliyoruz" dedi.
Microsoft, OpenAI şirketinin yapay zeka modellerini eğitmek için gereken bilgi işlem gücünü sağlamakla sorumlu.
Bu işin en azından bir kısmını yapmak için iki şirket, Iowa’nın 68 bin kişilik West Des Moines şehrine verilerini depolama kararı aldı. Şirketlerin dördüncü ve beşinci veri merkezlerinin bu yılın sonlarında West Des Moines’de açılması planlanıyor.
Microsoft şehre geldiğinde belediye başkanı olan Steve Gaer şirketin, altyapı hizmetlerine bağlılığından dolayı şehre veri merkezi kurduğunu ve vergiler yoluyla şehre altyapı yatırımlarını destekleyen büyük bir miktarda para verdiğini söyledi.
Microsoft ilk olarak 2020'de OpenAI için dünyanın en güçlü süper bilgisayarlarından birini geliştirdiğini açıklamıştı. Şirket o dönemde bu bilgisayarın konumunu AP'ye açıklamayı reddetmişti. Öte yandan şirket, bu süper bilgisayarı 285 binden fazla geleneksel yarı iletken çekirdek ve 10 bin grafik işlemciden oluşan "tek bir sistem" olarak tanımlamıştı.
Mayıs ayı sonlarında Microsoft'un başkanı Brad Smith, OpenAI'nin dördüncü nesil modeli GPT-4'ü eğitmesini sağlamak için şirketin Iowa'da "gelişmiş yapay zeka süper bilgi işlem veri merkezini" kurduğunu açıkladı.
ChatGPT'nin ve Microsoft'un kendi ürünlerinin bazılarının premium sürümlerini destekleyen model, yapay zekanın toplumsal risklerini kontrol altına alma konusundaki tartışmayı hızlandırdı.
Smith model için, "California'daki olağanüstü mühendisler tarafından geliştirildi ama aslında Iowa'da yapıldı" dedi.