Microsoft, Alphabet’e bağlı Google ve ChatGPT’nin yaratıcısı OpenAI, modeller adı verilen yapay zekâ algoritmalarını eğitmek, görevleri gerçekleştirmeyi "öğrenmelerine" yardımcı olmak ve verileri analiz etmek için bir bulut data sistemi kullanıyor. ChatGPT'nin başarısı, diğer şirketlerin kendi AI sistemlerini ve sohbet botlarını piyasaya sürmek veya çeşitli platformlara yeni özellikler sunmak için büyük AI modelleri kullanan ürünler oluşturmada yarışmasına neden oluyor.
Diğer programlama biçimlerinden çok daha fazla enerji kullanan yapay zekâ için tek bir modeli eğitmek, ABD'de 100 evin tüm yıl boyunca kullandığından daha fazla elektriğe ihtiyaç duyuyor. Yine de sektör o kadar hızlı büyüyor ve o kadar sınırlı şeffaflığa sahip ki hiç kimse toplam elektrik kullanımının ve karbon salımlarının ne kadarının yapay zekaya atfedilebileceğini tam olarak bilmiyor. Karbon salımları, elektriği hangi tür santrallerin sağladığına bağlı olarak da büyük ölçüde değişebilir; elektriğini kömür veya doğal gazla çalışan bir santralden alan bir veri merkezi, güneş veya rüzgâr santrallerinden güç çeken bir veri merkezine göre çok daha yüksek karbon salımlarından sorumlu olacaktır.
Araştırmacılar tek bir modelin yaratılmasından kaynaklanan salımları hesaplamış ve bazı şirketler enerji kullanımları hakkında veri sağlamış olsa da teknolojinin kullandığı toplam güç miktarı için genel bir tahminleri yok. Hugging Face adlı yapay zekâ şirketinde araştırmacı olan Sasha Luccioni, GPT-3'ünün rakibi olan şirketinin BLOOM ürününün karbon etkisini ölçen bir makale yazdı. Luccioni aynı zamanda ChatGPT için de sınırlı sayıda kamuya açık veriye dayanarak etkisini tahmin etmeye çalıştı.
Daha Fazla Şeffaflık
Luccioni gibi araştırmacılar, yapay zekâ modellerinin güç kullanımı ve karbon salımları konusunda şeffaflığa ihtiyacımız olduğunu söylüyor. Daha fazla şeffaflık, daha fazla incelemeyi de beraberinde getirebilir gibi görünüyor. Örneğin; Bitcoin de aşırı enerji tüketimi sebebiyle eleştiriliyor. Cambridge Bitcoin Elektrik Tüketim Endeksi'ne göre, Bitcoin bir yılda Arjantin kadar elektrik kullanıyor. Bu doymak bilmez iştah, Çin'in kripto madenciliğini yasaklamasına ve New York'un fosil yakıtlarla çalışan kripto madenciliği için yeni izinler konusunda iki yıllık erteleme süreci geçirmesine neden oldu.
2021'de yayınlanan bir araştırma makalesine göre, dil üretebilen ve birçok farklı kullanıma sahip yapay zekâ programı olan GPT-3'ün eğitimi 1.287 gigawatt/saat sürdü ve yaklaşık olarak ABD’deki 120 evin bir yılda tüketeceği kadar elektrik tüketti. Aynı makaleye göre, bu eğitim 502 ton karbon salımı ya da yaklaşık 110 ABD otomobilinin bir yılda saldığı kadar karbon salımı demek. Bu hesaplama sadece bir program ya da "model" için geçerli. Bir modeli eğitmek büyük bir ön enerji maliyetine sahip olsa da araştırmacılar ön enerji maliyetinin modelin gerçek kullanımındaki enerjinin sadece %40'ı olduğunu söylüyorlar. OpenAI halihazırda GPT-4 üzerinde çalışıyor, ancak güncel olaylardan haberdar olmak için modellerin düzenli olarak yeniden eğitilmesi de gerekiyor.
Yapay zekanın enerji tüketimiyle ilgili Google’ın yaptığı bir ölçümde araştırmacılar, yapay zekanın şirketin 2021'de 18.3 terawatt/saat olan toplam elektrik tüketiminin %10 ila 15'ini oluşturduğunu tespit etti. Bu da Google'ın yapay zekasının yılda yaklaşık 2.3 terawatt/saat, yani Atlanta büyüklüğünde bir şehirdeki bütün evler kadar elektrik tükettiği anlamına geliyor.
Net-Sıfır Taahhütleri
Modeller birçok durumda büyürken, yapay zekâ şirketleri de sürekli olarak modellerin daha verimli çalışmasını sağlayacak iyileştirmeler üzerinde çalışıyor. ABD'nin en büyük bulut şirketlerinden Microsoft, Google ve Amazon’un karbon negatif veya nötr taahhütleri bulunuyor. Google yaptığı açıklamada, ofisini ve veri merkezlerini tamamen karbonsuz enerjiyle çalıştırma hedefiyle 2030 yılına kadar operasyonlarında net sıfır hedeflediğini söyledi. Şirket ayrıca, tesislerindeki soğutmayı doğrudan kontrol eden bir teknoloji ile veri merkezlerinde enerji verimliliğini artırmak için yapay zekayı kullanıyor.
OpenAI, ChatGPT için uygulama arayüzünü daha verimli hale getirmek ve müşteriler için elektrik kullanımını ve fiyatları azaltmak için yaptığı çalışmalar hakkında açıklama yaptı. Bir OpenAI sözcüsü açıklamasında, "İklim değişikliğini durdurma ve tersine çevirme sorumluluğumuzu çok ciddiye alıyoruz ve bilgi işlem gücümüzü en iyi şekilde nasıl kullanabileceğimiz konusunda kafa yoruyoruz" dedi. Ayrıca büyük dil modellerini çalıştırmak için verimliliği ve karbon ayak izini iyileştirmek üzere Microsoft'un ekibiyle yakın iş birliği içinde çalıştıklarından bahsetti.
Microsoft, yenilenebilir enerji satın aldığını ve daha önce açıkladığı 2030 yılına kadar karbon negatif olma hedefine ulaşmak için başka adımlar attığını da belirtti. Şirketten yapılan açıklamada, "Daha sürdürülebilir bir gelecek yaratma taahhüdümüzün bir parçası olarak Microsoft, yapay zekanın enerji kullanımını ve karbon etkisini ölçen araştırmalara yatırım yapıyor ve hem eğitim hem de uygulamada büyük sistemleri daha verimli hale getirmenin yolları üzerinde çalışıyor" denildi.
Yapay zekanın daha verimli çalışmasını sağlamanın birtakım yolları var. Enerji araştırma ve danışmanlık şirketi Wood Mackenzie'den Ben Hertz-Shargel, geliştiricilerin veya veri merkezlerinin eğitimini elektriğin daha ucuz ve fazlalıkta olduğu zamanlara göre planlayabileceğini ve böylece operasyonlarını daha çevreci hale getirebileceğini söyledi.
“Çılgınca olacak”
Çoğu veri merkezi yapay zekâ modellerini eğitmek için grafik işleme birimleri (graphics processing unit - GPU) kullanıyor ve bu bileşenler çip endüstrisinin ürettiği en fazla güç tüketen bileşenler arasında yer alıyor. Morgan Stanley analistleri tarafından yayınlanan bir rapora göre, büyük modelleri eğitmek için on binlerce GPU gerekiyor ve eğitim programı haftalar ile aylar arasında değişiyor.
Araştırmacı Luccioni'ye göre yapay zekâ alanındaki en büyük gizemlerden biri GPU'larla ilişkili toplam karbon salımları. En büyük GPU üreticisi olan Nvidia, yapay zekâ görevleri söz konusu olduğunda görevi daha hızlı tamamlayabildiklerini ve genel olarak daha verimli hale getirdiklerini iddia ediyor.
Nvidia'nın doğrudan karbon salımlarını ve enerjiyle ilgili dolaylı salımlarını kamuoyuna açıklamasına rağmen Luccioni, dolaylı yoldan sebep oldukları tüm karbon salımlarını açıklamadıklarını söyledi. Nvidia bu bilgiyi paylaştığında, Luccioni GPU'ların küçük bir ülkenin toplam karbon salımı kadar enerji tükettiğinin ortaya çıkacağını düşünüyor ve ekliyor "Bu çılgınca olacak".
Detaylı bilgi için kurumsal web sitemizi ziyaret edebilirsiniz: www.s360.com.tr