Amin Vahdat, Google'da Yapay Zeka ve Altyapıdan Sorumlu Baş Teknoloji Uzmanı unvanını taşıyor. Bu onun yalnızca bulut yapay zeka altyapısını içeren bilgi işlem alanından sorumlu olmadığı anlamına geliyor. Ayrıca Google'ın iç ve dış ağının, çok sayıda veri merkezinin ve satın alınan GPU'lardan ve diğer hızlandırıcılardan sunuculara ve Google'ın kendi yapay zeka çiplerine kadar burada kullanılan platform mimarilerinin tasarımıyla da ilgileniyor.
Reklamdan sonra devamını okuyun
Tensör İşleme Birimleri (TPU'lar) son on yılda sekiz nesilden geçti. En yeni nesil iki varyanttan oluşuyor ve Nisan ayında sunuldu. Bilgisayar bilimleri alanında doktorası olan, 16 yıldır Google'da çalışan ve daha önce San Diego'daki California Üniversitesi'nde profesör olan Vahdat, Haberler online ile yaptığı röportajda Google'ın yapay zeka donanımından bahsediyor.
Haberler online: Sayın Vahdat, artık ilk kez eğitim (8t) ve çıkarım (8i) için özel TPU çeşitlerine sahipsiniz. Bu yılın yeni TPU'larını eskilerinden daha iyi kılan şey tam olarak nedir?
Amin Vahdat: Sekizinci TPU neslimizle tek, genel bir hızlandırıcı konseptinden uzaklaştık çünkü yapay zeka iş yüklerinin fiziğinin temelden değiştiğine inanıyoruz.
“Tek bir istem artık binlerce otonom alt aracıyı tetikleyebilir ve bunlar da çok aşamalı görevleri yerine getirebilir.”
Frontier modellerinin eğitimi için TPU 8t artık pod başına 121 ExaFlop'a ulaşıyor ve yüzde 97'lik iyi bir çıktıyı koruyarak bilgi işlem gücünün doğrudan aktif öğrenmeye akmasına olanak tanıyor. Servis tarafında ise TPU 8i, aracıların doğrudan silikon üzerindeki devasa çalışma belleği ihtiyaçlarını karşılamak için çip üzerindeki SRAM'ı üç katına çıkararak 384 MB'a çıkarıyor. Yeni Kolektif Hızlandırma Motorumuzla, doğru miktarda bilgi işlem gücünü doğrudan ağ yoluna yerleştiriyoruz. Dahili gecikmeyi beş katına kadar azaltıyoruz ve karmaşık muhakeme için çok kısa yanıt süreleri elde ediyoruz.
Bu tür iyileştirmeler, entegre çözümler aracılığıyla yapay zekanın ölçeğini işletmeler için nasıl ekonomik hale getirebileceğimizi gösteriyor. Bu, tüm iş yükleri için baştan sona iyileştirmeler sağlar.
Böylece çip türlerini ve isimlerini değiştirdiler. Bunun arkasında stratejik olarak ne var?
Reklamdan sonra devamını okuyun
Donanım geliştirme döngülerinin yıllar aldığı biliniyor, bu nedenle mevcut patlama başlamadan önce bile pazardaki gelişmeleri önceden planlamak zorundaydık. 2026 yılına kadar sektörün, çıkarım ve hizmet iş yüklerinin talebin önemli bir kısmını oluşturacağı bir yol ayrımına ulaşacağını tahmin ettik.
Bu nedenle mimariyi iki özel sisteme ayırdık çünkü büyük modelleri eğitmeye ve gerçek zamanlı yapay zeka aracılarını çalıştırmaya yönelik iş yüklerinin birbirinden farklı olduğunu ve her birinin özelleştirilmiş teknolojiler gerektirdiğini gördük. TPU 8t'deki “t”, bahsettiğiniz gibi, sınır model geliştirme için büyük ölçek ve yüksek verim gerektiren eğitim anlamına gelir. TPU 8i'deki “i”, karmaşık muhakeme görevleri için hızlı, düşük gecikmeli işlem gerektiren çıkarım anlamına gelir. Bu yaklaşım bize ve müşterilerimize, kendi özel iş yükleri için tam olarak en uygun donanımı seçme esnekliği sağlar.
Bu tür özel çipler neden gerekli?
Basit sohbet robotlarından aracılı yapay zekaya geçiş, artık tek bir istemin binlerce otonom alt aracıyı tetikleyebileceği ve bunların da çok adımlı görevleri gerçekleştirebileceği anlamına geliyor. Görevleri planlayan, yürüten ve öğrenen yapay zeka aracıları, birçok bireysel işlemin toplu olarak işlenmesiyle elde edilebilecek verime değil, bireysel operasyonların gecikmesine odaklanabilmelidir. Geçmişte, bu ikinci, verim odaklı durum için donanımı, gecikme açısından optimize edilmiş çıkarım için temel destekle optimize etmiştik.
TPU 8i ve TPU 8t ile uzmanlığı sürekli olarak daha da ileriye taşıdık. TPU 8t çok iyi bir çıkarım çipi görevi görse de tüm optimizasyonlarımız güç verimliliğine ve eğitim için ölçeklendirmeye odaklandı. Benzer şekilde, TPU 8i aslında çok iyi bir eğitim çipi olarak işlev görebilir, ancak tüm mimari yeniliklerimiz çıkarım gecikmesi optimizasyonlarını hedefliyordu. TPU 8i ve 8t, genel altyapıyı giderek daha fazla rahatsız eden güç ve ölçeklendirme zorluklarını çözmek için temel bilgi işlem yapısını nasıl dönüştürdüğümüzü gösteriyor.
Bir yanıt yazın