Veri merkezlerine yönelik yeni Blackwell GPU'lar, mevcut Hopper nesline göre önemli ölçüde daha fazla bilgi işlem kapasitesi sağlıyor. NVIDIA çözümlerine yönelik çılgınlık bu nedenle bitmek üzere değil…
Beklendiği gibi yapay zekanın yükselişinden en çok yararlanan şirketlerden biri olan NVIDIA, GTC'den faydalandı (GPU Teknoloji Konferansı), bu hafta yeni GPU'larını tanıtmak için San Jose, Kaliforniya'da gerçekleşecek; henüz GeForce RTX 50 Serisi değil, veri merkezlerine yönelik ve firmanın zaten çok güçlü bir talep beklediği Blackwell GPU'ları. CEO'su Jensen Huang böylece H100, H200 ve GH200'ün haleflerini açıkladı: İlk ikisiyle aynı çizgide olan B100 ve B200'ün yanı sıra sonuncudan miras kalan GB200.
Blackwell veya MCM'ye geçiş
Birkaç aydır bekleniyordu ve artık resmileşti: Blackwell mimarisi, MCM tasarımının benimsenmesine işaret ediyor (Çoklu Çip Modülü). Zaten AMD tarafından kullanılan bu sistem, eski monolitik tasarıma göre daha fazla esneklik sağlıyor. Blackwell, TSMC'nin 4NP (4nm) sürecinden yararlanıyor.
Yıldız tabii ki B200. Jensen Huang tarafından formüle edilen ihtiyaca cevap veriyor, “daha büyük GPU'lara sahip olmak” Üretken yapay zekanın ihtiyaçlarını karşılamak için. Sahnede deri ceketli adam, Hopper çipini doğrudan Blackwell GPU'yla karşılaştırdı; ve gerçekten de boyut farkı var. Ancak Hopper'ı savunmak gerekirse B200 geleneksel anlamda tek bir GPU değil. Birleşik bir CUDA GPU olarak çalışan iki çipten oluşur. Bir NV-HBI bağlantısıyla bağlanırlar (NVIDIA Yüksek Bant Genişliği Arayüzü) 10 TB/sn.
Değerler listesine girmeden, H100 / H200'ün 80 milyar transistörüne kıyasla B200'ün 208 milyar transistörü var. 8 TB/s bant genişliği sunan 192 GB HBM3e bellekle donatılan çip, modelinden beş kat daha yüksek yapay zeka performansı sunuyor. Daha spesifik olarak Blackwell, çip başına önceki modele göre eğitim için FP8'de 2,5 kat, çıkarım için FP4'te 5 kat performans sağlıyor. Ancak FP4 hassasiyetinin yeni Blackwell mimarisine (aynı zamanda yeni bir FP6 formatı da ekleyen) özel olduğunu unutmayın. Sonuç olarak, Blackwell ve Hopper'ı karşılaştırmak için FP8'e güvenmemiz gerekir. Ayrıca tüketim, Hopper GPU'ların 700 W'ına kıyasla çip başına yaklaşık 1000 W kadar artıyor.
Ayrıca Hopper'dan iki kat daha hızlı olan beşinci nesil NVLink ara bağlantısı 576'ya kadar GPU'yu destekler.
B100'ün bu kadar kapsamlı bir sergiye hakkı yoktu. Numarasından da anlaşılacağı üzere modeline göre biraz daha az güçlü olmayı vaat ediyor. NVIDIA, aşağıda belirtilen HGX B100'ler gibi bazı ürünler için bunu basitçe belirtmektedir. AnandTech'ten meslektaşımız bunun 104 milyar transistörlü tek bir kalıp olduğunu öne sürüyor ancak bu iddianın onaylanması gerekiyor.
Tüm tatlarda bir B200 mevcuttur
B200'e dönecek olursak, GB200 Grace Blackwell'de de kullanılacak. GH200 Grace Hopper Superchip'in soyundan gelmektedir. NVIDIA Grace CPU (72 Arm Neoverse V2 çekirdeği) ile ilişkili bir çift B200 bulduk. Sette 384 GB'a kadar HBM3e bulunur. TDP 2700 W'tır.
Konuyu tamamlamak için sekiz B200 GPU ve iki Intel Xeon Platinum 8570 işlemciye sahip DGX B200 istasyonlarından da bahsedelim; ve B100 hakkında konuşmak gerekirse, SXM formatında 8 B200 / B100 GPU ile donatılmış HGX B200 ve HGX B100 (Sunucu PCI Express Modülü).
Son olarak, NVLink ara bağlantılarını yönetmekten sorumlu olan NVLink Switch adı verilen diğer yongalarla birleştiğinde GB200'ler, çok düğümlü, sıvı soğutmalı, raf ölçekli bir sistem olan GB200 NVL72'nin yapı taşlarıdır. Menüde: 720 petaflop yapay zeka eğitim performansı ve 1,4 exaflop yapay zeka çıkarım performansı için 36 Grace CPU ve 72 Blackwell GPU.
GB200 NVL72 ile ilgili olarak Jensen Huang şunları söyledi: “Biz konuşurken gezegende yalnızca birkaç, belki üç tane exascale makinesi var. Bu, tek bir rafta yer alan exascale bir yapay zeka sistemidir”.
Küçük bir kültürel notla bitirelim. NVIDIA mimarisinin adı, Berkeley'deki California Üniversitesi'nden oyun teorisi ve istatistik alanında uzmanlaşmış matematikçi ve bilim dünyasına katılan ilk siyahi araştırmacı olan David Harold Blackwell'e ithaf edilmiştir. Ulusal Bilimler Akademisi.
🔴 01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Kaynak :
NVIDIA
Bir yanıt yazın