Küresel teknoloji sektörü, ajansal yapay zeka için optimize edilmiş yeni bir işlemci sınıfı olan NVIDIA Vera'nın piyasaya sürülmesiyle önemli bir altyapı geçişine hazırlanıyor. Genel amaçlı mimarilerin aksine Vera, görev tamamlamayı 1,8 kat hızlandırmayı vaat ederek yalnızca çekirdek yoğunluğu yerine token üretimine odaklanan yeni bir veri merkezi ekonomisinin temelini atıyor. İşlemci, halihazırda yaklaşık 2,5 milyon birim dağıtılarak yaygın bir yayılma elde etmiş ve NVIDIA'nın veri merkezi segmentindeki konumunu sağlamlaştırmış olan Grace CPU'larla başlayan bir yolculuğun sonucudur.
Vera'nın benimsenmesi çapraz bir süreçtir ve farklı alanlardaki önde gelen oyuncuları kapsamaktadır. NYSE'nin altyapısının gecikmesini optimize etmeyi amaçladığı finanstan, Anthropic ve OpenAI gibi araştırma laboratuvarlarına, Oracle Cloud Infrastructure ve ByteDance gibi büyük hiper ölçekleyicilere kadar. Dell, HPE, Lenovo ve Supermicro gibi büyük sistem üreticileri de teknolojiyi donanım yol haritalarına zaten entegre etmiş durumda. Ortak amaç, yalnızca yanıtları işlemekle kalmayıp aynı zamanda harici araçları kullanarak ve eylemlerinin sonuçlarını değerlendirerek kodu bağımsız olarak yürütebilen yeni nesil bir yapay zekayı desteklemektir.
Teknik açıdan bakıldığında sistemin kalbi, Python çalışma zamanlarını, korumalı alan ortamında kod yürütmeyi ve orkestrasyon mantığını verimli bir şekilde yönetmek için tasarlanmış Olympus çekirdekleri tarafından temsil edilir. 88 çekirdek, Spatial Multithreading teknolojisi ve 1,2 TB/s bant genişliği kapasitesine sahip LPDDR5X bellek alt sistemi ile Vera, genellikle veri hatlarını yavaşlatan hesaplama darboğazlarını ortadan kaldırmak için tasarlanmıştır. Bu, hızlandırıcılara sürekli olarak güç verilmesine olanak tanıyarak yapay zeka fabrikaları olarak adlandırılan fabrikaların genel verimini büyük ölçüde artırıyor.
Mevcut ekosisteme entegrasyon, GPU'larla 1,8 TB/s'ye kadar tutarlı iletişim sağlayan ikinci nesil NVLink-C2C ara bağlantı teknolojisiyle sağlanıyor. Ayrıca Vera BlueField-4 STX işlemci, ağ ve depolama hızlandırmanın yanı sıra entegre güvenlik özelliklerini de kapsayacak şekilde yetenekleri genişletiyor. Önümüzdeki sonbahardan itibaren kullanıma sunulması beklenen sistem, bağımsız CPU sunucu segmenti için x86 mimarilerine ilk somut alternatif olarak öneriliyor ve hem büyük kümeler için sıvı soğutmalı yapılandırmalarda hem de kurumsal uygulamalar için hava soğutmalı sistemlerde çözümler sunuyor.
Bir yanıt yazın