HPE, yakın zamanda düzenlediği Discover müşteri etkinliğinde, AMD'nin Helios AI raf ölçekli mimarisine dayalı, ölçeklenebilir Ethernet ağına sahip ilk anahtar teslim sistemini duyurdu. Sistem, özel olarak tasarlanmış Juniper ağ donanımı ve yazılımının yanı sıra Broadcom'un Tomahawk 6 ağ yongasını kullanıyor. Açık standart UALoE'yi (Ethernet Üzerinden Ultra Hızlandırıcı Bağlantı) temel alır ve Açık Hesaplama Projesinin (OCP) Açık Raf Geniş (ORW) spesifikasyonlarını temel alan raf ölçekli çözüm, optimize edilmiş güç tüketimi, gelişmiş sıvı soğutma ve kolay bakım için tasarlanmıştır. Bu nedenle Nvidia NVLink gibi özel GPU bağlantılarına bir alternatif sunar.
Duyurudan sonra devamını okuyun
Raf başına 72 AMD Instinct MI455X GPU içeren sistem, toplamda 260 TByte/s'lik ölçeklenebilir bant genişliği ve 2,9'a kadar AI exaflop FP4 performansı sunar. Buna 31 terabayt HBM4 bellek ve 1,4 PByte/s bellek bant genişliği dahildir. Buna, standart Ethernet üzerinden yapay zeka iş yükleri için optimize edilmiş performans sunan ve Broadcom ile işbirliği içinde geliştirilen yeni, ölçeklenebilir bir Ethernet anahtarı da eklendi. Anahtar, ağ operasyonlarını kolaylaştırmak için HPE'nin yerel yapay zeka otomasyonu ve kalite güvencesi özelliklerinden yararlanır ve daha hızlı dağıtım ve maliyet tasarrufunu hedefler. Sistem, AMD ROCm açık kaynak yazılımı ve AMD Pensando ağ teknolojisi ile tamamlanmaktadır.
Aynı zamanda bir HPC ön ucu olarak da kullanılabilir
HPE'ye göre sistem öncelikle trilyonlarca parametreye ve yüksek çıkarım verimine sahip son derece büyük modellerin eğitimi için veri trafiğini destekliyor. Anahtar teslim bir çözüm olarak duyurulsa da yapay zeka kullanıcılarının çoğunluğuna hitap etmiyor, tam tersi. HPE HPC ve Yapay Zeka başkan yardımcısı Chris Davidson, “Raf ölçeğinde Helios'un giriş fiyatı şu anda oldukça yüksek, bu nedenle benimsenmenin daha çok model ve hizmet sağlayıcıyla ilgili olacağını düşünüyorum” diyor. Burada süper bilgi işlemi entegre eden raf ölçeğinde bir çözüm görüyor. Uygulama yelpazesine ilişkin daha ayrıntılı bir değerlendirme ise “Helios rafı, HPC sektöründe bir ön uç sistem olarak önemli bir rol oynayabilir” dedi.
Ayrıca yeni raf, HPE'nin yapay zeka fabrikasının bir parçasıdır. Bunlar yapay zekaya özel olarak tasarlanmış yeni nesil veri merkezleridir. Karmaşık yapay zeka görevleri için yüksek, ölçeklenebilir performans sağlamak üzere entegre bilgi işlem, depolama ve ağ kaynaklarına sahip merkezi yapay zeka merkezleri olarak hizmet verirler. Büyük bir yapay zeka fabrika ağı oluşturmak ve tek tip bir uygulama ortamı sağlamak için küresel olarak birbirleriyle ağ halindedirler.
Yapay zeka eğitimi bu tür yapay zeka fabrikalarında veya süper bilgisayarlarda merkezileştirilirken, çıkarım verilere, yani uca giderek daha da yaklaşıyor. HPE, yapay zeka fabrikasındaki yeni uç erişim noktaları ve yeni NX 301 Çoklu Hizmet Uç Yönlendiricisi ile bu trende hitap ediyor. Amaç, gecikmeyi, bant genişliğini ve maliyeti optimize etmek için buluttan uç noktaya daha fazla çıkarım taşımaktır.
(fo)
Bir yanıt yazın