AMD ve Intel, x86 işlemci çekirdekleri için “ACE” AI talimat setini belirliyor

AMD ve Intel, 2024 sonbaharından bu yana ARM ve RISC-V gibi rakiplere karşı kendilerini güçlendirmek için x86 Ekosistem Danışma Grubu'nda işbirliği yapıyor. Yapay zeka algoritmalarının işlenmesini hızlandırmayı amaçlayan yeni x86 işlemci talimatları için ortaklaşa geliştirilen spesifikasyon artık yayınlandı: Yapay Zeka Hesaplama Uzantıları veya kısaca “ACE”.

ACE, nicelenmiş ağırlıklarla çıkarım yapmak için yapay zeka veri formatlarıyla matris çarpımlarına odaklanır.

Rakip ARM, Ölçeklenebilir Vektör Uzantılarını (SVE2) temel alan Ölçeklenebilir Matris Uzantılarını (SME2) zaten belirlemiştir. PMI hesaplama birimleri ARM SoC'lere çeşitli şekillerde entegre edilebilir. Apple, M4'ten SME2'yi, Snapdragon X2'den Qualcomm'u bünyesine kattı.

AVX ile yakından ilişkili

AI Compute Extensions (ACE) sürüm 1.15 spesifikasyonu, x86 Ekosistem Danışma Grubu web sitesinden indirilebilir. Spesifikasyon, spesifik uygulamayı değil, yalnızca komutları açıklar.

Yaklaşan ACE hesaplayıcıları, Gelişmiş Vektör Uzantıları (AVX) ile yakından ilişkilidir ve örneğin aynı kayıtları kullanır. Spesifikasyon özellikle AVX10'u çağırır. Ayrıca şu ana kadar yalnızca Intel tarafından mevcut Xeon sunucu işlemcilerine kurulan Gelişmiş Matris Uzantılarından (AMX) da bahsediyor.

ACE v1 hesaplayıcılara sahip işlemcilerin ayrıca AVX10.2 komut setinin belirli bir bölümünü işleyebilmesi gerekir.

Birçok AI veri formatı

ACE v1, bazıları farklı gösterimlerde olan 11 veri formatını tanımlar. ACE hesap makinelerinin bu formatlardaki verilerle çalışabilmesinin yanı sıra spesifikasyonlarda geniş bir format dönüştürme aralığı da belirtilmelidir.

AI Compute Extensions ACE v1 veri formatları
biçim	Tanım
INT8	8 bitlik tamsayılar (tamsayılar)
INT32	32 bit tamsayılar
FP32	IEEE-754'e (SE8M32) göre 32 bitlik kayan nokta sayıları
FP16	SE5M10
BF16	SE8M7
E8M0	İşaretsiz üslü 8 bitlik sayı
FP8	OCP spesifikasyonuna göre (OFP8): E4M3 veya E5M2
MXFP8	Mikro ölçekli (MX) formatlar SE5M2 veya SE4M3
MXFP6	SE3M2 veya SE2M3
MXFP4	SE2M1
MXINT8	Kesirli format

NPU Yarışması

2023 yılından bu yana, ek bir entegre Sinir İşleme Birimi (NPU) içeren x86 işlemciler piyasada bulunmaktadır. Belirli veri formatlarını özellikle hızlı ve verimli bir şekilde işlerler, ancak çok esnek değildirler ve çip üzerinde nispeten büyük miktarda yer kaplarlar.

Microsoft, 2024'ten itibaren, Copilot+ pazarlama etiketi için saniyede en az 40 trilyon INT8 işlemi (maksimum 40) performansına sahip bir NPU'yu zorunlu hale getirdi. Microsoft artık bu gereksinimi hafifletiyor ve GPU'ları da etkinleştiriyor. Gelecek ACE uyumlu işlemcilerle birlikte muhtemelen daha fazla değişiklik gerekli olacaktır.

Güncel bilgilere göre ACE v1 uyumlu x86 işlemcilerin 2028'den önce gelmesi pek mümkün görünmüyor. Çünkü şu ana kadar ne Zen 6 için AMD ne de Nova Lake için Intel ACE'den bahsetmedi. AMD, Zen 7 için muhtemelen ACE ile uyumlu olan yeni bir “Matrix Engine”den bahsediyor.

Ayrıca şunu da dinleyin:

(chiw)