AMD'nin güçlü AI cipsleri nihayet Windows PC'lerinde serbest bırakılabilir

AMD'nin donanım ekipleri, AI çıkarımını Ryzen Ai Max ve ThreadRipper gibi güçlü yongalarla yeniden tanımlamaya çalıştı. Ancak yazılımda, PC'ler söz konusu olduğunda şirket büyük ölçüde yoktu. AMD yöneticileri bu değişiyor.

AMD'nin ilerleyen AI etkinliği Perşembe günü, içgüdü dizisi gibi kurumsal sınıf GPU'lara odaklandı. Ancak, AMD'nin de aynı derecede bağlı olduğu ROCM adlı duymadığınız bir yazılım platformu. AMD, şirketin sadece yazılım aracılığıyla AI çıkarımını üç kez artırabileceğini söylediği ROCM 7'yi piyasaya sürüyor. Ve bu Sonunda Nvidia'nın Cuda üstünlüğüne savaşmak için pencerelere geliyor.

Radeon Open Compute (ROCM), AI iş yüklerini çalıştırmak için sürücüler ve araçlar ile AMD'nin AI hesaplama için açık yazılım yığınıdır. Birkaç hafta önce Nvidia Geforce RTX 5060 çöküşünü hatırlıyor musunuz? Bir yazılım sürücüsü olmadan, Nvidia'nın en son GPU'sunun cansız bir silikon iri idi.

Daha önce AMD aynı turşudaydı. NVIDIA gibi şirketlerin sınırsız sandıkları olmadan AMD bir seçim yaptı: ROCM ile büyük işletmelere ve müşteri PC'leri yerine kurumsal GPU'ları önceliklendirecekti. AI Solutions Group kurumsal başkan yardımcısı Ramine Roane, “ağrılı bir nokta” olarak adlandırdı: “ROCM'yi bulut GPU'larına odakladık, ama her zaman uç nokta üzerinde çalışmıyordu – bu yüzden bunu düzeltiyoruz.”

Bugünün dünyasında, en iyi ürünü göndermek her zaman yeterli değildir. Ürüne bağlı kalmaya istekli müşterileri ve ortakları yakalamak bir zorunluluktur. Bu yüzden eski Microsoft CEO'su Steve Ballmer, sahnede “Geliştiriciler Geliştiricileri Geliştiricileri” ni zikretti; Sony, PlayStation'a bir Blu-ray sürüşü oluşturduğunda, Film Stüdyoları yeni video formatına rakip HD-DVD formatının sahip olmadığı kritik bir kütle verdi.

Şimdi, AMD'den Roane, şirketin AI geliştiricilerinin de Windows'u sevdiğini fark ettiğini söyledi. “Temel olarak yazılımı Windows'a taşımak için kaynakları kullanmamak bir karardı, ancak şimdi, hey, geliştiricilerin aslında bunu gerçekten önemsediğini anlıyoruz” dedi.

Roane, ROCM'nin 2025'in üçüncü çeyreğinde önizlemede Pytorch tarafından destekleneceğini ve Temmuz ayında ONNX-EP tarafından destekleneceğini söyledi.

Varlık performanstan daha önemlidir

Bütün bu araçlar, AMD işlemcilerin nihayet AI uygulamalarında çok daha büyük bir varlık kazanacağıdır, yani bir Ryzen AI işlemcisi olan bir dizüstü bilgisayarınız, Ryzen AI Max Chip veya Radeon GPU'lu bir masaüstüne sahipseniz, AI uygulamalarına dokunmak için daha fazla fırsata sahip olacak. Örneğin Pytorch, Hugging Face'in “Transformers” gibi popüler AI modellerinin üstünde koştuğu bir makine öğrenme kütüphanesidir. AI modellerinin Ryzen donanımından yararlanmasının çok daha kolay olacağı anlamına gelmelidir.

ROCM ayrıca “Box” linux dağıtımlarına da eklenecek: Red Hat (2025'in ikinci yarısında), Ubuntu (aynı) ve Suse.

Roane ayrıca, her bir AMD platformunun hangi model boyutunun çalıştırılması gerektiğine, bir Ryzen AI 300 not defterinden bir ThreadRipper platformuna kadar yararlı bir bağlam sağladı.

… Ama performans da önemli ölçüde gelişiyor

ROCM 7'nin eklediği AI performans iyileştirmeleri önemlidir: Lama 3.1 70b'de 3.2x performans iyileştirmesi, Qwen2-72B'de 3.4x ve Deepseek R1'de 3.8x. (“B”, milyarlarca parametre sayısını temsil eder; parametreler ne kadar yüksek olursa, çıktıların kalitesi daha yüksek olur.) Bugün, bu sayılar geçmişte olduğundan daha fazla önemlidir, Roane'nin çıkarma çiplerinin eğitim için kullanılan işlemcilerden daha dik bir büyüme gösterdiğini söylediği gibi.

(“Eğitim”, Chatgpt veya Copilot gibi ürünlerde kullanılan AI modellerini üretir. “Çıkarım” gerçek AI kullanma sürecini ifade eder. Başka bir deyişle, beyzbol hakkında her şeyi bilmek için bir AI eğitebilirsiniz; Babe Ruth'un Willie Mays'ten daha iyi olup olmadığını sorduğunuzda, çıkarım kullanıyorsunuz.)

AMD, geliştirilmiş ROCM yığınının da aynı eğitim performansını veya önceki neslin yaklaşık üç katını sunduğunu söyledi. Son olarak AMD, yeni ROCM yazılımını çalıştıran kendi MI355X'in, 8 bit kayan nokta doğruluğu ile Deepseek R1 modelinde bir NVIDIA B200'den 1.3x daha fazla güçlendireceğini söyledi.

Yine, performans önemlidir – AI'da amaç, mümkün olduğunca çok sayıda AI jetonunu itmektir; Oyunlarda, bunun yerine çokgenler veya pikseller. Geliştiricilere zaten sahip olduğunuz AMD donanımından yararlanma şansı sunmak, siz ve AMD için bir kazan-kazan.

AMD'nin sahip olmadığı tek şey, kullanıcıları LLMS, AI sanatı veya başka bir şey olsun, kullanıcıları AI kullanmaya teşvik etmek için tüketici odaklı bir uygulamadır. Intel AI Playground yayınladı ve NVIDIA (teknolojiye sahip olmasa da) kendi uygulaması LM Studio için üçüncü taraf bir geliştiriciyle çalıştı. AI oyun alanının uygun özelliklerinden biri, mevcut her modelin Intel'in donanımı için nicelendirilmiş veya ayarlanmış olmasıdır.

Roane, Ryzen Ai Max gibi AMD donanımı için benzer şekilde ayarlanmış modellerin bulunduğunu söyledi. Ancak, tüketiciler sarılma yüzü gibi depolara gitmek ve kendileri indirmek zorundadır.

Roane, AI Playground'u “iyi bir fikir” olarak adlandırdı. “Şu anda belirli bir plan yok, ama kesinlikle hareket etmek istediğimiz bir yön” dedi.