Amsterdam'da düzenlenen KubeCon ve CloudNativeCon Europe 2026'da yapay zeka altyapısı geçen yıl olduğu gibi merkezi bir rol oynadı. Çoğu eğitim ve çıkarım iş yükü Nvidia hızlandırıcılarında çalışır. Şirket artık GPU'ları için Dinamik Kaynak Tahsisi (DRA) sürücüsünü CNCF (Bulut Yerel Bilgi İşlem Vakfı) çatısı altına koyuyor. Sürücü, Kubernetes'in çeşitli DRA özellikli Kubernetes düğümleri genelinde NVLink kullanarak GPU kaynaklarını esnek bir şekilde istemesine ve yeniden dağıtmasına olanak tanır.
Duyurudan sonra devamını okuyun
DRA sürücüsüne, GPU ile hızlandırılmış Kubernetes kümelerini tekrarlanabilir şekilde başlatan AI Cluster Runtime (AICR) adı verilen yeni bir açık kaynak araç eşlik ediyor. Anlık görüntüler oluşturur ve sürücü, Kubernetes operatörü, çekirdek ve sistem konfigürasyonu kombinasyonunu sözde tariflere yazar; bunlar daha sonra Helm gibi bir paket yöneticisi veya Argo CD gibi bir GitOps aracı tarafından kullanılır ve CNCF'nin yapay zeka uyumluluk gereksinimlerine göre doğrulanır.
CNCF'nin yapay zeka uyumluluk programı, Kubernetes uyumluluk programını temel alır. Kendilerine “sertifikalı yapay zeka platformları” diyebilecek platformların sayısı, Kasım ayındaki lansmanından bu yana neredeyse iki katına çıkarak 18'den 31'e çıktı. Yeni eklenenler arasında OVHcloud, SpectroCloud, JD Cloud ve China Unicom Cloud yer alıyor.
Çıkarımın işe yaraması
Yeni CNCF projelerinden biri Mayıs 2025'te Red Hat, Google Cloud, IBM, CoreWeave ve Nvidia tarafından başlatılan llm-d'dir. Yönlendirme, otomatik ölçeklendirme ve önbelleğe alma için eski Kubernetes yöntemleri, oldukça değişken ve durum bilgisi olan bir iş yükü olduğundan çıkarım için mutlaka uygun değildir.
(Resim: CNCF)
Proje, Kubernetes kümelerini yönetiyor ve Kubernetes Gateway API Inference Extension'dan (GAIE) yararlanıyor. Hızlı işleme ve jeton oluşturma, bağımsız olarak ölçeklendirilebilen birkaç bölmeye bölünmüştür. Ayrıca durumu yönetir ve önek önbelleğe alma işlemini gerçekleştirir. llm-d tamamen donanımdan bağımsızdır ve farklı üreticilerin CPU'ları, GPU'ları ve TPU'larıyla çalışır. Çıkarımın llm-d ile optimize edilmesi, İlk Belirtece Kadar Süreyi (TTFT) önemli ölçüde azaltmayı ve belirteç verimini artırmayı amaçlamaktadır.
Duyurudan sonra devamını okuyun
Projelerden güncellemeler
CNCF projeleri, olgunluk düzeylerine bağlı olarak korumalı alan, kuluçka ve mezuniyet kategorilerine atanır. Kyverno politik motoru en yüksek olgunluk seviyesine ulaştı ve artık aşamalı bir proje.
llm-d'ye ek olarak Agones projesi de sandbox kategorisine yeni eklenen bir projedir. Oyun sunucularını düzenlemeye yönelik platform, 2017 yılında Ubisoft ve Google tarafından başlatıldı ve şu anda CNCF'ye teslim edildi.
Biraz egemenlik
Avrupa'daki CNCF etkinliğinin dijital egemenliğin anahtarı olarak açık kaynağa daha fazla odaklanacağı düşünülebilirdi. Ancak kodun küresel olarak mevcut olduğunu ve mevcut kalması gerektiğini belirttiler. Yasal gereklilikler ve uyumluluk düzenlemelerinin uygulama ve platform düzeyinde ele alınması gerekir. Egemenlik teması büyük ölçüde Açık Egemen Bulut Günü'ne emanet edildi.
Açık Kaynak Spotlight'a abone olmayın
Yenilikçi yazılım, heyecan verici projeler: Olanaklarınızı genişletin ve açık kaynak topluluğuna katılın.
E-posta adresi
Veri koruma beyanımızda gönderim prosedürü ve iptal seçenekleri hakkında ayrıntılı bilgi bulabilirsiniz.
100 ülkeden yaklaşık 13.000 katılımcı ve 900 oturumluk kapsamlı bir programla konferans bugüne kadarki en büyük KubeCon ve CloudNativeCon oldu.
(Daha sonra)
Bir yanıt yazın