Model Gösterisi: Çin ve Avrupa'nın Bağımlılığından Haberler

kapanış bildirimi

Bu makale İngilizce olarak da mevcuttur. Teknik yardımla tercüme edildi ve yayınlanmadan önce editoryal olarak gözden geçirildi.

Bir daha gösterme.

Almanya'da yaz tüm hızıyla devam ediyor ve dil modelleri söz konusu olduğunda da işler aynı derecede sıcak: Hem Antropik hem de Açık Yapay Zeka, “güvenlik nedenleriyle” modellerine erişimi sınırlamak zorunda kaldı. Çin'de tedarikçilerin hâlâ en iyi modellerini ücretsiz olarak satışa sunup sunamayacakları da değerlendiriliyor.

Aynı zamanda, neredeyse her gün yeni LLM'ler yayınlanıyor ve onlarla (ve genel olarak yapay zekayla) birçok kişinin umduğu gibi yüksek verimlilik kazanımları elde etmenin gerçekten mümkün olup olmadığına dair şüpheler artıyor.

Yeni Çin modelleri

Za.ai şüphesiz GLM-5.2 ile büyük bir başarı elde etti. Model, en az 744 milyar parametre (bunlardan 40 milyarı aktif) ile neredeyse her zaman yerel kullanım için fazla büyüktür. Bunun için nicelenmemiş formatta en az 1,5 TB RAM'e ihtiyacınız olacaktır. Diğer modellerle karşılaştırıldığında kompakt ve son derece güçlüdür.

Za.ai model hakkında birçok bilgiyi ortaya koyuyor ve kullanılan püf noktalarını açıklıyor. İlginç şeylerden biri de (bir kez daha) dikkat mekanizmasını optimize eden IndexShare'dir. Z.ai, transformatörün birçok seviyesinde paylaşılan verileri kullanır. Model aynı zamanda OVP seviyelerini de entegre ederek uygun bir taslak modelle tahminleri önemli ölçüde hızlandırıyor.

Eğitim sırasında Z.ai, modeli kendi slime yapısıyla optimize etti ve uzun bağlamların iyi bir şekilde işlenebilmesini sağlamaya özellikle dikkat etti; bu özellikle programlama ve modelin aracılar tarafından ilgili kullanımı sırasında önemlidir. Sonuçlar her açıdan ikna edicidir. Özellikle dikkat çekici olan, modeli son derece kullanışlı kılan, uzun süre akıl yürütmeye gerek olmayan kompakt yanıtlardır. Aynı zamanda siyasi açıdan hassas konulara da özgürce yanıt veriyor gibi görünüyor.

Tencent'in Hy3 modeli de yeni. GLM-5.2 ile karşılaştırıldığında 295 milyar parametreyle (bunlardan 21 milyarı aktif) önemli ölçüde daha küçüktür. Ağırlıkların en azından isteğe bağlı olarak kompakt FP8 formatında mevcut olması, büyük miktarda bellek tasarrufu sağlar. Ancak gereken minimum 300 GB RAM gerçek bir yüktür. Kuantizasyonla model yarı yarıya azaltılabilir ancak yine de çok büyüktür.

Tencent, geleneksel bir mimariyi tercih etti ve ayrıca sıklıkla kullanılan Gruplandırılmış Sorgu Dikkati (GQA) dikkat mekanizmasını da kullandı. Genel olarak teknik bilgiler oldukça azdır; Kullanım sonuçları bu makalenin GitHub deposunda mevcuttur.

Z.ai ve Tencent, eğitim için kullanılan donanım hakkında bilgi vermekten çekinirken, Meituan, LongCat 2.0 modeliyle tam tersi bir yaklaşım benimsiyor: Meituan, modeli yalnızca Çin donanımı üzerinde eğittiğini ve Superpod ASIC'leri kullandığını söylüyor. Görünüşe göre şirketin bunu yapmak için milyonlarca hesaplama gününe veya en az 3.000 GPU yılına ihtiyacı vardı. Bu, donanımın verimliliğiyle ilgili değildir. Model ağırlıklarını indirmek mümkün ancak 1,6 trilyon parametreyle modeli test edecek kadar güçlü donanım bulmak zor. Beklenebileceği gibi, özellikle politika tepkileri söz konusu olduğunda çok kısıtlayıcıdır ve tepkiler diğer açılardan da ikna edici değildir.

Dil modelleri, OCR (optik karakter tanıma) alanında giderek daha önemli bir rol oynamaktadır. Şu anda en popüler model, Baidu'nun Sınırsız OCR'sidir; mükemmel tanıma oranına ek olarak, büyük miktarlarda belgeyi dijitalleştirmek için gereken hıza da sahiptir. Bunun nedeni nispeten az sayıda parametredir (neredeyse üç milyar). Bir iX sayfasının sonuçları makalenin GitHub deposunda bulunabilir.

Qwen'in Türevleri

Çok büyük olmayan modeller arasında Alibaba'nın açık ağırlıklı Qwen modelleri öne çıkıyor. Pek çok farklı boyutta gelirler ve en popüler olanları 27 milyar parametreli yoğun model ve 35 milyar parametreli (üç milyarı aktif olan) MoE (Uzmanlar Karması) modelidir. Açık ağırlıklar sayesinde tüm modeller ayar yapmaya uygundur.

Qwythos, Hugging Face'in popülerlik listesinde en üst sıralarda yer alıyor. Bu şaşırtıcı değil, çünkü sağlayıcı Empero, 500 milyon Claude Mythos jetonuyla modele ince ayar yaptı ve Empero'nun daha önce Qwen'e yönelik sansürü kaldırmasının ardından ona yeni beceriler öğretti. Ne yazık ki Qwythos şu anda yalnızca dokuz milyar parametreli versiyonda mevcuttur, dolayısıyla sonuçlar daha büyük modellerle rekabet edemez.

Qwopus biraz farklı bir yaklaşım benimsiyor Hugging Face kullanıcısı Jackrong tarafından. Modeller farklı boyutlarda mevcuttur ve daha yüksek hızlar için optimize edilmiştir. Geliştirici bunu daha kısa akıl yürütme yoluyla ve aynı zamanda Çoklu Token Tahmininin (MTP) entegrasyonu yoluyla başarır. BottleCap AI'nin ThinkingCap-Qwen3.6-27B modeli de optimize edildiği daha kısa akıl yürütmeyle çalışır. Qwythos ve Qwopus sonuçları makalenin GitHub deposunda bulunabilir. Orijinal Qwen modeline göre hız avantajı, token üretiminde ölçülebilir değildi: modeller yalnızca akıl yürütme kısmında daha az token üretti.

Satıcı DeepReinforce ayrıca Qwen modellerini aldı ve bunları farklı boyutlarda kodlama için optimize etti. Ortaya çıkan modellere Ornith adını verin. Kriterler genellikle temel olarak kullanılan Qwen 3.5 modellerinden daha iyidir. Mevcut Qwen 3.6 modelleriyle karşılaştırıldığında fark önemli ölçüde daha küçüktür. Qwen-3.6'yı temel alan (umarım) bir takip modelinin iyileştirmeler sağlayıp sağlayamayacağını zaman gösterecek.

Çinli satıcı Intern Science, Qwen modellerini Agents-A1 ile uyarlamaya çalışıyor ve esas olarak heterojen ajan uygulamalarına odaklanıyor. arXiv ile ilgili makale, Qwen-3.5-35B-A3B'nin temel olarak kullanıldığını göstermektedir. Sonuçta Intern Science, sonuçları yeni Qwen 3.6 modeliyle karşılaştırıyor ve önemli gelişmeler rapor ediyor. Agents-A1'in gerçekte nasıl çalıştığı ve trilyonlarca parametreye sahip modellere ayak uydurma vaadini yerine getirme yeteneği, uygulama senaryosuna bağlıdır. Her durumda bu, aracı görevleri için daha küçük modelleri optimize etmeye yönelik heyecan verici bir yaklaşımdır. Özellikle modeller genellikle çok sayıda token üretir ve bunlar daha hızlı kullanılabilir ve daha az enerjiye mal olur.

Amerikan ve hatta Avrupa modelleri

Amerikan modelleri başlangıçta ABD hükümetinin onları düzenli olarak engellemesiyle karakterize ediliyor. İlk etkilenenler, güvenlik nedeniyle artık ABD vatandaşı olmayanların erişimine kapalı olan Anthropic Fable 5 ve Mythos 5 modelleri oldu. Bu aynı zamanda Open AI'nin başlangıçta yalnızca ABD hükümetinin getirdiği kısıtlamalarla kullanılabilen yeni GPT 5.6 modelini de etkiledi. SpaceXAI (eski adıyla xAI) tarafından sunulan Grok-4.5, başlangıçta AB'de mevcut değildir. Bu arada bazı modellere erişim işe yarasa da (muhtemelen kısıtlamalarla), kısıtlamalar bulut modellerine bağımlılığın artık siyasi boyutlara ulaştığını açıkça gösteriyor. Modellerin son derece güçlü olduğuna şüphe yok ancak dijital egemenlik farklıdır.

Bu kez Avrupa'dan ilginç bir model daha geliyor. Mistral, 119 milyar parametreli (bunlardan altı milyarı aktif olan) Leanstral modelini yayınladı. Mimarisi yeni olmamasına ve Mistral 4 ailesindeki diğer modelleri temel almasına rağmen bazı yeni fikirler entegre edilmiştir. Ancak Leanstral özel bir model olarak tasarlanmış olup Lean 4 ile birlikte matematiksel kanıtların gerçekleştirilmesinde kullanılmaktadır. Mistral'a göre bu sektörün en iyi modellerinden biri.