En büyük yerel yapay zeka modeli: PrismML, iPhone'larda 27 milyar parametre oluşturuyor

Apple uzun zamandır yapay zekanın geleceğinin bulutta değil, yerel cihazlarda olduğunu söylüyordu. Üretken yapay zekadaki mevcut patlamadan önce bile iPhone üreticisi, özellikle veri koruma nedenleriyle makine öğrenimi (ML) algoritmalarını kendi donanımı üzerinde çalıştırmayı tercih ediyordu. Siri AI ile artık Google sayesinde güçlendirilmiş bir bulut bileşeni var, ancak AFM Core ve AFM Core Advanced gibi yerel modeller başlangıçta aktif olacak. Apple, iPhone 17 Pro, 17 Pro Max ve Air için 20 milyar parametreli bir modeli uyarlamayı başardı. Bu başlı başına bir başyapıt olarak kabul edildi. PrismML adlı start-up da şimdi bu yolu takip ediyor: Bir rapora göre genç şirket, Alibaba'nın Çin açık kaynaklı modeli Qwen 3.6'yı 27 milyar parametreyle iPhone 17 Pro'ya nakletmeyi başardı.

Üç yıl içinde tüm soruların yüzde 95'ini yerel olarak yanıtlayın

BT haber servisi The Information'ın yazdığı gibi, karmaşık sohbet yanıtları, muhakeme görevleri ve tamamen özerk aracılar gibi görevler de kodlama için uygulanabilir. Model önümüzdeki Salı gününden itibaren kamuoyuna sunulacak. PrismML, “belki üç yıl” içinde gerekli yapay zeka performansının yüzde 95'e kadarının akıllı telefonlarda, dizüstü bilgisayarlarda ve hatta cihaz cihazlarında yerel olarak mevcut olmasını bekliyor. Start-up'ın başkanı Baba Hassibi, bundan sonra “yüksek teknolojili şeylerin yalnızca yüzde beşinin” buluta geçeceğine inanıyor. “Bence insanların gördüğü ileriye giden yol bu.”

Bu fikir bazı yapay zeka yatırımcılarını endişelendirebilir; sonuçta yüz milyarlarca dolar, buna karşılık gelen güçlü GPU'lara sahip veri merkezlerine yatırım yapıyor. En azından çıkarım için, yani anlık isteklere göre çıktı için, eğer PrismML'in fikri gerçekten uygulanabilirse, bu yerel cihazlara geçebilir. Ancak eğitim için veri merkezlerinin en azından öngörülebilir gelecekte gerekli olmaya devam etmesi muhtemeldir.

Apple ile ilk görüşmeler yapıldı

PrismML, Hassibi'nin elektrik mühendisliği profesörü olduğu California Teknoloji Enstitüsü'nün (Caltech) bir yan ürünüdür. Şirket, Qwen 3.6'yı küçültmek için “matematiksel hileler” kullandığını söylüyor. Bu, olağan nicelemenin ötesine geçer. Görünen o ki, PrismML teknolojisi ile alışılagelmiş kalite kayıpları ortadan kalkıyor. Qwen 3.6, 54 GB'tan 4 GB'a sıkıştırılmıştır. Caltech gerekli patentlere sahiptir.

Apple, AFM Core Advanced için flash belleğin 20 milyar parametreli büyük bir modelin RAM sorununu çözdüğü, yalnızca gerçekten ihtiyaç duyulan parçaların yüklendiği bir teknoloji sunmuştu. iPhone üreticisi şu anda bu alanda satın alabileceği diğer yapay zeka şirketlerini arıyor. PrismML'in bunun bir parçası olup olmadığı belli değil ancak The Information'a göre Apple ile teknolojinin kullanımı konusunda ilk görüşmeler yapıldı. Bulut modelleri hâlâ nispeten hızlı bir şekilde güncellenebilmeleri gibi temel bir avantaja sahiptir; en son modeli kullanmak için kullanıcı tarafında herhangi bir önlem alınmasına gerek yoktur.

(bsc)