Apple'ın yapay zeka numarası: 20 milyar parametreli model iPhone'a nasıl sığdırılır

20 milyar parametreli bir yapay zeka modelini iPhone'da çalıştırmak ilk bakışta teknik bir çelişki gibi görünüyor. Çoğu akıllı telefon bunun için yeterli RAM'e sahip değil ve Apple geçmişte cihazlarını RAM ile donatma konusunda özellikle tasarruflu davranıyordu. Ancak Apple, modeli yapay zeka endüstrisinin şimdiye kadar yaptıklarından tamamen farklı bir şekilde organize eden, bağımsız olarak geliştirilen bir yöntemle sorunu kendi başına çözdü.

Normalde bunun çalışması için tüm modelin cihazın hızlı RAM'inde olması gerekir. 20 milyar parametreli bir model, günümüzün akıllı telefon donanımının sınırlarına hızla ulaşacaktır. Apple'ın önceki cihaz üstü modelinde bu nedenle yalnızca üç milyar civarında parametre vardı: cihaza sığacak kadar küçük, ancak sonuç olarak yetenekleri sınırlı.

Flash bellek RAM sorununu çözer

AFM Core Advanced, klasik prensibi tersine çevirir: 20 milyar parametre modelinin tamamı, fotoğrafların, uygulamaların ve müziğin depolandığı flash bellekte saklanır. Yalnızca mevcut istek için gerçekten ihtiyaç duyulan kısım hızlı RAM'e yüklenir. Apple'ın yapay zekadan sorumlu başkan yardımcısı Amar Subramanya, Apple'ın Cupertino'daki genel merkezinde düzenlediği WWDC açılış konuşmasının ardından yaptığı teknik konuşmada yöntemi sundu.

İşin püf noktası: Yaygın modellerde olduğu gibi, her bir kelime için modelin hangi bölümlerinin etkinleştirileceğine karar vermek yerine, AFM Core Advanced önce isteğin tamamını analiz eder ve ardından uygun parametre alt kümesini bir kez seçer. Bu, flaş ile RAM arasında sürekli veri aktarımından ve dolayısıyla zamandan ve pil gücünden tasarruf etmenizi sağlar. Bu yönteme talimatla budama denir ve Apple araştırmacıları tarafından geliştirilmiştir.

Bir karşılaştırma: Bir hastayı tedavi eden bir doktorun aynı anda tüm tıbbi bilgilerine erişmesi gerekmez, yalnızca spesifik vakayla ilgili olan bilgilere erişmesi gerekir. AFM Core Advanced tam olarak bu şekilde çalışır.

Bunun pratikte anlamı nedir?

Model doğal olarak çok modludur: metni, görüntüleri ve sesi aynı anda anlar ve metin ve konuşma üretebilir. Apple'da Siri projesine liderlik eden Mike Rockwell, teknik konuşma sırasında net bir şekilde şunu söyledi: “Bu model olmasaydı bu yeni sesleri yaratamazdık.” Yeni, çok daha doğal sese sahip Siri sesleri, cihazınızda bulut bağlantısı olmadan çalışır. Aynı şey geliştirilmiş dikte işlevi için de geçerlidir.

Rockwell bunun mimari açıdan ne anlama geldiğini ekledi: “Sanki çok daha büyük bir kümeden alınmış, yalnızca ses için bir ila üç milyar parametreden oluşan özel bir modelimiz varmış gibi.” Yazılım şefi Craig Federighi'ye göre mevcut kullanım durumları “sadece başlangıç”. Ancak Apple'ın görüntü oluşturma gibi bazı AI özellikleri için iCloud+ aboneliğiyle genişletilebilen kullanım sınırları vardır. Model, Apple'ın cihaza giderek daha fazla performans getirmesini sağlıyor.

Ancak bir sorun var: AFM Core Advanced, iPhone 17 Pro, iPhone Air ve güçlü Mac ve iPad modelleriyle sınırlıdır. Haberler, iOS 27'nin tüm AI gereksinimlerini hangi cihazların karşıladığını ayrıntılı olarak açıkladı. Daha eski bir cihazınız varsa, yine de daha küçük modeli satın alabilirsiniz. Apple Intelligence yalnızca iPhone 15 Pro ile geriye dönük olarak uyumludur. Bu nedenle Apple, kendi ürün yelpazesinde iki yapay zeka sınıfı yaratıyor ve bu da yeni donanıma geçmenin olası bir nedeni. Ancak geliştiriciler için Apple, yeni bulut modellerini belirli koşullar altında ücretsiz olarak sunuyor.

(mki)