Yeni çerçeve, geliştiricinin belirlediği türlerde hızlı sonuç veren yerel bir Yüksek Lisans içerir. Yapılandırılmış sonucu, yalnızca yapılandırılmamış bir dize olarak değil, somut türlerde iletin; bu, bir API bağlamında çok faydalıdır. Bu, geliştiriciyi dizeleri bağımsız olarak ayrıştırma zorunluluğundan kurtarır ve bu, hataya açıktır. Temel teknolojiye kısıtlı kod çözme adı veriliyor ve yalnızca birkaç yıldır var.
- Foundation Models Framework yalnızca cihazda çalışır.
- Özel olarak tanımlanmış araçları kullanarak dış verilere erişebilir.
- #Playground makrosu, istemleri doğrudan Xcode'da çalıştırır.
- Anlık görüntü akışı, kısmi sonuçlara erişime olanak tanır.
XOS 26 ve A17 Pro veya M1 işlemcili en az bir cihaz gerektiren yeni çerçeve, cihaz üzerinde yerel olarak çalıştığı için geliştiricilere yeni fırsatların önünü açıyor. Ancak önceki bulut LLM çözümleri, kullanıcının her zaman çevrimiçi olmasını gerektiriyordu. Bu yaklaşımla LLM'ye gönderilen veriler ve yanıtlar cihazda kaldığı ve başka amaçlarla kullanılamadığı için kullanıcı veri güvenliği sorunu ortaya çıkmaz.
Daha büyük modellere kıyasla sınırlamalar
Ancak gölgesiz ışık yoktur: Yerel LLM'nin yalnızca 3 milyar parametresi vardır. Birkaç yüz milyar parametre kullanan bulut tabanlı LLM'lerle karşılaştırıldığında yerel model burada açıkça dezavantajlı durumda. Daha büyük modeller daha fazla bilgi içerir ve diğer şeylerin yanı sıra daha karmaşık kalıpları tanıyabilir.
Bu, Haberler-Plus makalemizden bir alıntıdır: “Buluttan ayrılmak: Apple'ın yerel yapay zeka modelleri böyle çalışır”. Haberler Plus aboneliği ile yazının tamamını okuyabilirsiniz.
Bir yanıt yazın