Üretken Yapay Zekada Küçük Dil Modelleri ve Büyük Dil Modelleri

Sürekli gelişen teknoloji ortamında, üretken yapay zeka (GenAI), işletmeler için oyunun kurallarını değiştirecek bir unsur olarak görülüyor. İşletmeler için üretken yapay zeka, süreçleri kolaylaştırmaktan üretkenliği artırmaya ve günlük iş akışlarını dönüştürmeye kadar kurumsal operasyonları değiştiriyor.

Kuruluşlar GenAI'nin önemini anladılar ve üretkenliği artırmak ve dijital borcu azaltmak için çalışanlarının yararına dayanan yapay zeka stratejileriyle veya bunun etrafında veya onunla birlikte uygulamalar/hizmetler oluşturmaya başladılar. Ancak işletmeler bu teknolojileri benimsedikçe, tıpkı uç cihazlarındaki (cep telefonları, dizüstü bilgisayarlar ve akıllı saatler) diğer uygulamalar gibi, bunların da kitlesel veya kolay benimsenmesinin önünde bazı büyük engeller var. Bu zorluklar arasında, büyük dil modellerinin (LLM'ler) boyutu ve kaynak yoğunluğu önemli engeller teşkil etmekte ve küçük dil modellerinin (SLM'ler) geçerli bir alternatif olarak daha yakından incelenmesine yol açmaktadır.

Küçük Dil Modelleri ve Büyük Dil Modelleri

Bu zorluklar öncelikle büyük program boyutundan, yoğun kaynak kullanımından (hem bilgi işlem hem de depolama için) doğadan ve veri güvenliği ve güvenliğinden kaynaklanmaktadır. İşletmeler bu dağıtım sorunlarını bir kenara bıraksalar bile modellerin genel uzmanlardan ziyade konu uzmanı olmasına ihtiyaç duyuyorlar. Yüksek Lisans'ların geniş bilgi birikimi ancak yüzeysel uzmanlıkları nedeniyle bu alanda sınırlamaları vardır. Alana özgü bilgi ve performansları seyrelmiştir. İşletmeler için bir diğer önemli endişe ise hassas verilerin bu harici LLM'lere ifşa edilmesidir; bu da veri sızıntısı veya kötüye kullanımı konusunda güvenlik, uyumluluk ve mülkiyet riskleri doğurur. Bu sınırlamalar, organizasyonları alana özgü, kurumun “bağlamını” içeren ve aynı zamanda dağıtım zorluklarına çözümler sunan modeller bulmaya motive eder. Dil modellerinde yeni bir paradigmanın ortaya çıkmasının nedeni budur.

Dil modellerinin Bruce Lee'sine benzeyen küçük dil modellerine (SLM'ler) girin: küçük ama güçlü! Adı gibi SLM'ler de büyük benzerlerinin küçük versiyonlarıdır. Küçük dil modelleri genellikle bir milyondan birkaç milyara kadar parametreye sahip modellerdir. Bu modeller yüksek kaliteli verilerle eğitilir ve daha iyi performans göstermeleri için yapılan belirli düzeyde mimari değişiklikleri içerebilir. Örnekler Phi-3, Chinchilla ve Alpaka'dır. Bu modeller, (LLM'lerden) on beş kat (15 kat) daha büyük modellerden bile daha iyi performans gösterdikleri bazı özel kullanım durumlarında kullanıldıklarında inanılmaz derecede iyidir. Ekteki resim, Phi-3 ve çeşitlerinin, diğer modellerle (LLM'ler) karşılaştırıldığında belirli kullanım durumunda nasıl performans gösterdiğini göstermektedir. Bu SLM'ler, aşağıdaki karşılaştırmada görülebileceği gibi belirli, yüksek kaliteli veri kümeleriyle eğitildiklerinde (bazı) LLM'lerden daha iyi performans gösterir.

Bu küçük modeller, kaliteli veri kümeleri kullanılarak eğitilir ve aşağıdaki gibi diğer bazı teknikler kullanılarak elde edilebilir:

1. Bilgi damıtma: Öğretmen-öğrenci öğrenimi olarak da adlandırılan bilginin ayrıştırılması, daha büyük bir dil modelinin (LLM) veya bir modeller topluluğunun öğrenmesini veya davranışını kopyalamak için daha küçük bir modelin eğitilmesini içerir. Bunun bir örneği, Google'ın BERT AI modelinin damıtılmış bir versiyonu olan DistilBERT'ti. Bu modeller, hafif olmakla birlikte performanslarını yeniden üretmek amacıyla öğretmen modellerinin tahminlerinden öğreniyorlardı. Ancak, damıtılmış dil modelleri daha büyük modellerin performansını taklit etmeye çalıştıklarından, hafif olsalar bile dil modellerinin doğruluğuyla eşleşmeyebilirler.
2. Budama ve nicemleme: Gereksiz ağırlıkların veya bağlantıların kesilmesi yoluyla sinir ağının daha az kullanışlı kısımlarının kaldırılmasını içerir. Bunu yaparak modelin boyutunu ve hesaplama gereksinimlerini azaltıyoruz. Niceleme, model ağırlıklarının ve aktivasyonlarının kesinliğini azaltır, bu da modelin boyutunu azaltır. Hassasiyetteki bu azalma, bellek ayak izlerini azaltır ve hesaplamaları hızlandırarak nicelemeyi özellikle cihaz içi veya uç dağıtımlar için değerli kılar.
3. BENMimarinin iyileştirilmesi: Yukarıdaki iki teknik sonuç üretse de, araştırmacılar sürekli olarak temel algoritmaların performanstan ödün vermeden boyut ve hesaplama avantajları elde etmek için geliştirildiği yolları arıyorlar.

SLM'lerin avantajları

Küçük Dil Modelleri ve Büyük Dil Modelleri arasında devam eden tartışmada SLM'ler, onları özellikle etkili ve verimli yapay zeka çözümleri arayan kuruluşlar için cazip kılan farklı avantajlar sunuyor. SLM'leri ve LLM'leri kullanmanın temel faydalarından bazıları şunlardır:

1. Daha iyi performans ve doğruluk: Bu modeller, kaliteli verilerle eğitildiğinde Yüksek Lisans'lara göre üstün ve çarpıcı kazanımlar göstermiştir. Yerel olarak çalıştırılan bu küçük modelleri internet erişimi, Erişim Artırılmış Üretim (RAG) ve kendi kendine eğitim ile güçlendirirsek, bu modellerin doğruluğunu ve performansını daha da artırırız.
2. Gizlilik: Herhangi bir işletmenin en büyük endişelerinden biri, hassas verilerinin buluttaki Yüksek Lisans'lara ifşa edilmesidir. Bulut ve model sağlayıcılar, kurumsal verilerin güvenliğini ve emniyetini sağlarken, veri gizliliğinin veya güvenliğinin kritik olduğu durumlarda, internet erişimi olsun veya olmasın yerel olarak çalışabilen bu SLM'ler, verilerin kötüye kullanılmasının ve sızmasının önlenmesine yardımcı olur.
3. Maliyet Etkinliği: LLM'ler çok büyüktür ve etki alanınıza veya kullanım senaryonuza göre bunlara ince ayar yapmanız gerektiğinde önemli maliyetler ortaya çıkarabilir. Bulutta kullanılıyorsa, uzun vadede kullanımına ilişkin sorgu fiyatlandırması yüksek olabilir. SLM'ler küçüktür ve hem bilgi işlem hem de depolama açısından daha düşük maliyetlidir; bu da işletmelerin teknoloji konusunda eğitim almaları veya bunları bulut üzerinden kullanmaları için daha düşük maliyetler olarak eninde sonunda azalacaktır.
4. Yerel Olarak Çalıştırma: Yapay zekanın, özellikle de SLM'nin kitlesel olarak benimsenmesine izin verebilecek uç cihazların (iki ağ arasındaki sınırda veri akışını kontrol eden donanım) en büyük avantajlarından biri, daha küçük boyutları olacaktır. Bir Yüksek Lisans yerel olarak kurulamayacağı ve çalıştırılamayacağı için, kişisel cihazlarda zaten gördüğümüz uygulamalar gibi AI modellerinin kullanımını görürsek, bir SLM daha anlamlı olacaktır. Bunun nasıl görünebileceğini görmek için Apple WWDC 2024'ü (Apple Intelligence) izleyin.

Yapay Zeka Dili Modellerinin Sınırlamalarını Aşmak

SLM ile LLM'yi karşılaştırırken uygulamanın belirli ihtiyaçlarını ve kısıtlamalarını değerlendirmek çok önemlidir. Her ne kadar sihirli bir değnek gibi görünse de, bu yapay zeka dil modellerine biraz ihtiyatlı yaklaşmamız gerekiyor. Bu teknolojiler her kullanım durumu için en iyi çözüm olmayabilir. Gerçeklere dayalı bilgi kıyaslamalarında bu modeller, daha az sayıda gerçeği koruyan daha küçük model boyutları nedeniyle bağımsız olarak iyi performans göstermeyebilir. Bu sorun potansiyel olarak RAG uygulanarak çözülebilir. Bununla birlikte, her şey kullanım durumuna bağlıdır ve bazıları LLM'ler, SLM'ler veya her ikisinin en uygun kombinasyonuyla sonuçlanabilir. Bu nedenle işletmeler, bu modellerin kullanımını kendi özel kullanım senaryolarına göre belirlemeli ve iş seçenekleri için bu üretken yapay zekayı etkili bir şekilde araştırıp uygulamaya yönelik bir strateji geliştirmelidir.

Yazar: Atish Naik | anaik@Finans

Üretken Yapay Zekada Küçük Dil Modelleri ve Büyük Dil Modelleri yazısı ilk olarak Withum'da çıktı.