Bulut veya internet olmadan: Raspi 5, DIY yapay zeka ses asistanına dönüşüyor

Bir dizi videoda Jdaie Lin, tamamen çevrimdışı yapay zekalı sesli asistanının nasıl oluşturulduğunu ayrıntılarıyla anlatıyor ve ilgilenen herkesin onu nasıl yeniden oluşturabileceğini açıklıyor. Donanım tarafında ise 1,69 inçlik kompakt renkli ekran sağlayan Whisplay HAT uzantısı kullanılıyor. Elektrik gücü Pi Sugar 3 5000 mAh bataryadan sağlanıyor, bu sayede cihaz harici bir güç kaynağına ihtiyaç duymadan daha uzun süre kullanılabiliyor.

24 TOPS'lu yapay zeka hızlandırıcı

Lin, yapay zeka uygulamaları için gereken yüksek bilgi işlem gücünü sağlamak amacıyla LLM-8850 yapay zeka hızlandırıcı kartını entegre etti. M.2 formatlı kart, Çinli üretici M5Stack'tan geliyor ve Raspberry Pi 5 gibi küçük tek kartlı bilgisayarlardaki büyük dil modelleri (LLM'ler), görsel ve işitsel uygulamalar dahil olmak üzere yerel AI görevleri için özel olarak tasarlandı. Lin'e göre LLM-8850, saniyede 24 trilyon işlem (TOPS) gerektiren çevrimdışı AI uygulamaları için özellikle uygundur. Ancak bu performansın bir bedeli var: 139$'lık anakartın maliyeti Raspberry Pi 5'ten çok daha fazla ve çok fazla atık ısı üretiyor. Alternatifler aynı üretici Raspi'den temin edilebilir (112 €'dan başlayan fiyatlarla).

Lin, kartı yeterince soğutmak ve iyi hava akışı sağlamak için çeşitli tasarım varyasyonları denedi. Sonunda LLM-8850'yi Waveshare Dual M.2 HAT üzerine monte etmeye karar verdi. Bu tasarım yalnızca etkili soğutma sağlamakla kalmıyor, aynı zamanda bir SSD'yi daha sonra Whisplay HAT ile yükseltme olanağı da sunuyor.

Görüntü tanıma için bir kamerayla bile

Lin, Aralık 2025'te cihaza yönelik bir güncelleme de sundu: AI sesli asistanına bir kamera (Raspberry Pi Camera v3 (25,50 €'dan başlayan)) ve onu günlük kullanıma uygun hale getirmek için şık bir muhafaza verildi. Artık kamerayla görüntü tanıma da mümkün.

Konuşmanın ve yanıtların yerel olarak işlenmesi için farklı yapay zeka bileşenleri kullanılır: Ollama yerel bir dil modeli sağlar, Whisper konuşma sentezi işlevini devralır ve Piper metni tekrar konuşma diline dönüştürür (konuşma sentezi).

Raspberry Pi'yi temel alan AI sesli asistanlar yeni bir şey değil: Benzer bir proje, bulut bağlantısıyla da olsa Make 7/23'te zaten sunuldu. Lin'in mevcut sürümünün önemli bir avantajı veri güvenliğidir: tüm hesaplamalar ve veri işleme yerel olarak gerçekleşir, böylece kullanıcı istemediği sürece hiçbir bayt cihazdan ayrılmaz. Bu, veri korumayı ve performansı birleştiren, tamamen kendi kendine yeten, çevrimdışı çalışabilen bir ses asistanı yaratır.

(mch)