Raspberry Pi 5 için daha da fazla yapay zeka hızlandırması

AICore DX-M1M ile Radxa, yeni bir AI hızlandırıcı modülünü tanıttı. M.2 formatlı kart 22mm × 42mm ölçülerinde olup PCI Express aracılığıyla sistemlere entegre edilebilmektedir. Bir M veya B anahtar yuvası gereklidir. M.2 SSD'ler nedeniyle M-Key yuvaları yaygındır.

İçeride, üreticiye göre INT8 veri formatında 25 tepeye kadar bilgi işlem gücü oluşturan DeepX DX-M1M AI hızlandırıcı çalışıyor. Bu saniyede 25 trilyon işleme karşılık geliyor. Referans olarak, Copilot+PC sertifikasyonu için 40 üst kısım gerekir. Bu, modülün görüntü tanıma veya dil işleme gibi görevler için açıkça tasarlandığı anlamına gelir. Hızlandırıcı en iyi ihtimalle iki PCIe 3.0 hattı aracılığıyla bağlanır.

Bellek olarak 1 GB LPDDR4X mevcuttur. İlk bakışta kısa gibi görünse de, eğitim genellikle dışarıdan yapıldığı için çıkarım tabanlı yapay zeka iş yükleri için tipiktir. TensorFlow, ONNX, Keras ve PyTorch gibi ortak çerçeveler desteklenir, ancak modellerin kendi DX-COM derleyicinizi kullanarak donanım için optimize edilmesi gerekir. Bu biraz eğitim gerektirir ancak birçok üreticinin günlük yaşamının bir parçası olmalıdır.

Windows ve Ubuntu desteği

Modül, Windows 10 ve 11'de ve 20.04 sürümünden itibaren Ubuntu'da çalışır. Docker da desteklenmektedir. Hem ARM hem de x86 platformları ana sistem olarak kullanılabilir. Radxa özellikle Raspberry Pi 5 ve Rock 5A, 5B veya 5 ITX gibi çeşitli rock boardlardan bahsediyor. Raspi durumunda, çalışma için bir M.2 adaptörü (M.2-HAT) gereklidir. En azından üstünde bir PCIe şeridi var.

Üreticiler için özellikle ilginç olan şey, düşük güç tüketimi ile yüksek bilgi işlem gücünün birleşimidir. Üç watt'lık tipik değerle güç gereksinimi yönetilebilir düzeyde kalır ve bu da uç cihazlarda, mobil projelerde veya sürekli çalışmada kullanıma olanak tanır. Modül, özellikle akıllı video gözetimi, yerel ses asistanları veya görüntü tanıma gibi uygulamalarda, verilerin buluta taşınmasına gerek kalmadan doğrudan cihaz üzerinde güçlü yönlerini gösterebilir.

Tipik bir senaryo, nesneleri tanımak ve yerel olarak değerlendirmek için bir kamera kullanan Raspberry Pi 5 olabilir. DX-M1M, CPU'ya ekstra yük getirmek yerine yapay zekanın işini üstlenir. Bu, kaynaklardan tasarruf sağlar ve daha hızlı yanıt süreleri sağlar.

Hemen başlamak istiyorsanız resmi dokümantasyon sayfasında hızlı bir kılavuz bulabilirsiniz. Modülün fiyatı üreticinin mağazasında 75 Euro'dur, ancak şu anda mevcut değildir. Almanya'da ayrıca %19 vergi ve kargo ücreti vardır. Nihai fiyat 100 Euro'nun biraz üzerindedir.

Programlama yaparken AI desteğine ihtiyacınız varsa bunu yazımızda AI.duino şeklinde bulacaksınız.

(O)