Cloudflare, AI ajanlarına kalıcı bellek sağlamak için tasarlanmış bir hizmet olan Agent Memory'yi tanıttı. Yüksek belirteç tüketimine neden olan tüm gerekli bilgileri bağlam olarak tekrar tekrar sağlamak yerine, aracı belleğine sahip yapay zeka aracıları, ilgili bilgileri bağımsız olarak seçmeli ve bunu dil modellerine yönelik istemlerde kullanmalıdır. Hizmet başlangıçta yalnızca kapalı beta sürümünde mevcuttur.
Duyurudan sonra devamını okuyun
Aracı belleği bağlamın bozulmasını önlemek için tasarlanmıştır
Geliştiriciler için daha düşük token tüketiminden kaynaklanan potansiyel maliyet tasarrufuna ek olarak, ABD'li sağlayıcı aynı zamanda Ajan Belleği ile sözde bağlam bozulmasına karşı da önlem almak istiyor. Uzun istekler, yapay zeka modelinin yanıtlarının hızını ve güvenilirliğini giderek azaltıyor. İlgili modelin bağlam penceresine artık uymayan bir konuşmanın başlangıcındaki bilgiler kaybolur.
Cloudflare blog gönderisine göre ajan belleği, yerel olarak ve bulutta barındırılan AI ajanları için kalıcı bir depolama katmanı olarak kullanılabilir. Ek olarak geliştiriciler, içlerindeki aracılara oturumlar ve yeniden başlatmalar boyunca kalıcı depolama sağlamak için hizmeti çok aracılı koordinasyon yapılarına entegre edebilir. Depolama profilleri birlikte de kullanılabilir; böylece bilgilerin bir AI aracısına yalnızca bir kez iletilmesi gerekir ve daha sonra birden fazla aracı tarafından kullanılabilir ve genişletilebilir.
Geliştirme ekipleri arasında bilgileri paylaşın ve genişletin
Cloudflare, Ajan Belleğinin olası bir kullanımı olarak geliştirme ekibinin kodlama aracılarına entegrasyondan bahsediyor. Başlangıçta geliştiriciler, dahili kurallar veya mimari kararlar gibi tüm etmenler için önemli olan temel bilgileri girebilirler. Daha sonra bağlı tüm aracılar bu bilgiyi kullanır ve genişletir.
Hizmet aynı zamanda aracı kod incelemesi için de kullanılabilir: geliştiricilerin neyi reddettiğini hatırlayabilmelidir. Bu bilgilerle AI aracısı, program koduna ilişkin geri bildirimini uyarlayabilmeli ve daha alakalı bilgiler sağlayabilmelidir. Aracı depolama alanı, mesaj geçmişini kaydetmek ve gerektiğinde ona erişmek için basit sohbet robotlarına da entegre edilebilir.
Cloudflare Çalışanları ve API aracılığıyla erişim
Duyurudan sonra devamını okuyun
Aracı Belleği, değişmez gerçekler, önceki anlardaki olaylar, mevcut etkinlikler ve iş akışları veya runbook'lar gibi talimatlar arasındaki bilgileri ayırt eder. Hizmet, güncel olmayan bilgileri bağımsız olarak günceller ve kopyaları ortadan kaldırır. Bilgilere Cloudflare Workers'a veya bir REST API'sine bağlantı yoluyla erişilebilir.
Arayüz beş ana işlem sağlar: ingest konuşmaların toplu işlenmesi için, remember açık kaydetme için, recall ayrıca sentezlenmiş sorgular için list VE forget Yönetim ve iptal için. Tüm API arayüzünü eşlemek için Cloudflare en son şu şekilde yayınlandı: cf birleşik bir komut satırı aracı. Bu şekilde geliştiriciler, sağlayıcının tüm hizmetlerini merkezi bir araç aracılığıyla kontrol edebilmeli ve yapay zeka temsilcilerinin bunları kullanmasını sağlayabilmelidir.
Şu anda Agent Memory kapalı betasına kaydolmanın bir yolu yok, ancak bir bekleme listesi var. Genel kullanıma sunulma zamanlaması henüz bilinmiyor.
(sphe)
Bir yanıt yazın