Sohbet yazmak veya Ghibli görüntüleri oluşturmak için üretken yapay zeka çok uygundur, ancak bir şirketin dizginlerini ona emanet etmeden önce iki kez düşünmek daha iyidir. Botun bilgi halüsinasyonu görmesi veya kontrolü kaybetmesi durumunda sonuçlar maliyetli olabilir. Bu teknolojiye dayalı çözümler satan Salesforce, hoş olmayan sürprizlerle karşılaşmamak için çok basit bir çözüm bulmuş.
Onlarca yıldır kanıtlanmış çözümler bazen iyidir. Bir yıl boyunca Satış gücü satış sonrası hizmet ve müşteri desteği sağlamak için kısmen OpenAI'nin büyük dil modellerine (LLM) dayanan ve büyük ölçüde insanların yerini alan bir “aracı” çözümü olan Agentforce'a sahiptir. Şirket ayrıca Agentforce'u kullanarak müşteri desteğindeki 9.000 pozisyondan 4.000'ini ortadan kaldırdı. Ancak olay şu: Yüksek Lisans'ların bazen saçma sapan konuşma eğilimi vardır!
Salesforce, yapay zekanın basit kurallarla en iyi şekilde çalıştığını keşfetti
site Bilgi Pek çok müşterinin, kullanıcı amaçlanan “hikayeden” saptığı anda sohbet robotlarının hedeflerini hızla gözden kaçırdığını fark ettiğini bildiriyor. Salesforce yöneticisi Phil Mui, geçen Ekim ayında, her yöne sorular yöneltildiğinde “kaybolan” temsilcileri tanımladı. Bu da botun gerçekleştirmeyi unuttuğu konu dışı yanıtlara veya görevlere neden olur.
Ev güvenliği uzmanı Vivint'in örneği çok anlamlı. Şirket, Agentforce'tan değişimin sonunda sistematik olarak bir memnuniyet anketi göndermesini istemişti. Açık talimatlara rağmen yapay zeka bazen tanımlanabilir bir neden olmaksızın gönderimi atladı. Sonuçta çözüm, yapay zekayı, mesajın her etkileşimde gönderilmesini sağlayan bir tetikleyiciyle değiştirmekti.
Bu tetikleyici, bilgisayarlarda her zaman kullanılan “eğer buysa, o zaman şu” türündeki bir komuttur. Başka bir deyişle, ne bağlamı yorumlamaya ne de “akıl yürütmeye” çalışan, ancak her zaman aynı koşullar altında aynı eylemi gerçekleştiren determinist bir kural. Kesinlikle LLM katkılı bir aracıdan daha az zariftir, ancak kritik görevlerin otomatikleştirilmesi söz konusu olduğunda komut çok daha güvenilirdir. Ve hepsinden önemlisi, halüsinasyon görme yeteneği yok!
“ Bir yıl önce Yüksek Lisans'a daha fazla güveniyorduk “, diye itiraf ediyor ürün pazarlamadan sorumlu başkan yardımcısı Sanjna Parulekar. Bu nedenle Salesforce, hataları ve ünlü “halüsinasyonları” sınırlamak için, her zaman aynı koşullar altında aynı eylemleri gerçekleştiren, önceden yazılmış kesin kurallar olan bu mekanizmaların kullanımını güçlendirdi.
Grubun Baş Teknoloji Sorumlusu Muralidhar Krishnaprasad şunları ekliyor: ” Yüksek Lisans'a örneğin sekizden fazla talimat verirseniz, bazılarını unutmaya başlar ki bu gerçekten de ideal değildir. “. Temel ama etkili komutlar eklemek de aynı şekilde ” Yüksek Lisans'ın maliyetini azaltmanın bir yolu, [que] Kullanıcıların doğru yanıtları almasını sağlamak. » Dil modeline gönderilen her istek kaynak ve dolar tükettiğinden yanıtın güvenilir olması daha iyidir.
Salesforce, üretken yapay zeka konusunda geriye gitmemesini, bunun yerine onu gerçek değer getirdiği yerde kullanmasını sağlar. “ Artık Yüksek Lisans'ları daha hedefli bir şekilde kullanıyoruz, gerçek katma değer sağlıyorlar », Koruma önlemlerinin güçlendirilmesinden ve performansın daha iyi izlenmesinden bahseden bir sözcüğü özetliyor. Üretken yapay zekayı tüm sorunlara otomatik bir yanıt olarak sunma eğiliminde olan Silikon Vadisi'nin en yüce konuşmalarına aykırı olan daha ölçülü bir konum.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Kaynak :
Bilgi
Bir yanıt yazın