Son zamanlarda kaydedilen ilerlemelere ve iyileştirmelere rağmen yapay zeka hâlâ tahmin edilemez ve güvenilmezdir.
Müşteri hizmetleri ve deneyim dünyasında, soruları yanıtlamak, satın alma işlemlerine rehberlik etmek ve daha önce insan temsilcilere ayrılmış olan konuşmaları giderek daha fazla yönetmek için teknoloji kullanılıyor.
Ancak bilinen bir sorun ortaya çıkmaya devam ediyor: Bu sistemler hâlâ öngörülemez şekilde davranıyor.
Bir an akıcı ve anlayışlı olabilirlerken, bir sonraki an temel bir şeyi gözden kaçırabilirler. Ve bu gerçekleştiğinde müşteri deneyimi zarar görür.
Salesforce'un en son sürümleri doğrudan bu güvenilirlik açığını gideriyor.
Hizmet, ticaret ve yapay zeka araştırması alanlarında şirket, yapay zeka sistemlerinin tasarımının merkezine doğruluğu, tutarlılığı ve öngörülebilir davranışı koyuyor gibi görünüyor.
Ve CRM'in güç merkezi bu problemin etrafından dolanmıyor.
Satıcının AI Araştırma departmanı tarafından hataları canlı bir müşteriye ulaşmadan önce yakalamak için oluşturulan yeni simülasyon ortamı eVerse'nin piyasaya sürülmesiyle bu durum açıkça görülüyor.
Salesforce, eVerse'in arkasındaki motivasyonu tartışırken, şirketin “Pürüzlü Zeka” olarak adlandırdığı, yapay zekanın karmaşık görevlerde üstün olduğu ancak basit görevlerde zorlandığı durumlara dikkat çekti.
Tedarikçi, bu olgunun “kabul edilemez ticari riskler yarattığına” ve eVerse'in “sorunla doğrudan ilgilendiğine” inanıyor.
Göz önünde saklanan bir güvenilirlik sorunu
Agentforce platformu aracılığıyla Salesforce gibi satıcılar, müşteri hizmetleri ve deneyiminde yapay zeka aracılarının yeteneklerinin ve kullanımının genişletilmesine öncülük ediyor.
Bu araçlar, temel etkileşimlerin ötesine geçiyor ve müşteri yolculuğunun kilit noktalarında özerk bir şekilde hareket ederek yapay zekanın artık sektörde ne kadar yaygın olduğunu vurguluyor.
Eğer Kişan Çetan, Salesforce Service Cloud'un Başkan Yardımcısı ve Genel Müdürüdiyor ki:
“Yapay zeka aracıları tahmin ve otomasyonun ötesine geçiyor; bağlamı anlayabiliyor, harekete geçebiliyor, kararlar alabiliyor ve gerçek zamanlı olarak uyum sağlayabiliyorlar.”
Aslında Salesforce'un 2025 Hizmet Durumu raporu, hizmet vakalarının %30'unun şu anda yapay zeka tarafından ele alındığını ve bu oranın 2027 yılına kadar %50'ye yükselmesinin beklendiğini iddia ediyor.
Yapay zekanın bazen değişken doğası göz önüne alındığında, bu değişimin öngörülemezlik örneklerini büyük ölçüde artırma potansiyeli var.
Yanlış bir kararın veya karışık bir tepkinin müşteriyi uzaklaştırabileceği ve markanın itibarına zarar verebileceği bir ortamda, daha fazla otomasyonun ödülüyle ilgili birçok risk vardır.
Salesforce, popülaritesi artmaya devam ettikçe teknolojinin daha güvenli hale gelebilmesi için yapay zekanın güvenilmezliğiyle mücadele etmeye çalışıyor gibi görünüyor.
Yapay zekayı müşterilerden önce kırmak
Kısacası eVerse, yapay zekayı müşterilerden önce kırmak için tasarlandı.
Eğitim ortamı acımasızdır. Yapay zeka modellerine gürültü, vurgular, öngörülemeyen davranışlar ve karmaşık gerçek dünya senaryoları sunarak bunlarla nasıl başa çıktıklarını görüyor.
Salesforce AI COO'su Madhav Thattai Agentforce Voice'un eVerse'in kobaylarından biri olduğunu açıkladı:
“eVerse ile, Agentforce Voice üretime geçmeden önce insan konuşmalarındaki birçok nüansı keşfedebildik.”
“Bu tür bir doğruluk, en son araştırmaların ölçeklenebilir ürünlere ve güvenilir müşteri deneyimlerine dönüştürülmesini sağlıyor.
“Bunu yaparken, müşterilerimizin en karmaşık ihtiyaçlarını çözmek için aynı düzeyde yanıt verme ve tutarlılığı tüm gözlem yığınına yayıyoruz.”
UCSF Health, şu anda eVerse'in pilot aşamasında yer alan şirketlerden biridir.
Salesforce ekibi, klinik uzmanlarla birlikte çalışarak, hassasiyetin önemli olduğu sağlık hizmetleri faturalandırmasını yönetmeleri için yapay zeka temsilcilerini eğitiyor.
İlk testler, memurların rutin ve karmaşık görevler için %88'e kadar kapsam elde ettiğini, takviyeli öğrenme ve klinik denetimin sonuçları şekillendirdiğini gösterdi.
Sara Murray, MD, MAS, UCSF Health Başkan Yardımcısı ve Baş Sağlık Yapay Zeka Görevlisiamacı özetledi:
“Sorumlu bir şekilde kullanıldığında yapay zekanın ekiplerimizin sağlık hizmetlerinin en karmaşık kısımlarından birini basitleştirmesine yardımcı olabileceğine inanıyoruz.”
Salesforce, devam eden deneme yanılma eğitiminin “acenteleri genel dil modellerinden, üretim dağıtımına hazır özel iş sistemlerine dönüştürdüğüne” inanıyor.
Perakendede de aynı sorun var; ticari bir değişiklikle birlikte
Salesforce'un güvenilirlik çabası, yeni bir dizi zorluğun kendini gösterdiği ticarete de uzanıyor.
ChatGPT ile yakında yapılacak entegrasyonlar da dahil olmak üzere tüketici yapay zeka kanallarından gelen trafik artıyor. Salesforce, akıllı temsilcilerin Siber Hafta boyunca küresel siparişlerin %22'sini etkileyeceğini öngörüyor.
Markanızı temsil eden yapay zekanın tutarsız yanıtlar vermesi durumunda bu, başka bir potansiyel riski temsil eder.
Bununla mücadele etmek için Salesforce, Agentforce Commerce için yeni özellikler duyurdu.
Yeni özellikler perakendecilerin ürün verilerini AI kanallarına doğruluk, fiyatlandırma ve marka sesi üzerinde sıkı kontrolle dağıtmasına olanak tanıyor.
Kendisinin “Perakendecilere tüm acente alışveriş yolculuğu üzerinde tam kontrol sağlamak için tasarlanmış ilk platform” olarak tanımladığı Agentforce Commerce, markaların ürün kataloglarını ChatGPT gibi yapay zeka platformlarına göndermesine olanak tanırken, sadakati ve daha yüksek yaşam boyu değeri artırmak için kendi sitelerinde kişiselleştirilmiş, acente liderliğindeki yolculuklar sunuyor.
Şu anda aracı kullanan kuruluşlardan biri Pandora'dır. şirket Baş Dijital ve Teknoloji Sorumlusu, David WalmsleyGüvenilir yapay zeka sunabilmenin önemini tartışarak şunları belirtti:
“Bu sadece ticaretten daha fazlasıdır; her müşteriye rehberlik etmek, anlaşıldıklarını, desteklendiklerini ve değerli olduklarını hissettirmek için güvenilir yapay zeka ve birleştirilmiş verileri kullanmakla ilgilidir.”
Walmsley'in yorumlarından, yapay zeka satın alma kararlarını yönlendirdiğinde, bu güvenin doğrudan gelir oluşturucu olma potansiyeline sahip olduğu açıkça görülüyor.
Sorunu ortaya çıkmadan çok önce çözün
Her şey göz önüne alındığında, Salesforce'un son güncellemeleri net bir mantık izliyor: güvenilirliği yukarıya doğru itin.
Satıcı bunu eğitim verilerinin, simülasyon ortamının, risk kontrollerinin, karar verme mantığının ve insan izleme döngülerinin içine yerleştirir.
Mantık şu gibi görünüyor: eğer güvenilirlik sonradan akla gelen bir düşünce haline gelirse, yapay zeka bir kumar olarak kalır; yapısal hale gelirse teknoloji çok daha hızlı büyüyecektir.
Salesforce'un Hizmet Durumu raporu da aynı dinamiğe işaret ediyor. Yapay zeka halihazırda ön saflardaki rolleri yeniden şekillendiriyor. Ancak evlat edinme hala güvene bağlıdır. Servis ekipleri deneysel hissettiren sistemler değil, güvenebilecekleri araçlar istiyor.
Güvenlik liderleri de aynı fikirde. Katılımcıların %51'i uygulamanın risk endişeleri nedeniyle ertelendiğini bildirirken, Salesforce'un BT Durumu: Güvenlik raporu, güvenilirlik ve güvenlik kontrolleri uygulamaya konulduğunda yapay zeka aracılarının güvenliği güçlendirebileceği konusunda oybirliğiyle fikir birliğine varıyor.
Başka bir deyişle: Coşku var ama güven yetişiyor.
Belki de güvenilirliğin eksik parça olduğu kanıtlanacaktır.
CX'te yapay zeka için kumda bir çizgi
Yapay zeka temsilcileri doğrudan müşteri etkileşimlerine doğru ilerledikçe sektör bir dönüm noktasına geliyor.
Bu sistemler artık birer yardımcı araç değil; birçok seyahat sırasında ilk temas noktasıdırlar. Bu, güvenilirliği rahatlığın, maliyet tasarrufunun ve hızın üstüne koyar.
Silvio Savarese, Salesforce'ta Baş Yapay Zeka Bilimcisiaraştırmayı gerçek dünyadaki sonuçlarla ilişkilendirdi:
“UCSF Health ile olan ortaklığımız, uygulamalı bilimin nasıl doğrudan müşteri değerine dönüştüğünü gösteriyor ve temsilcileri gerçek dünyanın karmaşıklığını yansıtan ortamlarda eğittiğinizde, en önemli anlarda güvenilir performans gösterdiklerini kanıtlıyor.”
Salesforce'un mesajının özü budur. Temsilciler çağında güvenirlik esas olmalıdır; sonradan akla gelen bir düşünce değil.
Bunu erken fark eden ve yapay zekasını buna göre güçlendiren ekipler, teknolojinin potansiyelini tam olarak en üst düzeye çıkarmak için en iyi konumda olanlar olacaktır.
Bir yanıt yazın