Geçen ay Kanada mahkemeleri, havayolunun GenAI destekli sohbet robotunun bir müşteriyi yanıltmasının ardından Air Canada'nın ödeme yapmasına karar vermişti.
CX Today tarafından bildirildiği üzere, acılı bir torun olan Jake Moffatt, Toronto'ya gidiş-dönüş uçak bileti için 1.600 dolardan fazla para ödedi.
Yine de havayolunun cenaze oranlarına göre yalnızca 760 dolar ödemek zorunda kaldı.
Bunu fark eden Moffatt dava açtı ve Air Canada, botun ayrı bir tüzel kişilik olduğunu ve sorumlu tutulamayacağını savunmaya çalıştı.
Bu savunma başarısız oldu ve Marc Benioff, Salesforce'un başkanı ve CEO'su, açıklamanın büyük önem taşıdığını gösteriyor. Bir kazanç çağrısı sırasında şunlar belirtildi:
Tıpkı bir insan çalışan için olduğu gibi, bir dijital çalışandan da sorumlu tutuldular.
Dahası Benioff, bu yapay zeka modellerinin “dezenformasyon ve halüsinasyonlar üreten, son derece kendine güvenen yalancılar” olduğu konusunda uyardı ve şunları öne sürdü: “Bunların güvenilir çözümler olmaması şirketler, kuruluşlar ve müşterilerimiz için bir tehlike oluşturuyor.
“Bu [public] modeller şirketin müşteri ilişkileri hakkında hiçbir şey bilmiyor ve bazı durumlarda bunu uyduruyor.
“Şirketlerin tüketicileri cezbeden aynı yeteneklere sahip olması gerekiyor, ancak bunu güvenle ve kesin bir şekilde yapmaları gerekiyor. Ve bu hiç de kolay değil.”
Neyse ki Benioff, şirketlerin güvenilir deneyimler sunmak için GenAI bot stratejilerine dahil edebilecekleri üç “temel bileşen” olduğuna inanıyor.
Bunlar çekici bir kullanıcı arayüzü (UI), birinci sınıf bir yapay zeka modeli ve devasa bir veri kümesidir.
Yine de Benioff, yapay zekanın müşterilerin ihtiyaç duyduğu kritik içgörüleri ve zekayı anlayıp sunabilmesi için veri kümesinin meta veriler içermesi gerektiğini vurguluyor.
“Bu sadece birleştirilmiş, çalınmış halka açık bir veri seti değil… bu, verilerin ve meta verilerin derin entegrasyonudur” diye bitirdi. “Ah, Salesforce'un yaptığı da budur.”
Chatbot hatalarından kaçınmak: Müşteri Deneyimi analistlerinden tavsiyeler
Yakın zamanda gerçekleşen Büyük Haber Güncellemesi sırasında, birkaç CX analisti, şirketlerin Air Canada'nın hatasından (DPD'nin bot hatasına ek olarak) öğrenmesi gerektiğini düşündükleri en büyük dersler hakkında görüşlerini dile getirdi.
Rebecca Wetteman, Valoir CEO'su ve baş analistişu sonuca vardı: “Bu sadece halüsinasyonlarla ilgili değil; kötü verileri açığa çıkarmakla ilgilidir.
“Bunu chatbot mu uydurdu, yoksa bir yerlerde birisinin henüz bilmediği bir kabile bilgisi mi var bilmiyorum.
“Ancak insanlar bu kritik konuşmaların çoğunu yapay zekaya ve sohbet robotlarına emanet etmeye başladıkça bunun daha fazla olumsuz etkisini göreceğimizi düşünüyorum.
Çok daha fazla şirket şöyle diyor: “Ah, teknoloji sağlayıcısının bu sorumluluğun ve riskin bir kısmını benim için üstlenmesini istiyorum.”
Bu, tedarikçi-müşteri sözleşmelerine tazminat hükümlerinin eklenmesine ilişkin büyüleyici bir konuşmayı gündeme getiriyor.
Henüz, Michael Fauscette, Arion Research Kurucusu, CEO'su ve Baş Analisti, şunu savunuyor: “Aslında bu sizin sorumluluğunuzdur. Başka bir kuruluş tarafından yönetilmesi, dış kaynak kullanılması veya… kötü veriler, kötü deneyimler olması umurumda değil, bu kadar basit ve bu sizin sorumluluğunuzdadır.
“Mahkeme muhtemelen bir insan temsilciye 'Biliyor musun, insanlar hata yapar' şeklinde bakardı… Muhtemelen biraz hareket alanı olurdu.
“Ama ders şu; bu mahkemelerin bir makineye çok fazla hareket alanı vermesi pek mümkün değildir.
Wetteman, Miller ve daha fazla üst düzey CX analistinden daha fazla bilgi almak için CX Today'in en son BIG CX Haber Güncellemesine göz atın: Oracle'ın yeni iletişim platformundaki en son gelişmeler, yüksek profilli chatbot hataları ve HubSpot
Bir yanıt yazın