Yapay zeka ajanlarınız göremediğiniz bir güvenlik riski mi?

Her bir Müşteri Deneyimi liderinden, şu anda iletişim merkezi ortamında faaliyet gösteren tüm AI temsilcilerinin, neye bağlı olduklarını, hangi verilere eriştiklerini ve izinleri kimin onayladığını içeren tam bir liste oluşturmasını isteyin. Çoğu bunu yapamaz. Büyük kurumsal platform satıcılarının otonom aracıları doğrudan müşteriye dönük operasyonlara itmesiyle bu sorun bu çeyrekte daha da büyüyor.

The Verge'da konuşan Kod çözücü Podcast'te Okta'nın kurucu ortağı ve CEO'su Todd McKinnon sorunu özetledi:

“Yapay zeka temsilcilerinin bazı şeylere giriş yapması gerekiyor. Onları takip edecek, rollerini tanımlayacak, izinlerini, neye bağlanabileceklerini ve neler yapabileceklerini tanımlayacak bir sisteme ihtiyacınız var.”

Son iki yılda yapay zekayı uygulamaya koyma konusunda yarışan bir sektör için yönetişim altyapısı otomasyona ayak uydurmakta başarısız oldu.

İletişim merkezinde yapay zeka temsilcisi yönetimi neden bu kadar zor?

Tedarikçi akını çoğu BT ve CX ekibinin beklediğinden daha hızlı geliyor. Microsoft, yapay zeka aracılarını Dynamics 365 İletişim Merkezi'nin derinliklerine taşıyarak onlara ses ve dijital kanallardaki müşteri etkileşimlerini özerk bir şekilde yönetme olanağı sağladı.

SAP, kendi yapay zeka destek yetenekleri aracılığıyla bildirim çözümlemesini otomatikleştirir ve hiçbir insan ekibinin gerçek zamanlı olarak denetleyemeyeceği bir hız ve hacimde destek vakaları üzerinde bağımsız olarak çalışır.

Bu arada Salesforce, AgentForce'u, ajansal yapay zekanın SaaS'ın geleceği için ne anlama geldiği konusunda endişe duyan yatırımcılara karşı doğrudan savunuyor ve CEO Marc Benioff, teknolojiyi platformun bozulmasından ziyade platformun bir uzantısı olarak tanımlıyor.

Aracılar, her biri kendi kimlik modeline, veri bağlantılarına ve izin mantığına sahip olarak her yönden aynı anda gelir. Çoğu işletmede, hiçbir ekip tüm işletmelerin tam resmine sahip değildir.

Yapay zeka aracısının izinlerini kimse takip etmezse ne olur?

Bu görünürlük farkının sonuçları soyut değildir. İletişim merkezi bağlamında, yapay zeka temsilcileri düzenli olarak CRM sistemlerine, müşteri veri platformlarına, biletleme altyapısına ve telefon katmanlarına giriş yapar. Müşteriler adına çalışırlar ve satın alma geçmişine, hesap ayrıntılarına ve kişisel verilere erişime sahiptirler.

Bu bağlantılara ilişkin izinler satıcı kontrol panellerine, BT satın alma verilerine ve bireysel ekip dağıtımlarına dağıtıldığında risk yalnızca operasyonel verimsizlik değildir; bu aynı zamanda müşterinin güveni açısından da bir risktir.

McKinnon bundan sonra olacaklar konusunda kasıtlı olarak duyarsız davranıyor:

“İşler ters gidecek. Sorunlar, tehditler ve derhal enjeksiyonlar olacak.”

CX liderleri için soru, yanlış yapılandırılmış veya tehlikeye atılmış bir aracının zarara neden olup olmayacağı değildir; Sorun, harekete geçecek kadar kısa sürede bunu bilip bilmeyecekleri ve eğer öğrenirlerse yanıt verecek mekanizmaya sahip olup olmayacaklarıdır.

Okta'nın “sonlandırma anahtarı” olarak adlandırdığı şeyin ardındaki mantık budur: Aracının kendisini kapatmak değil, temas ettiği herhangi bir sisteme erişimi iptal etmek. McKinnon, “Acentenin değil, acentenin erişebildiği her şeye erişimi ortadan kaldırıyoruz” diye açıklıyor. “Neredeyse bir makineyi ağdan çıkarmak gibi.” SAP'nin otonom çağrı çözümlemesini uygun ölçekte çalıştıran bir iletişim merkezi veya canlı müşteri çağrılarını yöneten Microsoft'un Dynamics 365 aracıları için bu yetenek ve bunun dağıtılabileceği hız, yığında önemli bir yönetişim özelliği olabilir.

CX liderleri nasıl bir Yapay Zeka Aracı Yönetişim Çerçevesi oluşturmalıdır?

McKinnon'un “güvenli aracı kurum” olarak adlandırdığı şeye ilişkin plan, CX teknolojisi alıcıları için üç pratik zorunluluk anlamına geliyor; bunların hiçbiri satıcıya özel değil ve bunların tümü Microsoft, SAP ve Salesforce uygulamalarına eşit şekilde uygulanması gerekiyor.

İlk önce envanteri oluşturun. Bir yönetişim çerçevesinin işleyebilmesi için kuruluşların ortamdaki her bir aracı için bir kayıt sistemine ihtiyacı vardır. McKinnon, “Şirketlere sahip oldukları acentelerin bir listesini vermek basit gibi görünüyor, ancak sahip oldukları acentelerin bir listesine ihtiyaçları var” diyor. CX ekipleri için bu, platformda yerel aracıları, üçüncü taraf CCaaS AI katmanlarını ve dahili olarak yerleşik otomasyonları tek ve bakımı yapılan bir kayıt defterinde eşlemek anlamına gelir.

Bağlantı noktalarını tanımlayın ve yönetin. Bir aracının değeri, verilere erişimle orantılıdır ancak risk de öyle. McKinnon, uzun vadeli modelin her şeyi tek bir veri ambarında birleştirmediğini ve aracıları bunun üzerinde çalıştırmadığını, bunun yerine aracıların yasal olarak ihtiyaç duydukları sistemlere tam erişim belirteçlerine sahip olmalarını sağladığını savunuyor. “Ajanların verilerini almak için ihtiyaç duydukları diğer birçok sisteme nasıl bağlandıkları konusunda iyi bir standart yok” diye kabul ediyor; bu da CX alıcılarının satıcılara doğrudan aracı kimlik doğrulamasının nasıl yönetildiğini ve hangi denetim izinin mevcut olduğunu sorması gerektiği anlamına geliyor.

Yönetişim açığı genişliyor

McKinnon'ın analizinde daha sert bir gerçek var. Bu sistemlerin davranışı, kendi ifadeleriyle 'deterministik değildir'. Onun deyimiyle “bedava öğle yemeği yoktur”; temsilcilere gerçekten faydalı olacak verilere yeterli erişim hakkı verirsiniz ya da onları ilgisizlik noktasına kadar sınırlandırırsınız. O gerilim geçmiyor. Bu, CX'teki temsilci yaşının belirleyici operasyonel değiş tokuşudur.

Bu durumu iyi idare eden kuruluşları önlenebilir olaylarla uğraşan kuruluşlardan ayıran şey, platform tedarikçisinin seçimi değildir. Önemli olan, AI temsilcilerine yeni işe alınanlara uygulayacakları yönetim disipliniyle aynı şekilde davranıp davranmadıklarıdır: hangi erişime sahip olduklarını, buna kimin yetki verdiğini ve bunu nasıl geri alabileceklerini bilmek.