İletişim merkezi ve müşteri deneyimi ortamı, büyük ölçüde yapay zeka inovasyonunun yönlendirdiği hızlı bir gelişme ve inovasyon dönemine girdi. Üretken yapay zeka sohbet robotlarından gelişmiş konuşma analitiği araçlarına kadar gelişmiş yapay zeka çözümleri, işletmelerin ve müşterilerin etkileşim kurma biçimini dönüştürüyor.
Yapay zeka, doğru kullanıldığında operasyonel maliyetleri azaltma, temsilci verimliliğini artırma ve hatta daha kişiselleştirilmiş, veri odaklı destekle müşteri hizmetlerini iyileştirme gücüne sahiptir. Maalesef iletişim merkezindeki yapay zekanın da karanlık bir tarafı var.
Şirketler yapay zekayı içerik oluşturmak ve arama komut dosyaları oluşturmak için kullanabildiği gibi, kötü aktörler de aynı araçları dolandırıcılık yapmak ve özel bilgileri çalmak için kullanabilir. İnsan sesini sentezlemek ve kopyalamak için oluşturulan Deepfake'ler, IVR sistemlerini ve geleneksel kimlik doğrulama yöntemlerini nispeten kolaylıkla kandırabilir.
Sorun, OpenAI'nin ses klonlama aracının piyasaya sürülmesini bile durdurduğu ve iletişim merkezlerine bir güvenlik önlemi olarak ses tabanlı kimlik doğrulamayı aşamalı olarak kaldırmalarını önerdiği noktaya kadar giderek daha belirgin hale geliyor. Deepfake tehdidi ne kadar büyük ve şirketiniz bu konuda ne yapabilir?
İletişim merkezlerinde artan deepfake tehdidi
Yapay zekanın artan gücü müşteriler, düzenleyiciler ve işletmeler arasında endişelerin artmasına yol açtı. Üretken yapay zekanın ilgi odağı haline gelmesinden bu yana deepfake kavramı giderek daha yaygın hale geldi.
Tüketiciler başlangıçta “deepfake”leri ünlülerin sahte fotoğraf ve videolarıyla ilişkilendirdiler. Ancak artık yapay zekanın bir kişinin sesini endişe verici düzeyde doğrulukla sentezlemek için de kullanılabileceğine dair artan kanıtlar görüyoruz. OpenAI yalnızca bu amaç için özel olarak tasarlanmış bir çözüm yayınlamayı planlamakla kalmıyor, aynı zamanda diğer birçok kuruluş da müşteriler adına iletişim merkezleriyle iletişim kurabilen konuşma yapay zeka botlarını deneyimliyor.
Bu, uzun kuyruklardan ve aramalardan kaçınmak isteyen müşteriler için iyi bir şey gibi görünse de, iletişim merkezleri için ciddi bir endişe kaynağıdır ve 'etik yapay zeka' kavramıyla doğrudan çelişir ve suçluların yapay zekayı kullanabileceği yeni yolların kapısını açar. tüketicilere zarar vermek.
Tüketiciler kendi seslerini kopyalamak için botları kullanabilirse, suçluların da aynısını yapmasını engelleyen hiçbir şey yok. Etik yapay zeka standartlarının takipçileri (OpenAI gibi) araçlarının tehlikelerini vurgulayan açıklamalar yayınlayabilirken, tehdide proaktif bir şekilde müdahale etmek iş dünyası liderlerine ve iletişim merkezlerine kalmıştır. Bu, deepfake dolandırıcılığında ortaya çıkan kalıpları anlamakla başlar.
“Derin sahte tehditler ortaya çıktıkça müşteri verilerinin ve güveninin güvence altına alınması iletişim merkezleri için kritik önem taşıyor. Şirketler, etik yapay zeka uygulamalarına ve sıkı güvenlik protokollerine öncelik vererek müşteri deneyimini ve itibarını korurken yeniliği teşvik edebilir.” – Ben Booth, CEO, MaxContact
Suçlular iletişim merkezlerinde deepfake'leri nasıl kullanıyor?
Yapay zeka destekli ses kimlik doğrulama araçları, bir iletişim merkezinde müşterileri doğrulama sürecini kolaylaştırabilirken, çoğu kişi gerçek 'canlı' insan sesleri ile bir kişinin sesini kopyalamak için eğitilmiş botlar arasında ayrım yapmakta zorlanıyor. Pindrop kısa süre önce suçluların iletişim merkezinde deepfake kullandığı sayısız yolu vurgulayan bir rapor yayınladı. Kötü aktörler şunları içerir:
- IVR Kimlik Doğrulamasını Atlamak için Sentetik Seslerin Kullanılması: Makine tarafından üretilen son derece doğru seslerle, özellikle suçluların kullanıcının güvenlik sorularının yanıtları zaten varsa, otomatik bir IVR kimlik doğrulama sistemini atlamak nispeten kolaydır. Botlar, suçlular kontrolü ele geçirmeden önce mali ve bilanço bazlı araştırmalara dayanarak hangi hesapların hedeflenmeye değer olduğunu hızlı bir şekilde belirlemek için kullanılabilir.
- Profil bilgilerini AI ile değiştirmek için: Suçlular, e-posta adresi veya tercih edilen telefon numarası gibi profil bilgilerini değiştirmelerini isteyen taleplerde bulunmak için sentetik sesler de kullanabilir. Bu genellikle kötü niyetli bir kişinin bir şirketten tek kullanımlık şifre almak veya güncel bir adrese yeni bir banka kartı teslim ettirmek istediğinde attığı ilk adımdır.
- Banka IVR'lerini taklit etmek için: Suçlular, akıllı araçlar kullanarak botlara banka IVR'lerini taklit etmeyi öğretebilir ve böylece kullanılan istemlerle ilgili veri toplamak için bir iletişim merkezini aramalarına olanak tanıyabilir. Bu aslında suçlulara, müşterileri değerli verileri paylaşmaları için kandırmak üzere tasarlanmış, son derece hassas ses veren bir telefon sistemi oluşturmanın bir yolunu sunuyor.
- Değerli verileri toplayın: Sentetik seslerin her zaman özellikle kimlik doğrulama yöntemlerini atlatmak için kullanılmaması dikkat çekicidir. Birçok dolandırıcı, hesaplar hakkında veri toplamak, IVR sistemlerinin nasıl çalıştığını öğrenmek ve şüphelenmeyen müşterileri daha fazla kandırmak için ihtiyaç duydukları bilgileri toplamak için sentetik bir ses kullanabilir.
İletişim merkezleri nasıl hazırlanabilir?
Talihsiz gerçek şu ki deepfake'ler zaten mevcut ve iletişim merkezleri ve müşterileri için önemli bir tehdit oluşturuyor. İş dünyası liderleri, yapay zeka yenilikçilerinin yapay zeka etik kurallarına uymasını veya suçlu kullanıcıları kendilerinin tespit etmesini bekleyemez. Günümüzün iletişim merkezleri, kimlik doğrulama sistemlerinin derin sahtekarlıklara karşı dayanıklı olmasını sağlamalıdır.
Birçok iletişim merkezi için başarıya giden yol, etik yapay zeka uygulamalarını benimsemekle başlar. Etik yapay zeka stratejilerine yatırım yapan iletişim merkezleri, verilerin güvenli bir şekilde saklanmasını ve doğru şekilde kullanılmasını sağlamak için satıcılarla birlikte çalışır. Ayrıca tüketicileri korumak için yapay zeka stratejilerini düzenli olarak gözden geçiriyorlar.
Yapay zeka deepfake sorununun nedeni olsa da bir çözüm bulmaya da yardımcı olabilir. Yapay zekayı kullanan yenilikçi konuşma analizi araçları, bir sesi bir kayda bağlamanın ötesine geçebilir. Duyguları inceleyebilir ve canlı ve kayıtlı ses arasındaki farkı belirleyebilirler. MaxContact'ın konuşma analitiği çözümü, 'savunmasız' müşterileri dillerine, ses tonlarına ve kullandıkları kelimelere göre gerçek zamanlı olarak tespit edebilir.
İletişim merkezleri, potansiyel olarak sahte aramaları tespit etmek için yapay zekayı kullanarak, yangına ateşle karşılık vermenin yanı sıra, aşağıdaki gibi stratejileri kullanarak daha sağlam, katmanlı güvenlik planları uygulayabilir:
Temsilci eğitimi
İletişim merkezi her zaman insan temsilcilerine ihtiyaç duyacaktır. Konuşmalara yalnızca empati, yaratıcılık ve şefkat katmakla kalmıyorlar, aynı zamanda sahte ve canlı sesleri ayırt etme konusunda botlardan daha etkili olabiliyorlar. Çalışanlara sentezlenmiş seslerin nasıl tespit edileceği konusunda koçluk yapmak ve bir sorun tespit ettiklerinde ne yapacakları konusunda onlara rehberlik etmek çok önemli olacaktır.
Özellikle, temsilcilerin sentetik ses algılamasına yardımcı olabilecek konuşma analizi araçlarına erişim sağlamak, onlara duyarlılık ve güvenlik açığı konusunda gerçek zamanlı bilgiler vererek yararlı olabilir.
Geri arama isteklerini kullan
Arayanın sesi şüpheli geliyorsa veya bir şirketin raporlama ve analiz aracı arama sırasında tutarsızlıklar tespit ediyorsa, geri aramak tehditlerin azaltılmasına yardımcı olabilir. Temsilcilere, hesap sahibiyle gerçekten konuştuklarından emin olmak için çağrıyı sonlandırma ve daha sonra önceden kaydettikleri iletişim bilgilerini kullanarak müşteriyle iletişime geçme şansı verir.
İletişim merkezi verilerinin sürekli olarak kaydedilmesi ve potansiyel olarak 'yüksek riskli' müşterilerden gelen kanıtların gerçek zamanlı olarak izlenmesi, temsilcilerin geri aramaların ne zaman yapılabileceğini belirlemesine yardımcı olacaktır.
Gelişmiş çok faktörlü kimlik doğrulama
Deepfake'lerin çok faktörlü kimlik doğrulama çözümlerini atlaması mümkün olsa da, farklı kimlik doğrulama yöntemlerini atlamak genellikle çok daha zordur. Bir müşteriyi yalnızca sesine göre yargılamak yerine, davranış tespiti için tuş vuruşu analizi veya cihaz tespiti için dijital ton analizi ile birlikte tek kullanımlık şifreler kullanabilirsiniz.
Kimlik doğrulamaya uygunluğu belirlemek için çeşitli faktörleri kullanan kapsamlı, çok faktörlü bir kimlik doğrulama süreci, derin sahtekarlık riskini azaltacaktır.
“Deepfake'lerin yükselişi ciddi bir tehdit oluşturuyor ancak konuşma analitiği, iletişim merkezlerine güçlü bir karşı önlem sağlıyor. Ses kalıplarını, duygusal sinyalleri ve biyometriyi analiz eden bu yapay zeka destekli çözümler, sentetik sesleri gerçek müşterilerden ayırt edebiliyor. Deepfake yetenekleri geliştikçe, konuşma analitiğine yatırım yapmak, müşterileri korumak ve sahtekarlıkla mücadele etmek açısından kritik hale gelecektir.” – Matthew Yates, Mühendislik Başkan Yardımcısı, MaxContact.
Deepfake'ler burada: hazır mısın?
Ne yazık ki, botların dolandırıcılık amaçlı olarak insanları kopyalaması fikri artık sadece fütürist bir kavram değil, bir gerçek. Suçlular halihazırda insan seslerini sentezlemek, IVR sistemlerini atlatmak ve hatta müşterileri ve canlı temsilcileri kandırmak için üretken yapay zeka araçlarını kullanıyor.
Bu ortamda güvende kalabilmek için iletişim merkezlerinin etik yapay zeka stratejilerini ve müşteri kimlik doğrulamaya yönelik kapsamlı, çok yönlü bir yaklaşımı benimsemesi gerekiyor. Bunu yapmamak, işletmenizi yasal para cezaları, itibar kaybı ve veri hırsızlığı gibi ciddi risklerle karşı karşıya bırakabilir.
Bir yanıt yazın