Yapay zeka deneysel bir üretkenlik aracından modern kuruluşların işletim sistemine dönüşürken siber güvenliğe, düzenleyici gözetime ve müşteri güvenine olan talep de aynı hızla artıyor.
Bu hafta Microsoft Dijital Güven ve Düzenleme Zirvesi'nde iş liderlerine verilen mesaj, ajansal yapay zeka çağında, yapay zeka yeteneklerinin ve siber güvenliğin yakınlaşmasının, müşteri verilerinin korunması ve dijital egemenliğin sağlanmasının artık marka deneyiminin tartışılamaz bileşenleri olduğu anlamına geldiği yönündeydi.
BT'den yönetim kurulu odasına: Liderlik görevi olarak siber güvenlik
Geçmişte güvenlik ve uyumluluk, bir sistem kurulduktan sonra BT veya hukuk departmanları tarafından kontrol edilecek kutular olarak görülüyordu. Ancak artık yapay zekanın benimsenmesi ve veri korumasının getirdiği riskler, liderlik mücadelesini temelden değiştirdi.
Yapay zekanın hızlanması, artan düzenleme ve jeopolitik karmaşıklığın yakınsaması, bu tartışmaları liderliğin en üst seviyelerine yükseltti. Eğer Rebecca Anderson, Hukuk EMEA Başkanı ve Genel Danışman Yardımcısı, Microsoft Kurumsal, Dış ve Hukuk İşlerişunu koy:
“Güven, yasal ve teknik alanlardan yönetim kurulu odasına taşındı. Müşteriler, düzenleyiciler ve vatandaşlar netlik, şeffaflık ve kanıt beklerken, liderlerden yapay zekanın benimsenmesi, bulut stratejisi ve dijital genişleme konusunda kurallar kitabı tamamen yazılmadan önce karar vermeleri isteniyor.”
Bu değişim, siber risk yönetiminin nihai sorumluluğunu doğrudan yönetim organlarına ve yönetim kurullarına yükleyen NIS2 Direktifi ve Dijital Operasyonel Dayanıklılık Yasası (DORA) gibi Avrupa genelindeki yeni düzenleyici çerçeveler tarafından hızlandırılıyor.
Agnes Heftberger, Kurumsal Başkan Yardımcısı ve Microsoft Almanya ve Avusturya CEO'suYapay zeka daha yetenekli hale geldikçe yönetici gözetiminin yoğunlaştığını belirtti:
“Yapay zeka destekliden otonoma doğru ilerledikçe, konuşma hemen yönetim kuruluna geçiyor. Kurulların istediği şey çok somut… Model ağırlıklarına ve karar günlüklerine kimin erişimi var ve verimlilik kazanımlarını azaltmadan anlamlı insan gözetimini nasıl sağlayabiliriz?”
Bu, müşteri verilerinin korunması ve yapay zeka yönetiminin artık CX liderleri için yalnızca operasyonel görevler olmadığı anlamına geliyor; bunlar yukarıdan aşağıya emirlerdir. Müşteri yolculuğunu yapay zeka yoluyla dönüştürmeyi amaçlayan herhangi bir girişim, üst düzey yöneticilerin güvenle savunabileceği bir temel üzerine inşa edilmelidir.
Koddan olasılıklara
Otonom yapay zeka aracılarının yükselişi, markaların müşterilerle etkileşim kurma biçimini temelden değiştiriyor. Yapay zeka, kuruluşlar adına, giderek de müşteriler adına akıl yürütür ve hareket eder.
Zirve sırasında Microsoft, yapay zeka çağında güvenliğin neden bir paradigma değişimini temsil ettiğini tam olarak vurguladı. Yapay zeka risk denklemini temelden değiştiriyor çünkü hız riski artırıyor, ölçek etkiyi artırıyor ve özerklik karmaşıklığı artırıyor.
Güvenlik artık sonradan akla gelen bir düşünce olamaz. Gerçek bir güvenlik öncelikli yaklaşım, sürekli kimlik uygulamasını, uçtan uca veri korumayı ve açık yönetim ve hesap verebilirliği gerektirir. Bu unsurlar yerine getirildiğinde, güvenlik bir engel olmaktan çıkıyor ve inovasyonu teşvik etmek için ihtiyaç duyulan paydaş güvenini inşa ederek yapay zekanın geniş ölçekte temel sağlayıcısı haline geliyor.
Vasu Jakkal, Microsoft Güvenlik, Uyumluluk, Kimlik, Yönetişim ve Gizlilikten Sorumlu Kurumsal Başkan YardımcısıBu güveni doğrudan yapay zeka sistemlerinin geliştirilmesine yerleştirmenin aciliyetini vurguladı:
“Yapay zeka güven denklemini değiştiriyor çünkü artık sadece kod değil, kapasite de söz konusu. Yapay zeka akıl yürütebilir ve sizin adınıza giderek daha fazla hareket edebilir. Güvenlik ve yönetişimin periyodik kontrollerden sürekli kontrole geçmesi gereken yer burasıdır… Korkuluklar olmadan özerklik geniş ölçekte bir risk haline gelir.”
Müşteri deneyimi alanında, sürekli gözlemlenebilirlik ve sıfır güven ilkeleri olmadan müşteri hizmetleri veya kişiselleştirme için yapay zeka aracılarının kullanılması, geliştirmeyi hedefledikleri müşteri ilişkilerini tehlikeye atma riski taşır.
İnsan kırılganlığı
Yapay zeka mimarisini güvence altına almak kritik öneme sahip olsa da şirketlerin, modern tehditlerin giderek daha fazla insan unsurunu hedef aldığını da kabul etmesi gerekiyor. Yakın zamanda yayınlanan bir Microsoft Tehdit İstihbaratı raporu, Kuzey Koreli devlet aktörü Sapphire Sleet'in macOS hedefli bir siber saldırı kampanyasını vurgulayarak bu tehlikeyi ortaya koydu.
Sapphire Sleet, yazılımın açıklarından yararlanmak yerine tamamen sosyal mühendisliğe güvendi. Tehdit aktörleri, meşru yazılım güncellemelerini taklit ederek kullanıcıları kötü amaçlı dosyaları manuel olarak yürütmeleri için kandırdı. Kullanıcı tarafından başlatılan bu yürütme, Gatekeeper ve noter onay kontrolleri gibi yerleşik macOS güvenlik önlemlerini tamamen atlayarak parolaları, dijital varlıkları ve kişisel verileri çalmalarına olanak sağladı.
Hırsızlık bir uyarı görevi görüyor. Şirketler giderek daha karmaşık hale gelen yapay zeka aracılarını ve otomatikleştirilmiş müşteri iş akışlarını kullandıkça, saldırı yüzeyi genişliyor. Tehdit aktörleri, üretken yapay zekanın yalnızca hızlandırdığı bir yetenek olan ikna edici tuzaklar yaratma konusunda son derece beceriklidir. Siber suçlular, güvenliği atlatmak için güvenilir sistem güncellemelerini taklit etmeyi başarırlarsa, aynı zamanda müşteri hizmetleri temsilcilerini, otomatik iletişimleri veya güvenilir marka temas noktalarını da taklit etmeye çalışacaklardır. Bu tehditlere karşı savunma yapmak, katmanlı güvenlik önlemlerini ve dijital kimliğin doğrulanmasına yönelik proaktif bir yaklaşımı gerektirir.
Güven yoluyla müşteri etkileşimini yeniden icat etmek
Avrupa, Orta Doğu ve Afrika (EMEA) genelinde yapay zeka hakkındaki tartışmalar olgunlaştı. Liderler, yapay zekanın gerçek değerinin, güven temelinin sağlam olması koşuluyla, geleneksel süreçleri bozma ve yeniden icat etme yeteneğinde yattığının farkındadır.
Samer Abu-Ltaif, Microsoft EMEA Başkanıteknolojinin basit verimlilik kazanımlarının çok ötesine geçtiğini kaydetti:
“Bunu bir üretkenlik boyutu olarak düşünmekten giderek yıkıcı ve kolaylaştırıcı bir teknolojiye doğru bir geçiş olduğunu görüyoruz. Bu, müşteri etkileşiminin yeniden keşfedilmesine, çalışan deneyimlerinin zenginleştirilmesine ve iş süreçlerinin yeniden şekillendirilmesine olanak sağlama yeteneğine sahip bir teknolojidir.”
Ancak bu yeniden yapılanma güvene bağlıdır. Liderler kontrolün kendilerinde olduğuna dair güven isterler ve bu güvenin yalnızca sözlere değil, belirli eylemlere ve süreçlere dayanmasını isterler.
Açık düzenlemeler, yapay zekanın güvenli bir şekilde benimsenmesi için gereken yapıyı sağlar.
Judson Althoff, Microsoft Genel Müdür Yardımcısı ve Ticari Baş SorumlusuModern yapay zeka çözümlerinin ikili görevini vurguladı:
“Herhangi bir yapay zeka çözümünün en önemli iki bileşeninin zeka ve güven olduğuna inanıyorum. Bir kuruluşu benzersiz kılan şey zekadır: verileri, bilgileri ve deneyimleri. Bu bir şirketin IQ'sudur ve yapay zeka, onu farklı kılan fikirleri ve fikri mülkiyeti korurken bunu güçlendirebilir.”
Bu güveni sürdürmek sorumluluk almayı gerektirir. Eğer Microsoft Başkan Yardımcısı ve Başkan Brad Smith Tüketici güvenini korumak için teknolojinin toplumsal beklentilere uyması gerektiğine dikkat çekildi. “Kamuoyunun teknolojiye olan güvenini korumak istiyorsak, teknolojinin ve onu yaratan şirketlerin hepsinin hukukun üstünlüğü çerçevesinde sorumlu tutulması aslında önemli.”
Microsoft zirvesinde ortaya çıkan temalar bize tasarım gereği güvenliğin tasarım itibarıyla CX olduğunu hatırlatıyor.
Şirketler artık siber güvenliği, gizliliği ve yapay zeka yönetimini ayrı konuşmalar olarak göremez. Yönetim kurulu düzeyinde dikkat gerektiren, birbirine bağlı tek bir sistem oluştururlar.
Bir yanıt yazın