Jeff Bezos geçtiğimiz günlerde yapay zekanın işyerinde “altın çağını” başlattığını belirtti. GoTo'nun İşin Nabzı 2026 raporu, sahadaki gerçekliğin oldukça karmaşık olduğunu öne sürüyor.
Farklı sektörlerdeki çalışanlara yapay zeka alışkanlıkları ve tutumları hakkında anket yapılan anket, benimsemenin sorumluluğu aşan bir resmini çiziyor.
Artık 10 çalışandan yedisi yapay zekayı yüksek riskli görevler için kötüye kullandığını itiraf ediyor; bu oran bir önceki yıla göre %54'tü. Yarısı buna çok fazla güvendiklerini söylüyor. Üçte ikisi, zayıf yapay zeka sonuçlarını incelemenin, bir meslektaş tarafından yazılan içeriği incelemekten daha fazla iş gerektirdiğini söylüyor.
Müşteri deneyimi liderleri için bulgular göz ardı edilmemelidir.
Çalışanların yapay zekaya devrettiği “yüksek riskli görevler” arasında yasal ve uyumluluk çalışmaları, hassas müşteri verilerini içeren kararlar ve insanların hayatlarını doğrudan etkileyen eylemler yer alıyor.
Yapay zeka yönetişim boşluğu, müşteri hizmetlerinin ön saflarında yer alıyor.
Trendi neyin yönlendirdiğini anlamak için CX Today şunları söyledi: David McGlennon, GoTo'nun insan kaynakları ürün müdürü. Dedi ki:
“Bu gidişat beni ilgilendiriyor. Bize yapay zekanın giderek daha güçlü hale geldiğini ve getirdiği verimlilik göz önüne alındığında şirketlerin onu benimsemeye istekli olduğunu söylüyor.
“Ancak bu araçların etrafında uygulamaya konması gereken yönetimi bu kadar aceleyle yaratmıyorlar.”
Bu yönetişim boşluğunun çeşitli boyutları vardır. McGlennon, veri erişimi ve izinlerle ilgili aşağıdaki sorunlara dikkat çekti:
- Yapay zeka araçlarının salt okunur olup olmadığı veya sistemleri güncelleyip güncelleyemediği
- Kişisel olarak tanımlanabilir bilgileri işleyip işlemedikleri
- Çalışanların onları etkili bir şekilde nasıl teşvik edeceklerini bilip bilmedikleri
“Yönetim konusunda şirketlerin muhtemelen düşünmediği pek çok konu var” dedi, “çünkü uzmanlığa sahip olmayabilirler ancak bu araçların sonuç üretmede çok iyi olduğunu açıkça görebilirler.”
Gölge Yapay Zeka Sorunu
Yapay zeka yönetimindeki boşluk hiçbir yerde çalışanların gerçekte seçtiği araçlardaki kadar büyük değildir.
Yakın zamanda yapılan bir Gartner araştırması, çalışanların üçüncü taraf üretken yapay zekayı kullanma olasılığının, işverenleri tarafından sunulan araçlara kıyasla üç kat daha fazla olduğunu ortaya çıkardı. GoTo'nun kendi araştırması da benzer bir hikaye anlatıyor; Çalışanların %84'ü şirketlerin sorumlu yapay zeka kullanımı konusunda yeterince çaba göstermediğini söylerken BT liderlerinin yalnızca %48'i bu görüşe katılıyor.
McGlennon'ın bu kopuklukla ilgili açıklaması çok şey anlatıyor. BT liderlerinin makro düzeyde çalıştığını öne sürüyor: politikalar mevcut, dolayısıyla bunların kapsandığına inanıyorlar. Bu arada çalışanlar her gün işverenlerinin ele almadığı boşlukları dolduracak her şeyi yapmakla meşguller.
McGlennon, “Bazı çalışanlar şirketin onlara sunduğu araçların dışında araçlar kullanıyor olabilir” dedi. “Bu mutlaka şirketin teslim ettiği bir şey değil.”
CX ekipleri için bu somut bir risktir. Hassas müşteri verilerini işleyen, şikayet yanıtlarını hazırlayan veya üst kademelere iletmeyi yöneten müşteri hizmetleri temsilcileri, bu bilgileri iş yönetimi, veri saklama kontrolleri ve denetim takibi olmadan tüketici düzeyindeki araçlara girebilir.
Onay yorgunluğu ve kabul edilebilir yapay zeka
Konuşmanın en ilginç temalarından biri McGlennon'un “onay yorgunluğu” dediği şeydi.
İnceleme adımlarını yapay zeka iş akışlarına dahil etmenin amacı insanları bilgilendirmek ama aracılar hacimleri baskı altında işlediğinde bu kontrol noktaları hızla bir tatbikat haline geliyor, diye açıklıyor:
“İlerledikçe her şeyi onaylıyorsunuz çünkü 'Evet, sorun değil, git şunu yap' diye düşünüyorsunuz, öyle ki artık bunu onaylayamıyorsunuz bile.”
Bu sorun, yapay zekanın daha az tartışılan özelliklerinden biriyle daha da artıyor: sizinle aynı fikirde olma eğilimi.
McGlennon, “Yapay zeka inanılmaz derecede keyifli olabilir” dedi. “Şeytanın avukatı olmayı istemek zorundasın. Kendinden şüphe edebilir misin? Fikrimin neden işe yaramadığını bana söyleyebilir misin?” Özellikle hassas müşteri etkileşimleri etrafında yapay zeka destekli hizmet iş akışları oluşturan CX liderleri için, bu dalkavuk kalite açıkça tasarlanmaya değer.
Gelecekteki işgücüne ilişkin sessiz bir endişe
Raporun Z Kuşağı bulguları, tartışmaya daha uzun vadeli bir konu ekliyor: Z kuşağı çalışanlarının %46'sı, yapay zekanın aşırı kullanımının kendilerini daha az akıllı hale getirdiğini itiraf ediyor; bu, tüm nesiller arasında en yüksek oran.
İnsan muhakemesine, empatiye ve zor müşteri durumlarını hafifletme yeteneğine dayanan bir endüstri için bu önemli bir sorun olabilir.
Bu noktayı tartışan McGlennon, işin geleceğinin çalışanların yapay zekayı kullanıp kullanmamalarından çok, onu ne kadar iyi kullandıklarına bağlı olduğunu düşündüğünü açıklıyor ve şöyle açıklıyor:
“Gelecek, yapay zekayı kimin düzgün uygulayabileceğiyle ilgili olacak. Sonuçlar hakkında çok fazla eleştirel düşünmenin olması gerekiyor.”
Müşteri Deneyimi ve iş liderleri bundan sonra ne yapmalı?
McGlennon'un bu verilerle oturan liderlere tavsiyesi, çalışanlarınızın gerçekte hangi yapay zeka araçlarını kullandığını anlayarak başlamaları ve bunu yargılamadan yapmalarıdır.
“İnsanların bunları kullanacağı neredeyse kesin ve istatistikler de bunu kanıtlıyor” dedi.
“Harici bir araçsa, yönetim söz konusu değildir. Bunun ne olduğunu anlamamız ve ihale listesinde olmayan araçların kullanıldığı anlayışına açık olmamız gerekiyor.”
Buradan itibaren adımlar yeterince açıktır:
- Bu araçları resmi bir yol haritasında bir araya getirin
- İlgili güvenlik kısıtlamalarını oluşturun
- Yalnızca yapay zekanın neler yapabileceğini değil aynı zamanda yetersiz kaldığı noktaları da kapsayan eğitimlere yatırım yapın
“Bir çalışan olarak, kendi ücretli abonelikleri yerine bir iş aracı kullanmayı tercih edeceklerini düşünüyorum.”
Bunun önüne geçme fırsatı hâlâ CX liderleri için açık. Ancak bu yüzde 70'lik rakam ve gittiği yön, bunun uzun süre bu şekilde kalmayacağını gösteriyor.
Bir yanıt yazın