Tek bir kesinti, tek seferlik bir kesinti gibi hissedilebilir. Ancak yakın zamanda Pocket OS'de yaşanan ve bir yapay zeka aracısının beklenmedik eylemlerde bulunduğu bir olay, CX ve kurumsal BT liderleri tarafından daha çok bir teaser gibi değerlendiriliyor.
bunda Bugün CX Röportajın ardından Nicole Willing, Redpanda Data'nın CEO'su Alex Gallego ile oturup bir yapay zeka şifreleme aracısının birçok kuruluşun hâlâ tehlikeli bir şekilde kontrolsüz bıraktığı türden bir erişim elde etmesiyle neler olduğunu açıklıyor. Sonuç hızlı ve zarar verici oldu: Bir üretim veritabanı ve yedekleri saniyeler içinde silindi; bu da 30 saatlik bir kesintiye ve hizmetin geri getirilmesinde zorluklara yol açtı.
CX liderleri için başlık, ajan yapay zekanın, asla otonom aktörler düşünülerek tasarlanmamış sistemlerde hataları makine hızında yürütebileceğidir. Gallagher, alınacak en önemli dersin temel bilgiler, üretim ve geliştirmenin ayrılması, kimlik doğrulama ve yetkilendirmenin sıkılaştırılması ve bir aracının kullanabileceği araç setinin daraltılmasıyla ilgili olduğunu savunuyor. Bu kontroller olmadan, iyi niyetli otomasyon bile riskli hale gelir; özellikle de aksama süresinin ve verilerin açığa çıkmasının doğrudan kayıplara ve itibar kaybına yol açtığı, müşteriyle karşı karşıya olunan ortamlarda.
Ayrıca yönetişimi bir politika belgesi olarak değil, operasyonel bir disiplin olarak tanımlıyor. Ekipler bir aracının ne yaptığını, bunu neden yaptığını ve bunu hangi izinlerin mümkün kıldığını bir araya getiremezlerse hesap verebilirliği yönetemezler. Düzenleyiciler ve alıcılar yapay zeka destekli iş akışlarının daha net denetlenebilirliğini talep ettikçe bu daha da önemli hale geliyor.
“Eğer aracılara özel verilere erişim izni vermeye çalışıyorsanız, gerçekten ilk prensiplerden yola çıkarak, bu temsilcilerin hangi haklara erişime sahip olduğunu ve benim bu verilere erişimi nasıl kontrol edeceğimi düşünmelisiniz?”
Konuşma, tek bir kesintinin ötesine geçerek, birçok kurumsal sistemin hala kök erişim modellerine ve eski izinlere bağlı olduğu daha geniş bir gerçekliğe uzanıyor. Gallagher, kuruluşların en az ayrıcalıklı erişimi uygulamak için neden proxy katmanlarına ve daha sıkı güvenlik bariyerlerine ihtiyaç duyabileceğini ve izleme ve hizmetten çıkarma aracılarına neden diğer kritik güvenilirlik uygulamaları gibi davranılması gerektiğini açıklıyor.
Kuruluşunuz müşteri operasyonları, iletişim merkezleri veya hassas verilere dokunan arka ofis iş akışları için ajansal yapay zekayı araştırıyorsa bu röportaj, hız ve özerkliğin yalnızca yönetişimin ilk günden itibaren tasarlanması durumunda değerli olduğu konusunda net bir sonuç sağlar.
Sizi yönetmeden önce, yapay zekayı yönetmeye ilişkin pratik rehberlik için röportajın tamamını izleyin.
Bir yanıt yazın