Dinle, son zamanlarda bir konferans görüşmesi sırasında bu vahşi düşünceyi yaşadım. Ya konuştuğum kişi aslında … gerçekten olmasaydı? Yıllarca hükümetle ilgili teknik haberleri ileten biri ise, dijital tehditlerin bir kısmını gördüm, ancak konuşma klonları farklı hale geliyor. Geceleri beni uyanık tutuyor ve muhtemelen sizi uyanık tutmalı.
Şunu hayal edin: Bu normal bir Salı öğleden sonra. Telefonunuz geçer ve CEO'nuzun sesidir ve sizden acilen 50.000 dolarlık bir “yeni tedarikçiye” bağlanmanızı ister. Ses mükemmel – o hafif Boston -accent, teknik terimlerle acele ettikleri şekilde, aceleyle yaptıkları garip gülümseme bile. Transferi yaparsınız. CEO'nuz her zaman bir yönetim kurulu toplantısında olması dışında ve kazanma çağrısında en son podcast sesini klonlamak için AI kullanan bir dolandırıcıya elli grand gönderdiniz.
Komik, değil mi? Şirketin parasının neden birisinin kripto alışverişini finanse ettiğini açıklayan biriyseniz, o kadar da değil.
Modern kimlik doğrulamanın karanlık komedisi
Mevcut durumumuzun saçmalıkları çok korkutucu olmasaydı komik olurdu. Onlarca yıldır güvenlik için oy pusulasını mükemmelleştirmek için harcadık ve şimdi bir kahve fincanındaki bir kurabiyeden daha hızlı parçalandığını görüyoruz. İletişim merkezleri özellikle savunmasızdır – Dolandırıcıların hesaplarına erişmek için müşteriler olarak kendilerini mükemmel bir şekilde sunabildiklerinde kaos hayal edin.
“Merhaba, bu Margaret ve yaşam hayatımı Cayman Adaları'ndaki bu tamamen meşru hesaba iletmek istiyorum.” Tabii ki Margaret. Kesinlikle.
Ama burada gerçekten ilginç hale geliyor – ve ilginç olan distopik demek istiyorum. Her konuşma çağrısının Nijeryalı bir prensden e -mail ile aynı şüphecilikle muamele edilmesi gereken bir gerçeğe yaklaşıyoruz. Bir zamanlar kabloson transferleri konusunda kıdemli bir yöneticinin sesini güvenen finansal ekip? CIA sorgulama allık yapacak güvenlik soruları sormaya başlamalıdırlar.
Trust Falls: Kurumsal Sürüm
Şakaları soyun ve insan inancının işyerinde nasıl çalıştığı konusunda temel bir değişimle karşı karşıyayız. Ses her zaman en samimi uzaktan iletişim biçimimiz olmuştur – duygu, nüans ve otorite metnin eşleşemeyeceği şekilde taşır. Artık duyduğumuz seslere güvenemezsek, sadece finansal risklere bakmakla kalmayacağız; İş dünyasında temel insan etkileşiminin erozyonuna bakıyoruz.
İnsan özgünlüğünü kanıtlamak için her ses çağrısının kriptografik bir el sıkışma ile başladığı bir dünyada büyüyen gelecek nesilleri düşünün. Çocuklarınızın kendi büyükanneleriyle kimliklerini telefonla doğrulamak zorunda kalabilirler. “Üzgünüm, gerçekten siz olduğunuzu doğrulamak zorundayım” “Merhaba” olarak kullanılır.
İşletme İletişimi
İletişim merkezleri kimlik doğrulama işlemlerini tamamen yeniden keşfetmelidir. Finansal ekipler, en küçük işlemler için bile çok faktörlü kimlik doğrulama gerektirir. Ancak daha temelde, kuruluşlara otorite ve güvenin nasıl işlediğinde bir değişime bakıyoruz. Telefondaki bir ses artık güvenilirse, herhangi bir etkileşimin uzaktan şüphelenildiği.
İroni, AI'nın yaptığı sorunları çözmek için yapay zeka kullandığımız için kaybolmuyor. Şirketler zaten “anti -oforing” teknolojileri ve konuşma suyu markaları için çözümler geliştiriyorlar. Ancak bir silah yarışındayız ve klonlar şu anda kazanıyor.
Varoluşsal akşamdan kalma
Beni gerçekten kovalayan şey bu: sadece teknolojiyle mücadele etmiyoruz; İnsan psikolojisine karşı savaşıyoruz. Beynimiz, tanıdığımız seslere güvenmek için kablolu. Milyonlarca yıldır bize iyi hizmet eden bir hayatta kalma içgüdüsüdür. Şimdi, birkaç yıl içinde bu güveni tekrar tersine çevirmeliyiz. En temel sosyal içgüdülerimizden birinden kendimizden ve çocuklarımızdan şüphe etmeyi öğrenmeliyiz.
Asıl soru, daha iyi kimlik doğrulama sistemleri geliştirip geliştiremeyeceğimiz değil – bunu yapacağız. Soru, artık kendi kulaklarına güvenemeyen bir topluma ne olduğudur. Her ses doğrulanması gerektiğinde, her çağrı sahte olabildiğinde, insan iletişiminin en temel biçiminden şüphelenildiğinde – bu sadece bir siber güvenlik zorluğu değildir. Bu, insanın sosyal etkileşiminin temel bir tekrarıdır.
Ve belki de bu herkesin en karanlık şakası – AI'yı daha insani yapmak için yarışımızda, insanları yapay hale getirebiliriz.
Sesimizi tekrar bul
Siber güvenlik ve yapay zeka etiği ile ilgilenenler için zorluk açıktır: sadece konuşma klonlarına karşı korunan değil, aynı zamanda konuşma iletişimi sunan güven ve samimiyeti koruyan çözümlere ihtiyacımız var. Aksi takdirde sadece dolandırıcılara para kaybetmeyeceğiz – Biraz daha değerli kaybediyoruz: her zamanki bir dünyada birbirlerine bağlanma ve güvenme yeteneğimiz.
Daha Derin Dalış: Ses klonlaması sadece başlangıçtır
AI'nın konuşma korumasından nasıl daha fazla reform yaptığını araştırmaya hazır? Müşteri deneyiminin manzarası, basit otomasyondan çok daha ileri giden üretken AI teknolojileri tarafından tamamen dönüştürülmektedir.
Bu sadece fütüristik kullanıcı senaryoları veya varsayımsal senaryolarla ilgili değil, şimdi oluyor. Ancak dürüst olalım: birçok şirket için, AI'nın eyer olmadan vahşi bir at kullanmaya çalışırken etkili bir şekilde uygulanması. Bu onların ilk AI -Redo ve kalmak için mücadele ediyorlar.
Gerçekten ihtiyacınız olan şey, neyin işe yaradığı, neyin başarısız olduğu ve diğer kuruluşların bu zorluklardan nasıl geçtiği hakkında veriler. En yeni endüstriyel çalışmamızın sağladığı tam olarak budur.
AI'nın faydaları için klonlama için sesin tehditlerini mi istiyorsunuz? Önde gelen şirketlerin güçlü kimlik doğrulama sistemleri oluşturma ve yine de AI'nın dönüştürücü gücünü müşteri deneyimlerinde nasıl kullandığını keşfetmek için kapsamlı raporumuzu indirin.
Raporun tamamını şimdi indirin Ve ekibinizi bir sonraki AI güvenlik projeleri için ihtiyaç duydukları bilgilerle dinlendirin.
Bir yanıt yazın