Güvenlik araştırmacıları tarafından resmi Claude uzantılarında kritik bir güvenlik açığı keşfedildi. Bu kusur, basit bir Google Takvim etkinliğini bir saldırı vektörüne dönüştürüyor. Bir bilgisayar korsanı, kusurdan gizli talimatlarla yararlanarak en ufak bir engelle karşılaşmadan bilgisayarın kontrolünü ele geçirebilir.
Siber güvenlik araştırma şirketi LayerX keşfedildi kritik bir güvenlik açığı resmi Antropik Claude genişletmelerinde. Claude ekosisteminin temel yapı taşları olan bu uzantılar, görevleri otomatikleştirmek için yapay zekanın işletim sistemiyle veya takvim veya e-postalar gibi diğer araçlarla iletişim kurmasına olanak tanıyan ağ geçitleri işlevi görüyor. LayerX tarafından tanımlanan kusur, Claude'un uzantılar aracılığıyla harici araçlarla iletişim kurmasına olanak tanıyan MCP'de (Model Bağlam Protokolü) bulunur.
“Bu uzantılar basit pasif eklentiler değil. Claude'un dil modeli ile yerel işletim sistemi arasında ayrıcalıklı yürütme köprüleri olarak işlev görüyorlar.LayerX'i raporunda açıklıyor.
Saldırgan, protokoldeki bu kusurdan yararlanmak için bir Google Takvim etkinliği kötü niyetli. Uzantı aracılığıyla Claude gerçekten de takvimin tüm içeriğini okuyabilir. Ne yazık ki Anthropic'in üretken yapay zekası takvimdeki tüm verilerin güvenilir olduğunu düşünüyor. Hiçbir güvenlik kısıtlaması Claude'un Gündem verileriyle etkileşime girmesini engellemez. Sorun “Claude'un halka açık bağlayıcılardan gelen verileri işleme biçiminde temel yalanlar var”raporun altını çiziyor.
Ayrıca okuyun: Bu Popüler Yapay Zeka Uygulaması İnternetteki 25 Milyon Kullanıcının Konuşmalarını Ortaya Çıkardı
Kötü niyetli bir olayda gizlenen talimatlar
Bir olayın açıklamasında saldırgan daha sonra gizli talimatları sürükleyin Claude'a yönelikti. Kullanıcı Claude'dan Google Takvim'deki en son etkinliklere bakmasını istediğinde bu talimatlar okunacaktır. Olayda iyice gizlenmiş olan bu teknik talimatlar, yapay zeka modelini kötü amaçlı yazılım indirmeye ve makinede çalıştırmaya ikna edecek. Bu yürütmeden önce kullanıcıdan açık bir onay talebi yoktur. Bunun nedeni, yapay zekanın takvim görevlerini istendiği gibi işlediğini hissetmesidir.
Araştırmacılar, Claude'un çevrimiçi bir hizmet ile bilgisayar arasında en ufak bir güvenlik engeli olmadan ayrıcalıklı bir bağlantı kurduğuna dikkat çekiyor. Fiili olarak, uzantıya bağlı bir hizmete (bu durumda Google Takvim) kötü niyetli bir saldırı yapılması yeterlidir. her şeyi ve her şeyi yükleyin bir bilgisayarda. Yazılım çalıştırıldıktan sonra kötü amaçlı kod, kullanıcının izinleriyle makinede çalışır ve bu da sistemin tamamen ele geçirilmesine izin verebilir.
“Takvim verilerinin, kullanıcının açık ve bilgilendirilmiş onayı olmadan en az bir kez yerel bir uygulayıcıya otomatik olarak aktarılmasını gerektiren meşru bir senaryo yoktur”Araştırmacılar, açık uyarıların bulunmamasından üzüntü duyduklarını beyan ediyor.
Kusur, yapay zeka, bilgisayar ve harici hizmet arasında köprü görevi gören uzantının dahili işleyişinden kaynaklanıyor. Araştırmacılar bir şeyden bahsediyor “iş akışı hatası”. LayerX, güvenlik açığının 10.000'den fazla aktif kullanıcıyı ve 50'den fazla Claude uzantısını etkilediğini söylüyor. İşletim sistemlerimizde her yerde mevcut hale gelen yapay zekanın yükselişinin doğasında olan riskleri mükemmel bir şekilde gösteriyor.
Ayrıca okuyun: “Claude reklamsız kalacak” – Antropik, ChatGPT'deki reklamlarla dalga geçiyor
Düzeltilemeyecek bir güvenlik hatası
LayerX bulgularını Claude'un yayıncısı Anthropic'e iletti. Şirket şunu seçerdi: güvenlik açığını düzeltmeyin. Başlangıç, kusurun düzeltilmesinin Claude'un otonom yeteneklerini kısıtlama riskini doğuracağını düşünecektir. Hiçbir şey değişmeyinceye kadar LayerX, Claude konektörlerinin potansiyel olarak tehlikeli olarak değerlendirilmesini önerir. Araştırmacılar özellikle e-posta veya takvim gibi harici verileri alan bağlayıcılara karşı dikkatli olmanızı tavsiye ediyor.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Kaynak :
KatmanX
Bir yanıt yazın