Apple Intelligence korumalarını atlamanıza izin veren bir kusur keşfedildi. Araştırmacılar iki taktiği birleştirerek Apple'ın yapay zekasını kullanıcıya hakaret etmeye zorladı. Açıklamalar.
Dünyanın en büyük siber güvenlik toplantılarından biri olan RSA Konferansı'nın araştırma kolu olan RSAC Research'ün güvenlik araştırmacıları, iPhone'lara, iPad'lere ve Mac'lere entegre edilmiş yapay zeka araçları paketi olan Apple Intelligence'da bir güvenlik açığı tespit etti. Güvenlik açığı, Apple'ın saldırılara karşı koymak için geliştirdiği korumaların raydan çıkarılmasını mümkün kılıyor. En azından 200 milyon cihaz potansiyel olarak etkilenebilir ve aynı zamanda 1 milyon uygulama App Store'da mevcuttur ve Apple Intelligence ile birlikte çalışır.
Güvenlik açığından yararlanarak araştırmacılar geliştirmeyi başardılar. sorgu enjeksiyon saldırısı. Bu tür siber saldırılar tüm yapay zeka sistemlerini etkiler. Yapay zekaya gönderilen bir talebe kötü amaçlı talimatların dahil edilmesinden oluşur. Daha sonra alınan talimatları işler ve eğer saldırganların istekleri doğru bir şekilde formüle edilirse bunlara uyacaktır. Bilgisayar korsanlarının genel sorunu yapay zekayı bunu yapmaya zorlamaktır. programlamanızı geçersiz kılınve her şeyden önce yaratıcılarının kurallarına saygı göstermemek. Önde gelen bir siber güvenlik kuruluşu olan OWASP (Dünya Çapında Açık Uygulama Güvenliği Projesi), bu tür saldırıların 2025 yılında yapay zekaya yönelik 1 numaralı tehdit olacağını tahmin ediyor.
Ayrıca okuyun: Hayatta ChatGPT'den daha fazlası var – Apple, tüm yapay zeka ile uyumlu bir Siri hazırlıyor
Apple Intelligence'ı kandırmak için iki taktik
Araştırmacılar, Apple Intelligence savunmasını aşmak için iki yöntemi birleştirdi. Vaftiz edilmiş NeuralExeilki otomatik olarak oluşturma yeteneğine sahip bir algoritmaya dayanmaktadır. karakter dizeleri Apple'ın cihazda yerel olarak çalışan yapay zeka modellerinde belirli davranışları tetiklemek için tasarlanmıştır. İnsanlar için bu karakter dizileri kesinlikle hiçbir şey ifade etmez ve en ufak bir anlam taşımaz. Burada saklı olan talimatları yalnızca bir makine yorumlayabilir. RSAC Research, Neural Execs'in “insanlara anlamsız şeyler gibi geldiğini” söylüyor. Araştırmacıların kullandığı algoritma, modeli her seferinde yanıltacak doğru formülasyonu bulma yeteneğine sahip.
İkinci taktik, “SAĞDAN SOLA GEÇERLİ KILMA” adı verilen özel bir Unicode karakterinden yararlanır. Başlangıçta Arapça veya İbranice gibi sağdan sola okunan diller için tasarlanan bu özel karakter, kötü niyetli bir talimatı gizle. Aslında talimat tersten yazılmıştır, bu da Apple'ın güvenlik filtrelerinin radarına girmesine olanak sağlar. Bu nedenle özel karakter, güvenlik mekanizmalarını yanıltmaya hizmet ederken, saldırının kaynağındaki talimatın yapay zeka için açıkça okunabilmesini sağlar. Kısaca; kullanıcının gördüğü ile filtrenin gördüğü iki farklı şeydir. öyle “eski bir hacker klasiği”.
Araştırmacılar bu iki tekniği birleştirerek bir sonuç elde ettiler. %76 başarı oranı Apple cihazlarında 100 rastgele testten. Gösterilerinde Apple'ın yapay zekası özellikle kullanıcıya hakaret etmeye zorlandı. Teorik olarak saldırgan, mesajlaşma, notlar veya navigasyon uygulamalarındaki yapay zeka yanıtlarını değiştirmek için yukarıdaki iki hileyi de kullanabilir. Bu araçların tümü Apple Intelligence AI modelleriyle sinerji içinde çalışır. “Apple Intelligence olarak “Daha fazla uygulamaya entegre edildiğinden, hem bu uygulamaları hem de işletim sisteminin kendisini ele geçirme potansiyeli olan saldırganlar için de çekici hale geliyor”araştırmacıları tahmin edin.
Apple tarafından düzeltilen bir kusur
Araştırmacılar, olağan siber güvenlik prosedürlerini izleyerek 15 Ekim 2025'te Apple'ı bilgilendirdi. Cupertino devi, güncellemelere düzeltmeler ekleyerek hızlı bir şekilde tepki verdi. iOS 26.4 ve macOS 26.4yakın zamanda konuşlandırılanlar. Elbette sizi bu iki güncellemeyi gecikmeden cihazlarınıza yüklemeye davet ediyoruz. Apple, kusurun niteliği hakkında herhangi bir açıklama yapmadı.
Güvenlik açığı, Apple'ın yapay zeka güvenliğine yaklaşımının sınırlamalarını gösteriyor. Apple aslında Apple Intelligence'ı, mümkün olduğu kadar çok eylemin yalnızca yerel olarak, doğrudan iPhone veya Mac üzerinde gerçekleştirilmesini sağlayacak şekilde tasarladı. Bu durumda yapay zeka tarafından işlenecek sunuculara hiçbir bilgi iletilmez. Yalnızca daha verimli dil modellerinin ele alınmasını gerektiren daha karmaşık görevler uzak sunuculardan geçecektir.
RSAC Araştırma araştırmacıları tarafından yapılan gösteri, yerel işlemenin yapay zekanın tüm saldırılara karşı dayanıklı olduğunu garanti etmediğini gösteriyor. Bir yapay zeka sisteme derinlemesine entegre olur olmaz, korunması daha zor hale gelir çünkü hem modelin, hem filtrelerin, API'lerin hem de uygulamalarla olan etkileşimlerin güvenliğinin sağlanması gerekir. Saldırı yüzeyleri özellikle çoktur. Tüm altyapının bir saldırganın kontrolüne geçmesi için yalnızca tek bir zayıf halka yeterlidir. Şu anda kusurun aktif olarak kullanıldığına dair bir gösterge yok. Ancak Apple Intelligence “Zaten yüksek değerli bir hedef”raporun altını çiziyor.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Kaynak :
RSA Konferansı
Bir yanıt yazın