Kısa süre önce Los Angeles'taki bir etkinliğin sahne arkasında Google Cloud COO'su Francis de Souza ile oturma fırsatı buldum. Çevremizdeki gürültünün ortasında, bir üniversite profesörü gibi sakin ve ölçülü bir tavırla konuşan de Souza, hepimizin yaşadığı yapay zeka güvenliği çağında yön veren şirketlere faydalı tavsiyeler sundu ve şunları kaydetti: “Bir geçiş dönemi olacak ve sonrasında sanırım bu daha iyi yere ulaşacağız.”
O anda Google hakkında konuşmuyordu ancak Google'ın bile hala bazı şeyleri çözmeye çalıştığı açık.
De Souza'nın temel mesajı, güvenlik profesyonellerinin yıllardır yöneticilerin içselleştirmesini sağlamaya çalıştığı ve artık yapay zekanın acil hale getirdiği bir mesajdı: Güvenlik sonradan akla gelen bir düşünce olamaz. “Şirketler bu yapay zeka yolculuğuna çıkarken bir platform yaklaşımı benimsemeleri gerekiyor” dedi. “Güvenlik sonradan devreye sokabileceğiniz bir şey değil ve çalışanların kendi başlarına yapmalarına bırakabileceğiniz bir şey değil.” Özellikle çalışanların kurumsal gözetim olmadan tüketici araçlarına ulaşması anlamına gelen “gölge yapay zeka” konusunda uyarıda bulundu ve şirketlerin en başından itibaren platformlarından güvenlik, yönetim ve denetlenebilirlik talep etmeleri gerektiğini savundu. “Veri stratejisi ve güvenlik stratejisi olmadan yapay zeka stratejisi diye bir şey olamaz. Bunların el ele gitmesi gerekiyor.”
Şunu belirtmekte fayda var: Google Cloud'un satış konuşmasını tek başına yapmıyordu. Tavsiyesinin bir Google reklamı gibi göründüğünü görünce geri adım attı. Google'ın çoklu bulut yaklaşımına bağlı olduğunu söyledi ve tek bir bulut üzerinde çalıştıklarını düşünen şirketlerin neredeyse kesinlikle öyle olmadığını ortaya koydu. “Tek bir bulutu seçseler bile SaaS uygulamalarına güveniyorlar, farklı bulutları kullanan iş ortakları olabilir” dedi. “Şirketlerin bulutlar ve modeller arasında tutarlı bir güvenlik duruşuna sahip olması önemlidir.”
Ayrıca tehdit manzarasının o kadar temelden değiştiğini ve eski savunma modellerinin çok yavaş olduğunu da belirtti. İlk ihlal ile saldırının bir sonraki aşamasına geçiş arasındaki ortalama sürenin sekiz saatten 22 saniyeye düştüğünü ve saldırı yüzeyinin geleneksel ağ çevresinin çok ötesine genişlediğini belirtti. “Her zamanki mülkünüze ek olarak artık modelleriniz de var. Modelleri eğitmek için kullanılan veri hatlarınız var. Temsilcileriniz var, istemleriniz var. Tüm bunların korunması gerekiyor.”
De Souza'nın işaret ettiği ve yeterince dikkat çekmeyen bir tehdit: Bir şirketin iç sistemlerinde hareket eden aracılar, yıllardır kimsenin düşünmediği, unutulmuş veri depolarını ortaya çıkarabilir. “Birçok kuruluşun eski SharePoint sunucuları var [and access controls] aslında güncellenmediler ama bunun bir önemi yoktu çünkü kimse onların nerede olduğunu bilmiyordu. Ancak kuruluşunuzda dolaşan aracılar bu veri varlıklarını bulacak ve üzerlerindeki verileri açığa çıkaracaktır.”
Ona göre cevap, makine hızını makine hızıyla buluşturmaktır. “Artık kuruluşların savunmalarını yönlendiren ajanları çalıştırabilecekleri, yapay zekaya dayalı, tamamen ajanlı bir savunmanın ortaya çıktığını görüyoruz” dedi. “İnsanın yönlendirdiği bir savunmaya veya hatta döngünün içinde bir insana sahip olmak yerine, artık tamamen etkin bir savunmayı denetleyen insanlara sahip olabilirsiniz.” Bunun sadece teknoloji meselesi değil, liderlik meselesi haline geldiğini de sözlerine ekledi. “Bu, yönetim kurulu düzeyinde bir sorun ve yönetim ekibinin sorunu. Bu sadece güvenlik ekibinin sorunu değil.”
Ancak yapay zeka savunma iş yükünün daha fazlasını üstlense bile, onu denetlemeye yetkili kişiler yetersiz kalıyor ve yapay zekanın kendisinin getirdiği güvenlik açıkları, güvenlik ekiplerinin çözebileceğinden daha hızlı bir şekilde katlanıyor. LinkedIn'in bilgi güvenliği şefi Lea Kissner bu hafta New York Times'a yaptığı açıklamada, “Hata kıyametiyle başa çıkacak insanlara ihtiyacımız olacak” dedi ve endüstrinin yapay zeka güvenliğini en az birkaç yıl boyunca uzun vadede sürdürülebilir bir şekilde anlamasını beklemediğini ekledi.
Bu da bizi platform sağlayıcıların kendilerine geri getiriyor. Register, geçtiğimiz birkaç hafta içinde, Gemini modellerine yapılan izinsiz API çağrılarının ardından beş rakamlı faturalarla karşılaşan bir dizi Google Cloud geliştiricisini belgeleyen bir dizi rapor yayınladı. Vakalar benzer bir modeli izledi: Başlangıçta Google Haritalar için dağıtılan ve Google'ın kendi talimatlarına göre herkese açık olarak yerleştirilen API anahtarları, Google'ın değişikliği açıkça açıklamadan kapsamını genişletmesinin ardından sessizce Gemini'ye erişebilecek hale geldi.
Röportaj hazırlık platformu Prentus'un CEO'su Rod Danan, saldırganların tehlikeye atılan API anahtarını istismar etmesinden sonra faturasının yaklaşık 30 dakika içinde 10.138 dolara ulaştığını söyledi. Hesabı benzer şekilde ele geçirilen Sidney merkezli geliştirici Isuru Fonseka, 250 dolarlık harcama üst sınırı olduğuna inanmasına rağmen yaklaşık 17.000 Avustralya doları tutarındaki suçlamalarla karşılaştı. İkisinin de bilmediği şey, Google'ın otomatik sistemlerinin, faturalandırma katmanlarını hesap geçmişine göre yükselttiği ve etkin tavanlarını açık izin olmadan 100.000 ABD dolarına kadar çıkardığıydı.
Google, The Register'ın ilk raporunu yayınlamasının ardından her ikisini de geri ödedi. Yine de Google, The Register'a otomatik katman yükseltme politikasını değiştirme planının olmadığını ve kullanıcıların belirttiği bütçe tercihlerini uygulamaktan ziyade hizmet kesintilerini önlemeye öncelik verdiğini söyledi.
Bu arada, bir geliştirici işleri kapatmaya çalıştığında ne olacağı konusunda ayrı bir soru var. The Register, bu hafta güvenlik firması Aikido'nun yaptığı araştırmada, güvenliği ihlal edilmiş bir anahtarı yakalayıp hemen silen geliştiricilerin bile güvenli olmayabileceğini ortaya koyan bir rapor yayınladı. Aikido'nun bulgularına göre saldırganlar bu anahtarı 23 dakikaya kadar kullanmaya devam edebilecekler çünkü Google'ın iptali yavaş yavaş altyapısına yayılıyor. Aikido araştırmacısı Joseph Leon, The Register'a bu pencere sırasında başarı oranlarının öngörülemez olduğunu (bazı dakikalarda isteklerin %90'ından fazlasının kimlik doğrulamasının hala yapıldığını) ve saldırganların bu zamanı Gemini'den dosyaları ve önbelleğe alınmış konuşma verilerini sızdırmak için kullanabileceğini söyledi.
Leon ayrıca Google'ın kendi yeni kimlik bilgisi formatlarının da aynı soruna sahip görünmediğini belirtti: Hizmet hesabı API kimlik bilgileri yaklaşık beş saniye içinde iptal edilir ve Gemini'nin daha yeni AQ ön ekli anahtar formatı yaklaşık bir dakika sürer. Aikido'yla ilgili makalesinde “Her ikisi de Google ölçeğinde çalışıyor” diye yazdı. “Her ikisi de bunun Google API anahtarları için de teknik olarak çözülebilir olduğunu öne sürüyor.” Kısacası Leon'a göre 23 dakikalık süre bir mühendislik kısıtlaması değil, şirket için bir öncelik meselesi.
De Souza'nın sağlam ve çok ciddiye alınması gereken tavsiyesini okurken bu dikkate alınmaya değer. Haklı değil ama şu anda platformların reçetelemesi ile kendilerinin ne kadar hızlı adapte oldukları arasında bir boşluk var ve bunun farkında olmak da güzel.
Makalelerimizdeki bağlantılar aracılığıyla satın aldığınızda küçük bir komisyon kazanabiliriz. Bu bizim editoryal bağımsızlığımızı etkilemez.
Bir yanıt yazın