c't podcast: “Yapay zeka tek başına siber saldırı geliştiremez”

Google'ın yakın zamanda duyurduğu şey, neredeyse siber savaşta yeni bir tırmanma düzeyine benziyordu: Şirketin basın açıklamasına göre, saldırganların sıfır gün güvenlik açığı geliştirmek için yapay zekayı başarıyla kullandığına dair ilk kanıtı sağlamışlardı. Frankfurt'taki Goethe Üniversitesi'nde bilgisayar bilimi profesörü ve Atina'daki Ulusal Uygulamalı Siber Güvenlik Araştırma Merkezi'nin yönetim kurulu üyesi Haya Schulmann, “Fakat durum böyle değil” diyor. İlgili araştırma makalesini dikkatlice okudu ve Svea Eckert ve Eva Wolfangel ile birlikte They Talk Tech adlı podcast'te farklı bir sonuca vardı: Makalenin kendisine göre, yapay zeka sıfır gün güvenlik açığını keşfetmedi, yalnızca destek olarak kullanıldı. Çok önemli bir fark.

Bu olay, yapay zekayı çevreleyen abartılı reklamın gerçekliği nasıl çarpıttığını ve Anthropic veya bu durumda Google gibi üreticilerin ürünlerini veya işlerini tanıtmak için yapay zekayı nasıl istismar ettiğini gösteren birçok örnekten biri.

Ancak Schulmann, Google dokümanının gösterdiği şeyin 2024'ün başından beri bilindiğini açıklıyor: Devlet aktörleri ve siber suçlular, daha hızlı olabilmek için yapay zeka araçlarını kullanıyor. Ancak ilginç olan, Google'ın bu davada nasıl bir sonuca vardığı: Diğer şeylerin yanı sıra, kullanıcıların Gemini sohbet robotuyla ne yaptığını değerlendirerek. Schulmann, “Bu, yapay zeka sağlayıcılarının müşterilerinin ne yaptığını tam olarak izleyebileceği anlamına geliyor” diyor. ABD ile Avrupa arasındaki gerginlik zamanlarında bunun stratejik bir boyutu var; alarm veren raporların sürekli olarak göz ardı ettiği bir şey.

Ancak Schulmann, asıl sorunun daha derin olduğunu vurguluyor. Sıfır günler veya henüz yama bulunmayan önceden bilinmeyen güvenlik kusurları, özellikle de Anthropic'in Mythos modelini çok tehlikeli olduğu için piyasaya sürmeyeceğini duyurmasından bu yana kamuoyundaki tartışmanın merkezinde yer alıyor. Muhtemelen Mythos'un özellikle bilinmeyen güvenlik açıklarından hoşlanmasından kaynaklanmaktadır.

Ancak Schulmann, bir güvenlik açığından yararlanmanın daha fazlası olduğunu söylüyor: Sonuçta, önce kötü amaçlı kodu yazmanız gerekiyor. Özellikle yapay zeka tarafından oluşturulan kod hatalar içeriyor ve güvenilir bir şekilde çalışmıyor. “O da öne çıkıyor, saldırganlara ihanet ediyor.” Yakalanmak istemiyorsanız bilinen ve zaten düzeltilmiş güvenlik açıklarından yararlanmak en iyisidir çünkü bunun için hazır araçlar vardır ve saldırılar denenmiş ve test edilmiştir. Çünkü: Yamalar olsa bile bu sistemlerin güncel olduğu anlamına gelmez. Athene Merkezi'nin henüz yayınlanmamış bir çalışması bu ölçeği netleştiriyor: Araştırmacılar, bazıları on yıldan daha eski olan 16 Alman federal bakanlığında kritik güvenlik açıkları keşfettiler. “Aynı zamanda, üzerine inşa edilen her yeni dijitalleştirme katmanıyla birlikte, kullanım ömrü sona eren eski sistemlerin sayısı da artıyor.”

Üstelik saldırganlar yapay zekadan iddia edilenden çok daha az yararlanıyor. “LLM'ler geveze, hatalarla dolu kodlar üretiyor”; bu hem savunucuları hem de saldırganları etkileyen bir sorun. Bu zaten Google belgesinin kendisinde bulunabilir: Keşfedilen kod halüsinasyon değerleri içeriyordu ve o kadar manuel olarak belgelendi ki saldırganlara ihanet etti. Schulmann, “Elbette saldırganlar da bizimle aynı sorunları yaşıyor” diyor. “Saldırıları tamamen özerk bir şekilde geliştiren ve bunları herhangi bir hedefe karşı başlatan bir yapay zeka sistemi olan Kutsal Kase hâlâ çok uzakta.”

Ancak Schulmann'ı temel olarak ilgilendiren şey bu tartışmanın politik olarak yürütülme şeklidir. Alarm veren belgeler panik yarattı ve aynı zamanda gerçek yapısal sorunları da gizledi: eski BT, profesyonellik eksikliği, Avrupa yapay zeka altyapısının eksikliği. “Alman politikacıların bir üreticinin reklam argümanlarını benimsememesine dikkat etmeliyiz” diyor. Politikacıların teknoloji şirketlerinin basın bültenlerini gerçek bilgiler olarak ele alması yanlış önceliklere yol açacaktır. Bunun yerine uzun vadeli bir stratejiye ihtiyaç var: Dijital egemenlik için, ABD modelleriyle rekabet edebilecek ve uzun süredir bilinen boşlukları doldurabilecek bir Avrupa yapay zeka altyapısı için.

Podcast'lerin satıldığı her yerde “Onlar Konuşuyor Teknoloji” her Çarşamba günü ortaya çıkıyor. Svea Eckert ve Eva Wolfangel bir teknoloji konusunu tartışıyor veya teknoloji dünyasından ve çevresinden ilham veren kadınlarla tanışıyor.

(ay)