c't podcast: “Yapay zeka tek başına siber saldırılar geliştiremez”

Google'ın yakın zamanda duyurduğu şey, neredeyse siber savaşta yeni bir tırmanma düzeyine benziyordu: Şirketten yapılan bir basın açıklamasına göre, saldırganların sıfır gün güvenlik açığı geliştirmek için yapay zekayı başarıyla kullandığına dair ilk kanıtı sağlamışlardı. Frankfurt Goethe Üniversitesi'nde bilgisayar bilimi profesörü ve Athene Ulusal Uygulamalı Siber Güvenlik Araştırma Merkezi'nin yönetim kurulu üyesi Haya Schulmann, “Fakat iddia edildiği gibi değil” diyor. İlgili araştırma makalesini dikkatlice okudu ve Svea Eckert ve Eva Wolfangel ile birlikte They Talk Tech adlı c't podcast'inde farklı bir sonuca vardı: Makalenin kendisine göre, yapay zeka sıfır gün güvenlik açığını keşfetmedi, yalnızca destek olarak kullanıldı. Çok önemli bir fark.

Bu olay, yapay zekayı çevreleyen abartılı reklamın gerçekliği nasıl çarpıttığını ve Anthropic veya bu durumda Google gibi üreticilerin bunu kendi ürünlerini veya çalışmalarını tanıtmak için nasıl istismar ettiğini gösteren birçok örnekten biri.

Ancak Google makalesinin gösterdiği şey Schulmann'a göre 2024'ün başından beri biliniyor: Devlet aktörleri ve siber suçlular, daha hızlı olmak için yapay zeka araçlarını kullanıyor. Ancak ilginç olan, Google'ın bu davada nasıl bir sonuca vardığıdır: diğer şeylerin yanı sıra, kullanıcıların Gemini sohbet robotuyla ne yaptığını değerlendirerek. Schulmann, “Bu, yapay zeka sağlayıcılarının müşterilerinin ne yaptığını tam olarak izleyebileceği anlamına geliyor” diyor. ABD ile Avrupa arasında gergin bir atmosferin yaşandığı bu dönemde bunun kendi stratejik boyutu vardır; alarm veren raporların sürekli olarak göz ardı ettiği bir boyut.

Ancak gerçek sorunun daha derinlerde yattığını vurguluyor Schulmann. Sıfır günler, yani henüz yama bulunmayan, daha önce bilinmeyen güvenlik açıkları, özellikle de Anthropic'in Mythos modelini çok tehlikeli olduğu için yayınlamayacağını duyurmasından bu yana kamuoyundaki tartışmanın merkezinde yer alıyor. Söylenene göre Mythos bilinmeyen güvenlik açıklarını özellikle çok sevdiği için.

Ancak bir güvenlik açığından yararlanmanın daha fazlası olduğunu söylüyor Schulmann: Sonuçta, önce kötü amaçlı kodun yazılması gerekiyor. Yapay zeka tarafından üretilen kodlar özellikle hatalar içeriyor ve güvenilir bir şekilde çalışmıyor. “Aynı zamanda öne çıkıyor, saldırganları ele veriyor.” Tespit edilmemek istiyorsanız bilinen, halihazırda yamalanmış güvenlik açıklarına başvurmak daha iyidir; çünkü bunun için hazır araçlar vardır ve saldırılar denenmiş ve test edilmiştir. Çünkü: Yamalar olsa bile bu sistemlerin güncel olduğu anlamına gelmez. Athene Merkezi'nin henüz yayınlanmamış bir çalışması, durumun boyutunu görünür kılıyor: Araştırmacılar, bazıları on yaşın üzerinde olan 16 Alman federal bakanlığında kritik güvenlik açıkları buldu. “Aynı zamanda, üzerine inşa edilen her yeni dijitalleştirme katmanıyla birlikte, kullanım ömrü sona eren eski sistemlerin sayısı da artıyor.”

Ayrıca saldırganlar yapay zekadan iddia edilenden çok daha az yararlanıyor. “LLM'ler geveze, hata dolu kod üretiyor”: Hem savunucuları hem de saldırganları etkileyen bir sorun. Google gazetesinin kendisinde de bunun emareleri var: Keşfedilen kod, halüsinasyonlu değerler içeriyordu ve öyle bir ders kitabı tarzında belgelenmişti ki, saldırganları ele veriyordu. Schulmann, “Elbette saldırganlar da bizimle aynı sorunları yaşıyor” diyor. “Saldırıları tamamen özerk bir şekilde geliştiren ve bunları herhangi bir hedefe gönderen bir yapay zeka sistemi olan Kutsal Kase hâlâ çok uzakta.”

Ancak Schulmann'ı asıl endişelendiren şey, bu tartışmanın siyasi olarak yürütülme şeklidir. Alarmist makaleler panik yarattı ve aynı zamanda gerçek yapısal sorunların üzerini örttü: modası geçmiş BT, profesyonelleşme eksikliği, Avrupa'nın kendi yapay zeka altyapısının eksikliği. “Alman politikacıların bir üreticinin reklam argümanlarını benimsememesine dikkat etmeliyiz” diyor. Politikacıların teknoloji şirketlerinin basın açıklamalarını gerçek bilgiler olarak ele alması yanlış önceliklere yol açacaktır. Bunun yerine ihtiyaç duyulan şey uzun vadeli bir stratejidir: dijital egemenlik için, ABD modelleriyle rekabet edebilecek bir Avrupa yapay zeka altyapısı için ve uzun zamandır bilinen boşlukların kapatılması için.

Podcast'lerin satıldığı her yerde “Onlar Konuşuyor Teknoloji” her Çarşamba günü ortaya çıkıyor. Svea Eckert ve Eva Wolfangel bir teknoloji konusunu tartışıyor veya teknoloji dünyasından ve çevresinden ilham veren kadınlarla tanışıyor.

(ay)