Google araştırmacıları, Google'ın platformunu spam ile doldurmak ve kalite filtrelerini aşmak için üretken yapay zekayı kullanan spam gönderenleri yakalamanın yeni bir yolunu ayrıntılarıyla anlatan yeni bir makale yayınladı. Araştırma, video içeriği spam'ını tanımlamaya odaklanmış olsa da açıklanan teknikler, Google'ın web içeriği spam'i için kullanabileceği yöntemler hakkında fikir verebilir. Aslında araştırma makalesi, metin tabanlı üretken bir yapay zeka tanımlama sistemini tartışıyor.
Yeni sistemin koordineli üretken yapay zeka spam'ına karşı “son derece doğru bir savunma” olduğu söyleniyor, bu da buna benzer bir şeyin muhtemelen kullanımda olabileceği anlamına geliyor. Yeni sisteme Ölçeklenebilir Küme Sonlandırma Sistemi (S-CTS) adı veriliyor ve araştırma makalesi şu şekilde: Olumsuz Sentetik Slop ve Koordineli Medya Kötüye Kullanımının Ölçeklenebilir Tespiti: LoRA Destekli Çok Modlu Savunma Sistemi.
Bu Sistem Yapay Zeka Tarafından Oluşturulan Metin Spam'ı İçin Kullanılabilir mi?
Sistem, izole edilmiş videoları tek tek değerlendirmek yerine, belirli bir anlamsal anlatı şablonunun toplu olarak yeniden kullanılması olan bir saldırının organizasyon yapısını aradığı için başarılı oluyor.
Araştırma makalesi aynı zamanda içerik sınıflandırıcılarının bir parçası olarak metin yerleştirmelerin, dikkat çekici terimlerin ve şablonlu anlatımların kullanımını da açıklamaktadır. Bir altyapı kümesindeki hesapların büyük bir yüzdesinin yapay zeka tarafından oluşturulan aynı metin/medya şablonlarını kullandığı belirlenirse kümenin tamamı sonlandırılır.
Yeni Yapay Zeka Spam Türlerine Hızla Uyum Sağlamak
Makale, saldırganlar yeni üretken modelleri benimsediğinde Google'ın, büyük bir yapay zeka modelini yeniden eğitmek yerine Düşük Sıralı Uyarlama (LoRA) ve Otomatik İstem Optimizasyonu (APO) kullanarak sentetik spam algılama sistemini daha hızlı uyarlayabileceğini söylüyor.
Şöyle yazıyorlar:
“Aşama 2 Sınıflandırıcı, Parametre Verimli İnce Ayar (PEFT) tekniklerini, özellikle Düşük Sıralı Uyarlama (LoRA) ve Otomatik İstem Optimizasyonunu (APO) kullanarak sentetik trend tespiti için uzmanlaşmıştır.
…Bu yaklaşım, büyük tescilli LLM'nin (örneğin, Gemini 2.0 Flash) tam ince ayarın engelleyici hesaplama maliyeti olmadan verimli bir şekilde uyarlanmasına olanak tanır. Özellikle LoRA, eğitilebilir parametrelerin sayısını önemli ölçüde azaltır ve bellek ayak izini önemli ölçüde azaltarak ölçeklenebilir TPU altyapısı üzerinde hızlı, uygun maliyetli yürütme ve paralelleştirilmiş çıkarıma olanak tanır.
…APO, yoğun bir modeli yeniden eğitmekten daha hızlı bir şekilde yeni “Eğim” trendlerine uyum sağlayan istemler tasarlamamıza olanak tanır. Saldırganlar tarafından yeni bir GenAI modeli (Sora veya Kling gibi) piyasaya sürüldüğünde LoRA adaptörünü hızla yeniden eğitebiliriz.”
Yapay Zeka Tarafından Oluşturulan Metni Tanımlamak İçin Cümle-BERT (S-BERT)
Muhtemelen en ilgi çekici olan şey, araştırmacıların anlamsal olarak benzer cümleleri tanımlamanın bir yolu olarak Cümle-BERT (SBERT) kullanımını kabul etmeleridir.
Makalelerinin temel bir varsayımını doğrulamak için Cümle-BERT'ten alıntı yapıyorlar: otomatikleştirilmiş, yapay zeka tarafından oluşturulan metin, tespit edilebilecek farklı bir matematiksel ayak izi (“metin yerleştirmeleri”) bırakıyor.
Daha sonra sistemlerinin (S-CTS) neden bir ilerleme olduğunu vurgulamak için S-BERT'ten dönüyorlar: çünkü metin yerleştirme eşleştirmesiyle sınırlı değil. Bu metin modellerini altyapı düzeyindeki bot ağı verileriyle birlikte değerlendiren çok modlu, iki aşamalı bir LLM mimarisine kadar ölçeklenir.
Araştırmacılar şunu yazıyor:
“Metin tabanlı içerik için, senaryolu yapay zeka anlatımlarını tespit etmek amacıyla Cümle-BERT gibi modeller tarafından oluşturulan metin yerleştirme gibi yöntemler kullanılıyor. Multimedya için geleneksel teknikler algısal karma oluşturmayı içeriyor. Bununla birlikte, üretken yapay zeka benzersiz zorluklar getiriyor; sistemimiz, kanallar arasında paylaşılan sentetik üretimin ince belirteçleri olan “Üretici Artefaktları” tanımlamak için hem metin hem de multimedya içeriğini analiz eden özel algoritmalar kullanıyor.”
Orada bir diğer Cümle-BERT hakkında araştırma makalesi (PDF) ve bunun faydalarını şu şekilde açıklıyorlar:
“Bu yayında, kosinüs benzerliği kullanılarak karşılaştırılabilecek semantik olarak anlamlı cümle yerleştirmeleri türetmek için Siyam ve üçlü ağ yapılarını kullanan önceden eğitilmiş BERT ağının bir modifikasyonu olan Cümle-BERT'yi (SBERT) sunuyoruz. Bu, BERT'in doğruluğunu korurken en benzer çifti bulma çabasını BERT / RoBERTa ile 65 saatten SBERT ile yaklaşık 5 saniyeye düşürür.
SBERT ve SRoBERTa'yı ortak STS görevleri ve transfer öğrenme görevleri üzerinde değerlendiriyoruz; burada diğer son teknoloji cümle yerleştirme yöntemlerinden daha iyi performans gösteriyor.”
SEO açısından, üretken AI metin spam'ını tanımlamak için S-BERT'ten bahsetmek çok ilginç çünkü bu, SEO endüstrisinin gerçekten bildiği bir şey değil. Bu, metin tabanlı üretken yapay zeka spamını tanımlamak için kullanılan algoritma türleri hakkındaki bilgimizi genişletir.
Şimdi işin ilginç kısmı şu: S-BERT yedi yıldır ortalıkta ve SEO endüstrisi bunun metin tabanlı spam'ı tanımlamak için kullanılabilecek bir şey olduğunu pek bilmiyordu. Bu, Google'ın onu yedi yıldır kullandığı anlamına gelmiyor. Üretken yapay zekanın yalnızca birkaç yıldır yaygın olarak mevcut olduğu göz önüne alındığında, Cümle-BERT'in Google gibi arama motorları tarafından yapay zeka tarafından oluşturulan metin spam'ını yakalamak için yalnızca yakın zamanda kullanılmış olması mümkün olabilir.
Sorun Çözülüyor
Araştırmacılar, üretken yapay zeka spam'inin neden kontrolden çıktığının ve düşük kaliteli içeriği tespit etmeye yönelik mevcut yöntemlerin bunaltıcı olmasının üç nedenini belirliyor.
- Yapay zeka tarafından oluşturulan düşük kaliteli içerik sorunu, tespit etme ve yakalama açısından “katlanarak artan bir zorluk” haline geldi.
- Makale mevcut hafifletme stratejilerinin sınırlamalarını kabul ediyor.
- Yapay zeka tarafından oluşturulan spam'i içerik düzeyinde tespit etmeye odaklanmak, “kaliteli filtreleri aşmak” için tasarlanan ölçek nedeniyle giderek daha fazla başarısız oluyor.
Araştırmacılar şöyle açıklıyor:
“Çevrimiçi video platformları, yapay zeka tarafından üretilen “slop” ve koordineli kötü niyetli aktörler tarafından sürdürülen sentetik spam selini tespit etme ve azaltma konusunda büyük bir zorlukla karşı karşıya.
Bu içerik, zararlı veya düşük kaliteli malzemenin benzersiz, yerelleştirilmiş varyasyonlarını geniş ölçekte üretmek için genellikle üretken yapay zekadan yararlanarak geleneksel medya adli bilişiminin sınırlamalarından giderek daha fazla yararlanacak şekilde tasarlanmaktadır.
Geleneksel içerik merkezli denetim, bu koordineli, düşmanca üretim stratejisine karşı başarısız oluyor.”
“Yerelleştirilmiş varyasyonlar” ifadesi ilginçtir çünkü “işlevsel olarak aynı içerik için benzersiz parmak izleri” oluşturmayı ifade eder.
Araştırma makalesinde şu ifadeler kullanılıyor:
- “benzersiz, yerelleştirilmiş varyasyonlar”
- “işlevsel olarak aynı içerik”
- “işlevsel olarak aynı spam'in sonsuz, benzersiz çeşitleri”
Bu, içerikte orada burada küçük değişiklikler yapmaktan daha fazlasıdır. Geleneksel içerik analizi ve azaltma stratejilerini aşmanın bir yolu olarak, spam gönderenlerin “işlevsel olarak aynı” olan sonsuz derecede benzersiz içerik dağıtmasından bahsediyorlar. Spam gönderenlerin gerçek parmak izlerini veya otomasyonlarını belirlemek için hesap kümelerine bakmak için uzaklaştırma yapmalarının nedeni tam olarak budur.
Araştırma makalesi, yapay zeka tarafından oluşturulan video spam'ını tanımlamaya odaklanıyor ancak şu soruyu akla getiriyor: Bunun gibi bir şey, yapay zeka tarafından oluşturulan metin tabanlı spam'ı tanımlamak için kullanılabilir mi? Kesinlikle dikkate alınması gereken bir şey.
AI-Slop, Kaliteli Filtreleri Nasıl Yenebilir?
Araştırmacıların paylaştığı ilginç bir gerçek, büyük ölçekte üretilen yapay zeka kaybının, kaliteli filtreleri gölgede bırakabilmesidir. Araştırmacılar ayrıca spam gönderenlerin kalite filtrelerini aşmak için “düşmanca adaptasyon” kullandıklarını da belirtiyor. Çelişkili adaptasyon, spam'in bir platformun “ihlal eşiğinin” altına kaymasını sağlayacak kalıpları belirlemek için sürekli olarak güncellenmesi anlamına gelir.
Çözüm
Araştırmacılar, ortak bir kökene işaret eden spam kümelerini tespit etmeye odaklanmak için bireysel spam olaylarını tanımlamayı ortadan kaldıran bir sistem önermektedir.
Araştırmacılar şunu yazıyor:
“Bu makale, rakip sentetik içeriğin yaygınlığını sergileyen koordineli hesap kümelerini tanımlamak ve sonlandırmak için çevrimiçi video platformları (OVP) için tasarlanmış yeni, ölçeklenebilir bir savunma sistemi sunuyor.”
Bunu da iki açıdan bakarak yapıyorlar:
- İçerik Modeli Bileşeni
Bu, “AI tarafından oluşturulan 'slop' ve 'AI tarafından oluşturulan komut dosyalarında yaygın olan tekrarlayan, şablonlu anlatıları' (metin/diyalog anlamına gelir) tarayan bir makine öğrenimi bileşenidir. Özellikle, 'otomatik komut dosyalarının karakteristik özelliği olan insan dışı, yüksek frekanslı yayınlama davranışlarını' tanımlayarak ölçeğe bakarlar. - Altyapı Bileşeni
Bu, aynı kuruluştan veya otomasyon yazılımı komut dosyasından kaynaklanması istatistiksel olarak muhtemel olan hesap kümelerini belirlemek amacıyla “özel altyapı sinyallerini” analiz etmek için Google'ın algoritmalarını kullanır.
Ölçeklenebilir Küme Sonlandırma Sisteminin (S-CTS) Detayları
Sistem, tek bir şüpheli videoya ayrı ayrı bakmak yerine, platformu yapay zeka tarafından oluşturulan düşük kaliteli spam ile dolduran otomatik hesaplardan (“bot ağları”) oluşan tüm ağları tespit etmek için iki yönlü bir makine öğrenimi yaklaşımı kullanıyor. Böylece amaç, bireysel spam vakalarını tanımlamaktan, aynı spam gönderenlere veya otomatik yazılım komut dosyalarına ait birden fazla ayrı hesabı tanımlamaya doğru değişir.
Sistem, ilgili hesapları “Nesil Kümeleri” halinde gruplandırmak için “altyapı düzeyindeki sinyallere ve inorganik davranış kalıplarına” bakar. Nesil Kümeleri, aynı API'yi veya betiği kullanması muhtemel hesap gruplarıdır.
Makale şöyle açıklıyor:
“Yaklaşım, iki temel makine öğrenimi bileşenini içeren çok yönlü bir mimariden yararlanıyor:
Sağlam bir Koordineli Bot-Net Dedektörü (Hesap Bağlantısı aracılığıyla)
ve bir Sentetik Desen Sınıflandırıcı.
En önemlisi, ortaya çıkan sentetik spam eğilimlerinin hızlı, yüksek hassasiyetli semantik anlayışını elde etmek için Düşük Sıralı Uyarlama (LoRA) ve Otomatik İstem Optimizasyonu (APO) aracılığıyla uzmanlaşmış Büyük Dil Modellerini (LLM'ler) kullanan gelişmiş bir yapay zeka geliştirme katmanını tanıtıyoruz.”
S-CTS Çalışıyor mu?
Evet, test verileri, sistemin spam “kümelerini” yüksek düzeyde doğrulukla (hassasiyetle) yakalamada “önemli bir etki” sağladığını gösteriyor.
Şöyle yazıyorlar:
“Test verileri, sentetik spam oluşturucu kanallardan oluşan kümelerin yüksek hassasiyetle başarılı bir şekilde sonlandırılmasıyla sonuçlanan sistemin önemli etkisini gösteriyor.
Ayrıca, Yüksek Lisans odaklı otomasyon, operasyonel verimliliği önemli ölçüde artırarak, insan inceleme verimliliğinde önemli kazanımlar sağlar. Bu çalışma, karmaşık üretken saldırılara karşı temel ölçeklenebilirlik ve rakiplere karşı dayanıklılık sağlayan kritik bir sistem tasarımını ayrıntılarıyla anlatıyor.”
Paket servis
Bu araştırma makalesindeki ilginç gerçeklerden bazıları şunlardır:
- Kaliteli filtreler bir spam seline kapılabilir.
- Cümle-BERT'in yapay zeka tarafından oluşturulan spam'ı yakalamak için kullanıldığı belirtiliyor.
- Ölçeklenebilir Küme Sonlandırma Sistemi, spam'in küme düzeyinde tanımlanmasına yönelik benzersiz bir yaklaşımdır.
- Google, Düşük Sıralı Uyarlama (LoRA) ve Otomatik İstem Optimizasyonu (APO) ile yapay zeka tarafından oluşturulan spam'e hızla uyum sağlayabilir.
Tartışmalı Sentetik Slop ve Koordineli Medya Kötüye Kullanımının Ölçeklenebilir Tespiti: LoRA Destekli Çok Modlu Savunma Sistemi (PDF) adlı bu araştırma, Google'ın metin ve video spam'i de dahil olmak üzere yapay zeka tarafından oluşturulan spam'ı tanımlamak için tanımladığı çeşitli teknikleri gösterir.
Shutterstock/Shutterstock AI'dan Öne Çıkan Görsel
Bir yanıt yazın