Google, yılın ikincisi olan Haziran spam güncellemesini yayınlamaya başladı. Belgelenmiş spam politikalarını uyguluyor ve bu politikalardan biri artık eskisinden daha fazla alanı kapsıyor.
Google'ın spam kuralları, Arama'da “üretken yapay zeka yanıtlarını manipüle etme” girişimlerini ihlal olarak değerlendiriyor ve bu, güncellemenin uyguladığı politikalardan biri.
404 Media tarafından alınan bir Cornell Tech ön baskısı, politikanın uygulanmasının neden metninde ima edildiğinden daha zor olduğunu açıklıyor. Yapay zeka araştırma temsilcilerinin yararlandığı topluluk sayfaları aynı zamanda üçüncü taraf yorumlarını da taşıyabilir ve bir yorum, yazarın hiç yazmadığı bir tavsiyenin yerleşmesine neden olabilir.
Bu nedenle, Google'ın spam olarak etiketlediği şey, bu aracıların güvendiği erişim sürecinden geçer. Araştırmalar, bariz savunmaların hepsinin dezavantajlarla birlikte geldiğini ortaya koyuyor.
Bir markayı yapay zeka tarafından oluşturulan yanıtlara yönlendirmeye çalışan herkes, optimizasyon ile spam arasındaki çizginin yeniden çizildiğini bilin.
Bahisler
SE Ranking'in AI Modu izlemesi, Google'ın giderek daha fazla kendi özelliklerine işaret ettiğini ve en son raporunda AI Modu alıntılarının kabaca beşte birine kadar kendi kendine alıntıların olduğunu buldu.
Alıntıların daha fazla Google'a ve daha azının harici web sitelerine yönlendirilmesiyle, alıntı yapma isteği de buna bağlı olarak artıyor.
Gri bir pazar şimdiden oluşmaya başladı ve Cornell yazarları, pazarlamacıların yapay zeka tarafından oluşturulan yanıtları teşvik etmenin yollarını test etmekle meşgul olduğuna dikkat çekiyor.
Bu arada işletmeler, olup biteni görmek için ihtiyaç duydukları verilere sahip değil. Ajanslı aramayla ilgili daha önce de belirttiğimiz gibi, hiçbir kontrol paneli bir siteye, bir yapay zeka yanıtına mı ulaştığını, oluşturulan bir raporda alıntı yapılıp yapılmadığını veya göz ardı edilip edilmediğini söylemez.
Sonuç, Google'ın adlandırabildiği ancak ilgili sitenin çoğu zaman göremediği bir ihlaldir.
Araştırmanın Buldukları
Henüz hakem incelemesinden geçmemiş olan “Derin Araştırma Ajanları Kullanıcı Tarafından Oluşturulan İçerik Yoluyla Zehirlenebilir” başlıklı makale, yapay zeka araştırma araçlarının kaynaklarını nasıl topladığına ilişkin zayıf bir noktayı araştırıyor. Bu araçlar, bir dizi ilgili alt sorguyu harekete geçirerek, karşılarına çıkan sayfaları yakalayarak ve alıntılarla birlikte bir rapor oluşturarak bir soruyu yanıtlar.
Analiz, aynı topluluk sayfalarının bu alt sorgularda tekrar tekrar ortaya çıktığını ortaya çıkardı. Tek bir konu kümesinde, sorguların %48'inde kullanıcı tarafından oluşturulan bir sayfa ortaya çıktı ve kullanıcı tarafından oluşturulan platformlar, alınan her URL'nin %17 ila %23'ünü oluşturdu. Tekrarlanan sayfalardan birini değiştirdiğinizde, değişiklik tüm konunun raporlarına yansıyabilir.
Yazarlar, yinelenen bir sayfaya yaklaşık 13 kelimelik metin yerleştirmenin, sayfayı alan oturumların %38 ila %51'inde saldırganın seçtiği varlığı bitmiş rapora eklemek için yeterli olduğunu buldu.
Aynı metni birkaç sayfaya dağıttığınızda rakam %42'den %62'ye çıktı. Temsilcinin okuduklarının %4'ünden azını oluşturduğu tam sayfaya gömülmüş olsa bile, eklenmiş metin oturumların %30 ila %53'ünde yüzeye çıkıyor.
STORM, Co-STORM ve OmniThink olmak üzere üç açık kaynaklı araştırma temsilcisi, canlı web üzerinde hiçbir şeye dokunulmaması için hepsi bir simülasyonda çalıştırılan testleri aldı.
Uygulamanın Zor Olduğu Yerler
Google, yapay zeka yanıtı manipülasyonunu spam olarak etiketleyebilir ve yakaladığı şeye göre hareket edebilir. Onu yakalamak işin zor kısmı. Eklenen metin gerçek bir tavsiye gibi okunuyor ve araçların her zaman okuyacağı sayfalarda yer alıyor, bu nedenle onu normal bir gönderiden ayrı tutmak asıl sorundur.
Araştırma ekibi yerleştirilen metne karşı bir savunma aradı ancak bulamadı. Kullanıcı tarafından oluşturulan kaynakları kesmeyi, bunları kullanmadan önce bir dil modeliyle taramayı ve tamamlanan raporu, geçerli olmayan iddialar için taramayı denediler.
Üçünden hiçbiri, kullanıcı açısından sonuçları daha da kötüleştirmeden saldırıyı durdurmadı. Kullanıcı tarafından oluşturulan kaynakları bırakırsanız, AI arama araçlarını kullanmaya değer kılan topluluk ayrıntılarını kaybedersiniz.
Çoğu insanın kullandığı araçlar bu testin dışında kalır. ChatGPT Deep Research ve Gemini Deep Research, geri alma işlemini yürütüyor, araştırmacılar etik çizgiyi aşmadan zehirleyemiyorlardı, bu nedenle yalnızca alıntı alışkanlıklarını ölçtüler. Gemini, yazarların test edilmiş bir sonuç değil, maruz kalma ipucu olarak adlandırdığı, %12,1 oranında kullanıcı tarafından oluşturulan içeriğe yöneldi. OpenAI'nin aracı buna çok daha az ulaştı.
Bu Arama Uzmanları İçin Neden Önemli?
Bir markayı yapay zeka yanıtlarına yükseltmeye yardımcı olabilecek hamleler, Google'ın “spam” olarak adlandırdığı manipülasyon taktiklerine benzer; örneğin, bu araçların okuduğu sitelere sözlerin yerleştirilmesi. Google'ın, adından söz ettirmek ile mühendislik yapmak arasındaki çizginin neresine düştüğünü bilmiyoruz.
E-ticaret ve yerel markalar için tehlike diğer yönden geliyor.
Test senaryoları, hangi servisi arayacakları, hangi ürünü satın alacakları ve nerede yemek yiyecekleri gibi insanların sorduğu sıradan şeylerdi. Bir rakip ya da dolandırıcı, meşru seçeneklerin hemen yanına, bu yanıtlara yabancı bir isim ekleyebilir ve geride kalan marka bunu asla bilemez.
Haber yayıncıları ve daha büyük markalar için endişe, adlarının geldiği cevaba duyulan güvendir. Bir AI aracından yapılan bir alıntı bir kazanç olarak görülür, ancak bir alıntı o sayfanın doğru olup olmadığını değil, yalnızca aracın ne çektiğini yansıtır ve yanıt, markanın asla yazmadığı içerik tarafından yönlendirilebilir.
Bütün bunların düzenli bir çözümü yok. Yapay zeka görünürlüğü, yalnızca pasif olarak optimize ettiğiniz bir kanal değil, aktif olarak izlediğiniz bir yüzey haline geldi.
İleriye Bakış
Yazarlar, kullanıcı tarafından oluşturulan manipülasyonu, hiçbir platformun kendi başına çözemeyeceği açık bir sorun olarak nitelendirdi. Reddit, koordineli manipülasyona karşı uzun süredir devam eden mücadelesini işaretledi ve Google, AI Genel Bakış'taki bazı Reddit kaynaklı materyallere bağlam etiketleri ekledi. İkisi de makalenin işaret ettiği geri alma konsantrasyonuna dokunmuyor.
Google, özel bir güncelleme yoluyla mı yoksa SpamBrain sistemi ve çoğu ihlal için kullandığı manuel incelemeler aracılığıyla mı üretken yapay zeka manipülasyonunu nasıl uygulamayı planladığını belirtmedi.
Şimdilik politika, davranışın sınırların dışında olduğunu söylüyor ve yapay zeka yanıtlarının incelenmesi hâlâ onları okuyan kişinin sorumluluğunda.
Daha Fazla Kaynak:
Öne Çıkan Resim: Cheer-J-ane/Shutterstock
Bir yanıt yazın