X Live-Tweet, Chatbot Spam'lerine Karşı Gerçek Zamanlı Mücadelesini Gerçekleştiriyor

X'in (eski adıyla Twitter) ürün başkanı Nikita Bier, Twitter'da spam hakkında bir dizi olağanüstü tweet yayınlayarak bazı spam gönderenlerin motivasyonunu açıkladı, spam türlerini açıkladı ve bazı spam gönderenlerin geniş ölçekte spam yanıtlarını otomatik olarak göndermek için Grok'u kullandığından bahsetti.

Nikita Bier, 24 saatini gerçek zamanlı olarak spam önleme eylemlerini tweetleyerek harcadı ve yapay zeka destekli platform spamının nasıl otomatik ve hızlı tempolu hale geldiğine dair ayrıntıları ortaya çıkardı.

Tek Taramada 42.000 Hesap

Bier, chatbot sorununun kapsamını açıklayan tweet serisine başladı ve X'te özgünlük sağlamanın şirketin temel değerlerinin merkezinde yer alan temel bir değer olduğunu söyledi.

Bier şu tweeti attı:

“Chatbot'ları kullanarak yanıtları otomatikleştiren 42.000 hesap bulduk ve bunları platformdan kaldırdık.

X'in temel değeri, insanlık üzerinde gerçek bir nabız sağlamak ve döngüde bir insan olmadan kullanıcılarla programlı bir şekilde etkileşim kurmak için yapay zekayı kullanmak, misyonumuza ters düşüyor.”

Chatbot Spam'i Paradan Kaynaklanıyor

Bier ertesi gün sohbet robotu spamının neyle ilgili olduğuna dair bir açıklama yaptı. Spam'ın ideolojik olarak yönlendirilmediğini, siyasi olmadığını veya devlet tarafından yürütülen bir etki operasyonu olmadığını açıkladılar. Tamamen para kazanmayla ilgiliydi. Görünüşe göre spam gönderenler, etkilerini genişletmek isteyen yapay zeka şirketlerinin ücretli tanıtım anlaşmalarından yararlanmak için bir hedef kitle oluşturmaya çalışıyorlardı.

Şirketler normalde spam sorunları hakkında gönderi paylaşmazlar ve Bier'in gerçek zamanlı gönderisi, ölçeğin ve motivasyonların perde arkasına bir bakış sunuyordu.

Bier şu tweeti attı:

Ayrıca bir açıklama da yayınladı:

“Şeffaflık adına, bunların çoğu, hesapları büyütmek ve yapay zeka teknoloji şirketlerinden ücretli promosyon teklifleri almak için yapay zeka hakkındaki düşünce liderliği saçmalıklarını spam olarak gönderiyordu.

X'teki spam'ların %99,99'u ekonomik motivasyonludur.

Sadece sıradan eski dolandırıcılar.

Durum Güncellemesi: Günler Değil, Saatler İçinde Bir Düzeltme

Bir gün sonra Bier, X akışının ne zaman iyileşeceğini gösteren bir zaman çizelgesi hakkında hızlı bir güncelleme yayınladı ve yine bu tür anti-spam eylemlerinin gerçek zamanlı olarak nasıl çalıştığını gösterdi.

Bier şu tweeti attı:

“Bu spam saldırısı bu gece hafifletildi. Akışınız önümüzdeki 6-12 saat içinde iyileşecek.”

X, AI Chatbot Spam Göndericilerine Karşı Mücadele Ediyor

Bier'in tweet'leri, spam gönderenlere, platformdaki orijinal olmayan davranışlarla mücadele konusunda ne kadar ciddi olduklarını göstermek ve spam gönderenleri suçlu olarak adlandırmak için açık bir açıklama işlevi gördü.

Bier şu tweeti attı:

“Burayı temizleyeceğiz. Kaç tane düşman yarattığım umurumda değil. X, suçlular tarafından yönlendirilmeyecek.”

40 Kez Dönen Spamcı

Konunun en aydınlatıcı kısmı Bier ile X üyelerinden biri arasındaki kısa konuşma değildi. Bier, çok ısrarcı ve uyarlanabilir (altı ayda 40 yöntem değişikliği) bir spam operatörünü tanımladı; bu operatör, spam gönderen kişinin bir bot grubu gibi değil, daha çok yanlarında oturan, tüm yanıtlarını izleyen ve hızla bir karşı önlem bulan biri gibi davrandığını gösteriyor.

Bir X üyesinden gelen bir yanıt, bu spam gönderenlerden bazılarının yanıtlarını oluşturmak için X'in kendi yapay zeka ürünü olan Grok'u kullanmaya başladıklarına dikkat çekti. Bier, Grok tabanlı yöntemin zaten yakalandığını ve engellendiğini doğruladı. Yanıtında Bier, X'in 12-18 saatlik geri dönüş süresinin, aynı sorunun eski Twitter'da ne kadar uzun süre devam ettiğine kıyasla bir gelişme olduğunu açıkladı.

Bier şu tweeti attı:

“X'te son 6 aydır stratejilerini değiştiren birkaç spam gönderici var.

Bunlardan biri (“Bu adam harika bir tüccar ⬇️”) her yöntem engellendikten sonra toplam 40 kez pivot yaptı.

Tekniklerden bazıları o kadar yaratıcı ve hızlı ki sanki yanı başımızda oturuyormuş gibi hissettiriyor.

Bu noktada onları işe alsak iyi olur çünkü onlar da X kod tabanına bizim kadar aşinadırlar.”

@CryptoParadyme yanıt verdi:

“lütfen onları teşvik etmeyin

birçoğu son zamanlarda bir tür grok yanıtı kullanıyor.

Bier şu tweeti attı:

“Dün Grok'u engelledik.

Ekibimiz bir sonraki hamleyi bekliyor. Eskisinden 10 kat daha proaktifiz.

Bu, Twitter'da aylarca iltihaplanır ama artık geri dönüş süremiz 12-18 saattir.”

Yanlış Pozitif Bildirildi ve Ele Alındı

Bu konunun gerçek zamanlı spam eylemleriyle ilgili bir başka ilginç sonucu da, bir kişinin spam eylemleriyle ilgili yanlış pozitif deneyimini paylaşmasıdır. Yanlış pozitif, bir makinenin bir hata yapıp aslında öyle olmayan bir şeyi spam olarak etiketlemesidir. Gerçek hayatta bu tür algoritmalar, spam'in yerini yüksek bir doğrulukla tespit etmek için çok sayıda sinyale dayanır, ancak ideal olarak düşük bir yüzdede olmak üzere yanlış pozitifler yine de meydana gelebilir.

@the_defi_dad tweetledi:

“Dürüst olmalıyım. Hesabımın spam olduğuna dair bir bildirim aldığımda şaşırdım. İnceleme iste düğmesini tıkladım ve yaklaşık 12 saat sonra eski durumuna döndürüldüm. Grass uygulamasının bir dolandırıcılık olduğundan şikayet ettim ve hemen bir bildirim aldım. Oradaki bağlantıdan emin değilim ama algoritmanın veya spam veya spam olmadığına karar veren şeyin doğru kararı verdiğini gördüğüme sevindim.”

Bier'in gönderileri X kullanıcılarından olumlu yanıt aldı; bunlardan bazıları, bu etkileşim chatbotlarından bazılarının etkileşim sayıları ürettiğini ancak bunların orijinal olmayan doğasının onları bir bela haline getirdiğini ifade etti.

@RandomPerson242 şu tweeti attı:

“Bir yandan, insanlar bir şekilde bu saçmalıkları açıkça seviyorlar. Diğer yandan, insanlar onu takip etse bile sitenin içeriğinin bu olmasına izin veremeyeceğinize katılıyorum. Bu dibe doğru bir yarış olamaz.”

Sosyal Medya Otantik Olduğunda En İyisidir

Birçoğu, X'in orijinal olmayan yapay zeka sohbet robotu spam'ına karşı mücadele ettiğini görmekten mutluydu. Bu deneyimi mahvediyor çünkü insanlar X gibi sosyal medya platformlarına insan deneyimlerini okumak ve paylaşmak için geliyorlar.

Shutterstock/Naumova Marina'dan Öne Çıkan Görsel


Yayımlandı

kategorisi

yazarı:

Etiketler:

Yorumlar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir