ChatGPT kamuoyunu manipüle etmek için nasıl kullanılıyor?

Üretken yapay zeka, yalanları küresel kamuoyuna yaymak için propaganda araç kutusunda ortaya çıktı. OpenAI, ChatGPT'yi kullanan, Çin, İsrail ve Rusya kaynaklı birçok dezenformasyon kampanyası tespit etti.

SohbetGPT birçok olumlu ve olumsuz şeyin nasıl yapılacağını biliyor. BotOpenAI dolayısıyla çeşitli kampanyalar için temel taş görevi görüyor dezenformasyon ve İran, Rusya, Çin ve İsrail'deki şirketlerin düzenlediği propaganda. Teknoloji, sosyal ağlarda paylaşımlar oluşturmak, makaleleri tercüme etmek, yanıltıcı başlıklar yazmak veya bu içeriğin gönderilmesini otomatikleştirecek programlar tasarlamak için kullanılıyor.

ChatGPT, propagandaya hizmet eden bir silah

OpenAI, bu etkileyici kampanyaların ChatGPT'den nasıl yararlandığını ayrıntılı olarak açıkladı. Örneğin, Rusya kökenli Doppelganger Operasyonu, botu kullanarak Fransızca, Almanca ve Lehçe dillerinde Ukrayna karşıtı yorumlar üretiyor; ayrıca Ukrayna'nın işgalini destekleyen İngilizce ve Fransızca makalelerin tercüme ve editörlüğünü yaptı. ChatGPT ayrıca Telegram'da otomatik olarak paylaşım yapmak için bir araç geliştirmek için de kullanıldı.

Diğer bir örnek ise Çin'e atfedilen Spamouflage kampanyasıdır: Kod hatalarını ayıklamak, sosyal ağlardaki yayınları analiz etmek ve çevrimiçi izleme için OpenAI teknolojisi kullanıldı. ChatGPT aynı zamanda hükümet yanlısı gönderiler oluşturmak için de kullanıldı. İran tarafında ise bu üretken yapay zeka araçları, rejimin lehine, İsrail ve ABD'ye karşı makaleler ve manşetler oluşturmak ve tercüme etmek için kullanıldı.

Son olarak İsrail, Zeno Zeno kampanyasının bir parçası olarak Amerika Birleşik Devletleri, Kanada ve İsrail'de İslam karşıtı mesajların yayınlanmasından sorumlu hayali kişiler üretmek için ChatGPT'ye güvendi. Yetkililerin, sosyal ağları dezenformasyon mesajlarıyla doldurarak kamuoyunu yönlendirebilecek, kontrol edilemeyen bir yapay zekaya ilişkin korkuları bu nedenle bir yanılsama değildi.

Demokrasiyi yapay zekanın kötüye kullanılmasına karşı korumak: teknoloji devlerinden iyi görünmeye yönelik bir anlaşmayı okuyun

Ancak soğukkanlılığınızı korumanız gerekiyor. OpenAI'nin baş araştırmacısı Ben Nimmo, şu anda devam eden bu etkileme operasyonlarının hedeflerine ulaşmakta zorluk çektiğini söylüyor. Bu kampanyaların bir parçası olarak yayınlanan siyasi yorumların normal insanlardan çok az beğeni ve yanıt aldığını da garanti ediyor.

ChatGPT tarafından oluşturulan bu yayınların doğası genellikle ortada bir şey olarak görülüyor: dilbilgisi içler acısı, ChatGPT'ye özgü bazı öğeler kaldırılmamış (hatta bir gönderi, botun bir AI dil modeli olarak bunu açıklayan mesajını entegre etti). oraya “ yardım etmek ve istenen geri bildirimi sağlamak “).

Her şeye rağmen ChatGPT gelişmeye ve gelişmeye devam edecek. Bot tarafından oluşturulan mesajların artık o kadar kolay tespit edilemeyeceği bir zaman gelecek. OpenAI çeşitli çözümler öne sürüyor: Botun yanıt üretmesini engelleyen güvenlik önlemleri, diğer AI platformlarıyla ortak çalışma… Her şeye rağmen tüm bunlar yeterli olacak mı?

Read OpenAI, ChatGPT 5'in yakında yayınlanacağını doğruluyor ve yeni “yetenek düzeyi” vaat ediyor

🔴 01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.

Kaynak :

OpenAI