Openai, AI sosyal medya gözetim aracı olan şirket için kod hata ayıklamak ve düzenlemek için ChatGPT'yi kullanmaya çalışan bir grup Çinli kullanıcının hesaplarını yasakladı. Openai'nin akran incelemesi olarak adlandırdığı kampanya, bu belgelerin önerdiği bir program için satış konuşmaları oluşturmak için chatgpt'i istedi. Operasyon, özellikle bu bilgileri ülkenin yetkilileriyle paylaşmak amacıyla Çin'deki insan hakları ihlallerine karşı protesto çağrıları tespit etmekle ilgileniyor gibi görünüyor.
Openai, “Bu ağ, anakara Çin çalışma saatleriyle tutarlı bir zaman modelinde çalışan, Çince modellerimizi başlatan ve araçlarımızı otomasyon yerine manuel isteme ile tutarlı bir hacim ve çeşitle kullanan ChatGPT hesaplarından oluşuyordu.” Dedi. “Operatörler modellerimizi, görüşlerinin yurtdışındaki Çin büyükelçilerine gönderildiğini ve ABD, Almanya ve Birleşik Krallık gibi ülkelerdeki protestoları izleyen istihbarat ajanlarına gönderildiğini kanıtlamak için kullandılar.”
Openai'nin baş araştırmacısı Ben Nimmo'ya göre, şirket ilk kez bu tür bir AI aracı ortaya çıkardı. Nimmo, “Tehdit aktörleri bazen AI modellerimizi kullanma biçimleri nedeniyle internetin diğer bölgelerinde ne yaptıklarına bir göz atıyorlar.” .
Gözetim aracının kodunun çoğu, Meta'lardan birinin açık kaynaklı bir versiyonuna dayanıyor gibi görünmektedir. Grup ayrıca ChatGPT'yi, Çin'deki müşteriler adına kimlik avı e-postaları yazdığını iddia ettiği yıl sonu bir performans incelemesi oluşturmak için kullanmış gibi görünüyor.
Openai, operasyonun AI Sosyal Medya Gözetimi için kod düzenlemek için CHATGPT'yi kullanma çabalarını, “Bu etkinliğin etkisini değerlendirmek, bu etkinliğe ışık tutabilen açık kaynaklı modellerin operatörleri de dahil olmak üzere birden fazla paydaştan girdi gerektirecektir. alet.
Openai ayrı olarak, yakın zamanda CHATGPT'yi eleştirel sosyal medya yayınları oluşturmak için kullanan bir hesabı yasakladığını söyledi, Çinli bir siyaset bilimcisi ve ABD'de sürgünde yaşayan muhalif. Aynı grup aynı zamanda Chatbot'u ABD'yi eleştiren İspanyolca makaleler oluşturmak için kullandı. Bu makaleler Latin Amerika'daki “ana akım” haber kuruluşları tarafından yayınlandı ve genellikle bir bireye ya da bir Çin şirketine atfedildi.
Bir yanıt yazın