Birkaç hafta önce LinkedIn gelen kutuma bir mesaj düştü. Okudum, söyledikleri ilgimi çekti ve ekteki belgeyi okumak için tıkladım. Belge açılmadı. Mesaja geri döndüm ve bu sefer mesajı bana gönderen kişinin profilini açtım. İlk bayrak, kadının profildeki fotoğrafı fazlasıyla mükemmeldi. Temiz cildi, temiz düz saçları, parlak gözleri ve nazik bir gülümsemesiyle çekici.
Kadının adı genel bir CXO'ydu, ancak profil açıklaması, yayınlamayla ilgili tüm doğru anahtar kelimelerle oluşturulmuş gibi görünüyordu ve tam anlamıyla bir anlam ifade etmiyordu. Eğitim kronolojisi de öyle. Bir kurgu yazarı olarak onu yapay geçmişindeki kafa karıştırıcı boşluklarla yapay zeka tarafından yaratılmış bir karakter olarak görebiliyordum. O zaman bir yapay zeka tarafından dolandırıldığımı anladım. Büyük olasılıkla bir virüs olan söz konusu belge iPhone'uma indirilmişti.
Aldatıldığımı ve hayal kırıklığına uğradığımı hissettim. Şüpheli virüs yüzünden değil, rastgele bir yapay zekanın LinkedIn profilimi okuması, gizli arzularımı ve tetikleyicilerimi (ihtiyacım olduğunu bile bilmediğim şeyleri) bulması ve şifremi çözmeyi ve pervasızca davranmamı sağlamayı başarması nedeniyle.
LinkedIn'de sentetik profiller hakkında yazmaya karar verdiğim ve ekran görüntüsü almak için dizüstü bilgisayarımı açtığım süre içinde 20 dakika içinde profil, mesaj ve belgenin tamamı hesabımdan silinmişti. Tetikleyicilerimi çok iyi bilen bir yapay zekanın yarattığı sentetik kullanıcının varlığı sona erdi.
Pandeminin şiddetlendiği 2022 gibi erken bir tarihte, yapay zeka tarafından oluşturulan sahte profiller, profesyonellere yönelik dünyanın en büyük sosyal platformu LinkedIn için sorun haline geliyordu. Lancaster Üniversitesi ve Kaliforniya Üniversitesi, Berkeley'deki araştırmacılar tarafından 2021'de yapılan bir araştırmaya göre, bu hesaplarda gerçek insan fotoğraflarından daha gerçek ve daha güvenilir hissettiren, bilgisayar tarafından oluşturulan profil fotoğrafları kullanıldı. Araştırmacılar, yapay zeka tarafından oluşturulan yüzlerin gerçek yüzlerden “ayırt edilemez” olduğunu buldu. İnsanların bunları doğru tahmin etme şansı yalnızca %50'dir. Çalışmanın geliştirdiği sentetik yüzlerin (S) fotoğrafına bakın. Onları gerçek insan yüzlerinden (R) daha mı gerçek buluyorsunuz?]
Çoklu amaçlar
2022'de Stanford İnternet Gözlemevi'ndeki araştırmacılar, yapay zeka tarafından oluşturulan sentetik yüzleri ve yazılı ayrıntıları kullanan 1.000'den fazla LinkedIn sahte profilini ortaya çıkardı. Araştırmacılara göre bu profillerin birçok amacı vardı. Virüs bunlardan biriydi. Daha sonra dezenformasyon oluştu. Ama aynı zamanda pazarlama da vardı. Pazarlamacılar, etkileşimi artırmak, makalelerin SEO'sunu iyileştirmek veya müşterileri için satışları artırmak için platformdaki sentetik profilleri artırdı. Çalışma, bunun dijital dünyaya yönelik bir telefonla pazarlama stratejisi olduğunu açıkladı. Birisi yemi yutarsa, müşterinin şirketindeki gerçek bir satış elemanına hızlı bir şekilde bağlanıyordu.
Kısa bir süre sonra LinkedIn, sahte profil tespit filtrelerini artırdı ve üyelerinin gerçek insanlarla etkileşime geçmesini sağlamak için yeni özellikler ve sistemler başlattı. Şirketin Kötüye Kullanımla Mücadele Yapay Zeka ekibi, sahte hesap tespitini, özellikle de sinyal oluşturan sahte yapay zeka tarafından oluşturulan profil resimlerini otomatikleştirmek için sistemler yerleştirdi. Geçen yıl sahte profilleri yakalamak için yeni bir yapay zeka görüntü algılayıcının duyurusunu yaptılar. “Yeni derin öğrenme tabanlı modelimiz, profil fotoğrafı yüklemelerini proaktif bir şekilde kontrol ederek görüntünün yapay zeka tarafından oluşturulup oluşturulmadığını belirlemek için, yüz tanıma veya biyometrik işlem yapmadan yapay zeka tabanlı sentetik görüntü oluşturma süreciyle ilişkili incelikli görüntü yapaylıklarını tespit etmek üzere tasarlanmış en son teknolojiyi kullanıyor. analizler,” diye yazdı LinkedIn blogunda ürün yönetiminden sorumlu başkan yardımcısı Oscar Rodriguez.
Şirketin en son şeffaflık raporuna göre, 2023'ün ilk yarısında şirket, üyeler bildirmeden önce 15,1 milyondan fazla sahte hesabı kaldırdı ve 2023'ün ilk altı ayında üyeler tarafından işaretlendikten sonra yaklaşık 200.000 hesabı kaldırdı. 2023'ün ilk yarısında milyonlarca dolandırıcılık ve spam içeriği tespit edildi ve kaldırıldı. Üç ay önce LinkedIn, pazarlama üretmek için sahte LinkedIn profilleri oluşturarak işlerini kuran TopSocial ve SocialBD24 adlı iki pazarlama şirketine karşı dava bile kazandı. yol açar.
Bu yıl gerçek hayattaki doğrulamalarla daha da ileri gidildi. 115'ten fazla ülke için devlet tarafından verilmiş bir kimlikle profilinize bir doğrulama onay işareti ekleyebilir (Hindistan henüz listeye dahil edilmemiştir) ve iş e-postası ile iş yerinizi ve eğitim e-postası aracılığıyla eğitim kurumunu doğrulayabilirsiniz. Başka bir blogda Rodriguez, kullanıcıları kaydolmaya teşvik edercesine, “Doğrulanmış profiller yüzde 60 daha fazla profil görüntülemesi, yüzde 50 daha fazla yorum ve tepki ve yüzde 30 daha fazla mesaj alıyor” diye açıklıyor.
LinkedIn ayrıca, üyenin doğrulanmış telefonu ve iş e-posta adresiyle birlikte bir profilin ne zaman oluşturulduğunu ve en son güncellendiğini gösteren 'Bu Profil Hakkında' adlı bir özelliği de başlattı.
Ancak yapay zeka yeteneklerinin gelişmesiyle birlikte bu bir kedi-fare oyunu haline geldi. Otomatik yapay zeka yazılımı sahte profiller oluşturmaya devam ederken, LinkedIn'in kötüye kullanımı önleyici yapay zeka yazılımı, benim durumumda olduğu gibi birkaç saat boyunca çatlaklardan kaçarak onları ayıklamaya devam ediyor. Kandırılmam, ikna olmam ve tıklamam benim için yeterli.
Artık insanları ağıma ekleme konusunda temkinli davranarak, daha akıllı bir ben, LinkedIn şifremi sıfırladım ve iPhone'umu arka planda çalışan gizli yazılımların (pilin boşalması, aşırı ısınması veya uygulamaların tuhaf davranması) işaretlerini bulmak için yakından gözlemledim. Henüz yapmadılar, ancak yine de iPhone'umu sıfırlayabilirim.
Shweta Taneja, Körfez Bölgesi'nde yaşayan bir yazar ve gazetecidir. İki haftada bir yayınlanan köşe yazısı, gelişen teknoloji ve bilimin Silikon Vadisi ve ötesindeki toplumu nasıl yeniden şekillendirdiğini yansıtacak. Onu internette @shwetawrites ile bulun. İfade edilen görüşler kişiseldir.
Bir yanıt yazın