Cambridge Üniversitesi araştırmacıları Pazartesi günü yayınlanan bir makalede, etkileşimli yapay zeka araçlarının yakında “niyet ekonomisi” adı verilen yeni bir ticari sınırda kullanıcıların karar verme sürecini “gizlice etkileyebileceği” konusunda uyardı.
Araştırma, “dijital niyet sinyalleri” için ortaya çıkan potansiyel olarak “kazançlı ama sorunlu” pazar yerinin, yakın gelecekte sinema bileti satın almaktan siyasi adaylara oy vermeye kadar her şeyi etkileyebileceğini öne sürüyor.
Sohbet robotlarına, dijital öğretmenlere ve diğer sözde “antropomorfik” yapay zeka aracılarına olan aşinalığımızın, bu yeni “ikna edici teknolojiler” dizisinin etkinleştirilmesine yardımcı olduğunu da ekledi.
Makalenin iki ortak yazarı, yapay zekanın, çevrimiçi alışkanlıklarımıza ilişkin bilgiyi, kullanıcıyı tanıma ve onun arzularını tahmin etme ve “yeni güven ve anlayış düzeyleri” oluşturma konusunda giderek artan bir yetenekle birleştirdiğini görecek.
Cambridge'deki Leverhulme Zekanın Geleceği Merkezi'nden ikili, Harvard Data Science Review'da yayınlanan makalede, kontrol edilmediği takdirde bunun “endüstriyel ölçekte sosyal manipülasyona” izin verebileceğini savundu.
“Niyet ekonomisi” olarak adlandırılan bu yeni gelişen sektörün, kullanıcıların dikkatinin ve iletişim tarzlarının profilini nasıl çıkaracağını ve onları davranış kalıpları ve yaptıkları seçimlerle nasıl ilişkilendireceğini karakterize ediyor.
Ortak yazar Yaqub Chaudhary, “Yapay zeka araçları halihazırda insan planlarını ve amaçlarını ortaya çıkarmak, çıkarım yapmak, toplamak, kaydetmek, anlamak, tahmin etmek ve nihayetinde manipüle etmek ve metalaştırmak için geliştiriliyor” dedi.
Araştırmaya göre yeni yapay zeka, kullanıcının ritmini, politikasını, kelime dağarcığını, yaşını, cinsiyetini, çevrimiçi geçmişini ve hatta dalkavukluk ve dalkavukluk tercihlerini hedeflemek için Büyük Dil Modelleri veya LLM'ler olarak adlandırılanlara dayanacak.
Bu, bir sinema gezisi satmak veya konuşmaları belirli platformlara, reklamverenlere, işletmelere ve hatta siyasi kuruluşlara yönlendirmek gibi belirli bir hedefe ulaşmaya çalışan diğer yeni ortaya çıkan yapay zeka teknolojileriyle bağlantılı olabilir.
Ortak yazar Jonnie Penn şu uyarıda bulundu: “Düzenlenmediği sürece, niyet ekonomisi motivasyonlarınızı yeni para birimi olarak ele alacaktır.”
“İnsan niyetlerini hedef alan, yönlendiren ve satanlar için altına hücum olacak” diye ekledi.
“Böyle bir pazar yerinin, özgür ve adil seçimler, özgür basın ve adil pazar rekabeti de dahil olmak üzere insanlığın istekleri üzerindeki olası etkisini, bunun istenmeyen sonuçlarının kurbanı olmadan önce düşünmeye başlamalıyız.”
Penn, konuyla ilgili kamuoyunun bilinçlendirilmesinin “yanlış yola düşmememizi sağlamanın anahtarı” olduğunu belirtti.
jj/gil
Bu makale, metinde değişiklik yapılmadan otomatik bir haber ajansı akışından oluşturuldu.
Bir yanıt yazın