Meta, OpenAI ve Anthropic gibi teknoloji şirketlerinin CEO'ları bize yapay zekanın sürekli olarak daha “insan” olma sürecinde olduğunu söylüyor. Chatbotlarını veriyorlar nazik seslertanınabilir kişilikler ve evcil hayvanınıza verebileceğiniz isimler. Robotları konuşma sırasında “ben”, “ben” ve “benim” kelimelerini kullanacak şekilde tasarlıyorlar ve dikkatlice ve makul bir inkar edilebilirlikle de olsa, dijital zihin gibi bir şeyin halihazırda ortaya çıkıyor olabileceğini ima ediyorlar. Bu bir kaza değil. Pazarlamadır.
İnsanları bu konuda kandırmak her zaman kolay olmuştur. Köpeklerimizle sanki bizi anlıyorlarmış gibi konuşuyoruz, dizüstü bilgisayarlarımız donunca küfrediyoruz, hatta arabalarımıza isim bile veriyoruz. Yani bir yapay zeka sistemi akıcı, konuşma dili ürettiğinde beynimiz içgüdüsel olarak geri kalan kısmı doldurur ve ona niyet, anlayış ve hatta duygu atar. Teknoloji şirketleri bunu biliyor. Bir chatbot ne kadar “kişiye benzer” görünürse, ona istatistiksel bir tahmin motoru olan gerçekte olduğundan ziyade bir sırdaş, bir ortak veya bir otorite gibi davranma olasılığımız da o kadar artar.
Ancak var olmayan zihinleri görme alışkanlığı, gerçek sosyal ve politik sonuçlar doğuruyor. Yapay zekayı akıllıca kullanabileceğimiz ve yeri geldiğinde ona güvenebileceğimiz bir gelecek istiyorsak, ona insan gibi davranma refleksimizi kırmamız gerekiyor.
İlk adım, antropomorfizmin gerçekte ne anlama geldiğini anlamaktır. İnsani nitelikleri insan olmayan şeylere yansıtma eğilimidir. Yapay zeka ile bu projeksiyon daha da güçleniyor. Günümüzün chatbot'ları bizi taklit etmek için tasarlandı. Birinci tekil şahıs konuşurlar, empatik ifadelerle yanıt verirler ve ses tonlarını bizimkine uyacak şekilde ayarlarlar. Anthropic CEO'su Dario Amodei yakın zamanda şunu iddia etti: Şirketinin sohbet robotu Claude kaygı yaşayabilir.
Ancak bunların hiçbiri kişiliğe, bilince ve hatta idrak etmeye işaret etmez. Bu sistemlerin benlikleri veya duyguları yoktur. Muazzam veri kümelerindeki kalıpları belirleyerek metin üretirler.
Bu fark önemli. Kalıp eşleştirmeyi düşünmeyle karıştırdığımızda, kendini kandırma riskiyle karşı karşıya kalırız ve bununla birlikte ciddi sonuçlar da ortaya çıkar.
İlk olarak, kendi kararlarımızdan vazgeçme riskiyle karşı karşıyayız. Bir chatbot kendinden emin ve insani göründüğünde ona güvenme eğilimindeyiz. Araştırmalar, insanların, özellikle de yüksek basınçlı durumlarda, yanlış olsa bile yapay zeka tavsiyelerine uyduklarını gösteriyor. Yapay zeka araçları tıbbi kararları, yasal stratejileri ve haber tüketimini giderek daha fazla şekillendirirken, sohbet robotlarına istatistiksel aynalar yerine bilge danışmanlar olarak yaklaşmak tehlikeli kararlar almamıza yol açabilir. Yapay zekanın kendine olan güvenini yeterlilikle karıştırmak ve çıktılarına güveniyoruz.
Yapay zeka antropomorfizmi aynı zamanda teknoloji şirketlerinin sorumluluktan kaçmasına da olanak tanıyor. Sistemleri önyargılı, zararlı veya tamamen uydurma yanıtlar ürettiğinde, şirketler genellikle yapay zekalarının beklenmedik bir şeyi “öğrenmiş” meraklı bir çocukmuş gibi davranırlar. Ancak yapay zeka davranışları tek başına keşfetmez. Çıktıları tasarım seçimlerini, eğitim verilerini ve onu inşa eden insanların teşviklerini yansıtır. Araç ile temsilci arasındaki çizginin bulanıklaşması hesap verebilirliği daha da zorlaştırır.
Son olarak, gerçek ilişkileri yapay ilişkilerle değiştirme riskiyle karşı karşıyayız. Dahil olan şirketler Karakter.AI Ve Replika Yapay zeka arkadaşlarını “her zaman dinlemek ve konuşmak için burada” ve “her zaman yanınızda” olarak pazarlıyorlar. Yalnızlıkla mücadele eden insanlar için çekiciliği açıktır. Ancak empatiyi taklit edecek şekilde tasarlanmış bir sistem, gerçek duygusal destek sunma konusunda yetersizdir. Eğer insanlarla iletişim kurmak için terapist, arkadaş veya vekil olarak sohbet robotlarına güvenmeye başlarsak, teknoloji CEO'larının bu araçların hafifletmesi gerektiğini iddia ettiği izolasyonu daha da derinleştirebilir ve bu da “kendine zarar verme” olarak adlandırılan duruma yol açabilir.AI psikozu” Ve intihar bile.
Neyse ki antropomorfizm tuzağından kaçınmak teknik uzmanlık gerektirmiyor. Dil ile başlar. Bir chatbot'a “Bunu neden söyledin?” diye sormayın. Bunun yerine “Bu nasıl oluştu?” diye sormalısınız. Bir yapay zekanın ne “düşündüğünü” merak etmek yerine, çıktısını hangi veri veya talimatların şekillendirdiğini sormalıyız. Küçük dilsel değişimler dikkatimizi kişilikten ziyade sürece odaklar. Ayrıca ekranın diğer tarafında kimsenin olmadığını da hatırlatıyorlar.
Yapay zeka tarafından oluşturulan içeriğe şüpheyle yaklaşarak eleştirel özerkliğimizi de koruyabiliriz. Bir sistem birinci şahıs ağzından konuştuğunda otoriter, hatta bilge hissedebilir. Ancak akıcılık içgörü değildir. Yapay zeka epistemik bir otorite değildir. Bu bir araçtır, hatta kullanışlıdır, ancak temelde sınırlıdır.
Elbette kişisel alışkanlıklar yeterli değildir. Düzenleyiciler, şirketlerin ses, kişilik senaryosu ve konuşma çerçeveleme gibi insana benzer özellikleri açıklamasını zorunlu kılmalı, böylece kullanıcılar bir makineyi zihin olarak görmeye yönlendirildiklerini anlayabilirler. Hastanelerden okullara kadar kamu kurumlarının antropomorfizme karşı korunmaya yönelik kılavuzlar geliştirmesi gerekiyor.
Teknoloji şirketlerinin daha insani hissettiren yapay zeka geliştirmek için her türlü nedeni var. Kârlıdır. İkna edici. Ve bizi meşgul ediyor. Ama birlikte oynamak zorunda değiliz.
AI bir kişi değildir. Düşünmüyor, umursamıyor, anlamıyor. Bu bir algoritmik yansıma internetin: iyi, kötü ve çirkin. Aynayı akıl zannedersek teknolojik harikadan çok daha önemli bir şeyi kaybetme riskiyle karşı karşıya kalırız. Yani simülasyon ile gerçeklik arasındaki farkı anlama yeteneğimizi kaybediyoruz. İnsan yargısının geleceği bu farkın doğru anlaşılmasına bağlı olabilir.
Moti Mizrahi, Florida Teknoloji Enstitüsü'nde bilim ve teknoloji felsefesi profesörüdür. En son kitabı “Gelişen Teknolojilerle Tanrıyı Oynamak”tır.
Bir yanıt yazın