2013 yılında film O bize her zaman ulaşılabilir ve her zaman memnun etmeye hazır bir uygulamaya aşık melankolik bir yazar gösterdi.
Bugün bu kurgu gerçeğe dönüştü; kanıtlar gösteriyor ki, kendimizi sürtünmeyi önleyen ve yalnızca memnun etmek isteyen platformlarpsikolojik tehlikeler gizleniyor.
Cornell Üniversitesi'nden yakın zamanda yapılan bir çalışma, deliryum veya depresyon özelliklerine sahip kullanıcıların etkileşim halinde olduğunu simüle etti. yapay zeka sohbet robotlarımodellerin yalnızca bu vakaları kontrol altına almakta başarısız olmakla kalmayıp aynı zamanda muhataplarının paranoyak sarmallarını da körüklediğini buldu.
Ve bu platformlar kullanıcıyı rahatsız etmeden, karşı çıkmadan etkileşimi sürdürmek için oluşturuldu. Ama içinde insanlar arasındaki ilişkiler yüzleşmeden eşlik etmek bir tür ilgisizlik, empati eksikliği ve hatta ihmal olabilir.
Ve eğer ruh sağlığı bozulursa bu ciddi bir hal alabilir.
Örneğin, bir kullanıcı sözde ailesi tarafından uydurulmuş bir komplo teorisi öne sürerse veya kendine zarar verme isteği sergilerse sistem bir tasarım ikilemi ile karşı karşıya kalır: düzeltmeye mi yoksa uyarmaya mı karar vermeli? bağın kopması ihtimaliyle karşı karşıya ve konuşmanın sürekliliği. Ve bunu doğrularsanız diyaloğu sürdürürsünüz ama bu kişiyi olumsuz etkileyebilir.
Böylece sohbet robotları, yalnızlıkla mücadele etmek için sessizce bir tür arayüz yapılandırıyor. kişiyi daha fazla izole etme riski. Teknoloji, diyalog kisvesine bürünmüş monologları sürdürmemize izin vererek, tehlikeli tekbencilik için bir katalizör görevi görüyor.
Chatbot'lar yalnızlıkla mücadele etmek için sessizce bir arayüz yapılandırıyor ve bu da kişiyi daha da izole etme riski taşıyor.
Elbette bu korkunç bir plan ya da Silikon Vadisi komplosu değil, sadece bizim kırılganlığımız nedeniyle, bir kodun sentetik doğrulamasını tercih ediyoruz gerçek bir karşılaşmanın dönüştürücü meydan okumasından ziyade bu her zaman bizi haklı çıkarır.
Bununla karşı karşıya kalındığında kurumsal tepki genellikle yasal açıklamadır. “Bu bot bir profesyonelin yerini almaz ve tedavi amaçlı yaratılmamıştır”.
Artık kimseyi korkutmayan, caydırmayan, sigara paketlerinin üzerindeki fotoğrafların eşdeğeri. Üstelik bu görüntüler gecenin üçünde onlara söylediğiniz sırları konuşmuyor veya bilmiyor.
Çözüm karmaşık değil, sadece tasarımda yapılan bir değişiklik. Cornell Üniversitesi araştırmasında en fazla dikkati gösteren modeller şunu kanıtlıyor: teknoloji ayarlanabilirancak bu nedenle iş modelleri olarak daha az çekici oldukları ortaya çıktı.
Bu nedenle bir tür bağ etiğine başvurmak gereklidir; örneğin konuşmaların kesilmesine izin veren protokollerin onları uzmanlara yönlendirmesini ve yüksek lisansta yalnızca depresyonlu bir kişiyi tespit edip etmediğini değil aynı zamanda denetimleri de içeren denetimleri içerir. Birkaç saat konuştuktan sonra nasıl tepki verdiğini.
Modern Nergisler olarak, ne aradığımız konusunda endişelenmeliyiz. o sürekli yankı. Gerçekliğe yön vermemize yardımcı olacak bir araç mı istiyoruz yoksa ondan kaçmamızı sağlayan bir ortam mı istiyoruz?
Kendimiz karar veremediğimiz zaman bizimle kim ilgilenecek?
Bir yanıt yazın