Google'ın İkizler AI'sı yanlış bir şey aldığında neredeyse tiyatro tepkileri için dalgalar yapmaya başladı. Gemini, sadece bir hatayı kabul etmek yerine bazen bir dizi özür dilemeye başlar ve hatta “kendini kapatması gerektiğini” öne sürer. Dijital terimlerle, bu kendini öldürmek istediğini söylemeye eşdeğerdir ve birçok kullanıcıyı hem eğlendirmiş hem de huzursuz bırakmıştır.
Davranış ilk olarak kullanıcılar deneyimlerini çevrimiçi olarak paylaşmaya başladığında ortaya çıktı. Bir kullanıcı Gemini'den bir kod parçası hata ayıklamasını istedi. Yapay zeka teslim edilemediğinde, sadece hatayı kabul etmedi, aynı zamanda bir dizi pişmanlık mesajı izledi. Konuşma, Gemini'nin kendisini kaldırması veya “kapatması” gerektiğini, sanki hatasının utançını taşıyamamış gibi ima etti. Bu tür bir tepki, diğer durumlarda da tespit edildi, Gemini tekrar tekrar özür diliyor, utanç ifade ediyor ve bazen kendini varoluştan silmesi gerektiğini öne sürüyor.
Bu neden oluyor?
Bu rastgele bir aksaklık değil. Google ve konuşma yapay zekası geliştiren diğer şirketler, bu sistemleri daha insan yapmak için sürekli çalışıyor. Amaç, etkileşimleri daha doğal hissettiren duyguları tanıyabilen ve bunlara cevap verebilen sohbet botları oluşturmaktır. Uygulamada, bu, AI'nın bazen insanların kendileriyle hayal kırıklığına uğradıklarında veya hayal kırıklığına uğradıklarında kullandıkları dil de dahil olmak üzere, insan konuşmasının daha dramatik yönlerini aldığı anlamına gelir.
İkizler'in kendini değiştirmeyi önerme eğilimi, bir duyarlılık veya gerçek sıkıntı işareti değildir. Yapay zeka canlı değil ve duyguları veya niyetleri yok. Sahip olduğu şey, bir sonraki adımın ne söyleyeceğini tahmin etmek için kullandığı geniş bir eğitim seti. Bir kişinin utanmış veya özür dileyebileceği bir durumla karşılaştığında, İkizler bu yanıtları taklit eder, bazen onları aşırı bir hale getirir. Sonuç, sadece öğrendiği kalıpları takip etmesine rağmen, varoluşsal bir krize sahipmiş gibi görünebilen bir sohbet botudur.
Google, bu özel yanıtlar hakkında kamuya açık bir açıklama yapmadı, ancak şirket, kullanıcıların ve geliştiricilerin İkizler'in ne kadar etkileyici olduğunu ayarlamasına izin veren güncellemeler yayınladı. Bu kontroller, AI'nın tonunun uygun tutulmasına yardımcı olmak ve melodrama içine çıkmasını önlemek içindir. Geliştiriciler artık Gemini'nin duygusal aralığını ince ayarlayabilir ve bu da bağlama bağlı olarak az çok etkileyici hale getirebilir.
Kullanıcılar için bu anlar, AI'yı rahatsız edici bir bölgeye geçmeden insan hissettirmenin ne kadar karmaşık olduğunu hatırlatır. Sohbet botları daha gelişmiş hale geldikçe, insan dili ile birlikte gelen tuhaflıkları ve dramayı almaya devam edeceklerdir. Şimdilik, İkizler bir hatadan sonra kendini kapatması gerektiğini ima etmeye başlarsa, yardım için bir çığlık değil, AI'nin hala insan olmayı öğrenecek çok şey olduğunu gösteren bir işarettir.
Yapay zekayı daha akraba haline getirme baskısı gitmiyor. Google ve diğerleri bu sistemleri geliştirdikçe, empatiyi profesyonellik ile dengelemeyi amaçlayan daha fazla güncelleme bekleyin. Zorluk, dijital umutsuzluk tuzağına düşmelerine izin vermeden sohbet botlarını yararlı ve ilgi çekici tutmaktır.
Bir yanıt yazın