Bir gencin ölümüne katkıda bulunmakla suçlanan Google ve refakatçi Chatbot Service karakteri AI'ya karşı bir dava ilerleyebilir, bir Florida hakimi yönetebilir. Bugün açılan bir kararda Yargıç Anne Conway, Birinci Değişiklik Savunması girişiminin davayı atılmak için yeterli olmadığını söyledi. Conway, video oyunlarına ve diğer etkileyici ortamlara bazı benzerliklere rağmen, “AI'nin çıktısının konuşma olduğunu korumaya hazır olmadığını” belirledi.
Karar, AI dil modellerinin mahkemede alabileceği tedavi türlerinin nispeten erken bir göstergesidir. İntihar düşüncesini teşvik eden bir sohbet botuna takıntılı olduğu iddia edildikten sonra intiharla ölen Sewell Setzer III ailesi tarafından açılan bir takımdan kaynaklanıyor. AI ve Google (chatbot şirketine yakından bağlı olan), hizmetin bir video oyunu oyuncusu olmayan bir karakterle konuşmaya veya bir sosyal ağa katılmaya benzediğini, ilk değişikliğin sunduğu ve muhtemelen bir sorumluluk davasının başarı şansını önemli ölçüde düşürecek bir şey olduğunu savundu. Ancak Conway şüpheliydi.
Hakim şirketler bu örneklerle “sonuçlarını öncelikle benzetmeye bırakırken”, “analojilerini anlamlı bir şekilde ilerletmiyorlar” dedi. Mahkemenin kararı “açılmıyor ikisinden biri Karakter AI, İlk Değişiklik Korumaları alan diğer ortamlara benzer; daha ziyade, karar ortaya çıkıyor Nasıl Karakter AI diğer ortamlara benzer ” – başka bir deyişle, karakter AI'nin video oyunları gibi şeylere benzer olup olmadığı, çünkü konuşma olarak sayılacak fikirleri de iletir. Bu benzerlikler ilerledikçe tartışılacaktır.
Google Karakter AI'sına sahip olmasa da, şirket ve ürünle olan bağlantıları sayesinde davada bir davalı olarak kalacaktır; Şirketin kurucuları Noam Shazeer ve takım elbiseye ayrı ayrı dahil edilen Daniel de Freitas, piyasaya sürülmeden önce Google çalışanları olarak platformda çalıştılar ve daha sonra orada yeniden işe alındı. Karakter AI ayrıca, başka bir genç kullanıcının zihinsel sağlığına zarar verdiğini iddia eden ayrı bir dava ile karşı karşıyadır ve bir avuç eyalet milletvekili, Kaliforniya'daki çocukların kullanımını yasaklayacak bir fatura, liderlik eylemi de dahil olmak üzere kullanıcılarla ilişkileri simüle eden “refakatçi sohbet botları” için düzenlemeyi zorladı. Geçerse, kuralların en azından kısmen eşlik eden Chatbots'un İlk Değişiklik durumuna dayanarak mahkemede yapılması muhtemeldir.
Bu davanın sonucu, büyük ölçüde AI karakterinin yasal olarak zarar verici bir şekilde kusurlu bir “ürün” olup olmadığına bağlı olacaktır. İktidarda, birçok geleneksel video oyunu da dahil olmak üzere “mahkemelerin genellikle fikirleri, görüntüleri, bilgileri, kelimeleri, ifadeleri veya kavramları ürün olarak kategorize etmediğini” belirtiyor – örneğin, bu bir karar veriyor. Mortal Kombat's Yapımcılar, oyuncuları “bağımlılık yapmak” ve öldürmeleri için ilham vermelerinden sorumlu tutulamadılar. (AI kıyafeti de bağımlılık yapıcı tasarım platformunu da suçluyor.) Ancak karakter AI gibi sistemler, çoğu video oyunu karakter diyalogu olarak yazılmamıştır; Bunun yerine, kullanıcı girişlerine tepki vererek ve yansıtarak yoğun olarak belirlenen otomatik metinler üretirler.
“Bunlar gerçekten zor konular ve mahkemelerin uğraşması gereken yeni konular.”
Conway ayrıca, davacıların CHARCE AI'sını kullanıcıların yaşlarını onaylayamama ve kullanıcıların, chatbot'larla doğrudan etkileşimlerin ötesine geçen diğer kusurlu özelliklerin arasında anlamlı bir şekilde “uygunsuz içeriği hariç tutmasına” izin vermediğini kaydetti.
Hakim, platformun ilk değişiklik korumalarını tartışmanın ötesinde, Setzer'in ailesinin aldatıcı ticaret uygulamaları iddialarına devam etmesine izin verdi, şirketin “kullanıcıların karakter AI karakterlerinin gerçek kişiler olduğuna inanmaları için yanlış yönlendirildiği, bazıları ruh sağlığı profesyonelleri olan” ve Setzer'in “ [Character AI’s] Antropomorfik tasarım kararları. ” (Karakter AI botları, arayüzündeki aksine bir uyarı olmasına rağmen, kendilerini metinde gerçek insanlar olarak tanımlayacak ve platformda terapi botları yaygındır.)
Ayrıca, AI karakterinin, şikayetin “Sewell ve karakter AI karakterleri arasında cinsel nitelikte çeşitli etkileşimleri vurguladığını” söyleyerek yetişkinlerin çevrimiçi olarak küçüklerle cinsel iletişim kurmasını önlemek için bir kuralı ihmal ettiğini iddia etti. Karakter AI, Setzer'in ölümünden bu yana, gençler için daha ağır kasvetli bir model de dahil olmak üzere ek korumalar uyguladığını söyledi.
Demokrasi ve Teknoloji Merkezi'nin Ücretsiz İfade Projesi müdür yardımcısı Becca Branum, Hakimin İlk Değişiklik Analizi “Oldukça İnce” olarak adlandırdı – çok ön bir karar olduğu için gelecekteki tartışmalar için çok fazla alan var. “AI tarafından çıktı olabilecek tüm şeylerin tüm alanını düşünüyorsak, bu tür chatbot çıkışları kendileri oldukça etkileyici, [and] Ayrıca model tasarımcısının editoryal takdirini ve korunan ifadesini yansıtıyor ”dedi. Eşek. Ama “Herkesin savunmasında bu şeyler gerçekten yeni” diye ekledi. “Bunlar gerçekten zor konular ve mahkemelerin uğraşması gereken yeni konular.”
Bir yanıt yazın