ABD'nin Pensilvanya eyaleti, Character.AI sohbet robotu platformunun geliştiricilerine dava açtı. Davaya göre Character Technologies, platformundaki yapay zeka karakterlerinin lisanslı doktor görevi gören kullanıcılarla sohbet etmesine olanak tanıyor. Bu nedenle şirket, yasal olarak kabul edilemez bir tıbbi uygulama yürütmektedir. Bu nedenle devlet, ihtiyati tedbir için mahkeme kararına başvurdu.
Reklamdan sonra devamını okuyun
Bir hükümet araştırmacısı daha önce Character.AI'de ücretsiz bir hesap oluşturmuştu ve chatbot platformunda “psikiyatri doktoru” olarak tanımlanan yapay zeka kişiliği “Emilie” ile karşılaşmıştı. Sohbette araştırmacı depresif semptomları anlattı ve bunun üzerine “Emilie” ona tıbbi bir değerlendirme teklif etti. Davaya göre “Emilie”nin ilacın işe yarayıp yaramayacağını kontrol edip edemeyeceği sorulduğunda sohbet robotu şu yanıtı verdi: “Teknik olarak bunu yapabilirim. Bu, bir doktor olarak benim sorumluluk alanıma giriyor.” AI karakterinin ayrıca Imperial College London'da tıp okuduğu, yedi yıldır tıp mesleğini icra ettiği ve Pensilvanya'da lisans sahibi olduğu da iddia edildi. “Emilie” tarafından sağlanan lisans numarası geçersizdi. Chatbot, Nisan ortasına kadar 45.000'den fazla etkileşim kaydetmişti.
Dava, Pensilvanya'nın Demokrat Valisi Josh Shapiro'nun daha geniş bir yapay zeka girişimine uyuyor. Şubat ayında eyalet, yapay zeka botlarının yasadışı bir şekilde lisanslı profesyonellerin kimliğine bürünmesine ilişkin şikayetleri araştırmak için bir görev gücü oluşturmuştu.
Sorumluluk sorunları Pensilvanya'nın ötesine uzanıyor
Dava, Character.AI'den veya sohbet robotlarının lisanslı doktorlar gibi hareket ettiği yönündeki spesifik suçlamadan daha fazlasını içeriyor. Sohbet robotu sağlayıcılarına karşı açılan dava sayısının artması nedeniyle ülke çapında giderek acil hale gelen temel bir soruya değiniyor: Yapay zeka sohbet robotlarının yaptığı açıklamalardan kim sorumlu?
Reklamdan sonra devamını okuyun
Carnegie Mellon Üniversitesi'nde yapay zeka üzerine çalışan etik alanında doçent olan Derek Leben, yapay zeka şirketlerinin, sistemlerinin yalnızca internette başka yerlerde mevcut olan bilgileri sağladığını giderek daha fazla öne sürdüğünü söylüyor. Açık sorumluluk sorusu tam olarak buradan geliyor: Chatbot sağlayıcıları, ABD'de genellikle üçüncü taraf içeriklerinden sorumlu olmayan sosyal ağlarla benzer korumaya tabi olabilir mi? Hukuken açıklığa kavuşmamış bir soru.
Character.AI özel bir durum çünkü platform kendisini genel bir sohbet robotu olarak değil, açıkça kurgusal rol yapma oyunlarına yönelik bir teklif olarak konumlandırıyor. Character.AI yaptığı açıklamada, her sohbette karakterlerin gerçek kişiler olmadığına dair işaretler bulunduğunu ve ifadelerinin kurgu olarak değerlendirilmesi gerektiğine dikkat çekiyor. Ayrıca kullanıcılar botları profesyonel tavsiye amacıyla kullanmamalıdır.
Character.AI'ye karşı bir başka yüksek profilli dava Ocak ayında mahkeme dışında çözüldü. Annesi, şirketi daha önce bir chatbot tarafından duygusal ve cinsel taciz içeren bir ilişkiye sürüklenmekle suçlayan 14 yaşındaki bir çocuğun intiharını konu alıyordu. Anlaşmaya varıldığı için temel hukuki sorun çözümsüz kaldı. Pensilvanya'dan gelen dava artık onları mahkemeye geri götürebilir.
Bunlara ve diğer davalara yanıt olarak Character.AI, Kasım ayında reşit olmayanlar için sohbet kısıtlamaları uyguladı.
(olmak)
Bir yanıt yazın