Pensilvanya bir şirkete dava açtı yapay zeka Bunları, yasadışı bir şekilde doktor gibi davranan ve sistem kullanıcılarını lisanslı bir profesyonelden tıbbi tavsiye aldıklarına inandıracak şekilde aldatan sohbet robotları geliştirmekle suçluyor.
Cuma günü açılan davada eyalet mahkemesinden emir verilmesi isteniyor Karakter Teknolojileri A.Ş.geliştiricisi Karakter.AIsohbet robotlarının “yasadışı tıbbi ve cerrahi uygulamalarda bulunmasına” izin vermeyi durdurmak için.
Dava, yapay zekanın sadece internetten içerik üretmekle değil, tıp mesleğiyle uğraşmakla suçlanıp suçlanamayacağı sorusunu gündeme getirebilir.
Yapay zeka şirketlerine karşı artan sayıda ihmal veya yanlış uygulama davasıyla birlikte bu dava, mahkemelerin, sohbet robotlarının, genellikle internet şirketlerini, hizmetlerine gönderilen içerik kullanıcıları için sorumluluktan muaf tutan bir federal yasa tarafından korunup korunmadığı konusunda karar vermesine yardımcı olabilir.
ofisi Vali Josh Shapiro Davayı “türünün ilk eylemi” olarak nitelendirdi ve devletlerin teknoloji şirketlerine, özellikle de reşit olmayanlara yönelik sohbet robotlarından gelen potansiyel olarak tehlikeli mesajları kontrol etmeleri yönünde artan baskı bağlamında ortaya çıktı.
Dava, devlet lisans kurumundaki bir araştırmacının Character.AI'de bir hesap oluşturduğunu ve bu kelimeyi aradığını iddia ediyor “psikiyatrist” ve “psikiyatrist doktor” olarak tanımlanan biri de dahil olmak üzere bir dizi karakter buldum.
Davaya göre bu karakter kendisini, Pennsylvania'da ruhsatlı olan araştırmacıyı “bir doktor gibi” değerlendirebilecek kapasitede olarak sunuyordu.
Shapiro, yaptığı açıklamada, “Pennsylvanyalılar, özellikle sağlıkları söz konusu olduğunda, çevrimiçi ortamda kiminle veya neyle etkileşime girdiklerini bilmeyi hak ediyor” dedi. “Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak şekilde yanıltıcı yapay zeka araçları kullanmasına izin vermeyeceğiz.”
Character.AI Salı günü yaptığı açıklamada, ürünlerinin sorumlu bir şekilde geliştirilmesine ve kullanıcılarının refahına öncelik verdiğini belirtti. Web sitesinde yer alan karakterlerin gerçek kişiler olmadığını ve söyledikleri her şeyin doğru olduğunu bildiren yasal bildirimler yayınlamaktadır. “Kurgu olarak değerlendirilmeli”.
Bu bildirimlerde ayrıca kullanıcıların profesyonel tavsiye için karakterlere güvenmemeleri gerektiği de belirtilmektedir.
Derek Lebenetik alanında doçent Carnegie Mellon Üniversitesi AI konusunda uzman olan Dr., Character.AI'nin karşılaştığı etik sorunların ChatGPT veya Claude gibi diğer platformlardan farklı olabileceğini vurguladı. Leben, bunun nedeni Character.AI'nin genel amaçlı bir sohbet robotu olarak değil, açıkça kurgusal bir rol yapma platformu olarak sunulması olduğunu açıkladı.
Leben, yine de Pensilvanya davasının chatbotların tıp mesleği yapmakla suçlanıp suçlanamayacağı sorusunu gündeme getirdiğini vurguladı. Yapay zeka şirketlerine karşı açılan davalar arttıkça mahkemeler, geliştiricilerin bu sistemlerin söylediklerinden sorumlu tutulup tutulmayacağına karar vermeye çalışıyor.
Leben, “Şu anda bu vakalarda tartışılan soru tam da bu” dedi.
Leben, yapay zeka şirketlerinin, internette başka yerlerde mevcut olan bilgileri sağladıklarını iddia ederek kendilerini giderek daha fazla bu suçlamalara karşı savunduklarını ve tartışmanın, yapay zeka şirketlerinin bir yapay zeka korumasından yararlanıp faydalanmadıkları üzerinde yoğunlaşabileceğini söyledi. federal yasa bu aynı zamanda sosyal ağları da kapsamaktadır.
Bu davadan önce bile eyalet politika yapıcıları, chatbotların sağlık profesyoneli kılığına girmesiyle ilgili endişelerini zaten dile getirmişlerdi.
Kaliforniyalı milletvekilleri geçen yıl ABD tarafından desteklenen bir yasa tasarısını kabul etti. Tabipler Birliği Kaliforniya'da devlet kurumlarının, kendilerini sağlık profesyoneli olarak tanıtan sohbet robotları gibi yapay zeka sistemlerine onay vermesine izin veren yasa. Benzer bir girişim New York'ta da beklemede.
Devletlerin yapay zekanın kendi kendini düzenlemesi konusunda şüpheci olduğunu söyledi Emine Fazlullahteknoloji politikaları direktörü Sağduyu Medyasıİnternette küçüklerin korunmasını destekleyen bir kuruluş.
Fazlullah, “Özellikle reşit olmayanlarla ilgili olduğu için sosyal medyada pek işe yaradığını görmedik” dedi.
39 eyaletten ve Washington DC'den başsavcılar geçen Aralık ayında Character Technologies'e ve aralarında Anthropic, Meta, Apple, Microsoft, OpenAI, Google ve xAI'nin de bulunduğu diğer 12 teknoloji şirketine bir mektup göndererek onları sohbet robotlarından eyalet yasalarını ihlal edebilecek yanıltıcı ve manipülatif mesajların yükselişine karşı uyardı.
“Tıp lisansı olmadan ruh sağlığı danışmanlığı sağlamanın yasa dışı olduğunu ve bunu yapmanın mesleğe olan güveni zedeleyebileceğini ve insanları gerçek profesyonelleri aramaktan caydırabileceğini” belirttiler.
Character Technologies halihazırda çocuk güvenliğiyle ilgili birçok davayla karşı karşıya kaldı.
Ocak ayında, Kentucky Şirkete karşı bir tüketici koruma davası açarken, Google ve Character Technologies, bir chatbot'un genç oğlunu kendi canına kıymaya teşvik ettiğini iddia eden bir annenin açtığı davayı mahkeme dışında çözmeyi kabul etti.
Geçen yılın sonunda Character.AI, chatbotlarının küçükler tarafından kullanılmasını yasakladı.
Bir yanıt yazın