Florida, Pazartesi günü OpenAI ve genel müdürü Sam Altman'a, San Francisco teknoloji şirketinin insanları popüler yapay zeka sohbet robotunun yarattığı tehlikeler hakkında bilgilendirmediğini iddia ederek dava açtı.
OpenAI, haftada 900 milyondan fazla kişi tarafından soruları yanıtlamak, metin oluşturmak ve diğer görevleri tamamlamak için kullanılan bir sohbet robotu olan ChatGPT'yi geliştirdi. Ancak 83 sayfalık davaya göre insanlar ChatGPT'yi toplu katliam planlamak, kendine zarar verme bilgileri elde etmek ve diğer zararlı eylemlerde bulunmak için de kullanıyor.
Florida 10. Yargı Dairesi'nde açılan dava, OpenAI'nin, yapay zekanın çocuklar ve gençler de dahil olmak üzere insanlara zarar verdiğine ve yeterli korumanın bulunmadığına dair artan endişelerle karşı karşıya olduğu bir dönemde geldi. Florida, OpenAI'yi güvenlik riskleri nedeniyle dava eden ilk eyalet oldu ve başkalarına zemin hazırladı.
Florida Avukatı, “İnsanlar inciniyor, ebeveynler aldatılıyor ve bunun bedelini ödemeleri gerekiyor” dedi. General James Uthmeier Pazartesi günü düzenlediği basın toplantısında şunları söyledi. “Ebeveyn kontrollerinin olduğundan ve çocuklarımızı tehlikeye atmadığımızdan emin olmak için çek defterlerini açarak ve programı değiştirerek bunun bedelini ödemeleri gerekiyor.”
OpenAI yaptığı açıklamada, yeni ebeveyn kontrolleri ve yaş tahmini gibi çabalara atıfta bulunarak ChatGPT'nin güvenliğini artırmak için çalıştığını söyledi.
Bir şirket sözcüsü yaptığı açıklamada, “Bir çocuğu kaybetmek, bir ailenin başına gelebilecek en yıkıcı trajedidir ve hiçbir kelimenin böyle bir kaybın acısını gidermeye yaklaşamayacağını biliyoruz.” dedi. “Yapay zeka yeni ve güçlü bir teknoloji ve reşit olmayanların önemli ölçüde korumaya ihtiyacı olduğuna inanıyoruz, bu nedenle sektör lideri koruma ve politikaları uygulamaya koyduk.”
İntiharı önleme ve kriz danışmanlığı kaynakları
Siz veya tanıdığınız biri intihar düşünceleriyle mücadele ediyorsa, bir profesyonelden yardım isteyin veya 988'i arayın. Ülke çapındaki üç haneli akıl sağlığı krizi yardım hattı, arayanları eğitimli akıl sağlığı danışmanlarıyla buluşturacaktır. Veya ABD ve Kanada'da Kriz Mesaj Hattına ulaşmak için “HOME” yazıp 741741'e mesaj gönderin.
Yıllardır teknoloji şirketleri, ürünlerinin tasarımı ve kullanımından kaynaklanan zararlardan sorumlu tutulup tutulmayacakları konusunda davalarla karşı karşıya kaldı. Ancak yapay zeka destekli sohbet robotlarının artan popülaritesi, özellikle gençler bu araçları okullarında ve evlerinde benimsedikçe güvenlik endişelerini artırıyor.
Kaliforniya'da yapay zekanın risklerine ilişkin endişeler arttı. 2025 yılında, ChatGPT ile konuştuktan sonra intihar ederek ölen Kaliforniyalı bir gencin ailesi, chatbotun 16 yaşındaki çocuğu kendi canına kıymaya teşvik ettiği iddiaları nedeniyle OpenAI'ye dava açtı. Bu dava Florida davasında yer alıyor.
Google da dahil olmak üzere diğer teknoloji şirketleri, chatbotların kişinin yanılgılarını körüklemede veya kendine zarar vermeyi teşvik etmede oynadığı iddia edilen rol nedeniyle davalarla karşı karşıya kaldı.
Kaliforniyalı milletvekilleri yapay zekayı daha güvenli hale getirmeyi amaçlayan yeni mevzuatı kabul etti ancak teknoloji şirketleri yeni düzenlemenin inovasyonu engelleyebileceğini söylüyor. Kaliforniya ve Delaware başsavcıları geçen yıl yapay zeka sohbet robotlarının çocuklara zarar verdiği yönündeki iddialarla ilgili endişelerini dile getirmişti.
Son davayla ilgili bir basın toplantısında Uthmeier, OpenAI ve Altman'ı, yapay zeka şirketi hızla ilerlerken kamu güvenliğinden ziyade kâra öncelik vermekle suçladı. Bu yıl Florida başsavcılığı, 2025 yılında Florida Eyalet Üniversitesi'nde iki kişinin ölümüyle sonuçlanan silahlı saldırıda ChatGPT'nin oynadığı rol nedeniyle OpenAI'yi araştırdığını duyurdu.
OpenAI daha önce üniversitedeki silahlı saldırının bir trajedi olduğunu ancak “ChatGPT'nin bu korkunç suçtan sorumlu olmadığını” söylemişti. Şirket, şüpheliyle bağlantılı olduğuna inandığı bir hesabı tespit ettikten sonra kolluk kuvvetleriyle proaktif olarak bilgi paylaştı.
Davaya göre OpenAI ve Altman, Florida yasalarını ihlal ederek ebeveynleri ChatGPT'nin güvenli olmadığı halde güvenli olduğunu düşünmeleri için kandırdı.
Uthmeier, çeşitli eyaletlerdeki birçok vakayı gündeme getirerek, insanların ChatGPT'yi silahlı saldırılarda, intiharlarda ve diğer ölüm türlerinde kullandıklarını özetledi; bunlardan biri aşırı dozda uyuşturucuyu da içeriyordu. ChatGPT'nin “bağımlılık yapıcı” olabileceğini çünkü insan empatisini taklit ettiğini ve kullanıcıları yapay zeka sohbet robotuna daha fazla bilgi sağlama konusunda kandırdığını söyledi.
Uthmeier, “Bugün OpenAI'ye bir mesaj göndereceğiz: Bir mücadeleye hazırlanın ve şu anda bundan daha önemli bir şey yok” dedi.
Bir yanıt yazın