Washington. Elon Musk'un yapay zeka sohbet robotu Grok, diğerlerinin yanı sıra, küçüklerin açıklayıcı görüntülerini yapay zeka (AI) yardımıyla oluşturma olasılığına yönelik eleştirilerin ardından hatalarını kabul etti. AI, Platformda yaptığı bir paylaşımda “Güvenlik önlemlerimizdeki zayıflıklar tespit edildi” dedi. “Çocuk pornografik materyallerin dağıtımı yasa dışı ve yasaktır” dedi. AI sohbet robotu, müstehcen fotoğraflar üreterek X kullanıcıları arasında öfkeye ve büyük eleştirilere neden oldu.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Sorunlu içerik: etkilenen resimlerin ve küçüklerin ifşa edilmesi
Kullanıcılar şu anda Grok'tan insanların açıklayıcı görsellerini oluşturmasını isteyebiliyor. Sınırlar da aşıldı: Yeni yıl arifesinde chatbot, “cinselleştirilmiş kıyafetler içindeki” iki genç kızın resmini oluşturup paylaştığı için özür diledi. Grok, X'e şunları yazdı: “Bu, güvenlik önlemlerimizin başarısızlığıydı ve verdiğim zarardan dolayı özür dilerim.”
Başka bir gönderide, “kullanıcıların küçük giyimli küçüklerin AI tarafından oluşturulan görüntülerini talep ettiği ve aldığı” münferit vakaların olduğu açıklandı.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Grok'un hatalarına kullanıcılardan ve yetkililerden tepkiler
Basında çıkan haberlere göre kadınların da deepfake denilen saldırılardan etkilendiği söyleniyor. Politico'ya göre Paris savcılığı şu anda cinselleştirilmiş deepfake'lerin yayılmasını araştırıyor. Buna göre iki Fransız milletvekili, Grok'un binlerce deepfake oluşturması üzerine savcılığa başvurdu.
Yapay zeka sohbet robotu Grok: Nasıl çalışır ve riskler
Grok kullanarak görüntüler oluşturur Metinden Görüntüye Yapay Zekametin ve görsellerden oluşan büyük veri kümeleri üzerinde eğitilen bir derin öğrenme yöntemi. Kullanıcılar yapay zekadan belirli açıklamalara göre görüntüler oluşturmasını isteyebilir. Güvenlik filtreleri sorunlu içeriği tespit etmek ve engellemek için tasarlanmış olsa da birçok durumda bu filtreler atlanmıştır. Bu durum, reşit olmayan kişilerin tasvirlerinin ortaya çıkmasına yol açtı; bu, yürürlükteki yasaların ve etik standartların ihlali anlamına gelir.
Etik tartışma: Yapay zeka, derin sahtekarlıklar ve sorumluluk
Böyle bir olaydan sonra kendinize şu soruyu sorabilirsiniz: AI sağlayıcılarının etik sınırları ve sorumlulukları yer. Eleştirmenler, yapay zeka hizmetlerinin yalnızca teknik araçlar olmadığını vurguluyor; sosyal sorumluluk taşımak. Deepfake'lerin hızla yayılması psikolojik, sosyal ve hukuki sonuçları örneğin itibarın zedelenmesi veya çocuk pornografisi yoluyla.
Bir yanıt yazın