OpenAI, Dall-E tarafından oluşturulan görüntüleri tespit etmek için bir araç başlattı

Yapay zeka tarafından oluşturulan görüntüler giderek daha gerçekçi hale geldikçe, gerçeği sahteden ayırt edecek bir araca olan ihtiyaç gerçekten ilgi çekici hale geliyor. OpenAI, Dall-E ile oluşturulan görüntüleri tanımlamanıza olanak tanıyan bir tane geliştirdi.

Yapay zeka tarafından oluşturulan görüntüleri çıplak gözle tespit etmek giderek zorlaşıyor. Bir elin gerçek olup olmadığını anlamak için sadece parmak sayısını saymanız gereken günler geride kaldı… Sorun şu ki, bu yapay zeka modelleri sadece sevimli kedi resimleri oluşturmuyor; kamuoyunu manipüle etmek için kullanıldı.

Güvenilirlik sorunu

Bu büyük seçim yılında konu daha da önem kazanıyor (dünyanın yarısı sandık başına çağrılıyor!). Geçtiğimiz Şubat ayında yapay zeka operatörleri, örneğin filigran sistemleri geliştirerek demokrasiyi yapay zekanın kötüye kullanılmasına karşı koruma taahhüdünde bulundu.

Demokrasiyi yapay zekanın kötüye kullanılmasına karşı korumak: teknoloji devlerinden iyi görünmeye yönelik bir anlaşmayı okuyun

OpenAI, Dall-E 3 tarafından oluşturulan görüntüleri %98 güvenilirlikle tespit etmesine olanak tanıyan bir araç başlattı. Bu görüntüler oluşturulduktan sonra değiştirilmediyse kırpılarak veya değiştirilerek. Görseller düzenlendiğinde veya ekran görüntüsü olarak paylaşıldığında araç “ biraz » daha az etkili, yine de kesin tanımlamayı başarabileceğini garanti eden şirketi kabul ediyor.

OpenAI ayrıca vakaların %0,5'inde aracın yanlışlıkla Dall-E tarafından üretilen “normal” görüntüleri (AI tarafından üretilmeyen) etiketlediğini belirtiyor. Diğer modeller tarafından oluşturulan görüntülerin tanımlanması söz konusu olduğunda araç genellikle kafa karıştırıcıdır.

Dall-E'nin de arkasında yer alan ChatGPT'nin yaratıcısı, sahte dedektörünü dışarıdan araştırmacılara açarak güvenilirliğini artırmayı umuyor. Filigranlara dayanmayan araç aylardır test ediliyor. Her durumda, zamanla güvenilirliğini kanıtlaması gerekecek: OpenAI tarafından ChatGPT'nin piyasaya sürülmesinden kısa bir süre sonra önerilen, yapay zeka tarafından yazılan metinlerin algılayıcısı, zamanın dörtte üçünde çöküyor…

🔴 01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.

Kaynak :

Wall Street Dergisi