2024 yılında yapay zeka çağında ilk büyük seçimler gerçekleşecek olsa da OpenAI, şirketin seçim sürecinde yapay zeka araçlarının (ChatGPT, Dall-E) kötüye kullanılmamasını nasıl sağlamayı planladığını açıklayan bir blog makalesi yayınladı.
Seçmenleri kandırmaya yönelik video veya görseller oluşturmak, belirli bir adayı elemek için kitlesel deepfakeler geliştirmek, seçmenlerin doğruyu yanlıştan ayırt edememesini sağlamak… Yapay zeka çağında seçimler nasıl olacak? Amerika Birleşik Devletleri'nde olduğu gibi Fransa'da da yapay zekayı kullanarak rakiplerini karalamaya çalışan birkaç politikacı vakası olsaydı, bu araçların sorunlu kullanımlarının artması gerekirdi. Özellikle bu yıl çok sayıda seçim yapılacak olduğundan. ABD Başkanlık ve MEP seçimlerinin yanı sıra İngiltere, Hindistan, Güney Afrika, Endonezya ve Meksika'da da önemli anketler yapılması planlanıyor.
Bu önemli oylamalar da özel olacak çünkü artık ChatGPT, Bard veya Dall-E gibi üretken yapay zeka araçları tüm seçmenlerin ve bunları kendi davalarını savunmak ve itibarlarını zedelemek için kullanmak isteyen tüm politikacıların erişimine açık olacak. rakipler. Demokrasiyi zayıflatabilecek geniş çaplı bir deneyin oyun alanı olmaya yetecek kadar. Ve eğer bu birçok araştırmacıyı endişelendirecek bir şeyse, OpenAI 15 Ocak Pazartesi günü bu konuyla ilgili bir blog yazısı yayınlayarak öncülük etti.
Ayrıca okuyun: Yapay zeka siyasi tartışmayı mahvedecek ve kendimizi bundan koruyacak hiçbir aracımız yok
ChatGPT'nin arkasındaki şirket, kötüye kullanımı önlemeyi planladığını söyledi. Yapay zeka tarafından oluşturulan içeriğin şeffaflığı ve doğru oylama bilgilerine gelişmiş erişim “. Dezenformasyon söz konusu olduğunda, yapay zeka araçları geliştiren şirketlerin iki ana sorunla yüzleşmesi gerekiyor: Sistemlerin yanıtlarında yanlış bilgi üretmemesini nasıl sağlayacaklar? Geçen Aralık ayında Amerikan medyası kablolu Microsoft'un yapay zeka sohbet robotu Copilot'un seçimlerle ilgili soruları yalnızca aktarım yoluyla yanıtladığını, bunu destekleyen araştırmalar da gösterdi ” komplo teorileri, sahte skandallar ve yalanlar “. Buna göre yapay zekanın kullanılmasını nasıl engelleyebiliriz” demokratik sürece zarar verebilecek şekilde » ?
Aday görselleri oluşturmak yasaktır
OpenAI öncelikle belirli kullanıcı isteklerini engellediğine dikkat çekiyor. Bu yüzden, “ Tasarımcıların gerçek kişiler (örn. adaylar) veya gerçek kurumlar (örn. yerel yönetim) gibi görünen sohbet robotları oluşturmalarına izin vermiyoruz. “. Aynı şekilde, ” Dall-E, adaylar da dahil olmak üzere gerçek kişilerin görsellerinin oluşturulmasına yönelik talepleri reddetmeye yönelik güvencelere sahiptir “. Aynı zamanda İnternet kullanıcılarının, seçmenleri demokratik sürece katılmamaya ikna etmek için sistemlerini kullanmasına da izin vermiyor.
Şirket, kendisini özellikle ihtiyatlı olarak tanıtıyor ve arayışında olduğunu kabul ediyor “ Araçlarımızın kişisel ikna açısından etkinliğini henüz anlayamadık. Daha fazlasını öğrenene kadar insanların siyasi kampanyalara ve lobi faaliyetlerine yönelik uygulamalar oluşturmasına izin vermiyoruz “.
Ayrıca okuyun: Yakında sosyal ağlarda “Yapay Zeka tarafından oluşturulan içerik”ten bahsedilecek mi?
Dall-E tarafından oluşturulan videolar ve resimler için filigranlar
OpenAI ayrıca şunlara güvendiğini de açıklıyor:Kullanıcıların seçimler boyunca yüksek kaliteli bilgilere erişmesini sağlamak için doğrulanmış bilgi ve görsel orijinallik programlarımız “. Bunu yapmak için şirket, görüntüler ve videolar için Dall-E ile hangi fotoğrafların çekildiğini tespit edecek yeni bir araçla denemeler yapmak üzere olduğunu belirtiyor. “Kaynak sınıflandırıcısı”. Bu araç zaten geçen Ekim ayında duyurulmuştu.
Sam Altman'ın şirketi aynı zamanda sektördeki şirketlerin koalisyonu tarafından belirlenen bir sistemi de uygulayacağını açıklıyor: “ İçeriğin kaynağı ve özgünlüğü için koalisyon “. Bu, Dall-E 3 tarafından oluşturulan bir görüntüye otomatik olarak bir işaret veya simge eklenmesini içerecektir. Bu tür bir işaretlemeyle, yapay zeka tarafından oluşturulan görüntüleri orijinal olanlardan ayırmak daha kolay olacaktır. Metin ve bilgi içeriği tarafında OpenAI şunu vurguluyor: dünyanın dört bir yanından gelen gerçek zamanlı bilgileri ChatGPT'ye entegre edecek, “ atıf ve bağlantılar dahil », şirketi ekledi.
En son olaylar veya seçim sonuçlarına ilişkin güncel yanıtlar oluşturmayı mümkün kılan sürekli bilgiye erişim sağlamak için OpenAI, Amerikan ve Alman medyasıyla (Axel grubu Springer gibi) imzalanan anlaşmalara dayanacaktır. New York Times'ın davaları duyurmasından birkaç gün sonra şirket, diğerlerinin müzakere altında olacağını açıkladı. Amerikan gazetesi onu, yüksek lisans öğrencilerini eğitmek için izinsiz olarak makalelerini yağmalamakla suçluyor. Blog yazısında belirtilen son maddede OpenAI, ChatGPT kullanıcılarını Amerika Birleşik Devletleri'ndeki oy verme ve seçimlerle ilgili referans bilgileri sağlayan CanIVote.org'a yönlendireceğini belirtiyor.
Ayrıca okuyun: OpenAI (ChatGPT) New York Times'ı yağmalamaktan kendini nasıl koruyor?
Hangi etkililik için?
Bu unsurların tümü etkili olacak mı? Pek çok kişi bundan şüphe duysa da böyle bir stratejiyi benimseyen tek kişi OpenAI değil. Google geçen Aralık ayında yapay zeka sohbet robotu Bard'a yapılan seçim taleplerini sınırlayacağına dair güvence vermişti. Facebook, Instagram ve WhatsApp'ın ana şirketi olan Meta, birkaç ay önce seçim kampanyalarında yapay zeka reklam araçlarının kullanımını yasaklamıştı.
Belirli bir metnin veya görselin yapay zeka tarafından üretilip üretilmediğini tespit etmeyi mümkün kılan dijital filigranlar üzerinde çalışmak da Google ve Meta'da hazırlık aşamasında. DeepMind tarafı vurgulandı SGoogle'ın geçen ay bildirdiğine göre, AI tarafından oluşturulan görüntü ve seslerin dijital filigranlanmasına olanak tanıyan ynthID. Meta ayrıca yapay zekası tarafından oluşturulan herhangi bir görüntü için bu görünmez işaretlemeyi de tercih etti. Bu unsurlar kullanımların ve teknolojinin gelişimine göre gelişebilir.
Ayrıca okuyun: Ordu tarafından kullanılan ChatGPT? OpenAI artık bunu açıkça yasaklamıyor
🔴 01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Kaynak :
OpenAI blog yazısı
Bir yanıt yazın