Yeni Delhi, Delhi Yüksek Mahkemesi Perşembe günü Merkeze, Merkezi hükümetin artan deepfake teknolojisi tehdidine karşı aldığı önlemler hakkında bir durum raporu sunması talimatını verdi.
Baş Yargıç Manmohan ve Yargıç Tushar Rao Gedela ayrıca raporun hükümet düzeyinde alınan önlemleri ve çözüm önerecek yüksek güçlü bir komitenin olup olmayacağını vurgulamasını istedi.
Mahkeme, deepfake teknolojisinin düzenlenmemesine karşı iki dilekçeyi dinlerken, bunun yetkililer tarafından “öncelikli” olarak ele alınması gereken “çok ciddi bir sorun” olduğunu söyledi.
Bank, “Ne yapıyorsunuz? Deepfake'ler her geçen gün artıyor… Sektördeki insanların bazı girişimlerde bulunmaya başlamasına ve tüketiciler arasında bu konuda farkındalık yaymaya başlamasına sevindim” dedi.
Deepfake teknolojisi, bir kişinin benzerliğini bir başkasının üzerine koyarak, sözlerini ve eylemlerini değiştirerek izleyicileri yanıltmak, böylece yanlış bir anlatı sunmak veya yanlış bilgi yaymak suretiyle manipüle edilebilecek gerçekçi videolar, ses kayıtları ve görseller oluşturulmasına olanak tanır.
Mahkeme, insanların ihtiyaç duyması nedeniyle yapay zekanın yasaklanamayacağını gözlemledi.
“Teknolojinin olumsuz kısmını kaldırıp, olumlu kısmını korumamız gerekiyor” diye ekledi.
Yüksek mahkeme ayrıca, uçuşlarda artan sayıda sahte bomba tehdidinin altını çizerek, hükümetin bir uzman komitesi kurup kurmadığını ve eğer öyleyse üyelerinin kim olduğunu sordu.
Kurul, “Temiz cevaplar istiyoruz. Ciddi bir komite olması gerekiyor” dedi.
Merkezi temsil eden ek başsavcı, sendika Elektronik ve Bilgi Teknolojileri Bakanlığı'nın konuyu araştırdığını söyledi.
Dilekçe sahiplerinden birinin avukatı, birçok ülkenin konuyla ilgili mevzuat çıkardığını ve Hindistan'ın bu konuda çok geride kaldığını ifade etti.
Deepfake'lerin çoğunun, çıplaklık da dahil olmak üzere kadınlarla ilgili olduğunu ve yetkililerin sorunu çözemediğini söyledi.
Hükümetin aracılara faydası olmayan genel tavsiyelerde bulunduğu belirtildi.
Mahkeme, durum raporunun sunulması için Merkez'e üç hafta süre tanıdı ve duruşmayı 21 Kasım'a gönderdi.
Yüksek mahkeme daha önce yapay zekanın panzehirinin teknoloji olduğunu belirtmişti.
Deepfake'lere erişim sağlayan ve bu tür platformları engelleyen web sitelerine yanıt olarak MeitY, internetteki herhangi bir çevrimiçi içeriği suo motu esasına göre izleme yetkisine sahip olmadığını söyledi.
“İnternetteki her türlü içerik/URL/web sitesi yalnızca belirlenmiş yasal prosedür uyarınca engellenebilir” denmişti.
Gazeteci Rajat Sharma, bu tür içeriklerin oluşturulmasını sağlayan uygulama ve yazılımlara kamu erişiminin engellenmesi yönünde talepte bulundu ve talimat istedi. Deepfake teknolojisinin, dezenformasyon kampanyaları da dahil olmak üzere toplumun çeşitli yönlerine yönelik önemli bir tehdit oluşturduğunu ve kamusal söylemin ve demokratik sürecin bütünlüğünü baltaladığını söyledi.
Diğer dilekçe ise avukat Chaitanya Rohilla tarafından deepfake ve yapay zekanın düzensiz kullanımına karşı açıldı.
Bakanlık, cevabında, zararlı uygulamaların ve yasa dışı içeriğin yaygınlaşmasına karşı çeşitli adımlar attığını söyledi.
Açık, güvenli, güvenilir ve hesap verebilir bir dijital ekosistem sağlamak amacıyla Dijital Kişisel Verilerin Korunması Yasası 2023'ün tebliğ edildiği belirtildi.
Sharma'dan PIL, Merkezin Kasım 2023'te deepfake ve sentetik içerikle mücadeleye yönelik düzenlemeyi formüle etme niyetinde olduğuna dair bir açıklama yaptığını ancak bunun henüz gün ışığına çıkmadığını söyledi.
Bu nedenle PIL, derin sahtekarlık oluşturulmasını sağlayan uygulamalara, yazılımlara, platformlara ve web sitelerine kamu erişiminin belirlenmesi ve engellenmesi için Merkez'e talimat istedi.
Savunmada, hükümetin tüm sosyal medya aracılarına, şikayet üzerine deepfake içeriklerinin derhal kaldırılması yönünde bir talimat yayınlaması talep edildi.
Bu makale, metinde değişiklik yapılmadan otomatik bir haber ajansı akışından oluşturuldu.
Bir yanıt yazın