Aldatıcı derecede gerçekçi görünen filmlerin ve insan görüntülerinin bilgisayar teknolojisi kullanılarak oluşturulması giderek daha kolay hale geliyor. Yaygın olarak kullanılan yapay zeka modellerinin performansı hızla artıyor ve sonuçlar artık gerçek film yapımlarıyla rekabet edebilecek durumda. X gibi platformlarda kolay kullanılabilirlik nedeniyle kötüye kullanım da artıyor.
Reklamdan sonra devamını okuyun
Faillerin yapay zeka araçlarını kullandığı bilinen dolandırıcılık girişimleri vardır. Dolandırıcılık kastından dolayı zaten cezalandırılıyorlar. Özel kişilerin görsellerinin yapay zeka unsurlarıyla birlikte veya deepfake olarak adlandırılan saf yapay zeka ürünleri olarak kötüye kullanılması söz konusu olduğunda hukuki durum daha az nettir.
Cezai sorumluluk boşluğuna ilişkin tartışma
Almanya'da, pornografik derin sahtekarlıklara yönelik olası cezai sorumluluk açığına ilişkin tartışma, aktris Collien Fernandes'in geçen hafta eski kocası Christian Ulmen'e yönelik iddiaları kamuoyuna açıklamasının ardından yeniden alevlendi.
Diğer şeylerin yanı sıra, yapay zeka sağlayıcılarının ve platform operatörlerinin daha fazla sorumlu tutulmasının gerekip gerekmediği sorusu yoğun bir şekilde tartışılıyor. Ne Almanya'da ne de Avrupa'da şu ana kadar bu tür eylemlere karşı etkili bir koruma sağlanamadı; ancak bu, faillerin halen yargılanamayacağı anlamına gelmiyor. Ancak pratikte bunu başarmanın zor olduğu görülüyor.
Şu ana kadar çeşitli düzenlemeler renkli bir bulmaca haline geldi. Özellikle genel kişilik hakları bugüne kadar hukuki seçeneklerin merkezinde yer almıştır. Bununla birlikte, çıkarma hakkı ve daha sonra dağıtımdan kaçınma hakkı, Avrupa hukuk alanının dışından faaliyet gösteren operatörlere ve yazarlara karşı pratikte pek uygulanamaz. Ayrıca, kaldırma talebinde bulunan herkesin kanıt sunması gerekmektedir.
Cinsel içerikli deepfake içeriklerinin çoğu gerçek isimler altında yayınlanmıyor; sağlayıcıdan bunları kimin yüklediğine dair bilgi almak da gerçekte sıklıkla başarısızlıkla sonuçlanıyor. Ve diğer seçenekler de söz konusu olamaz: Telif hakkıyla korunan eserlerin kullanımı yasanın ihlali veya orijinal görüntünün bozulması olabilir. Ancak gerçekçi olmak gerekirse, bu temele dayanan iddiaların uygulanması pek mümkün değildir.
Deepfake'lerde ceza hukuku boşlukları
Reklamdan sonra devamını okuyun
2024 yılında Bavyera eyaleti, Federal Konsey aracılığıyla Ceza Kanunu'nun 201b numaralı yeni paragrafı için düzenleme önerisi sundu: “Dijital sahtecilik yoluyla kişilik haklarının ihlali.” Sistematik olarak bu, “fotoğraf çekmek suretiyle yaşamın en kişisel alanının ve kişilik haklarının ihlali”ne hapis veya para cezası öngören §201a'nın düzenleyici içeriğini takip edecektir. Federal Adalet Bakanlığı'nın (BMJV) beklenen teklifiyle başlamak istediği yer tam da burasıdır.
Bavyera'nın 2024 tarihli teklifi, “gerçekçi görüntü veya ses kayıtları” görünümü vermesi durumunda, “bilgisayar teknolojisi kullanılarak üretilen veya değiştirilen medya içeriğinin” erişilebilir hale getirilmesiyle ilgiliydi. Bu tanım çok geniş kapsamlıdır ve BMJV'nin mevcut formülasyonunda tekrarlanmamalıdır.
Bir sorun da varlığını sürdürecektir: Bu tür bir yaratım hâlâ ceza hukuku açısından cezalandırılamaz. Cezai sorumluluk yalnızca dağıtımdan (örneğin, mesajlaşma yoluyla gönderme veya platformlara yükleme) doğar. Bu, birinin kendi cihazında fotoğraf veya video materyaliyle yerel olarak yaptığı ve bunları oraya kaydettiği işlemleri içermez.
Yaratılış cezalandırılmalı
Federal Adalet Bakanı Stefanie Hubig (SPD) artık bunu değiştirmek istiyor. Suçun, cinselleştirilmiş deepfake'lerin oluşturulmasıyla zaten işlendiği ve bu nedenle yargılanabileceği söyleniyor. İlgili materyali elde etmek ve bulundurmak da cezalandırılacaktır, aktif olarak dağıtmamak.
Yeni bir §201b StGB'nin §201a sistemini takip etmesi halinde, bunun normalde başvuru suçu olarak adlandırılan bir suç olması da beklenir: etkilenenlerin – çoğu durumda kadınların – daha sonra cezai kovuşturma için başvuruda bulunması gerekir. Sadece istisnai durumlarda kamu yararına dayalı kovuşturma mümkün olabilir. Bununla birlikte Hubig, cezai sorumluluğun caydırıcı etkisine güvenmektedir.
Ancak gelecekte deepfake'lerin oluşturulmasını ve dağıtımını düzenleyen herhangi bir ceza kanununun, deepfake'e gerçekten izin verilip verilmediği açısından her zaman dikkate alınması gerekecek. Cinselleştirilmiş temsiller alanında yasal bir kullanım şekli nadiren söz konusu olsa da, bazen tatsız olan hicivli katkılarda bu çok daha mümkündür. Ceza hukuku ayrıca kasıtsız ikincil zararları büyük ölçüde ortadan kaldırmak için medya, sanat ve bilim özgürlüğü arasında ince bir çizgi çekmelidir.
Bu arada, sağlayıcıların kendileri Alman yerel mevzuatının dışında bırakılıyor: sağlayıcılara yönelik sorumluluk düzenlemeleri nihai olarak Avrupa yasalarına göre düzenleniyor – Dijital Hizmetler Yasası (DSA) burada özellikle rol oynuyor. Ancak Ceza Kanunu'nda yapılacak bir düzenleme belki hizmet sunucularını buraya da daha hızlı müdahale etmeye zorlayabilir: ihbar kanalları aracılığıyla bildirilen suçların hizmet sunucuları tarafından kontrol edilmesi gerekmektedir.
Ayrıca delilleri korumak için hizmet sunucuları ile savcılar arasında yerleşik prosedürler kullanılabilir; bu da gelecekte faillerin kovuşturulması yönündeki baskıyı artırabilir. Ancak burada da pek çok şey platformların işbirliği yapma isteğine bağlı. Halihazırda eleştirilen içeriğin yeniden yayınlanmasını engelleyip engellemeyeceklerini güvenilir bir şekilde tahmin etmek zordur.
AB'deki politikacıların ve denetleyici otoritelerin, üretken yapay zeka modellerini işletenlerden, eğer modelleri bu amaç için kullanılacaksa, cinselleştirilmiş içerik oluşturulmasını en başından itibaren engellemelerini talep etmelerinin sadece bir nedeni.
(vbr)
Bir yanıt yazın