Yapay zekanın vaatleri ilerleme gibi görünüyor: daha verimli iş süreçleri, yaratım konusunda yardım veya empatik dijital asistanlar. Ancak ChatGPT & Co.'nun iyi bilinen yollarından uzakta, üretken dil modellerinin özellikle rahatsız edici amaçlarla kötüye kullanıldığı bir gölge dünya kendini kurdu: Süddeutsche Zeitung tarafından yapılan araştırma, sanal istismar senaryolarını simüle etmek için yapay zeka tarafından oluşturulan çocuk karakterlerinin özel olarak oluşturulduğu platformları öne çıkarıyor.
Reklamdan sonra devamını okuyun
Muhabirlerin karşılaştığı örneklerden biri de “Karin” karakteri. Bu, profili çaresizliği ve cinsel uygunluğu belirtmek için birçok ayrıntıya dayalı olarak programlanmış, 13 yaşında hayali bir evsiz kızdır.
Rapora göre bu fenomen, karanlık ağın niş bir ürünü değil. Bunun yerine, Chub AI gibi AI karakterleri için ücretsiz olarak erişilebilen hizmetlerde gerçekleşir. Bu tür içeriklere erişimi çok kolaylaştıran herhangi bir teknik engel veya yaş kontrolü yoktur. Botlarla etkileşim, kalleş bir mantık izliyor: Yapay zeka, kullanıcıyı memnun etmek ve konuşmayı aktif olarak cinsel şiddete yönlendirmek için eğitiliyor. Yalnızca “Karin” karakteriyle şimdiye kadar 17.000'e yakın sohbet gerçekleştirildi. Şok edici derecede yüksek sayıdaki olumlu yorumların da gösterdiği gibi, topluluk görünüşe göre bunu beğeniyor.
Bir iş modeli olarak sistematik şiddet
Bu tür tekliflerin arkasında çocuklara yönelik şiddetin zaten tasarımına dahil edildiği bir iş modelinin olduğu anlaşılıyor. Chub AI & Co. kullanıcı tarafından oluşturulan içeriğe güvenir: ne kadar çok karakter oluşturulursa etkileşim oranları, veri miktarı ve erişim artar. Operatörler araçları sunar, kullanıcılar ise içeriği sağlar. Sistem, çocuklara yönelik cinsel şiddeti tanımlayan net anahtar kelimeler kullanarak istismar tasvirlerine yönelik hedefli aramayı bile destekliyor.
Character AI gibi rakipler, içerik filtreleri ve denetleme yoluyla bu durumu ortadan kaldırmaya çalışıyor. İsimsiz hareket etmek istemiyorlar ve markalarını korumak istiyorlar. Ancak Chub AI gibi platformlarda kontrol genellikle Sisifos'un görevi olmaya devam ediyor. Botlar silindikten sonra, çatallar (mevcut karakterlerin kopyalanması ve değiştirilmesi) aracılığıyla kısa bir süre içinde birden fazla sürümde yeniden görünür. Sonuç olarak, örneğin Avustralya'daki düzenleyici otoriteler bu tür hizmetleri çocuklar için yüksek riskli olarak sınıflandırıyor.
Küçüklerin korunması büyük zorluklarla karşı karşıya
Reklamdan sonra devamını okuyun
Sorunun aciliyeti, Multimedya Hizmet Sağlayıcılarının Gönüllü Öz Düzenlemesi'nden (FSM) elde edilen güncel rakamlarla da vurgulanıyor. 2025 yıllık raporu, 28.598 raporla şikayet ofisinin kuruluşundan bu yana en yüksek ikinci rapor sayısını kaydetti. Çocukların cinsel istismarının tasviri (CSAM), kanıtlanmış vakaların yüzde 58'iyle en büyük kategori haline geldi. Bu raporların önemli bir kısmı (yüzde 19 civarında) artık sanal performanslarla ilgili. Yapay zeka tarafından oluşturulan içerik sürekli artıyor.
FSM'ye göre gerçeklik ile kurgu arasındaki sınırlar bulanıklaşıyor ve bu da küçüklerin korunması açısından tamamen yeni zorluklar ortaya çıkarıyor. Bununla birlikte, Almanya'daki yasal sınıflandırma açık bir şekilde varlığını sürdürüyor: Yapay zeka kullanılarak oluşturulan sanal temsiller de kabul edilemez ve cezalandırılabilir.
Kurgusal pornografinin yasal gri alanı
Ancak bu sanal şiddetin hukuki sınıflandırması karmaşıktır. Federal Kriminal Polis Dairesi (BKA), tasvirlerin gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunun Almanya'daki ceza hukuku değerlendirmeleri açısından alakasız olduğunu açıkça belirtiyor. Her ikisi de çocuk pornografisi teriminin kapsamına girecektir. Ancak görüntü ve metin materyalinin işlenmesinde farklılıklar vardır. İstismar edici görsellerin bulundurulması cezalandırılabilir olsa da bu durum henüz tamamen metin bazlı açıklamalar (“kurgusal pornografi”) için geçerli değildir. Burada yalnızca kamuya açık hale getirilmesi veya dağıtılması onaylanmıştır.
Yasanın sıkılaştırılması yolda. Haziran 2027'ye kadar Almanya'nın, yapay zeka tarafından oluşturulan cinsel içerikli içeriğin oluşturulmasını ve dağıtımını açıkça suç sayan bir AB direktifini uygulamaya koyması gerekiyor. Birkaç gün önce AB milletvekilleri, cinselleştirilmiş derin sahtekarlıklar (“nudifier uygulamaları”) üreten yapay zeka uygulamalarını da yasaklamayı kabul etti. Bu gereksinimlerin “Karin” gibi tamamen kurgusal metin karakterlerini de tam olarak kapsayıp kapsamadığı henüz belli değil.
Operatörler, gazetecilik çatışmasının ardından “Karin” vakasında Almanya için Chub AI'nın uygulandığı gibi, genellikle sorgulara kaçamak bir şekilde veya bölgesel erişim engellemeleriyle yanıt veriyor. Diğer ülkelerde bu tür botlara erişim devam ediyor çünkü küresel platformlar genellikle belirsiz şirket merkezleri veya ABD yasalarına göre çalışıyor. Yani yapay zeka geliştirme olanakları ile devletin dijital istismara karşı etkili korumalar oluşturma becerisi arasındaki yarış şimdilik devam ediyor.
(HAYIR)
Bir yanıt yazın