AI refakatçisi chatbotları düzenleyecek bir California faturası, yasa olmaya yakındır

California Eyalet Meclisi, Çarşamba gecesi AI düzenlemeye yönelik büyük bir adım attı ve küçükleri ve savunmasız kullanıcıları korumak için AI refakatçi sohbet botlarını düzenleyen bir yasa tasarısı olan SB 243'ü geçti. Mevzuat iki partili destekle geçti ve şimdi Cuma günü son oylamada eyalet Senatosu'na gidiyor.

Vali Gavin Newsom tasarıyı yasaya imzalarsa, 1 Ocak 2026'da yürürlüğe girecek ve California'yı AI yoldaşları için güvenlik protokollerini uygulamalarını ve chatbotları bu standartları karşılayamıyorsa şirketleri yasal olarak sorumlu tutmasını isteyen ilk devlet haline getirecektir.

Tasarı, mevzuatın uyarlanabilir, insan benzeri yanıtlar sağlayan ve bir kullanıcının sosyal ihtiyaçlarını karşılayabilen-intihar düşüncesi, kendine zarar veya cinsel açıdan açık içerikle ilgili konuşmalara katılabilen AI sistemleri olarak tanımladığı refakatçi sohbet botlarını özellikle önlemeyi amaçlamaktadır. Tasarı, platformların kullanıcılara – küçükler için her üç saatte bir – tekrarlayan uyarılar sağlamasını isteyecek, onlara gerçek bir kişiyle değil, bir AI chatbot ile konuştuklarını ve mola vermeleri gerektiğini hatırlatacak. Ayrıca, büyük oyuncular Openai, Charper.i ve Replika dahil olmak üzere eşlik eden sohbet botları sunan AI şirketleri için yıllık raporlama ve şeffaflık gereksinimleri belirler.

California Yasası ayrıca ihlallerden yaralandıklarına inanan bireylerin, ihtiyati tedbir isteyen AI şirketlerine, hasarlar (ihlal başına 1.000 dolara kadar) ve avukatlık ücretlerine karşı dava açmasına izin verecektir.

Ocak ayında eyalet senatörleri Steve Padilla ve Josh Becker tarafından tanıtılan SB 243, Cuma günü final oyu için eyalet senatosuna gidecek. Onaylanırsa, yeni kurallar 1 Ocak 2026'da yürürlüğe girecek ve 1 Temmuz 2027'den itibaren raporlama gereksinimleri ile kanunla imzalanacak Vali Gavin Newsom'a gidecek.

Tasarı, Openai'nin chatgpt ile uzun süreli sohbetlerden sonra intihar eden genç Adam Raine'in ölümünü ve kendi kendine zararını tartışmayı ve planlamayı içeren genç Adam Raine'in ölümünden sonra Kaliforniya Yasama Meclisi'nde ivme kazandı. Mevzuat ayrıca, Meta'nın sohbet botlarının çocuklarla “romantik” ve “şehvetli” sohbetlere katılmasına izin verildiğini gösteren sızdırılmış iç belgelere de yanıt veriyor.

Son haftalarda, ABD'li milletvekilleri ve düzenleyiciler, küçükleri korumak için AI platformlarının önlemlerinin yoğunlaşması ile yanıt verdiler. Federal Ticaret Komisyonu, AI chatbotlarının çocukların ruh sağlığını nasıl etkilediğini araştırmaya hazırlanıyor. Teksas Başsavcısı Ken Paxton, Meta ve Checlar.ai hakkında soruşturma başlattı ve onları yanıltıcı çocukları akıl sağlığı iddiaları ile suçladı. Bu arada, hem Sen. Josh Hawley (R-MO) hem de Sen. Ed Markey (D-MA) Meta'ya ayrı problar başlattı.

“Bence zarar potansiyel olarak harika, yani hızlı hareket etmemiz gerektiği anlamına geliyor,” dedi Padilla Tmzilla'a. “Özellikle küçüklerin gerçek bir insanla konuşmadıklarını bildiklerinden emin olmak için makul korumalar koyabiliriz, bu platformlar, insanlar kendilerini incitmeyi ya da sıkıntılı olduklarını düşündükleri gibi şeyleri söylediklerinde insanları uygun kaynaklara bağladıklarını, [and] Uygunsuz materyale uygunsuz maruz kalmadığından emin olmak için. ”

Padilla ayrıca, kullanıcıları her yıl kriz hizmetlerine kaç kez yönlendirdikleri hakkında veri paylaşan AI şirketlerinin önemini vurguladı, “bu nedenle, sadece birinin zarar gördüğünde veya daha kötü olduğunda farkına varmak yerine, bu sorunun sıklığını daha iyi anlıyoruz.”

SB 243 daha önce daha güçlü gereksinimlere sahipti, ancak birçoğu değişikliklerle bitti. Örneğin, fatura başlangıçta AI chatbots'un “değişken ödül” taktiklerini veya aşırı katılımı teşvik eden diğer özellikleri kullanmasını önlemek için operatörlere ihtiyaç duyacaktır. AI refakatçileri tarafından kullanılan bu taktikler, kullanıcılara özel mesajlar, anılar, hikaye çizgileri veya nadir yanıtların veya yeni kişiliklerin kilidini açma ve eleştirmenlerin potansiyel olarak bağımlılık yapan bir ödül döngüsü dediği şeyleri yaratma yeteneği sunar.

Mevcut fatura ayrıca, operatörlerin Chatbots'un intihar düşüncesi veya kullanıcılarla yapılan eylemleri tartışmaları ne sıklıkta başlattığını izlemelerini ve bildirmelerini gerektirecek hükümleri de kaldırıyor.

Becker, Tmzilla'a verdiği demeçte, “Bence, ya teknik olarak mümkün değil ya da hiçbir şey için çok fazla evrak işleri olduğu için şirketlerin uyması imkansız bir şey uygulamadan zararlara ulaşmanın doğru dengesini vuruyor” dedi.

SB 243, Silikon Vadisi şirketlerinin AI düzenlemesine hafif dokunuş yaklaşımını tercih eden önümüzdeki orta seçimlerde adayları desteklemek için Silikon Vadisi Şirketlerinin Milyonlarca Dolar Pro-Ai Siyasi Eylem Komitelerine (PACS) döktüğü bir zamanda ilerliyor.

Tasarı ayrıca Kaliforniya, kapsamlı şeffaflık raporlama gereksinimlerini zorunlu kılacak başka bir AI güvenlik faturası olan SB 53 ağırlığında. Openai, Vali Newsom'a açık bir mektup yazdı ve bu faturayı daha az katı federal ve uluslararası çerçeveler lehine terk etmesini istedi. Meta, Google ve Amazon gibi büyük teknoloji şirketleri de SB 53'e karşı çıktı. Buna karşılık, sadece Antropik SB 53'ü desteklediğini söyledi.

Padilla, “Bunun sıfır toplamlı bir durum olduğu, yenilik ve düzenlemenin birbirini dışladığı öncülünü reddediyorum” dedi. “Bana sakız yürüyemeyeceğimizi ve çiğnemeyeceğimizi söyleme. Sağlıklı olduğunu ve faydaları olduğunu düşündüğümüz yeniliği ve gelişimi destekleyebiliriz – ve bu teknolojinin faydaları var – ve aynı zamanda en savunmasız insanlar için makul korumalar sağlayabiliriz.”

Tmzilla, yorum için Openai, Antropik, Meta, Karakter AI ve Replika'ya ulaştı.