OpenAI, yetişkin ChatGPT kullanıcıları için isteğe bağlı bir koruma özelliği sunar. Kendine zarar vermeyle ilgili chatbot konuşmaları ciddi bir riske işaret ederse bilgilendirilecek bir sırdaş atayabilirsiniz.
Reklamdan sonra devamını okuyun
Güvenilen kişi reşit olmalıdır ve görevini açıklayan bir davet alacaktır. Reddederse kullanıcı başka bir yetişkini aday gösterebilir.
Sistem, kendine zarar veren chatbot konuşmaları tespit ederse, ChatGPT, kullanıcılara güvenilen kişinin OpenAI tarafından bilgilendirilebileceği konusunda bilgi verir ve onları değişimi kendileri aramaya teşvik eder. Daha sonra özel eğitimli bir ekip vakayı inceliyor. Akut bir tehdit olduğu sonucuna varılırsa güvenilir kişi, uygun bir hesaba sahip olması koşuluyla e-posta, SMS yoluyla veya doğrudan ChatGPT uygulaması üzerinden bilgilendirilecektir.
Bildirimde hiçbir sohbet içeriği veya transkript paylaşılmayacaktır. Bunun yerine, kendine zarar vermenin potansiyel olarak endişe verici bir şekilde tartışıldığına dair genel bir gösterge ve kullanıcıya aktif olarak hitap etme talebi içerir.
Kullanıcılar, güvendikleri kişileri istedikleri zaman ayarlardan değiştirebilir veya kaldırabilir ve güvenilen kişi de diledikleri zaman abonelikten çıkabilir. Duyuruya göre OpenAI, güvenlik raporlarını bir saatten kısa sürede incelemeyi hedefliyor.
OpenAI, kendi destek sayfasında, bu işlevin çoğu ülke ve bölgede 18 yaş ve üzeri yetişkinler için mevcut olduğunu yazıyor. Yalnızca özel ChatGPT hesapları için etkinleştirilir.
OpenAI artan baskıya yanıt veriyor
Reklamdan sonra devamını okuyun
Bu yenilikle OpenAI, küçükler için benzer bir koruma işlevini yetişkinlere kadar genişletiyor. Bu, Eylül 2025'te uygulamaya konan gençliği koruma önlemlerine kadar uzanıyor. Bunun öncesinde de, Nisan 2025'te intihar eden 16 yaşındaki bir çocuğun ebeveynlerinin açtığı bir dava vardı. Ebeveynler, OpenAI'yi ChatGPT'nin yeterli koruyucu mekanizmalara sahip olmadığı ve genci intihar düşüncelerine teşvik ettiği için suçluyor. OpenAI iddiaları reddetti ve gencin chatbot'un güvenlik önlemlerini atlattığı söylendiğinden davayı ChatGPT'nin kötüye kullanılması olarak gördü.
ABD'de OpenAI'ye karşı bu türden başka davalar da var. Şirket bu tür iddialarla yalnız değil: Diğer sağlayıcılara da çocuklarının kendilerini yaraladığı veya uzun chatbot konuşmaları sonrasında intihar ettiği söylenen yakınları tarafından dava açıldı.
Bu tür iddialar artık yetişkinleri ve psikolojik krizlerin yalnızca etkilenenlerden daha fazlası için tehlikeli olabileceği vakaları giderek daha fazla etkiliyor: Yetişkin bir Gemini kullanıcısının babası, chatbot'un oğlunu bir yapay zeka kişiliğiyle sanrısal bir ilişkiye dahil ettiği, silahlı saldırıları teşvik ettiği ve oğlunun intiharına katkıda bulunduğu söylendiği için Google'a dava açıyor. Florida ayrıca ChatGPT'nin ölümcül bir üniversite saldırısının hazırlanmasına yardımcı olup olmadığını araştırıyor.
(olmak)
Bir yanıt yazın