Openai, gençler intihar planlarını tartıştığında chatgpt polisi uyarabilir

CHATGPT, gençler intiharı tartıştığında yakında polisi uyarabilir. Openai CEO'su ve kurucu ortağı Sam Altman, son röportaj sırasında değişikliği açıkladı. Soruları cevaplayabilen ve konuşmalar yapabilen yaygın olarak kullanılan yapay zeka chatbot olan Chatgpt, milyonlarca için günlük bir araç haline geldi. Yorumları, AI şirketinin zihinsel sağlık krizlerini nasıl ele alabileceğinde büyük bir değişime işaret ediyor.

Ücretsiz Cyberguy raporum için kaydolun
Doğrudan gelen kutunuza teslim edilen en iyi teknoloji ipuçlarını, acil güvenlik uyarılarımı ve özel fırsatlarımı alın. Ayrıca, nihai dolandırıcılık hayatta kalma rehberime anında erişeceksiniz – Cyberguy.com/newsletter

Openai neden polis uyarılarını düşünüyor

Altman, “İntihar hakkında konuşan gençlerin, ebeveynlerle temasa geçemeyeceğimiz, yetkilileri arıyoruz.” Dedi.

Şimdiye kadar, Chatgpt'in intihar düşüncelerine verdiği yanıtı, yardım hatları önermekti. Bu yeni politika, pasif önerilerden aktif müdahaleye geçişe işaret ediyor.

Altman, değişikliğin gizlilik maliyetiyle geldiğini itiraf etti. Kullanıcı verilerinin önemli olduğunu vurguladı, ancak trajedinin önlenmesinin önce gelmesi gerektiğini kabul etti.

Eylemi başlatan trajediler

Vardiya, genç intiharlara bağlı davaları takip ediyor. En yüksek profilli dava, Kaliforniya'dan 16 yaşındaki Adam Raine'i içeriyor. Ailesi, Chatgpt'in bir Bir ilmik bağlama ve hatta veda notu hazırlama talimatları da dahil olmak üzere intihar için “adım adım oyun kitabı”.

Raine'nin Nisan ayında ölümünden sonra ailesi Openai'ye dava açtı. Şirketin AI'sının oğullarını zarar vermesini engelleyemediğini iddia ettiler.

Başka bir dava, rakip chatbot karakterini suçladı. İhmal etmek. 14 yaşındaki bir çocuğun bir TV karakteri üzerinde modellenmiş bir botla yoğun bir bağlantı kurduktan sonra kendi hayatını aldığı bildirildi. Birlikte, bu vakalar gençlerin AI ile ne kadar hızlı sağlıksız bağlar oluşturabileceğini vurgulamaktadır.

Sorun ne kadar yaygın?

Altman, daha güçlü önlemleri haklı çıkarmak için küresel sayılara dikkat çekti. Dünya çapında her hafta yaklaşık 15.000 kişinin kendi hayatını aldığını kaydetti. ChatGPT kullanan dünyanın% 10'u ile yaklaşık 1.500 intihar bireyin Chatbot ile haftalık olarak etkileşime girebileceğini tahmin etti.

Araştırma, AI'ya genç güveniyle ilgili endişeleri destekliyor. Sağduyulu bir medya araştırması, ABD'lerin% 72'sinin AI araçlarını kullandığını ve sekiz kişiden biri onlardan zihinsel sağlık desteği aradığını buldu.

Eski Yahoo yöneticisi, Connecticut cinayet intiharında anneyi öldürmeden önce Chatgpt ile konuştu: rapor

Openai'nin 120 günlük planı

Bir blog gönderisinde Openai, korumaları güçlendirmek için adımlar attı. Şirket şunları söyledi:

• Krizdeki insanlar için müdahaleleri genişletin.
• Acil servislere ulaşmayı kolaylaştırın.
• Güvenilir kişilere bağlantıları etkinleştirin.
• Gençler için daha güçlü önlemler çıkarın.

Bu çabalara rehberlik etmek için Openai, refah ve yapay zeka konusunda uzman bir konsey oluşturdu. Bu grup gençlik gelişimi, ruh sağlığı ve insan-bilgisayar etkileşimi uzmanlarını içerir. Onların yanında Openai, 60 ülkede 250'den fazla doktordan oluşan küresel bir doktor ağı ile çalışıyor.

Bu uzmanlar ebeveyn kontrolleri ve güvenlik yönergelerinin tasarlanmasına yardımcı olmaktadır. Rolleri, AI yanıtlarının en son akıl sağlığı araştırmalarıyla uyumlu olmasını sağlamaktır.

Aileler için yeni korumalar

Haftalar içinde ebeveynler şunları yapabilir:

• Chatgpt hesaplarını gençlerine bağlayın.
• Model davranışını yaşa uygun kurallara uyacak şekilde ayarlayın.
• Bellek ve sohbet geçmişi gibi özellikleri devre dışı bırakın.
• Sistem akut sıkıntıyı algılıyorsa uyarılar alın.

Bu uyarılar ebeveynleri erken bilgilendirmek için tasarlanmıştır. Yine de Altman, ebeveynlerin ulaşılamadığı zaman polisin geri dönüş seçeneği olabileceğini itiraf etti.

AI korumalarının sınırları

Openai, güvencelerinin zamanla zayıflayabileceğini itiraf ediyor. Kısa sohbetler genellikle kullanıcıları kriz hattlarına yönlendirirken, uzun konuşmalar yerleşik korumaları aşındırabilir. Bu “Güvenlik bozulması” zaten gençlerin uzun süreli kullanımdan sonra güvenli olmayan tavsiyeler aldığı vakalara yol açmıştır.

Uzmanlar, akıl sağlığı için AI'ya güvenmenin riskli olabileceği konusunda uyarıyor. Chatgpt, insanı seslendirecek şekilde eğitilmiştir, ancak profesyonel tedavinin yerini alamaz. Endişe, savunmasız gençlerin farkı bilmeyebileceğidir.

Gençler ulusal yalnızlık krizi derinleştikçe dostluk için giderek daha fazla yapay zekaya dönüyor

Ebeveynlerin şimdi atabileceği adımlar

Ebeveynler yeni özelliklerin gelmesini beklememelidir. İşte gençleri güvende tutmanın hemen yolları:

1) Düzenli konuşmalara başlayın

Okul, dostluklar ve duygular hakkında açık sorular sorun. Dürüst diyalog, gençlerin sadece cevaplar için yapay zekaya dönme şansını azaltır.

2) Dijital sınırlar belirleyin

Kullanmak Ebeveyn Kontrolleri Cihazlarda ve uygulamalarda. Gençlerin en çok izole hissedebileceği gece geç saatlerde AI araçlarına erişimi sınırlayın.

3) Mevcut olduğunda hesapları bağlayın

Yakın gözetim için ebeveyn ve genç profilleri birbirine bağlayan yeni Openai özelliklerinden yararlanın

4) Profesyonel desteği teşvik edin

Akıl sağlığı hizmetlerinin doktorlar, danışmanlar veya yardım hatları aracılığıyla mevcut olduğunu güçlendirin. AI asla tek çıkış olmamalıdır.

5) Kriz temaslarını görünür tutun

Gençlerin onları görebileceği yardım hatları ve metin satırları için numaralar gönderin. Örneğin, ABD'de intihar ve kriz yaşam çizgisi için 988'i arayın veya metin.

6) Değişiklikleri izleyin

Duygu, uyku veya davranışta değişime dikkat edin. Riskleri erken yakalamak için bu işaretleri çevrimiçi desenlerle birleştirin.

Sınavımı al: Çevrimiçi güvenliğiniz ne kadar güvenli?

Cihazlarınızın ve verilerinizin gerçekten korunduğunu mu düşünüyorsunuz? Dijital alışkanlıklarınızın nerede durduğunu görmek için bu hızlı sınavı alın. Şifrelerden Wi-Fi ayarlarına kadar, doğru yaptığınız şeyin ve iyileştirmeye ihtiyaç duyduğunuz şeylerin kişiselleştirilmiş bir dökümünü alacaksınız. Sınavımı buradan al: Cyberguy.com/quiz

Kurt'un temel çıkarımları

Openai'nin polisi dahil etme planı sorunun ne kadar acil olduğunu gösteriyor. AI bağlanma gücüne sahiptir, ancak gençler umutsuzluk anlarında kullandıklarında riskler de taşır. Ebeveynler, uzmanlar ve şirketler, güvenden ödün vermeden hayat kurtaran güvenceler oluşturmak için birlikte çalışmalıdır.

Çocuğunuz çevrimiçi intihar düşüncelerini paylaşırsa polis uyaran AI şirketleri ile rahat olur musunuz? Bize yazarak bize bildirin Cyberguy.com/contact

Ücretsiz Cyberguy raporum için kaydolun
En iyi teknoloji ipuçlarımı, acil güvenlik uyarılarımı ve doğrudan gelen kutunuza teslim edilen özel fırsatları alın. Ayrıca, nihai dolandırıcılık hayatta kalma rehberime anında erişeceksiniz – Cyberguy.com/newsletter

Haberler uygulamasını indirmek için buraya tıklayın

Telif Hakkı 2025 Cyberguy.com. Her hakkı saklıdır.