ChatGPT operatörü, şiddet fantezileri nedeniyle sekiz kişiyi öldürdüğü söylenen faili dışarıda bıraktı ancak yetkilileri uyarmadı. Şimdi bir özür geliyor.
Kanada'daki bir okulda yaşanan ölümcül silahlı saldırıdan iki buçuk ay sonra OpenAI patronu Sam Altman, ChatGPT operatörünün fail olduğu iddia edilen kişiden gelen şüpheli AI sohbetleri hakkında güvenlik yetkililerine bilgi vermemesi nedeniyle özür diledi. Altman, Tumbler Ridge kasabası sakinlerine yazdığı bir mektupta “Çok üzgünüm” diye yazdı.
18 yaşındaki şüphelinin 10 Şubat'ta Kanada'nın batısındaki Tumbler Ridge kasabasında altısı okulda olmak üzere sekiz kişiyi öldürdüğü söyleniyor. Kurbanlar arasında öğrenciler, bir öğretmen ve daha sonra kendini öldüren şüpheli saldırganın annesi ve üvey kardeşi de vardı.
OpenAI, otomatik gözetim sistemlerinin konuşmalarda tasarladığı silahlı şiddet içeren senaryoları fark etmesinden sonra geçen Haziran ayında fail olduğu iddia edilen kişiye ait bir hesabı engelledi. Ancak şirket yetkililere bilgi vermeyi gerekli görmedi. Suçun ardından OpenAI, şüpheli tetikçiye ait başka bir ChatGPT hesabı keşfetti.
Altman, mektubunda OpenAI'nin gelecekte “bu tür trajedileri” önlemenin yollarını bulmak istediğine dair güvence verdi. Mektup yerel haber sitesi Tumbler RidgeLines tarafından yayınlandı ve OpenAI belgenin gerçekliğini doğruladı.
Polise göre şüphelinin psikolojik sorunları olduğu biliniyordu. Araştırmacılara göre doğduğunda erkek olarak kayıtlıydı. Kadınlığa geçişin suçtan yıllar önce başladığı, ölümcül atışlardan kısa süre sonra başladığı söyleniyordu.
dpa
Bir yanıt yazın