Anthropic'in güvenlik araştırma ekibinin başkanı Mrinank Sharma, ABD yapay zeka şirketinden ayrıldığını söyledi ve yapay zekanın oluşturduğu tehlikeler konusunda uyardı. Platformda yayınlanan veda mektubunda
Şirkete göre Sharma, geçen yıldan bu yana Anthropic'te Yapay Zeka sistemlerinin kötüye kullanımına karşı koruma mekanizmalarının geliştirilmesiyle ilgilenen Koruma Önlemleri Araştırma Ekibine liderlik ediyor. Anthropic'te “istediği her şeyi başardığını” açıkladı. Sharma mektubunda, yapay zeka destekli biyoterörizm risklerini azaltmak için güvenlik önlemleri geliştirmenin yanı sıra yapay zekanın insanlık üzerindeki etkisini anlamaya yönelik bir proje gibi projelerden bahsetti.
Sharma şiir okumayı düşünüyor
Sharma, eski işverenini dolaylı olarak eleştirmeden önce, “Benim için artık yola devam etme zamanının geldiği açık” dedi. “Burada geçirdiğim süre boyunca, değerlerimizin eylemlerimizi belirlemesine izin vermenin aslında ne kadar zor olduğunu tekrar tekrar gördüm” diye yazdı. Organizasyonda ve aynı zamanda kendisinde “temel konuları bir kenara itme baskısını” görüyor. Herhangi bir spesifik iddianın adını vermedi.
Sharma şöyle devam etti: “Bilgeliğimizin, dünyayı etkileme yeteneğimizle aynı oranda büyümesi gereken bir noktaya yaklaşıyor gibiyiz; aksi takdirde sonuçlarıyla yüzleşeceğiz.”
LinkedIn profiline göre Sharma, Ağustos 2023'ten beri Anthropic'le birlikteydi. Geleceğine gelince, şiir okumaya başlayabileceğini ve kendisini “cesur bir dil uygulamasına” adayabileceğini duyurdu. Forbes ve Business Insider'ın haberine göre ne Sharma ne de Anthropic sorulara yanıt verdi.
Anthropic'ten yakın zamanda ayrılan tek çalışan Sharma değil. Business Insider'a göre geçen hafta araştırma görevlisi Harsh Mehta ve yapay zeka bilimcisi Behnam Neyshabur da “yeni bir şeye başlamak” için ayrıldıklarını duyurdular. Eski yapay zeka güvenlik araştırmacısı Dylan Scandinaro, OpenAI'ye geçti.
Bir yanıt yazın