Anadolu | Anadolu | Getty Images
OpenAI'nin önde gelen güvenlik araştırmacılarından biri olan ve bu ayın başlarında yapay zeka şirketinden istifa eden Jan Leike, Salı günü rakip yapay zeka girişimi Anthropic'e katıldığını söyledi.
Leike, 15 Mayıs'ın başlarında, şirketin birlikte yönettiği süper hizalama grubunu dağıtmasından günler önce OpenAI'den istifa ettiğini duyurdu. 2023'te kurulan bu ekip, uzun vadeli yapay zeka risklerine odaklandı. OpenAI kurucu ortağı Ilya Sutskever, 14 Mayıs'ta X'teki bir gönderide ayrıldığını duyurdu.
Leike Salı günü X'te şunları yazdı: “Süper hizalama görevine devam etmek için @AnthropicAI'ye katılmaktan heyecan duyuyorum.” “Yeni ekibim ölçeklenebilir gözetim, zayıftan güçlüye genelleme ve otomatik hizalama araştırması üzerinde çalışacak.”
Antropik tarafından desteklenmektedir Amazonşirketteki azınlık hissesi için 4 milyar dolara kadar finansman taahhüt etti.
Leike, OpenAI'den ayrılmasının ardından yazdığı bir gönderide şunları yazdı: “Bu işten uzaklaşmak şimdiye kadar yaptığım en zor şeylerden biri oldu çünkü acilen yapay zeka sistemlerini bizden çok daha akıllı bir şekilde nasıl yönlendirip kontrol edeceğimizi bulmamız gerekiyor.”
OpenAI'nin 2022'nin sonlarında ChatGPT'yi tanıtmasından bu yana yapay zeka güvenliği, teknoloji sektöründe hızlı bir önem kazandı ve üretken yapay zeka ürünleri ve yatırımlarında bir patlama başlattı. Sektördeki bazı kişiler, şirketlerin potansiyel toplumsal zararı yeterince dikkate almadan güçlü yapay zeka ürünlerini halka sunma konusunda çok hızlı hareket ettikleri yönündeki endişelerini dile getirdi.
MicrosoftDestekli Open AI Salı günü yaptığı açıklamada, aralarında CEO Sam Altman'ın da bulunduğu üst düzey yöneticilerin liderliğinde yeni bir emniyet ve güvenlik komitesi oluşturduğunu söyledi. Komite, şirketin yönetim kuruluna “OpenAI projeleri ve operasyonları için emniyet ve güvenlik kararları” önerecek.
2021 yılında Dario Amodei ve Daniela Amodei kardeşler ve diğer eski OpenAI yöneticileri tarafından kurulan Anthropic, Mart ayında ChatGPT rakibi Claude 3'ü piyasaya sürdü. Şirket şu kaynaklardan fon aldı: Google, Satış ekibi Ve YakınlaştırAmazon'dan gelen finansmana ek olarak.
KOL SAATİ: Yapay zekanın benimsenmesi konusunda Antropik kurucu ortak
Bir yanıt yazın