9 Haziran 2023 Cuma günü Güney Kore'nin Seul kentinde Softbank Ventures Asia tarafından düzenlenen bir ateş başı sohbeti sırasında Openai CEO'su Sam Altman.
Seongjoon Cho | Bloomberg | Getty Images
Bir grup eski Openai çalışanı, Nobel Laureates, Hukuk Profesörleri ve Sivil Toplum Örgütleri geçen hafta Kaliforniya'daki Genel Avukatlara ve Delaware'e, girişimin yeniden yapılandırma çabalarını güvenlik endişelerinden durdurmalarını isteyen bir mektup gönderdi.
Salı günü Openai yönetim kuruluna teslim edilen mektupta grup, kar amacı gütmeyen bir varlığa yeniden yapılandırmanın “Openai'nin hayır amaçlı amacını yıkacağını” ve “kar amacı gütmeyen kontrolü kaldıracağını ve kritik yönetişim güvencelerini ortadan kaldıracağını” yazdı.
Grup, “Hiçbir satış fiyatı kontrol kaybını telafi edemez.”
2015 yılında kar amacı gütmeyen bir yapay zeka araştırma laboratuvarı olarak oluşturulan Openai, son yıllarda, özellikle viral chatgpt chatbot'u ticarileştiriyor. Şirket hala kar amacı gütmeyen bir ebeveyn tarafından denetleniyor, ancak geçen yıl kar amacı gütmeyen bir şirkete dönüşeceğini, ancak kâr amacı gütmeyen kuruluştan kontrol edeceğini ancak ayrı bir kol olarak tutacağını duyurdu.
Ana destekçinin onayını gerektiren değişiklik Microsoft Ve California Başsavcısı, şirket Microsoft, Google, Amazon ve Elon Musk'ın Xai gibi rakiplerini ele geçirirken bazı potansiyel kısıtlamaları kaldıracaktı.
Çaba, şirketin misyonu ve kuruluş ilkeleriyle çelişiyor gibi göründüğü için Openai çalışanları ve AI liderleri arasında tartışmalara yol açtı. O zamandan beri birden fazla şirket yöneticisi kendi AI şirketlerini kurdu ve kurdu.
2018'den 2020'ye kadar Openai'de çalışan Nisan Stiennon yaptığı açıklamada, “Openai bir gün hepimizi öldürebilecek teknoloji inşa edebilir,” dedi. Diyerek şöyle devam etti: “Openai'nin kredisi için, insanlığa karşı bir kar amacı gütmeyen bir kuruluş tarafından kontrol ediliyor. Bu görev bu kontrolden vazgeçmeyi engelliyor.”
2018'den 2023'e kadar Openai'de çalışan Jacob Hilton, şirkette geçirdiği süre boyunca “Liderlik, Openai'nin birincil güven görevinin insanlığa olduğunu tekrar tekrar vurguladı.”
Hilton yaptığı açıklamada, “Bunun yasal olarak bağlayıcı bir vaat olduğunu iddia ettiler, şirketin tüzüğünde yer alan ve kurumsal yapısı aracılığıyla uygulandı.” Dedi. “Şimdi bu temel sözü terk etmeyi öneriyorlar.”
Bir Openai sözcüsü, kar amacı gütmeyen bir varlık haline gelmenin, şirketin Antropic ve Xai gibi rakiplere benzer bir yapıya sahip olacağını söyledi.
Sözcü bir e -postayla, “Kurulumuz çok açıktı: kar amacı gütmeyen kuruluşumuz güçlendirilecek ve mevcut yapımızdaki herhangi bir değişiklik, daha geniş halkın AI'dan yararlanmasını sağlama hizmetinde olacaktır.” Dedi.
Openai'nin kuruluş makaleleri, “herhangi bir kişinin özel kazancını ilerletmek yerine” yapay genel istihbaratın tüm insanlığa fayda sağlamasını sağlamak “için hayırsever bir amaç içermektedir. AGI, Openai ve rakiplerinin hızla takip ettiği çok çeşitli görevlerde insan aklına eşit veya aşan bir AI dalıdır.
Openai üzerindeki baskı, kısmen SoftBank liderliğindeki 40 milyar dolarlık finansman turunun bir parçası olarak geçen ay elde edilen 300 milyar dolarlık değerlemesine bağlı. Şirket 31 Aralık'a kadar kar amacı gütmeyen bir kuruluşa yeniden yapılandırmazsa, finansman 10 milyar dolar kadar azalabilir.
Openai, büyük ölçüde Openai'yi kuran ve o zamandan beri şirketin kâr için birleşme kararı üzerindeki ateşli bir yasal savaşta Altman'ın baş düşmanlarından biri haline gelen Musk'a göre önemli engellerle karşılaştı.
Musk'ın davasını destekleyen 12 Ex-Openai çalışanından oluşan bir grup, bu ayın başlarında bir mahkemenin izin istedi.
Bir bilgisayar bilimcisi ve Nobel ödüllü Geoffrey Hinton, bu hafta mektubu gönderen grubun Musk'ın davasına bağlı olmadığını açıkladı.
“Openai'nin 'yapay genel zekanın tüm insanlığa fayda sağladığından emin olma' ve
Yatırımcılarını zenginleştirmek yerine bu görevi yerine getirmelerini istiyorum, “dedi Hinton yaptığı açıklamada.
Grup, mektupta AGI'nin nasıl geliştirildiği ve yönetildiği konusunda kar amacı gütmeyen kontrolün Openai'nin misyonu için hayati önem taşımadığını ve bu kontrolün kaldırılmasının “kar amacı gütmeyen kuruluşların faydalanıcılarına borçlu olduğu özel güvene dayalı görevi ihlal edeceğini” ve hayırsever amacını tehdit edeceğini yazdı.
Openai'nin 2023'te açıklanan ve geçen yıl dağılan süpergrif ekibi, “AI sistemlerini bizden çok daha akıllıca yönlendirmek ve kontrol etmek için bilimsel ve teknik atılımlara” odaklanmıştı. O zaman, Openai, bilgisayar gücünün% 20'sini dört yıl boyunca girişimine taahhüt edeceğini söyledi. Ancak çaba, takımın liderleri Openai kurucu ortağı Ilya Sutskever ve Jan Leike, ayrıldıklarını açıkladıktan sonra sona erdi.
AI Politikası Merkezi genel müdürü Jason Green-Lowe, açıklamada Openai'nin mevcut yapısı altında bile güvenlik araştırmaları için hesaplamasının% 20'sini bir kenara bırakma vaadinden uzaklaşabildiğini söyledi.
Green-Lowe, “Openai, hala kâr amacı gütmeyen kuruluşa maruz kaldığında bu şekilde davranıyorsa, kar amacı gütmeyen kuruluşa maruz kaldığında, tamamen karları en üst düzeye çıkarmaya odaklandıktan sonra nasıl davranacaklarını hayal etmek korkunç.” Dedi. Diyerek şöyle devam etti: “Bu, daha az sosyal sorumlulukla davranmaya başladığını görmek istediğiniz bir şirket değil – bahisler çok yüksek.”
KOL SAATİ: Openai Sosyal Ağ Oluşturmayı Dikkate Alın
Bir yanıt yazın