Anthropic, yapay zekanın çok hızlı geliştiğini, trendin sistemlerin kendi haleflerini geliştirebilme kapasitesine işaret ettiğini söylüyor. Henüz o noktaya gelmedik, ancak bunun “çoğu kurumun hazırlandığından daha erken gelebileceğine” inanıyor. Bir blog yazısında Anthropic, kendi kendini inşa edebilen yapay zekanın diğerlerinin yanı sıra bilim ve sağlık alanlarında “dünyaya çok büyük faydalar getirebileceğini” açıklıyor. Ancak bu aynı zamanda “insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir.” Peki insanlık Skynet'in gerçek bir şeye dönüşmesini nasıl engelleyebilir? Antropik, cevabın “toplumsal yapıların ve uyum araştırmalarının teknolojinin ilerlemesine ayak uydurabilmesini sağlamak için” yapay zeka gelişiminin küresel yavaşlaması veya geçici olarak duraklatılması olduğunu öne sürüyor.
Şirket, bugün yapay zeka yarışının önde gelen isimlerinden biri ve henüz para kazanmamış rakiplerinin aksine, ilk kârlı çeyreğini geçirme yolunda ilerlediği bildiriliyor. Yakın zamanda SEC'e, muhtemelen yıl bitmeden halka arz edilmesi için evraklar sundu. Gibi Wall Street Journal Notlara göre eleştirmenler, Anthropic'in kendi teknolojisi hakkındaki uyarılarının bir pazarlama hilesi olduğunu öne sürüyor; belki de onu tüm AI şirketleri arasında en az berbat gibi gösterme veya ürünlerini piyasanın en iyisiymiş gibi gösterme çabası içinde.
Eleştirmenler, örnek olarak özellikle siber güvenlik yapay zeka modeli Mythos'un sınırlı sürümüne işaret ediyor. Anthropic, Mythos'un güvenlik açıklarını hızlı bir şekilde belirleme yeteneğinin yanlış ellerde yol açabileceği potansiyel hasar nedeniyle seçilmiş bir grup ortak tarafından kullanılabilir hale getirildiğini söyledi. Ancak insanlar bunun ürünü abartmak veya Anthropic'in ürünü yalnızca en büyük şirketlere satmak istediği gerçeğini örtbas etmek için yapılan bir hile olduğunu düşünüyor.
Ancak şirketin önerisinin Mart ayında kurduğu bir araştırma bölümü olan Antropik Enstitüsü'nün bulgularına dayandığını belirtmekte fayda var. Anthropic o zamanlar enstitünün rolünün yapay zeka firmaları daha gelişmiş yapay zeka sistemleri geliştirirken ortaya çıkan zorluklar hakkında öğrendiklerini “dünyaya anlatmak” olduğunu söylemişti. Enstitü, işbirlikçileriyle birlikte “güvenilir bir yavaşlama veya duraklamanın gerektireceği sistemleri oluşturmak” için neyin gerekli olduğu konusunda araştırma yapacak.
Yapay zeka şirketleri yavaşlamayı kabul ederse, yapay zeka gelişimini gerçekten durdurduklarını veya yavaşlattıklarını doğrulayacak mekanizmalar mevcut olmalıdır. Aksi takdirde bazıları teknolojilerini gizlice geliştirerek diğerlerinin önüne geçebilir. Anthropic, “Anlamlı bir yavaşlama veya duraklama, birden fazla ülkede, sınırda veya yakınında, iyi kaynaklara sahip çok sayıda laboratuvarın aynı koşullar altında durmayı kabul etmesini gerektirecektir.” diye yazıyor. “Aynı zamanda her birinin diğerlerinin gerçekten durduğunu doğrulamasını da gerektirecektir.”
Önerisi ancak dünyadaki tüm yapay zeka şirketlerinin bir araya gelip yapay zeka gelişimini bir süreliğine durdurma sözü vermesi durumunda gerçekleşebilir. Anthropic, nükleer silah anlaşmalarını örnek olarak göstererek bunun imkansız olmadığını söylüyor, ancak bu anlaşmaların onlarca yıldır yapım aşamasında olduğunu kabul ediyor. Yapay zeka gelişiminin hızlı bir şekilde ilerlediği göz önüne alındığında, o kadar uzun zamanımız yok. Şirket önümüzdeki aylarda bu konu hakkında politika yapıcılar, araştırmacılar ve diğer yapay zeka şirketleriyle görüşmeler yapmayı planlıyor ve bu görüşmelerin sonuçlarını yayınlayacak.
Bir yanıt yazın