OpenAI rakibi Anthropic, uzun süredir AI gelişiminin daha sıkı düzenlenmesinden yana. Hatta şirket patronu Dario Amodei hükümete acil fren çağrısı bile yapıyor.
Yapay zeka şirketi Anthropic'in başkanı, hükümetlerin tehlikeli yapay zekayı durdurabilmesi gerektiğini söyledi. Dario Amodei bir blog yazısında güçlü yapay zeka modellerinin risklere karşı kontrol edilmesi gerektiğini talep etti. Bu, siber güvenlik, biyolojik silahlar ve sistemler üzerindeki olası kontrol kaybı gibi alanları kapsamalıdır. Bu aynı zamanda yazılımın bu riskleri artırabilecek otomatik olarak daha fazla geliştirilmesini de içerir.
Amodei, bu tür soruşturmaların havacılık otoritesine benzer bir hükümet kuruluşu tarafından yürütülebileceğini yazdı. Alternatif olarak hükümet tarafından işe alınan özel denetçiler de olabilirler. Anthropic, uzun süredir yapay zeka endüstrisinin daha güçlü bir şekilde düzenlenmesinden yanaydı ve bunun için zaten yapay zeka sektörünün bazı kesimleri ve Beyaz Saray tarafından eleştirildi.
Anthropic, AI yazılımı Claude ile ChatGPT geliştiricisi OpenAI'nin en yakın rakibidir. Şirket yakın zamanda yaygın olarak kullanılan yazılımlardaki onlarca yıldır tespit edilemeyen güvenlik açıklarını tespit edebilen Mythos AI modeliyle ortalığı karıştırdı. Bu durum, yapay zekanın yıkıcı siber saldırılar gerçekleştirmek için kullanılabileceği yönündeki endişeleri artırdı.
dpa
Bir yanıt yazın