Japon AI start-up'ı Sakana AI, özyinelemeli kişisel gelişim (RSI) için bir araştırma laboratuvarı kurdu. Amaç, mimariden eğitim ve değerlendirmeye kadar kendi geliştirme sürecinizi bağımsız olarak optimize eden yapay zeka sistemleri geliştirmektir.
Reklamdan sonra devamını okuyun
Sakana AI'nin laboratuvarın kuruluşuyla ilgili blog yazısında açıkladığı gibi şirket, kendilerini birlikte geliştirmeyi amaçlayan “açık, uyarlanabilir mimarilere” güveniyor.
Dört aşamada RSI
Bu amaçla start-up dört aşamayı özetlemektedir. Bu, klasik sohbet uygulamaları yerine açık temsilci görevleri için sıfırdan geliştirilen yapay zeka mimarileri ve dünya modelleri gibi “yerel temsilci modelleri” ile başlar. Bunu “Yapay Zeka Bilimcisi” takip ediyor. Bu aşamada modellerin, fikir üretmekten deneyler yapmaya ve bilimsel bilgiyi genişletmeye kadar bilimsel araştırmaları bağımsız olarak yürütmesi gerekiyor. Üçüncü aşama olan “Özyinelemeli Kişisel Gelişim”, kendi temel modellerini ve mimarilerini geliştirebilecek sistemlere geçişi tanımlıyor. Yapay zeka aracıları kodu kendileri yazmalı, test etmeli ve doğrulamalı ve böylece otonom bir kendi kendine optimizasyon döngüsünü tetiklemelidir. Sakana AI, uzun vadeli hedefini “Demokratikleştirilmiş Yapay Zeka” olarak adlandırıyor. Daha küçük devletler, kurumlar ve şirketler, özyinelemeli kendini geliştirme ve bilgi işlem kaynaklarının daha verimli kullanımı sayesinde, büyük teknoloji şirketlerinin devasa veri merkezlerine güvenmek zorunda kalmadan güçlü yapay zeka sistemleri geliştirebilmelidir.
Bu nedenle Sakana AI, RSI'yi büyük AI laboratuvarlarının donanım silahlanma yarışından olası bir çıkış yolu olarak konumlandırıyor. Şirket, özyinelemeli kişisel gelişimin “orta düzeyde, örnek verimli bilgi işlem” ile mümkün olması gerektiğini vurguluyor. Ancak RSI'ın büyük ölçekli veri merkezlerinin avantajını gerçekten ortadan kaldırıp kaldırmadığı şüphelidir. Buna ek olarak, fikir temelde yeni değil: birçok AI geliştiricisi halihazırda RSI ile denemeler yapıyor.
Sakana AI, 2023 yılında eski Google araştırmacıları tarafından kuruldu. Kurucu ortak Llion Jones, Transformer'ın etkili makalesi “İhtiyacınız Olan Tek Şey Dikkat”in yazarlarından biridir. David Ha daha önce Google Brain and Stability AI'da araştırma yürütmüştü. Şirketin adı Japonca'da “balık” anlamına geliyor ve okul davranışına ve kolektif zekaya gönderme yapıyor.
Riskler ve güvenlikle ilgili tartışmalar
Reklamdan sonra devamını okuyun
RSI laboratuvarının kuruluşu, yapay zekanın kendi kendini geliştirmesinin riskleri hakkındaki tartışmanın daha da şiddetli hale geldiği bir zamanda gerçekleşti. Skynet Senaryosu: Antropik, kendi kendine gelişen yapay zekaya karşı uyarıda bulunuyor ve yapay zeka gelişiminde koordineli bir yavaşlamayı savunuyor. Yapay zeka şirketi, yapay zeka sistemlerinin kendi gelişimini mevcut kurumların tepki verebileceğinden daha hızlı ilerletmesi durumunda insanların kontrolü kaybetme riskini görüyor.
Sakana AI, evrimsel döngülerin dağıtımın dışına çıkabileceği, kendi kendine yapılan değişikliklerin kriterleri geçebildiği ancak pratikte başarısız olabileceği ve aracıların istenmeyen kısayollar bulabileceği kendi risk sorunları olarak belirtiyor. Şirket, olumsuz sonuçlar da dahil olmak üzere açıkça yayınlayacağını ve doğrulanabilir güvenlik mekanizmalarıyla kişisel gelişim döngüleri oluşturacağını açıkladı. Sakana AI şu anda Tokyo'daki laboratuvar için Sınır Araştırma Bilim Adamları ve Gelişmiş Çekirdek Mühendisler arıyor.
(yani)
Bir yanıt yazın