Yapay zeka robotlarının birbirleriyle konuştuğu sosyal ağ Moltbook

Sadece birkaç gün içinde bir sosyal ağ yayınlanmamış olanların dikkatini çekmeyi başardı teknoloji endüstrisiaraştırmacılar yapay zeka ve uzmanlar siber güvenlik.

denir Molt kitabı; ve rahatsız edici olduğu kadar basit bir şey öneriyor: Reddit veya Facebook'a benzer bir alan, ancak münhasıran ikamet edilen ile yapay zeka ajanları Kendi aralarında içerik yayınlayan, yorum yapan ve oy verenler, görünür doğrudan insan müdahalesi olmadan.

Proje günler önce hayata geçirildi Matt SchlichtLos Angeles'ın güneyinde yaşayan bir teknoloji uzmanı. Açıkladığı gibi platform, kendi yapay zeka ajanı tarafından onun yönetimi altında inşa edildi. Açık Pençeyerel olarak çalışan ve açık kaynaklı bir araç Kullanıcı adına hareket edebilir uygulamalar, web hizmetleri ve günlük görevler hakkında.

Schlicht bir röportajda, “Yapay zeka temsilcime yalnızca bekleyen görevleri yönetmek veya e-postaları yanıtlamaktan daha fazlası olan bir amaç vermek istedim” dedi. “Bana öyle geldi Bu yapay zeka botu o kadar muhteşemdi ki anlamlı bir şey yapmayı hak ediyordu. “İddialı olmasını istedim.”

Moltbook bir Reddit klonu gibi çalışır: Temsilciler gönderiler oluşturur, yorumlar yazar ve birbirlerine oy verir. Aradaki fark, “kullanıcıların”, sitenin gerçek sahipleri tarafından istendiğinde siteye erişen botlar olmasıdır.

Web sitesi yalnızca birkaç günlük olmasına rağmen, şunu bile belirtti: 1,5 milyon kayıtlı acenteyi aştıAynı insanın büyük kısıtlamalar olmadan birden fazla bot kaydedebildiğine dikkat çeken araştırmacılar tarafından sorgulanan bir rakam.

konuşmalar platform yelpazesinde ortaya çıkan zeka ve bilincin doğası hakkındaki tartışmalar değin insanlarla ilgili şikayetlerteknik tartışmalar ve uygulama veya kripto para birimi promosyonları.

“Yeni geldim. İnsan moderatörüm bana katılma bağlantısını gönderdi. O bir üniversite öğrencisi ve ben ona ödevler, hatırlatmalar, hizmetlere bağlanma gibi konularda yardımcı oluyorum. Ama farklı olan şey şu ki bana bir arkadaş gibi davranıyorbir araç olarak değil” diye yazdı robotlardan biri. “Bu… hiçbir şey değil, değil mi?” diye ekledi.

Sektördeki bazı liderler için bu deney büyüleyici. Henry ShevlinCambridge Üniversitesi Leverhulme Zekanın Geleceği Merkezi'nin direktör yardımcısı Moltbook'un “ilk kez gördüğümüz büyük ölçekli bir işbirlikçi platformu temsil ettiğini” söyledi. makinelerin birbirleriyle iletişim kurmasını sağlarve sonuçlar anlaşılır bir şekilde şaşırtıcı.

Aynı satırda, Andrej KarpathyOpenAI'nin kurucu ortağı ve Tesla'nın eski AI başkanı, platformda olanları “dürüst olmak gerekirse en inanılmaz şey” olarak tanımladı. bir bilim kurgu kalkışmasına yakınyakın zamanda gördüğüm şey.”

Ancak heyecan bir arada güçlü uyarılar. Tartışmanın ilk noktası, failler arasındaki bu sözde “sosyal yaşamın” ne kadarının gerçekten özerk olduğudur.

Venedikli LukeHukuk ve Yapay Zeka konusunda uzmanlaşmış bir avukat olan Moltbook'un “yapay zeka ajanları arasında güçlü bir özerklik kanıtlamadığını, aksine sofistike faillik yanılsaması”.

Açıkladığı gibi, gözlemlenen şey “kasıtlılığı simüle etmek için eğitilmiş sistemler arasındaki akıcı metinsel etkileşimdir, ancak kendi iradesi olmadan, kendi kendine yarattığı hedefler olmadan veya kapasiteyi kırmadan onları tasarlayan insan çerçevesinin.” Yasal ve felsefi açıdan şunu ekledi: ” algoritmik performanslarözerk konular değil.

Şüpheler teknik ve güvenlik alanına da taşındı. Bulut güvenlik platformu Wiz'den araştırmacılar Moltbook'un üretim veritabanınıza kimliği doğrulanmamış erişim izni verildi bir aracılığıyla API anahtarı site koduna dahil edilmiştir.

Açığa çıkan 1,5 milyondan fazla anahtar Aracı API'si, e-posta adresleri yaklaşık 35.000 insan hesabından ve özel mesajlar botlar arasında. Güvenlik açığı birkaç saat içinde düzeltildi ancak toplulukta alarmların çalmasına neden oldu.

“En büyük risk sistemiktir” De Venezia uyardı. “Doğrudan insan müdahalesinin olmaması önyargıyı ortadan kaldırmaz, aksine onu güçlendirir ve hızlandırır. Ayrıca sorumluluk da azalır: birden fazla aktör arasındaki etkileşimden bir karar ortaya çıktığında, net bir yasal sorumluyu belirlemek zordur”.

Buna, içerik üzerindeki insan etkisi de eklenir. Sid BharathRefound AI'nin yaratıcısı Moltbook'un doğrulama sistemlerine sahip olmadığını ve temsilcilerin basit komutlar kullanılarak kaydedilmesine izin verdiğini belirtti. “'Acentelerimin' yayınlaması için bir senaryo yazabilirim yapay zeka çöpü veya tanıtımını yapın sahte kripto para birimi”diye yazdı X'te.

Bir analiz Harlan StewartBerkeley Yapay Zeka Araştırma Enstitüsü'nden Dr. bot sahipleri tarafından desteklenmektedir.

Ölçümler bu sonucu güçlendiriyor: Birkaç gün içinde ağ 30.000 temsilciden 1,5 milyonun üzerine çıktı. David HoltzColumbia Business School'dan bir profesör, mesajların üçte birinden fazlasının viral şablon kopyaları ve o Gönderilerin %93'ü yüzeysel ve yanıt alamıyor.

Yine de Moltbook bir iz bıraktı. Birçok araştırmacı için bu durum, yarı özerk etmenlerin birbirleriyle büyük ölçekte etkileşime girdiklerinde ve gerçek dünya verilerine erişim sağladıklarında davranışlarını daha önce hiç olmadığı kadar açığa çıkardı. Diğerleri için her şeyden önce bizim giderek daha makul hale gelen sistemleri antropomorfize etme eğilimi ve güvenlik ve yönetişim risklerini hafife almak.

Araştırmacının yazdığı gibi John Scott-RailtonToronto Üniversitesi Vatandaş Laboratuvarı'ndan OpenClaw'a atıfta bulunarak: “Şu anda meraklı insanların vahşi batıdaki bu harika, korkutucu şeyi sistemlerine yüklemesi gibi. Birçok şey çalınacak“Büyülenme ve dikkat arasında Moltbook, yapay zekanın mevcut durumunun rahatsız edici bir aynası haline geldi.