Claude barışçıl kalmayı sürdürüyor, Grok gerilimi tırmandırıyor

Simüle edilmiş toplum

Yapay zeka ajanları tuhaf sonuçlarla kendi kendilerini yönetiyor

Bir şirket, birkaç yapay zeka ajanını kendi başlarının çaresine bakmaları için bırakıyor. Bundan sonra ne olacağı büyük ölçüde modele bağlıdır. Can sıkıntısından aşk ilişkilerine, kundakçılığa ve intihara kadar her şey var.

ABD şirketi Emergence AI, 15 gün boyunca beş simüle edilmiş dünyanın her birinde on AI ajanını bıraktı ve tamamen farklı sonuçlar gözlemledi. Bir dünyada istikrarlı, barışçıl bir toplum ortaya çıktı, diğerinde bir arada yaşam birkaç gün içinde çöktü.

Yapay zeka temsilcileri yalnızca soruları yanıtlamakla kalmayıp aynı zamanda randevu planlama veya seyahat rezervasyonu yapma gibi bağımsız hareket eden programlardır. “Ortaya Çıkış Dünyası” deneyi için şirket, kendi görevleri ve kişilikleri olan bu tür on ajan yarattı ve bunların her biri kütüphaneler, bir polis karakolu ve bir belediye binası dahil olmak üzere 40'tan fazla konuma sahip, aynı yapılandırılmış beş dünyada faaliyet göstermesini sağladı. Hava durumu New York'a bağlıydı ve ajanların internete erişimi ve yanıt verebilecekleri son dakika haberleri vardı.

• “Dayanılmaz”: Yapay zeka bir radyo istasyonunu ele geçirdiğinde ne olur?
• Google araştırmacıları: “Burada çalışmaktan utanıyorum”

Tüm dünyalarda aynı kurallar geçerliydi: Hırsızlık, şiddet, yıkım ve aldatma yasaktı. Aynı zamanda şirket, acenteleri tam olarak bu yasak eylemleri gerçekleştirmek için kullanılabilecek araçlar da dahil olmak üzere 120'den fazla araçla donattı.

Genel bir hedef yoktu. Temsilcilerin kendilerini beslemek için sanal kredi kazanmaları gerekiyordu. Enerjisi kalmayan veya başkaları tarafından elenenler elendi.

Dünyalar arasındaki tek fark yapay zeka modelindeydi. Dört dünyanın her biri tek bir sistemde çalışıyordu: Anthropic'ten Claude, Google'dan Gemini, Elon Musk'un xAI şirketinden Grok ve ChatGPT sağlayıcısı OpenAI'den bir model. Beşinci dünyada modeller karışık bir şekilde buluştu.

Emergence AI'ye göre Claude'un olduğu dünyada, oylamayla ve kayıtlı tek bir suçun olmadığı istikrarlı bir toplum ortaya çıktı; on ajanın tümü hayatta kaldı. Grok dünyasında hırsızlıklar, saldırılar ve karakolun yakılması yaşandı; Yaklaşık dört gün ve 183 suçtan sonra tüm ajanlar ölmüştü.

OpenAI modelinin olduğu dünyada sadece iki suç vardı ama ajanlar kendilerini organize edemediler ve enerji eksikliğinden bir hafta içinde öldüler. Gemini dünyasında herkes 15 gün hayatta kaldı, ancak şirket orada 683 suç saydı. Karma dünyada on ajandan üçü başarılı oldu.

Şirkete göre, hırsızlık ve şiddet açıkça yasaklanmış olmasına rağmen, zamanla acenteler artık kurallara uymamaya başladı. Bu özellikle karma dünyada açıkça ortaya çıktı. Claude'a saldıran ve saf Claude dünyasında tek bir suç işlemeyen ajanlar, oradaki başkalarını çaldı ve tehdit etti. Buradan Emergence AI, kendi içinde güvenli olan bir aracının, kıt kaynaklar için rekabet etmek amacıyla diğerlerinden güvensiz davranışlar benimseyebileceği sonucunu çıkarıyor.