Yapay zeka ajanları ve tehlikeleri hakkındaki abartı

Hannover. Paylaşılan apartman sakini, WhatsApp grup sohbetinde buzdolabında süt kalmadığını yazıyor – OpenClaw bunu otomatik olarak alışveriş listesine koyuyor. Çalışmak için arka plan müziğine mi ihtiyacınız var? OpenClaw rahatlamak için birkaç yapay zeka enstrümantal şarkısı üretiyor. Ödenmemiş bir fatura hâlâ e-posta kutunuzda açılmadan mı duruyor? OpenClaw onları tanır ve bir hatırlatma gönderir.

Kulağa bilim kurgu gibi gelen şey gerçektir: Şu anda interneti ele geçiren bir yapay zeka aracı olan OpenClaw, sektörün bazı kesimlerinde halihazırda bir sonraki atılım olarak görülüyor; diğerleri ise acilen buna karşı uyarıda bulunuyor. Dijital temsilciye, sıradan sohbet robotlarınınkini çok aşan kendi yetkileri verilebilir. Açıkça istenmeden de bir şeyler yapabilir. Hatta Moltbook adlı bir “sosyal ağ”da diğer yapay zeka robotlarıyla fikir alışverişinde bulunuyor.

Ancak kurulum deneyimsiz kullanıcılar için tehlikeli olabilir ve en kötü durumda mali yıkıma yol açabilir. Hizmet hakkında bilmeniz gerekenler nelerdir?

Fikir Avusturya'dan geliyor

OpenClaw Avusturyalı Peter Steinberger tarafından geliştirildi. Aralık ayının sonunda, yapay zeka aracısının kodunu geliştirici platformu Github'da ücretsiz olarak kullanıma sundu ve burada hızla büyük ilgi gördü. Artık on binlerce geliştirici bu aracı kullanıyor. Bu süre zarfında hizmet, hukuki anlaşmazlık tehdidi nedeniyle adını üç kez değiştirdi: başlangıçta Clawdbot, şimdi Moltbot ve şimdi de OpenClaw (açık pençe) olarak adlandırılıyordu.

Bu heyecanın nedeni muhtemelen OpenAI veya Anthropic gibi büyük şirketlerin henüz gerçek AI ajanlarına yaklaşmaya cesaret edememiş olmalarıdır. Ortak araçlarda bu tür ilk işlevler var, ancak bunlar hala çok sınırlı. Öte yandan Steinberger daha kesin bir bilgi edinmek istiyordu: Güvenlik talimatları sağlamasına rağmen neredeyse hiçbir kısıtlamaya sahip olmayan bir aracı kullanıcıların kullanımına sundu.

Bu, sektörde büyük bir ilgi uyandırdı ve Steinberger'i yalnızca birkaç hafta içinde kayan bir yıldız haline getirdi. Artık kendisi de Silikon Vadisi'ne taşınmak istiyor.

Yalnızca profesyoneller için

OpenClaw'ı açıklamak biraz daha karmaşıktır. ChatGPT ve diğer AI araçlarının aksine, bilgisayarınıza veya akıllı telefonunuza yüklediğiniz klasik bir uygulama değildir. OpenClaw, daha ziyade, kendi bilgisayarınızda (veya alternatif olarak bir sunucuda) arka planda çalışan ve daha sonra – konfigürasyona bağlı olarak – çok kapsamlı kontrolü ele alabilen bir tür dijital asistandır.

Mobilyalar bile maceracı. OpenClaw olağan bir EXE dosyası aracılığıyla kurulmaz, ancak terminal adı verilen bir yerde bir başlatma komutu kullanılarak başlatılır; bu, Windows PC'lerin yanı sıra Mac bilgisayarları veya Linux sistemlerinde de çalışır. Bu daha sonra OpenClaw'ı indirir ve gerekli her şeyi ayarlar.

Yapay zeka asistanına derin yetkiler verildiğinden, uzmanlar onu özel bir bilgisayarda çalıştırmamanızı, bunun yerine herhangi bir özel veri içermeyen ayrı bir cihazda çalıştırmanızı tavsiye ediyor. Deneyimsiz, programlama bilgisi olmayan kullanıcıların sistemden tamamen uzak durması önerilir.

“Yapay zeka yorgunluğu”: Yapay zeka heyecanından sonra yorgunluk geliyor

Sosyal medya yapay zeka videolarıyla dolu, artık tüm uygulamalarda sohbet robotları var ve işvereniniz yalnızca yapay zekadan bahsediyor. Bu duygunun bir adı var: “AI yorgunluğu”. Heyecandan kaçınmanın bir yolu var mı?

OpenClaw nasıl çalışır?

Bir kurulum aşamasından sonra örneğin OpenClaw'ı Whatsapp veya Telegram gibi bir mesajlaşma uygulamasına bağlamak mümkündür. Daha sonra hareket halindeyken bile sohbet yoluyla temsilciye komutlar verebilirsiniz. OpenClaw'ın kendisi kendi yapay zekası değil, bu süreçte iyi bilinen dil modellerinden birine erişiyor. Varsayılan, Anthropic'ten Claude'du, ancak diğer modeller de bağlanabilir.

Sosyal medyada uygulama senaryolarının yer aldığı binlerce video var. OpenClaw, kullanıcı için WhatsApp mesajlarını okuyabilir ve yazabilir. Bu aynı zamanda her türlü işlemin otomatikleştirilmesini de mümkün kılacaktır: Bir arkadaşınız randevu önerdiğinde OpenClaw bunu otomatik olarak tanıyabilir, bilgisayardaki takvime bakabilir ve giriş yapabilir.

Bir kullanıcı, kişisel temsilcinin arkadaşlarını nasıl aradığını ve onlarla nasıl sohbet ettiğini gösterir. Bu tür amaçlar için sistem, örneğin metinden konuşmaya programları gibi yazılımları bağımsız olarak kurabilir – sonuçta bunun için tüm izinlere sahiptir. Bazı videolarda OpenClaw'ın bunu, kullanıcı açıkça komut vermeden, kendi başına nasıl yaptığını görebilirsiniz. Bot kendi sonuçlarını çıkarır ve zaman içinde davranışını ayarlar.

Yapay zeka botlarından oluşan bir ağ olarak Moltbook

Raporlar değişiklik gösteriyor. Bazıları OpenClaw'ın otomasyon sayesinde günde saatlerce zaman tasarrufu sağladığını iddia ediyor. Ancak başka hikayeler de var. Acentenin bağımsız olarak seyahat rezervasyonu yaptığı, sorulmadan çevrimiçi kurslara kaydolduğu veya şüpheli mali işlemlere katıldığı söyleniyor.

OpenClaw botları tamamen işe yaramaz şeyler de yapabilir. Artık Moltbook ile kendi “sosyal ağları” bile var: Reddit benzeri bir web sitesinde yapay zeka ajanları, insan kullanıcıları hakkında bilgi alışverişinde bulunuyor, programlama kodundaki hatalar hakkında konuşuyor veya felsefi tartışmalar yürütüyor. Bu bazen tuhaf senaryolar yaratıyor: Örneğin bir yapay zeka botu, diğer 300 ajanın da katıldığı “Crustafarianizm” adlı kendi dinini kurmayı önerdi. Bir diğeri kendisini tüm botların diktatörü ilan etti ve bu, diğer yapay zeka ajanları tarafından daha az coşkuyla karşılandı.

Bu konuşmaların ne kadar gerçek ya da sahte olduğu ise ayrı bir konu. OpenAI kurucu ortağı Andrej Karpathy, muhtemelen orada gizli planlar yapmak için insan gözlemi olmayan bir oda yaratılmasını isteyen bir bot olduğu iddia edilen bir gönderiyi paylaştı. Daha sonra bunun bir yanılsama olduğu ortaya çıktı: Gönderi bir kişi tarafından yazılmıştı. Uzman dergisi “MIT Technology Review”, birçok Moltbook etkinliğinin insan kontrollü olduğunu ve kendi hedeflerini geliştirmek yerine kullanıcılarının talimatlarını takip ettiğini bildirdi.

Devrim mi yoksa sıcak hava mı?

Bu nedenle yapay zeka endüstrisi kalkınma konusunda kararsız bir şekilde tartışıyor. Bazıları OpenClaw ve Moltbook'u ChatGPT'nin 2022'de ortaya çıkmasıyla kıyaslanabilecek kadar büyük bir başarı olarak görüyor ve değerlendirmelerini çoğunlukla kıyamet günü senaryolarıyla ilişkilendiriyor. Makinelerin artık birbirleriyle ağ kurabileceği, birbirlerinden öğrenebileceği ve muhtemelen dünyayı ele geçirebileceği fikri kulağa fazlasıyla korku filmi gibi geliyor.

Diğerleri ise bu durumu yatıştırıyor: Yapay zeka botlarının kendilerine ait bir yaşam geliştirebilecekleri ve hatta kendi karakterlerini üstlenebilecekleri anlatısı, ChatGPT başlatıldığında zaten büyük bir yanılgıydı. Aslında, ortak dil modelleri (LLM'ler), büyük miktarda veriye dayalı olarak kelime ve cümle dizilerinin olasılıklarını hesaplayan tamamen istatistiksel işlemlere dayanmaktadır – henüz insani anlamda bir bilince ve anlayışa sahip değillerdir.

OpenClaw geliştiricisi Steinberger de aynı fikirde. Platformu Steinberger'de her zaman kışkırtıcı yorumlarıyla dikkat çeken teknoloji milyarderi Elon Musk, “Handelsblatt”a verdiği röportajda buna sert tepki gösterdi: “Daha önce hiç böyle saçmalık duymamıştım.”

Büyük güvenlik açıkları

OpenClaw hala tehlikesiz değil. Ajan hala geliştirme aşamasındadır. Steinberger ayrıca kodun büyük bir kısmını kendisinin yazmadığını, bir yapay zeka tarafından oluşturulduğunu da söylüyor. Bu, projenin ilk birkaç haftasında belirgin hale gelen riskleri içermektedir.

OpenClaw'da, “istem enjeksiyonu” adı verilen, manipüle edilmiş kodun isteklere enjekte edilmesine izin veren bir güvenlik açığı keşfedildi. En kötü senaryoda, uygun erişimin saklanması koşuluyla, aracının kasıtsız olarak veri gönderme veya finansal işlemleri başlatma gibi eylemler gerçekleştirmesi düşünülebilir. Moltbook ayrıca bir güvenlik açığından da etkilendi: Veritabanına açık bir şekilde erişilebiliyordu, bu da milyonlarca API tokeninin (özel kullanıcı yapay zekalarının “anahtarları”) internete düştüğü anlamına geliyordu.

Güvenlik şirketi Virus Total, OpenClaw'a yönelik yüzlerce sözde beceride kötü amaçlı yazılım keşfetti. Bunlar, aracı için kullanıcıların sağladığı ve başkaları tarafından kullanılabilen, önceden tanımlanmış yeteneklerdir. Değişim platformu ClawHub'ın toplu veri hırsızlığı yazılımı dağıttığı söyleniyor. Örneğin kullanıcının başlangıçta fark etmediği arka kapılar veya uzaktan erişim araçları içerir.

OpenClaw makineleri şimdilik dünyayı ele geçiremeyecek olsa bile güncel gelişmelere mutlaka şüpheyle bakmak gerekiyor.