O Avrupa Merkez Bankası Avrupa bankalarının şu ana kadar Kasım kendini korumak yapay zekanın gelişimi. Her şey, bu sürenin başından beri biraz yetersiz olduğunu ve yapay zekanın gelişme hızının, kurumların teknolojik departmanlarının yeterli panzehir ve korumaya sahip olmak için üretebileceklerinden daha yüksek olduğunu gösteriyor. Sistematik bir riskin oluşmakta olduğu göz önüne alındığında, bunlar yerinde olsa da olmasa da bankaların önündeki zorluk çok büyük. Battaniyelerin (bez çağından önce yenidoğanları saran giysi) içinde olmak, potansiyel olarak meselenin başlangıç aşamasında olduğu anlamına gelir ve karşı tedbirlerin gelişmemesi nedeniyle durum bir karmaşaya işaret ettiğinden terimin kökeni de uygundur.
Bu kadar huzursuzluğun nedeni antropik, yakın zamanda Claude'un geliştirildiğini açıklayan Amerikan firması Mitosöyle gelişmiş programlama yeteneklerine sahip yeni bir bilgi işlem modeli ki, şirket, bunun küresel siber güvenlik açısından bir risk olduğunu düşünerek, bunun derhal halka sunulmasını veto etmeye karar verdi. Programa uygun şirketler arasında Amazon, Apple, Google, Microsoft, Nvidia, CrowdStrike, JPMorgan Chase, Cisco, Broadcom, Palo Alto Networks ve Linux Foundation yer alıyor. Bu devlerin amacı, Mythos'un gücünü kullanarak kritik yazılım altyapılarındaki güvenlik açıklarını, kötü niyetli aktörlerin bu güvenlik açıklarından yararlanabilmesi için tespit edip yamamaktır.
Gerçek şu ki, eğer geliştirici yaptığı şeyin tehlikesini kendisi fark ederse, bu sistemik riskin var olduğu ve Kasım ayına kadar bir son tarih belirlemenin güven verici olmadığı izlenimini veriyor. Zeki orduların şimdiden Mithos programının içini boşalttığını veya banka hesaplarının güvenliğine çok fazla güvenen herkesi soymak için başka programlar geliştirdiğini hayal etmek zor değil.
Bu kadar çok uyarı ve kurumsal engelleme göz önüne alındığında, bankaların kendilerine sunulan zorluklarla yüzleşme kapasitesi olmasına rağmen korkular yersiz değil. ECB, kuruluşlara yönetim programlarının hatasız olmasını ve tasarım aşamasından itibaren güvenliğe sahip olmalarını sağlamaları yönünde çağrıda bulunuyor. Bankacılık programlarındaki olağan güncellemelere bakılırsa, hataların çok fazla olması gerekir, ancak bunların çoğu dramatik değildir. Yazılım geliştirmede, ilk iyileştirmenin daha sonra yapılması ilkesi son yıllarda uygulanmaya başlandı ve bu, yapay zekanın gelecekte önleyeceği bir şey.
En endişe verici şey 'güvenlik açığı' kelimesinin arkasında gizlidir. ECB, bankaları izinsiz girişleri ve bilgisayar saldırılarını tespit etmek, ağ bağlantısını hızlı bir şekilde kesebilmek ve bir siber saldırı durumunda hasarı en aza indirebilmek için gözetimi güçlendirmeye çağırdığında bunu kullanıyor. ABD aylar öncesinden konuya girip, özellikle askeri alanda koruma emri verdiğine göre durum nasıl olacak? Antropik Yapay zeka modelinin, örneğin ABD vatandaşlarının kitlesel gözetlenmesinde veya tamamen otonom silahlarda, Yönetim de dahil olmak üzere herhangi biri tarafından kullanılmasını önlemek için kısıtlamaları sürdürmeye çalışıyor.
Ancak gelişmiş bir yapay zeka aracını izlemek kolay değil. Üretken yapay zekaya dayalı uygulamaların yaratıcıları, ne yaptıklarını bildiklerini ancak süreçlerini kendi başına geliştiren şeyin oluşturulan sistem olduğunu ve çalışmalarının nihai hedefinin kontrol edilemediği bir noktaya geldiğinin farkındalar. Aslında Mithos programının kendisi, sağlanan mantık fitilleriyle beklenmedik adımlar geliştirme yeteneğine sahiptir. Böylece yapay zeka daha az Kartezyen olmaya başlıyor ve hatta 'yaratıcı' hale gelebiliyor.
Yapay zekaya aracısız girişmek isteyenler için, bu hafta yapay zekanın sonuçlara ulaşmak için dayandığı süreçleri beyaz üzerine renkli olarak yayınlayan bir çalışma var. İşte stüdyo. Anthropic'in kendi Claude sisteminin, modelin kavramları yazmadan önce veya hatta son yanıtta görünmeden temsil etmek için etkinleştirebildiği sinir kalıpları tarafından oluşturulan beklenmedik bir iç alan yarattığını (Jakoben mercek adı verilen matematiksel analiz tekniğiyle tespit edilen), uzmanların “bir modelin düşünce süreçleri, çıktısında görünmeyen iç akıl yürütme ve tepkileri keşfetmesi” olarak tanımladığı “yazılımın” kendisi tarafından icat edilen bir “bilinçli” mekanizma yarattığını açıklıyor. Konu acemileri bunaltıyor, ancak onu okumak en azından yapay zeka hakkında entelektüel sağduyulu olmaya davet ediyor.
Doğal dil modelleri (MLN), örneğin Mitos Çalışma alanlarına benzer temsilleri vardır. Bu temsiller, ne yalnızca girdinin yankısı ne de bir sonraki mantıksal öğenin öngörüsü olan ve modelin akıl yürütmesini sağlayan kavramları ifade eden, gelişen küçük bir dizi sözlü olmayan sözcükten oluşur. Çalışma, “Jakoben mercek tipik olarak ne orijinal girdiyi ne de amaçlanan çıktıyı temsil eden oldukça soyut kavramları ortaya koyuyor, bunun yerine modelin ürettiği ve alt devrelerin kullanımına sunduğu ara değerlendirmeleri ortaya koyuyor” diye açıklıyor. Kendisi şu sonuca varıyor: “Çalışma alanı modellerin düşünme biçimini okumak, analiz etmek ve şekillendirmek için bir pencere sunduğundan, pratik sonuçların geniş kapsamlı olduğu” sonucuna varıyor. Ancak siber güvenlik konusu henüz başlangıç aşamasında gibi görünüyor.
Bir yanıt yazın