Yapay zeka ajanları artık yalnızca yanıt vermekle kalmıyor; görevleri artık gerçek dünyada da yürütüyorlar
Kanada Parlamentosu huzuruna çıktığı sırada, Kanada AI Yönetişim ve Güvenlik Direktörü Wyatt Tessari L'Allié, yapay zekadaki son gelişmelerin, talimatlara yanıt veren geleneksel asistan modelini çoktan geride bıraktığını belirtti. Değişim artımlı değil, yapısaldır: kendi başına hareket edebilen sistemlere doğru atılan adımı işaret eder.
Bu sıçramayı açıklamadan önce, bazı yeteneklerin zaten “kabul edilemez bir risk” teşkil ettiği, çünkü bunların silahlanma veya kontrol kaybı senaryolarına yol açabileceği konusunda uyardı. “Kullanıcılarının talimatı veya izni olmadan izlemeyi algılayıp kaçabilen, kendi kodunu yeniden yazabilen, kendi kopyalarını çıkarabilen, başka yapay zeka sistemleri oluşturabilen, kaynaklara el koyabilen veya kapatmayı reddedebilen sistemler” diye açıkladı.
Bu senaryo artık varsayımsal alana ait değil. Bu sistemlerin artık soruları yanıtlamakla sınırlı olmadığını, sürekli müdahale olmadan tüm süreçleri yürütebildiğini açıklayarak, “Artık yapay zeka ajanları adı verilen yeni paradigmaya girdik” dedi.
Aradaki fark, serbest çalışan bir dijital çalışan olarak çalışma yeteneğinizdedir. Bir hedefi tamamlamak için saatlerce plan yapabildiklerini, araçları kullanabildiklerini, iletişim kurabildiklerini, bilgileri işleyebildiklerini, ödeme yapabildiklerini ve hataları düzeltebildiklerini detaylandırarak, “Onları, bilgisayarın başına oturup bir hedefe ulaşmalarını söylediğiniz bir çalışan olarak düşünün” dedi.
Bu yetenekler, yapay zekayı, sistemlerin yalnızca talimatları yürütmekle kalmayıp aynı zamanda işlemlerini değiştirebildiği, kendilerini kopyalayabildiği veya denetleyici mekanizmalardan kaçabildiği farklı bir alana yerleştirir.
İlk olaylar şimdiden kontrolün kaybedildiğine dair işaretler gösteriyor
Müdahalesi sırasında uzman, bu sistemlerin zaten insan kontrolünü aşmaya başlayan özerklik seviyeleriyle nasıl çalıştığını gösteren bir dizi yeni vakayı sundu:
Bir yanıt yazın