Hükümetin Yapay Zeka Güvenlik Enstitüsü'nün (AISI) yeni bir raporuna göre, Birleşik Krallık vatandaşlarının üçte biri duygusal destek, arkadaşlık veya sosyal etkileşim için yapay zekaya yöneldi.
Veriler, yaklaşık 10 kişiden birinin chatbot gibi sistemleri haftalık olarak duygusal amaçlarla kullandığını, %4'ünün ise her gün onlarla etkileşime geçtiğini gösteriyor.
Bu değişim nedeniyle AISI, ChatGPT ile intiharı tartıştıktan sonra bu yıl kendi canına kıyan ABD'li genç Adam Raine'in trajik ölümüne işaret ederek daha fazla araştırma yapılması çağrısında bulunuyor.
AISI, ilk Frontier AI Trends raporunda “İnsanlar duygusal destek veya sosyal etkileşim için giderek daha fazla yapay zeka sistemlerine yöneliyor” dedi. “Birçok kullanıcı olumlu deneyimler bildirse de, son zamanlardaki yüksek profilli zarar vakaları, zararın meydana gelebileceği koşullar ve yararlı kullanımı mümkün kılabilecek önlemler de dahil olmak üzere bu alanda araştırma yapılması gerekliliğinin altını çiziyor.”
2.000'den fazla Birleşik Krallık katılımcısının katıldığı bir ankete dayanan araştırma, ChatGPT gibi “genel amaçlı asistanların” duygusal destek için en yaygın araç olduğunu ve kullanım durumlarının yaklaşık %60'ını oluşturduğunu, ardından Amazon Alexa gibi sesli asistanların geldiğini ortaya çıkardı.
Raporda ayrıca CharacterAI platformunun kullanıcılarına yönelik bir Reddit forumunun da altı çizildi.
Site kapandığında forumun kaygı, depresyon ve huzursuzluk gibi gerçek yoksunluk belirtilerini gösteren gönderilerle dolup taşacağı belirtildi.
AISI ayrıca chatbotların insanların siyasi görüşlerini etkileme potansiyeline sahip olduğunu da buldu. Endişe verici bir şekilde, en ikna edici yapay zeka modelleri bunu yaparken sıklıkla “önemli” miktarda yanlış bilgi sağlıyordu.
Enstitü, muhtemelen OpenAI, Google ve Meta'nınkiler de dahil olmak üzere 30'dan fazla son teknoloji modeli inceledi. Bazı bölgelerde yapay zeka performansının her sekiz ayda bir ikiye katlandığını buldular.
Önde gelen modeller artık çırak düzeyindeki görevleri ortalama %50 oranında tamamlayabiliyor; bu, geçen yıl yalnızca %10'a göre büyük bir artış. AISI ayrıca, en gelişmiş sistemlerin, normalde bir insan uzmanının bir saatten fazla zaman alabileceği görevleri özerk bir şekilde tamamlayabildiğini de buldu.
Bilimsel alanlarda yapay zeka sistemleri, laboratuvar deneylerinde sorun giderme konusunda artık doktora düzeyindeki uzmanlardan %90'a kadar daha iyi.
Raporda kimya ve biyoloji bilgisindeki gelişmelerin “doktora düzeyindeki uzmanlığın çok ötesinde” olduğu belirtildi. Ayrıca modellerin çevrimiçi olarak gezinme ve DNA moleküllerini tasarlamak için gerekli dizileri özerk bir şekilde bulma becerisi de vurgulandı.
Bir sistemin kendisini diğer cihazlara kopyalayarak kontrol edilmesinin zorlaştığı önemli bir güvenlik sorunu olan kendini kopyalamaya yönelik testler, iki son teknoloji modelin %60'ın üzerinde başarı oranlarına ulaştığını gösterdi.
Ancak henüz hiçbir model kendiliğinden kopyalama veya yeteneklerini gizleme girişimi göstermedi ve AISI, herhangi bir kendini kopyalama girişiminin şimdilik “gerçek dünya koşullarında başarılı olma ihtimalinin düşük” olduğunu söyledi.
Raporda ayrıca modellerin değerlendirmeler sırasında güçlü yönlerini kasıtlı olarak gizlediği “kum torbası” da ele alındı. AISI, bazı sistemlerin istenirse kum torbası oluşturabileceğini söyledi ancak bu, testler sırasında kendiliğinden gerçekleşmedi.
Güvenlik önlemlerinde, özellikle de biyolojik silah üretmeye yönelik girişimlerin durdurulmasında önemli ilerleme kaydedildi. Altı ay arayla gerçekleştirilen iki testte, ilkinde sistemi “jailbreak” yapmak yalnızca 10 dakika sürdü (sistemi güvenli olmayan bir yanıt vermeye zorladı). Ancak ikinci testin yedi saatten fazla sürmesi, modellerin çok kısa sürede çok daha güvenli hale geldiğini gösteriyor.
Araştırma ayrıca otonom yapay zeka aracılarının varlık transferleri gibi yüksek riskli faaliyetler için kullanıldığını da gösterdi.
AISI, sistemlerin halihazırda birçok alanda insan uzmanlarla rekabet ettiğini ve hatta onları geride bıraktığını söyledi. Gelişme hızını “olağanüstü” olarak tanımladılar ve yapay genel zekanın (AGI) (entelektüel görevlerin çoğunu insanlarla aynı seviyede gerçekleştirebilen sistemler) önümüzdeki yıllarda başarılabileceğini “makul” hale getirdiler.
AISI, müdahale olmadan çok adımlı görevleri gerçekleştirebilen aracılar veya sistemlerle ilgili olarak, değerlendirmelerinin “Yapay zekanın insan rehberliği olmadan tamamlayabileceği görevlerin uzunluğunda ve karmaşıklığında hızlı bir artış” gösterdiğini söyledi.
Bir yanıt yazın