Bilişsel ısınma. Alphabet ve Google CEO'su Sundar Pichai, Stanford Üniversitesi'nde 2026 mezuniyet konuşmasını yaptı. Konuşmayı çevreleyen öfkenin ve ardından konuşmanın tamamını içeren resmi blog yazısının ötesine bakıldığında, Pichai'nin kitlesel bir öğrenci greviyle karşı karşıya kaldığı ve 14 Haziran'da Stanford Stadyumu'nda Stanford Üniversitesi'nin 135. Mezuniyet Töreni sırasında yüksek sesle yuhalandığı ortaya çıktı. Nedeni? AI.
Kısmen Pichai'nin konuşmasında yapay zekadan bahsetmekten bile tamamen kaçınması, seyircinin artık sahayı satın almadığının olası en büyük göstergesi. İkincisi, Google'ın Project Nimbus'a katılımı teknoloji devinin umduğu kadar hayran bulamıyor. Nimbus Projesi, gözetleme ve askeri operasyonları mümkün kılmak için İsrail hükümeti ve ordusuyla yapılan 1,2 milyar dolarlık bir bulut bilişim ve yapay zeka sözleşmesidir.
Pichai, gözle görülür genel gerilimi dağıtmak amacıyla, “Bugünün hepinize tavsiye vermekle ilgili olduğunu biliyorum. Ama insanlar bana ne söyleyeceğim konusunda da birçok tavsiye verdi. Aslında bu aynı tavsiyeydi ve ne söylememem gerektiğiyle ilgiliydi. İnsanlar bunun benim için gerçekten zor olacağını düşündü; sonuçta soyadımın son iki harfi.” dedi.
WIRED WISDOM'DA ÖNCEKİ BÖLÜMLER
ÇEMBER TATTLETALE
Anthropic'in geçen hafta Fable 5 ve Mythos 5 modellerini piyasaya sürmesinden birkaç gün sonra ilginç bir şey yaşandı. Özellikle, ilki “test edilen hemen hemen tüm AI yetenek kriterlerinde en son teknoloji” olarak tanımlandı ve ikincisi ise “Fable 5 ile aynı temel model, ancak bazı alanlarda güvenlik önlemleri kaldırılmış” olarak tanımlandı. İşte o zaman parti gerçekten başladı.
Amazon araştırmacılarının Anthropic'in Fable 5 modelinde güvenliği atlamanın bir yolunu buldukları bildirildi. Amazon'un, modelin siber saldırılarla ilgili bilgileri elde etmek için kullanılabileceğini gösteren içgörülere sahip olduğuna dair kanıtlar var. Amazon CEO'su Andy Jassy'nin Beyaz Saray'daki üst düzey isimleri aradığı ve Anthropic'in yeni modelleri hakkındaki endişelerini dile getirdiği bildirildi. Kısa bir süre sonra Anthropic, Fable 5 ve Mythos 5'e erişimin engellenmesi yönünde bir hükümet emri aldı. ABD hükümetinin değerlendirmesi, bu iki modelin daha önce başka hiçbir modelin sahip olmadığı bir performans eşiğini aştığı ve bu nedenle dikkatli olunması gerektiği yönünde görünüyor.
Elbette Antropik en iyi ihtimalle memnun değil. Bu arada Amazon, Anthropic'e yaklaşık 8 milyar dolar yatırım yaptı ve en büyük yatırımcısı. İkincisi, durum şu: Amazon, Beyaz Saray adında bir jailbreak buldu, bir rakibini kapattı ve kendi ürünlerini korudu. Burada sorduğum sorular şu: Bugüne kadar sınır yetenekleri iddia eden her yapay zeka modeline aynı standartlar uygulandı mı (ve finansman ve Euphoria sürekliliği nedeniyle çok sayıda uygulandı) ve Fable 5 ve Mythos 5'e rakip olan tüm sınır modelleri aynı metodoloji kullanılarak test edildi mi?
Anthropic, İhracat Kontrol Yönergesi'ne derhal uyulacağını belirtirken şöyle devam ediyor: “Düşük potansiyelli bir jailbreak bulgusunun, yüz milyonlarca insanın kullanımına sunulan ticari bir modelin geri çağrılması için gerekçe olması gerektiğine inanmıyoruz. Bu standart endüstri genelinde uygulanırsa, tüm Frontier model sağlayıcıları için tüm yeni model tanıtımlarını esasen durduracağımıza inanıyoruz.”
TİTREŞİMLER VE HALÜSİNASYONLAR
Geçtiğimiz yılın ekim ayında Dört Büyüklerden biri olan KPMG şu başlıklı bir rapor yayınladı: Toplam Deneyim: Ajan Yapay Zeka Çağında Mükemmelliği Yeniden Tanımlamakşirketlerin müşteri ihtiyaçlarını karşılamak ve dünyayı daha iyi bir yer haline getirmek için yapay zekayı nasıl kullandıkları hakkında kapsamlı yazılar yazan bir kitap. Halüsinasyonlarla dolu olduğu ortaya çıktı. Popüler bir AI içerik algılama aracının üreticisi olan GPTZero, yanlışlıklar olduğunu ve rapor boyunca sahte dipnotların bulunabileceğini belirtti.
GPTZero, makaledeki 45 alıntıdan yalnızca beşinin gerçek kaynaklara doğru şekilde atıfta bulunduğunu belirtiyor. En fazla 28 alıntı, başlıkları başka kelimelerle ifade etti veya orijinal kaynaklara sahte unsurlar ekledi; bunlardan 12'si, doğruluğun belirlenmesini daha da karmaşık hale getirmek için kasıtlı olarak belirsizdi. GPTZero araştırmacıları ayrıca yapay zeka modellerinin sahte referanslar oluşturmasını da “canlı alıntı” olarak adlandırdı.
Araştırmacılar ayrıca makaledeki iddiaların yaklaşık yarısının sahte olduğunu ya da yanlış atfedildiğini ve “muhtemelen bir yapay zeka araştırma aracının vahşi doğada 'ajan yapay zeka' örnekleri bulma çağrısına gereğinden fazla uymasının sonucu olduğunu” buldu.
Emirates'e sadık biri olduğum için bunu çok iyi biliyorum. KPMG, Emirates'in, yapay zeka tarafından desteklenen, yolcularla sohbet edebilen ve uçuşlarını değiştirebilen Sara adında bir mobil sohbet robotu başlattığını iddia etti. Sara'nın, 2023 yılında Emirates uygulaması ve web sitesinde yayınlanan bir mobil asistan olduğu, iddia edildiği gibi yapay zeka destekli bir chatbot olmadığı ve yolcuların rezervasyonlarını değiştiremediği ortaya çıktı.
“Yapay zeka” ile ilgili herhangi bir şeye olan güvenim sıfır ise beni suçlamayın.
gözlerim senin üzerinde
Meta'nın geçmişte kullanıcı verileri konusunda neden cömert davrandığını hiç merak ettiniz mi? Bu eğilimin organizasyon içinde daha da derin olduğu ortaya çıktı. Birkaç gün önce, Meta'nın Model Yeteneği Girişimi (MCI) adı verilen dahili projesinin, Meta'nın yapay zeka modellerini iyileştirmek için veri almak üzere çalışanları iş cihazlarında izlediğini belirten bir rapor okudum (her fare tıklaması ve tuş vuruşu). Görünüşe göre çok küçük bir parlak nokta, Meta'nın çalışanların “kişisel bir şeyi kontrol etmeleri” gerektiğinde bu takibi 30 dakikaya kadar “duraklatmalarına” izin vermesidir.
Yakın zamanda, CEO chatbot'un programı savunduğu bir çalışan toplantısının ses kaydı sızdırıldı; yapay zekanın “gerçekten akıllı insanların bir şeyler yaptığını izleyerek” hızlı bir şekilde öğrenebileceğini ve “bu şirketteki insanların ortalama zekasının diğer veri kümelerinin kaynağından önemli ölçüde daha yüksek” olduğunu söyledi. TV şovlarının ve filmlerin bizi korkutmayı sevdiği distopik bir dünyaya dair içgörüler mi? Onlar artık gerçektir.
Bir yanıt yazın