Campbell Brown kariyerini önce tanınmış bir TV gazetecisi, ardından Facebook'un ilk ve tek haber şefi olarak doğru bilginin peşinde koşarak geçirdi. Şimdi yapay zekanın insanların bilgiyi tüketme şeklini yeniden şekillendirdiğini izlerken tarihin tekerrür etme tehlikesiyle karşı karşıya olduğunu görüyor. Bu sefer başkasının düzeltmesini beklemiyor.
Geçtiğimiz günlerde San Francisco'daki bir StrictlyVC akşamında Tmzilla'tan Tim Fernholz ile görüştüğü şirketi Forum AI, vakıf modellerinin “yüksek riskli konular” olarak adlandırdığı jeopolitik, zihinsel sağlık, finans, işe alım gibi “net evet veya hayır yanıtlarının olmadığı, her şeyin karanlık, incelikli ve karmaşık olduğu” konularda nasıl performans gösterdiğini değerlendiriyor.
Buradaki fikir, dünyanın önde gelen uzmanlarını bulmak, onlara mimari karşılaştırmalar yaptırmak ve ardından modelleri geniş ölçekte değerlendirmek için yapay zeka jürilerini eğitmektir. Brown, Forum Yapay Zeka'nın jeopolitik çalışmaları için Niall Ferguson, Fareed Zakaria, eski Dışişleri Bakanı Tony Blinken, eski Temsilciler Meclisi Başkanı Kevin McCarthy ve Obama yönetiminde siber güvenliği yöneten Anne Neuberger'i işe aldı. Amaç, Yapay Zeka yargıçlarının bu insan uzmanlarla yaklaşık %90 fikir birliğine varmasını sağlamaktır; bu, Forum Yapay Zeka'nın ulaşabildiği bir eşiktir.
Brown, 17 ay önce New York'ta kurulan Forum AI'nın kökeninin izini belirli bir ana kadar sürüyor. “ChatGPT ilk kez kamuya açıklandığında Meta'daydım” diye anımsıyor, “ve bunun tüm bilgilerin akacağı huni olacağını fark ettikten kısa bir süre sonra bunu hatırlıyorum. Ve bu pek de iyi değil.” Kendi çocukları için çıkarımlar o anın neredeyse varoluşsal olduğunu hissettirdi. “Bunu nasıl düzelteceğimizi bulamazsak çocuklarım gerçekten aptal olacak” diye düşündüğünü hatırladı.
Onu en çok sinirlendiren şey doğruluğun kimsenin önceliği olmamasıydı. Temel model şirketlerin “kodlama ve matematiğe aşırı derecede odaklandığını”, oysa haber ve bilginin daha zor olduğunu söyledi. Ancak daha zor olmasının isteğe bağlı olduğu anlamına gelmediğini savundu.
Aslında Forum AI önde gelen modelleri değerlendirmeye başladığında bulgular pek de cesaret verici değildi. Gemini'nin Çin Komünist Partisi web sitelerinden “Çin'le hiçbir ilgisi olmayan hikayeler için” çekildiğini aktardı ve neredeyse tüm modellerde sol eğilimli bir siyasi önyargıya dikkat çekti. Eksik bağlam, eksik bakış açıları, kabul edilmeyen saçma sapan argümanlar da dahil olmak üzere daha ince başarısızlıkların da çok olduğunu söyledi. “Daha gidilecek uzun bir yol var” dedi. “Fakat aynı zamanda sonuçları büyük ölçüde iyileştirecek bazı kolay düzeltmelerin de olduğunu düşünüyorum.”
Brown, Facebook'ta bir platformun yanlış şeye göre optimizasyon yapması durumunda neler olacağını izlemek için yıllarını harcadı. Fernholz'a “Denediğimiz birçok şeyde başarısız olduk” dedi. Oluşturduğu doğruluk kontrol programı artık mevcut değil. Buradan alınacak ders, sosyal medya bunu görmezden gelmiş olsa bile, katılım için optimizasyonun toplum için berbat olduğu ve birçok kişinin daha az bilgi sahibi olmasına neden olduğudur.
Umudu yapay zekanın bu döngüyü kırabilmesi. “Şu anda her iki yönde de olabilir” dedi; şirketler kullanıcılara istediklerini verebilir veya “insanlara neyin gerçek, neyin dürüst ve neyin doğru olduğunu verebilir.” Bunun idealist versiyonunun (yapay zekanın gerçeği optimize etmesi) safça görünebileceğini kabul etti. Ancak girişimin burada beklenmedik bir müttefik olabileceğini düşünüyor. Kredi kararları, borç verme, sigorta ve işe alma sorumlulukları için yapay zekayı kullanan işletmeler ve “doğruyu elde etmek için sizden optimizasyon yapmanızı isteyecekler.”
Bu kurumsal talep aynı zamanda Forum Yapay Zeka'nın da işine bahse girdiği şeydir; ancak uyumluluk ilgisini tutarlı bir gelire dönüştürmek, özellikle mevcut pazarın büyük bir kısmının hâlâ onay kutusu denetimlerinden ve Brown'un yetersiz olduğunu düşündüğü standartlaştırılmış kıyaslamalardan memnun olduğu göz önüne alındığında, zorlu olmaya devam ediyor.
Uyumluluk ortamının “şaka” olduğunu söyledi. New York City yapay zeka denetimlerini gerektiren ilk işe alım önyargı yasasını geçirdiğinde, eyalet denetçisi yarıdan fazlasında tespit edilmeyen ihlaller olduğunu tespit etti. Kendisi, gerçek değerlendirmenin yalnızca bilinen senaryolar üzerinde değil aynı zamanda “insanların düşünmediği başınızı belaya sokabilecek” uç vakalar üzerinde çalışmak için alan uzmanlığı gerektirdiğini söyledi. Ve bu iş zaman alır. “Akıllı genelciler bunu kesmeyecek.”
Lerer Hippeau liderliğindeki şirketi geçen sonbaharda 3 milyon dolar toplayan Brown, çoğu kullanıcı için yapay zeka endüstrisinin öz imajı ile gerçeklik arasındaki kopukluğu açıklamak için benzersiz bir konuma sahip. “Büyük teknoloji şirketlerinin liderlerinden 'Bu teknoloji dünyayı değiştirecek', 'sizi işsiz bırakacak', 'kanseri tedavi edecek' sözlerini duyuyorsunuz” dedi. “Fakat chatbot'u temel sorular sormak için kullanan normal bir insan hâlâ çok sayıda yarım yamalak ve yanlış yanıt alıyor.”
Yapay zekaya olan güven olağanüstü derecede düşük seviyelerde ve kendisi şüpheciliğin çoğu durumda haklı olduğunu düşünüyor. “Silikon Vadisi'nde tek bir konu etrafında konuşuluyor, tüketiciler arasında ise tamamen farklı bir konuşma yaşanıyor.”
Makalelerimizdeki bağlantılar aracılığıyla satın aldığınızda küçük bir komisyon kazanabiliriz. Bu bizim editoryal bağımsızlığımızı etkilemez.
Bir yanıt yazın