Google, aramadaki tuhaf AI yanıtlarını manuel olarak kaldırmak için çabalıyor

Sosyal medya, Google'ın yeni AI Genel Bakış ürününün, kullanıcılara pizzalarına yapıştırıcı sürmelerini söylemekten taş yemelerini önermeye kadar tuhaf şeyler söyleyen örnekleriyle dolu. Karmaşık dağıtım, çeşitli memler yayınlandıkça Google'ın belirli aramalar için Yapay Zeka Genel Bakışlarını manuel olarak devre dışı bırakmak için yarıştığı anlamına geliyor; bu nedenle kullanıcılar, sosyal ağlarda yayınlandıktan kısa bir süre sonra bunların çoğunun kaybolduğunu görüyor.

Google, Mayıs 2023'te Arama Üretken Deneyim olarak beta olarak başlatılan özellik olan Yapay Zeka Genel Bakış'ı bir yıldır test ettiğinden bu garip bir durum ve CEO Sundar Pichai, şirketin bu süre içinde bir milyardan fazla sorguya hizmet ettiğini söyledi.

Ancak Pichai aynı zamanda Google'ın, “donanım, mühendislik ve teknik ilerlemeler sayesinde” yapay zeka yanıtları sunma maliyetini aynı süre içinde yüzde 80 oranında azalttığını da söyledi. Görünüşe göre bu tür bir optimizasyon, teknoloji hazır olmadan çok erken gerçekleşmiş olabilir.

İsminin gizli kalmasını isteyen bir yapay zeka kurucusu, “Bir zamanlar son teknoloji ürünü olması ve yüksek kaliteli ürünler sunmasıyla tanınan bir şirket, artık düşük kaliteli çıktılarıyla meşhur oluyor” dedi. Sınır.

Google, AI Genel Bakış ürününün kullanıcılara büyük ölçüde “yüksek kaliteli bilgi” sağladığını söylemeye devam ediyor. Google sözcüsü Meghann Farnsworth, “Gördüğümüz örneklerin çoğu olağandışı sorgulardı ve ayrıca üzerinde oynanamayan veya yeniden oluşturamadığımız örnekler de gördük” dedi. Sınır. Farnsworth ayrıca şirketin, “içerik politikalarımız kapsamında uygun olduğu durumlarda belirli sorgularda AI Genel Bakışlarını kaldırmak için hızlı harekete geçtiğini ve bu örnekleri, bazıları halihazırda kullanıma sunulmaya başlamış olan sistemlerimizde daha geniş iyileştirmeler geliştirmek için kullandığını” doğruladı.

Yapay zeka uzmanı ve New York Üniversitesi'nden sinir bilimleri alanında fahri profesör olan Gary Marcus şunları söyledi: Sınır Pek çok yapay zeka şirketinin bu teknolojinin yüzde 80 doğrudan yüzde 100'e çıkacağına dair “hayaller sattığını” söylüyor. Marcus, büyük miktarda insan verisine yaklaşmayı gerektirdiğinden ilk yüzde 80'e ulaşmanın nispeten basit olduğunu, ancak son yüzde 20'nin son derece zorlayıcı olduğunu söyledi. Aslında Marcus, son yüzde 20'nin en zor şey olabileceğini düşünüyor.

“Aslında karar vermek için biraz mantık yürütmeniz gerekiyor: Bu şey makul mü? Bu kaynak yasal mı? Marcus, “İnsan gerçeklerini kontrol eden bir kişinin yapabileceği gibi, aslında yapay genel zeka gerektirebilecek şeyler yapmalısınız” dedi. Marcus ve Meta'nın yapay zeka şefi Yann LeCun, Google'ın Gemini ve OpenAI'nin GPT-4'ü gibi mevcut yapay zeka sistemlerini destekleyen büyük dil modellerinin AGI'yi yaratan şey olmayacağı konusunda hemfikir.

Bakın, bu Google için zor bir durum. Bing yapay zeka konusunda Google'dan önce Satya Nadella'nın ünlü “onları dans ettirdik” sözüyle büyük bir adım attı, OpenAI'nin kendi arama motoru üzerinde çalıştığı bildiriliyor, yeni bir yapay zeka arama girişimi zaten buna değer 1 milyar dolar ve en iyi deneyimi isteyen genç nesil kullanıcılar TikTok'a geçiyor. Şirket açıkça rekabet etme baskısını hissediyor ve karmaşık yapay zeka sürümlerinin nedeni de baskıdır. Marcus, Meta'nın 2022'de Galactica adlı bir yapay zeka sistemini piyasaya sürdüğünü ve bunun piyasaya sürülmesinden kısa bir süre sonra kaldırılması gerektiğini çünkü diğer şeylerin yanı sıra insanlara cam yemelerini söylediğini belirtiyor. Tanıdık geliyor.

Google'ın AI Genel Bakışı için büyük planları var; bugün mevcut olan özellik, şirketin geçen hafta duyurduğu şeyin sadece küçük bir kısmı. Karmaşık sorgular için çok adımlı akıl yürütme, yapay zeka tarafından organize edilmiş bir sonuç sayfası oluşturma yeteneği, Google Lens'te video arama – burada çok fazla hırs var. Ancak şu anda şirketin itibarı sadece temelleri doğru yapmaya bağlı ve durum pek de iyi görünmüyor.

“[These models] Marcus, “Yapısal olarak kendi işlerinde akıl sağlığı kontrolü yapma konusunda yetersizler ve bu endüstriyi arkadan ısırmaya gelen şey de bu” dedi.