Guardian, sağlık uzmanlarının tıbbi sorgulara yönelik bazı AI Genel Bakış yanıtlarında yanlış veya yanıltıcı rehberlik bulduğunu iddia eden bir araştırma yayınladı. Google bu rapora itiraz ediyor ve birçok örneğin eksik ekran görüntülerine dayandığını söylüyor.
The Guardian, sağlıkla ilgili aramaları test ettiğini ve AI Genel Bakış yanıtlarını hayır kurumları, tıp uzmanları ve hasta bilgi gruplarıyla paylaştığını söyledi. Google, The Guardian'a Yapay Zeka Genel Bakışlarının “büyük çoğunluğunun” gerçekçi ve yararlı olduğunu söyledi.
The Guardian'ın Bildirdiği Bulgular
The Guardian, bir dizi sağlık sorgusunu test ettiğini ve sağlık kuruluşlarından yapay zeka tarafından oluşturulan özetleri incelemelerini istediğini söyledi. Birkaç eleştirmen, özetlerin yanıltıcı veya yanlış rehberlik içerdiğini söyledi.
Bir örnek pankreas kanserini içeriyordu. Pankreas Kanseri İngiltere'nin destek, araştırma ve etkileme direktörü Anna Jewell, hastalara yüksek yağlı gıdalardan kaçınmalarını tavsiye etmenin “tamamen yanlış” olduğunu söyledi. Bu rehberliğe uymanın “gerçekten tehlikeli olabileceğini ve kişinin tedavi görecek kadar iyi olma şansını tehlikeye atabileceğini” ekledi.
Raporda ayrıca zihinsel sağlık sorguları da vurgulandı. Mind'in bilgi sorumlusu Stephen Buckley, psikoz ve yeme bozuklukları gibi durumlara yönelik bazı yapay zeka özetlerinin “çok tehlikeli tavsiyeler” sunduğunu ve “yanlış, zararlı veya insanları yardım istemekten kaçınmaya yönlendirebileceğini” söyledi.
The Guardian bir kanser taraması örneğine de değindi. Eve Appeal kanser yardım kuruluşunun genel müdürü Athena Lamnisos, pap testinin vajinal kanser testi olarak listelenmesinin “tamamen yanlış bilgi” olduğunu söyledi.
Hasta Bilgi Forumu direktörü Sophie Randall, örneklerin şunu gösterdiğini söyledi: “Google'ın Yapay Zeka Genel Bakışı, yanlış sağlık bilgilerini çevrimiçi aramaların en üstüne koyabilir ve bu da insanların sağlığı için risk oluşturabilir.”
The Guardian ayrıca aynı aramanın tekrarlanmasının, farklı kaynaklardan alınan farklı zamanlarda farklı yapay zeka özetleri üretebileceğini de bildirdi.
Google'ın Yanıtı
Google hem örneklere hem de sonuçlara itiraz etti.
Bir sözcü The Guardian'a, paylaşılan sağlık örneklerinin çoğunun “eksik ekran görüntüleri” olduğunu, ancak şirketin değerlendirebildiği kadarıyla bunların “tanınmış, saygın kaynaklarla bağlantılı olduğunu ve uzman tavsiyesi alınmasını tavsiye ettiklerini” söyledi.
Google, The Guardian'a AI Genel Bakışlarının “büyük çoğunluğunun” “gerçeklere dayalı ve yararlı” olduğunu ve “sürekli olarak” kalite iyileştirmeleri sağladığını söyledi. Şirket ayrıca AI Genel Bakış'ın doğruluğunun, öne çıkan snippet'ler de dahil olmak üzere diğer Arama özellikleriyle “eşit” olduğunu savundu.
Google, AI Genel Bakış'ın web içeriğini yanlış yorumlaması veya bağlamı kaçırması durumunda kendi politikaları uyarınca harekete geçeceğini ekledi.
Ayrıca bakınız: Google AI'ye Genel Bakış Yayıncılar Üzerindeki Etkisi ve 2026'ya Nasıl Uyum Sağlanacağı
Daha Geniş Doğruluk Bağlamı
Bu araştırma, Yapay Zeka Genel Bakışı'nın 2024'te genişletilmesinden bu yana devam eden bir tartışmanın ortasında yer alıyor.
İlk kullanıma sunma sırasında AI Genel Bakış, pizzaya yapıştırıcı uygulanması ve taş yeme gibi öneriler de dahil olmak üzere tuhaf sonuçlara dikkat çekti. Google daha sonra yapay zeka tarafından yazılan özetleri tetikleyen sorguların kapsamını azaltacağını ve özelliğin çalışma şeklini iyileştireceğini söyledi.
Bu lansmanı ele aldım ve erken dönemdeki doğruluk sorunları hızla yapay zeka özetleriyle ilgili kamuya açık anlatının bir parçası haline geldi. O zaman soru, sorunların uç vakalar mı yoksa daha yapısal bir şey mi olduğuydu.
Yakın zamanda Ahrefs'ten elde edilen veriler, tıbbi YMYL sorgularının AI Genel Bakışlarını tetikleme olasılığının ortalamanın üzerinde olduğunu gösteriyor. Ahrefs, 146 milyon SERP analizinde tıbbi YMYL sorgularının %44,1'inin AI Genel Bakışını tetiklediğini bildirdi. Bu, veri kümesindeki genel temel oranın iki katından fazla.
Yüksek Lisans'larda tıbbi Soru-Cevap üzerine ayrı bir araştırma, yapay zeka tarafından oluşturulan yanıtlardaki alıntı-destek boşluklarına işaret etti. Bir değerlendirme çerçevesi olan SourceCheckup, sistemler bağlantı sağlasa bile birçok yanıtın alıntı yaptıkları kaynaklar tarafından tam olarak desteklenmediğini buldu.
Bu Neden Önemli?
AI Genel Bakışları, sıralanan sonuçların üzerinde görünür. Konu sağlık olunca hatalar daha fazla ağırlık taşıyor.
Yayıncılar, belgelenmiş tıbbi uzmanlığa ulaşmak için yıllarca yatırım yaptı. Bu araştırma, sonuçların en üstünde görünen Google'ın kendi özetlerine de aynı ilgiyi gösteriyor.
The Guardian'ın raporu aynı zamanda pratik bir soruna da dikkat çekiyor. Aynı sorgu farklı zamanlarda farklı özetler üretebilir, bu da aramayı yeniden çalıştırarak gördüklerinizi doğrulamayı zorlaştırır.
İleriye Bakış
Google daha önce viral eleştirilerin ardından AI Genel Bakışlarını ayarlamıştı. The Guardian'a verdiği yanıt, AI Genel Bakışlarının ayrı bir standartta tutulmak yerine diğer Arama özellikleri gibi değerlendirilmesini beklediğini gösteriyor.
Bir yanıt yazın