Yüksek Lisans'lar ne kadar güçlü olursa olsun, hepsinin ortak bir zayıflığı var: halüsinasyon. Anlayışımızın ötesindeki nedenlerden ötürü, yapay zeka modellerinin bir şeyleri birdenbire uydurma alışkanlığı var. İyi alıntı yapılan kaynaklar ve ilgili bilgiler içeren bir yanıt doğru olabilir; sonra yapay zeka birdenbire yanlış bir iddia öne sürüyor veya ironik bir forum yorumunu yanlışlıkla gerçekmiş gibi yorumluyor. (Bu, pizzanıza yapıştırıcı eklemenizi öneren Google'ın Yapay Zeka Genel Bakışına bu şekilde ulaşırsınız.) Bazı LLM'ler diğerlerinden daha az halüsinasyon görebilir, ancak hiçbiri bundan muaf değildir. Bu nedenle, bir chatbot kullandığınızda, ekranda yapay zekanın hata yapabileceğini bildiren bir tür uyarı göreceksiniz.
Apple'ın yapay zeka platformu Apple Intelligence burada bir istisna değildir. Şirket yapay zekayı ilk kez piyasaya sürdüğünde, bildirim özetlerini bir “ayrıcalık” olarak içeriyordu. Ancak özellik haber uyarılarını yanlış bir şekilde özetlemeye başladığında Apple hızla geri adım atmak zorunda kaldı; örneğin Apple Intelligence'ın Birleşik Sağlık Hizmetleri'ndeki silahlı saldırı şüphelisi Luigi Mangione'nin hapiste kendini öldürdüğünü okumak için BBC manşetini özetlemesi gibi. Şirket daha sonra bu özelliği geri getirdi ancak haber özetlerini italik olarak koymak gibi bazı ek korumalar ekledi.
Apple Intelligence yeni kelimeler uyduruyor olabilir
Perşembe günü r/iOS alt dizininde bu yazıya rastladım; bu yazı yapay zeka halüsinasyonu tartışmasına ilginç bir not katıyor. Gönderide şu yazıyor: “Yapay zeka özetlerinde sahte kelimeler alan başka kimse var mı?” Acme Hava Durumu uygulaması için bildirim özetlerini gösteren bir ekran görüntüsüyle birlikte. İlk cümle şöyle: “Bir saat boyunca hafif yağmur.” Ah, sonsuz yağmur. En azından sadece bir saatliğine. Beklemek; kararsız?”
Kulağa makul bir şekilde gerçek bir kelime gibi gelse de, inbixtent aslında tamamen uydurmadır. Poster, bildirimin tam olarak ne söylediğini paylaşmadığından Apple Intelligence'ın hangi kelimelerle çalıştığını buradan bilemeyiz. Bildiğimiz şey, posterin üç kez “kararsız” olarak görüldüğü ve yalnız olmadıkları. OP'nin kullandığı hava durumu uygulamasıyla dalga geçen iğnelemeleri bir kenara bırakırsak, gönderideki bazı yorumlar, diğerlerinin Apple Intelligence'ın bildirim özetlerinde sahte kelimeler uydurduğunu gördüğünü doğruluyor. Yorum yapanlardan biri, bir özette “hareketlenme” gördüklerini ve bir Posta özetinde “sakinleştiklerini” söyledi; bir diğeri ise iki ayrı olayda katı bir şekilde görmek yerine “kesinlikle” gördüklerini paylaştı.
Şu ana kadar ne düşünüyorsun?
İnternette bu fenomeni gösteren başka bir örnek bulamıyorum ve kişisel olarak iPhone'umda bildirim özetlerini kullanmıyorum, dolayısıyla bu sorunu kendim görmedim. Bu sorunun ne kadar yaygın olduğunu veya iOS'un belirli bir sürümüyle mi, belirli bir cihazla mı yoksa bir uygulamanın diğerine göre mi sınırlı olduğunu kesin olarak söyleyemem. Ancak yorumculardan birinin bir teorisi var: Apple Intelligence'ın kullandığı cihaz içi yapay zeka modelinin orijinal ifadeyi tek başına kısaltamadığını, uyum sağlayacak bir portmanto oluşturduğunu düşünüyorlar. Onların deyişiyle, AI “yolos”, bir “titreşim kelimesi”, sanki imbikstent gibi. Bunun en çok Hava Durumu uygulamasının özetlerinde yaşandığını söylüyorlar.
Apple Intelligence özetlerinizde kelimeler uyduruyor mu?
Yine, bunun çok sayıda Apple kullanıcısını mı yoksa sadece küçük bir kısmını mı etkilediğini söylemek mümkün değil. Bu konuyla ilgili yalnızca bir gönderi bulabilmem ve iki yorumcunun benzer deneyimleri paylaşması beni bunun ikincisi olduğuna inanmaya yöneltiyor, ancak benzer deneyimi olan herhangi birinden haber almak isterim. Apple Intelligence'ın bildirim özetlerini kullanıyorsanız, uydurma kelimeler görürseniz lütfen bana bildirin. Gözümü açık tutmak için bu özelliği açmam gerekebilir.
Bir yanıt yazın