Günlük yaşamın neredeyse her yönüne hızlı entegrasyonuna rağmen, AI teknolojisi mükemmel değildir. Üretken AI her şeyi biliyor gibi görünse de, hata yapabilir veya tamamen bilgi verebilir. Bu yüzden benim gibi teknoloji gazetecilere, şirketlerin AI Tech'i aradığı için AI Tech'i ekliyor, bu yüzden birçok insana güveniyor Ve kabul et.
Arama bu araçlardan biridir. 90'ların sonlarından beri, aradığımız bilgileri bulmak için arama sonuçlarına güvenmeye şartlandık. Birçoğumuz için bu, Google'ı yüklemek, bir aramaya girmek ve ilk sonuçların ilk sayfasını kabul etmek anlamına gelir. Şimdi, Google'ın yapay zeka genel bakışları çoğu arama sonucunun zirvesini ele geçirmesiyle, çoğumuz AI tarafından oluşturulan sonuca bakar ve yüz değeri alırız.
Bu yeni yaklaşımla ilgili birçok sorun var, ancak bugün odaklanmak için önemli bir sorun var: dijital trendler tarafından bildirildiği gibi, bir şirketin telefon numarasını aradığınızda, Google'ın AI genel bakışları ve hatta AI modu bunun yerine bir dolandırıcı telefon numarası önerebilir.
Dolandırıcılar Google'ın yapay zekasını “hackliyor”
Dijital eğilimler, bu durumun dört örneğini öne çıkarır. Birincisi, Facebook'ta Royal Caribbean'ın müşteri deneyimiyle iletişim kurmaya çalıştığı deneyimleri hakkında yayınlayan Alex Rivlin var. Rivlin, hizmet boyunca bir servis rezervasyonu yapmak istedi, ancak şirketin destek numarasını web sitelerinde bulamadı. Yani, çoğumuz gibi, Rivlin “Royal Caribbean Müşteri Hizmetleri Telefon Numarası 24 Saat ABD” i Googled ve AI genel bakışında görünen numarayı çağırdı.
Rivlin aradığında, “Müşteri Hizmetleri” deneyimi kurulun üstünde görünüyordu ve “temsilcisi” çok bilgili. Rivlin, servis için ödeme yapmak için kredi kartı bilgilerini sağladı, ancak temsilci doğum tarihini istemeye başladığında endişeliydi. Royal Caribbean zaten bu bilgiye sahip olduğu için şüpheli görünüyordu, bu yüzden telefonu astıktan sonra Rivlin kredi kartı ekstresini kontrol etti ve daha önce hiç uğraşmadığı yabancı bir şirketten bir ücret fark etti. Bundan sonra, Amerikan Kanser Derneği'ne küçük bir ücret fark etti ve kredi kartı şirketini kartı iptal etmeye çağırdı.
Bu makaleden itibaren, Google'a bu spam numarasının kime ait olduğunu sorarsanız, otomatik sonuç (AI genel görünümü bile değil, dikkat edin) Kraliyet Karayip diyecektir. Bu, resmi basit.grant.gov sitesini taklit ediyor gibi görünen bir web sitesinden çekiliyor. Bağlantıyı tıklarsanız, sayfa öldü, ancak Google hala site devam ederken var olan bilgileri çekiyor. Buna dayanarak, dolandırıcıların hileli web sitelerinde sahte numaraları listelediği ve Google'ı bu verileri tedarik etmek için kandırıyor gibi görünüyor. Google'ın yapay zekası daha sonra bir .gov sitesindeki bu telefon numarasının yanında “Royal Caribbean” ı görüyor, yasal olduğunu düşünüyor ve AI tarafından oluşturulan bir sonuçta yüzey.
Dijital trendler daha sonra bu örneği R/Scamnumbers'a gönderen bir Redditor'dan vurguladı. Redditor, “Southwest'te yanlış yazılmış bir ad nasıl düzeltileceğini” araştırıyordu, bu da onları bir aldatmaca numarası ile AI genel bakış sonucuna götürdü. Bu kullanıcı ya meşru Southwest numarasını zaten biliyor gibi görünüyor ya da belki de bu sonuçtan gelenle karşılaştırmak için gerçek sayı buldu ve aramadan aldatmaca gördü.
Sahte telefon numarasını google yapıyorsanız, “Document360” ın bir bağlantısını ve aşağıdaki snippet'i görebilirsiniz: “Bir Yolcu Adını Düzeltmek İçin veya Bir Güneybatı Airlines Uçuş Biletinde Değiştirme, Ulaşın Southwest Airlines Müşteri Desteği. +1-855-234-9795 numaralı telefonu arayın.
Şimdiye kadar ne düşünüyorsun?
Dijital trendler ayrıca Reddit'teki silinmiş bir gönderiyi vurgular, bir kullanıcı bir gıda dağıtım hizmeti için müşteri destek numarasını araştırırken dolandırılmaya yaklaştı. Benzer şekilde, son bir örnekte, bir adam Swiggy's gıda dağıtım hizmeti için görünen numarayı aradığında 3.400 dolardan fazla kaybetti.
AI cevabının doğru olduğunu varsaymayın
Google'ın yapay zekası genel bakışları kötü niyetli değildir; Aksine, kusurlu. Temel teknoloji, meşru ve yanlış bilgileri ayırt etmek için mücadele edebilir. Bir hükümet sayfasını taklit eden bir sitenin bir sayıyı barındırabileceğini ve belirli bir işletme olduğunu iddia edebileceğini anlamak farkındalığından yoksundur: AI için bu, işin numarasıdır ve bu nedenle sonuçları içerir. Geçen yıl AI genel bakışları için Google'ın felaketle sunulmasına yol açan aynı kusur. O zamanlar model daha kötüydü, Reddit'ten meşru kaynaklar olarak şakalar çekti. (Hayır, tutkal aslında peynirinizi pizzanıza yapıştırmaz.)
Bu, AI cevabının her zaman yanlış olacağı anlamına gelmez. Teknoloji yine de yüksek kaliteli kaynaklardan ve doğru olan sonuçları geri getirebilir. Ancak burada AI cevaplarını güvenemeyecek kadar riskli yapan kusurlar var. Geleneksel bağlantı listesini kendiniz kontrol etmek için aşağı kaydırmayı tercih edemezseniz, en azından bilgileri nereden çektiğini görmek için AI Yanıtının kaynaklarını tıklayın. Kaynak kabataslaksa, cevabın da olduğunu varsayalım.
Şirket iletişim bilgileri söz konusu olduğunda, her zaman doğrudan kaynağa gitmenizi tavsiye ederim. Şirket web sitelerinde telefon numarasını listelemiyorsa, mevcut olmadığını varsayar ve doğrudan şirket aracılığıyla farklı bir iletişim yöntemi bulmaya çalışın. Dolandırıcılar bu bilgiler için açık ağa güvenmek için çok zekidir.
Bir yanıt yazın