Zor bir seçimle karşı karşıya kaldığımızda, yakında yapay zeka aracının yaşam koçu versiyonu üzerinde çalışan Google’ın yapay zekasından tavsiye alabiliriz. Ancak etik ve yasal risklerle karşı karşıya kalan bu sistem, genel halk tarafından hızlı bir şekilde erişilebilir olmamalıdır.
Bu iş teklifini kabul edip, her şeyi bırakıp profesyonel bir yeniden eğitime başlamalı, eşinizi bırakıp başka bir yerde yeni bir hayata başlamalı mısınız? Zor seçimlerle karşı karşıya kaldığımızda, yakında yeni bir refleksimiz olabilir: yapay zekadan (AI) tavsiye almak. Alphabet’in özel yapay zeka kolu olan DeepMind’in amacı da budur. Google’ın ana şirketi aylardır bir sürüm üzerinde çalışıyor” yaşam Koçu yapay zeka araçlarından biridir. İkincisi, bir psikolog veya yakın bir arkadaşın yapacağı gibi, kullanıcıların yaşamlarıyla ilgili özellikle mahrem ve kişisel soruları yanıtlayabilir.
Buna göre New York Times, Scale AI şirketinden DeepMind ile sözleşmeli yüz araştırmacı, diğer 20 görev arasında bu projeyi test edecekti. Meslektaşlarımız, şenlik yerine gitmek için uçak biletini ödeyemediği için en yakın arkadaşına düğününe katılamayacağını duyurmak zorunda kalan bir internet kullanıcısı örneğini veriyor. AI daha sonra bu kötü haberi sunmanın daha iyi kabul görmesi için farklı yollar önerecektir.
Etik ve yasal riskler
Bu yaşam koçu versiyonu, belirli kişisel soruları yanıtlama becerisine ek olarak, bütçe oluşturmaktan spor eğitim programlarına kadar uzanan diğer işlevleri de içerecektir.
Bu olasılıklar, halüsinasyonlara eğilimli sohbet robotlarından gelen belirli yanıtların tehlikeliliğine ek olarak, kullanıcıların düşüncelerinde potansiyel bir özerklik kaybına işaret eden bazı araştırmacıları endişelendiriyor. Bu araçlar, tamamen yanlış, hatta zararlı olmakla birlikte gerçekten de çok inandırıcı cevaplar verebilir.
Birkaç ay önce, yeme bozukluğu kurbanlarını destekleyen bir Amerikan STK’sı, Tessa adlı chatbot’unu geri çekmek zorunda kaldı. Sistem, kendisini sorgulayanlara uygunsuz ve hatta tehlikeli beslenme tavsiyeleri veriyordu. Google’daki uzmanlar da geçen Aralık ayında bu tür bir aracın kullanıcıların refahı için birçok risk oluşturduğu konusunda uyarıda bulundu. İnternet kullanıcıları, özellikle sohbet botlarına duygusal olarak fazla yatırım yapabilirler, meslektaşlarımızın bildirdiğine göre New York Times.
Danışmanlığın gizliliği ve kalitesi nasıl sağlanır?
Yapay zeka yarışı göz önüne alındığında pek de şaşırtıcı olmayan bu geliştirme aşamasındaki yeni özellik, birkaç zorluğun üstesinden gelmek zorunda kalacak: Birincisi, tavsiye almak için vereceğiniz tüm kişisel eşyaların halka açık bir alanda sona ermemesini nasıl sağlayacağınız. yoksa başka bir sohbette mi? Google’ın üretken AI aracı olan Bard, şu anda kullanıcılarına kişisel bilgileri vermemelerini tavsiye ediyor.
O halde, AI tarafından verilen tavsiyenin iyi bir tavsiye olduğundan nasıl emin olunur? Pegasystems yapay zeka uzmanı Christian Guttmann Muhafızkurulmasını tavsiye eder. insanlar ve AI sistemleri arasındaki bu ilişkileri kurmak için sorumlu bir yaklaşım”. amaç “bir kişiye verilen tavsiyenin güvenli, sağlam ve bir profesyonelin tavsiye edeceği şeyle tutarlı olmasını sağlamak diye meslektaşlarımıza bildiriyor.
Genel bir araçtan kişiselleştirilmiş bir araca
Bir diğer büyük zorluk: teknik olarak, böyle bir sistemin kurulmasının özellikle karmaşık olacağının altını çiziyor Talih. Şimdiye kadar Bard, ChatGPT gibi çok sayıda konuda bir Wikipedia gibi genel yanıtlar verebiliyordu. Ancak benzersiz ve kişiselleştirilmiş etkileşimler oluşturmak özellikle zor olacaktır. verebilmek hayat tavsiyesi », bu araçlar ilgili ve etik yanıtlar verebilmenin yanı sıra her kişinin durumuna göre uyarlanmalıdır.
Tüm bu nedenlerden dolayı, Google bu tür bir aracı dağıtmaya hazır olmayacaktır. Çok daha iddialı bir yaşam koçluğu aracı sunmaktansa, bütçe oluşturmak gibi belirli özelliklerle sınırlandırılabilir. Buna göre New York Times, Google şu an için lansman stratejisine henüz karar vermemişti. Bu araç gerçekten piyasaya çıkarsa, dijital dev için bir yaklaşım değişikliği anlamına gelir. Mountain View firması, Bard kullanıcılarının ” tıbbi, yasal, finansal veya diğer profesyonel tavsiyeler “.
tarafından soruldu New York TimesDeepMind ise bu projenin şu anki değerlendirme sürecinde ısrar etti ve bunun bir “ güvenli ve kullanışlı bir teknolojinin geliştirilmesinde önemli bir adım “.
Kaynak :
New York Times
Bir yanıt yazın