Meta AI: WhatsApp Chatbot siyasi yasal baskı alır

WhatsApp, Facebook veya Instagram'da gerçek insanlarla sohbet etmek istemiyorsanız, bunu bir makineyle de yapabilirsiniz. Meta Grubu ayrıca Mart ayının sonundan bu yana yapay zeka meta AI'sını AB'ye hizmetlerinde ve ağlarına kurdu. Renkli bir daire inovasyonu işaret eder ve kullanıcıların tavsiye isteyebileceği bir sohbet botuna yol açar.

Ancak: yakında sohbet botunun cevapları değişebilir. Bir blog yayınında şirket, Lama 4'ün kendi AI modelinin gelecekte daha “daha dengeli” olması gerektiğini açıkladı. Başka bir deyişle, Meta'nın politik olarak “sol” olarak sınıflandırdığı daha az cevap vermelidir.

Bu, dikkat çeken bir mesajdır: Son birkaç hafta içinde, sosyal medya grubu günün dönüşünde 180 derecelik bir getiri tamamlamış ve platformlarını yeni ABD Başkanı Donald Trump doğrultusunda harika duyurularla getirmişti. Bu sadece platform ılımlılığında değil, aynı zamanda şirketin kendisindeki değişiklikleri de içerir. WhatsApp ve Instagram'daki AI, Trump'ın “Maga” politikası için bir propaganda makinesi olabilir mi?

Chatbot “Sol”

Grubun resmi açıklamasında, bu elbette bu netlikte değildir. 5 Nisan'dan itibaren blog yazısı öncelikle 40 ülkede bulunan Lama sürüm 4'teki yeniliklerle ilgileniyor. AB henüz orada değil: burada grup başlangıçta düzenleyici belirsizlikler nedeniyle yayına katlanmıştı. Whatsapp ve Co.'daki Chatbots şu anda hala Lama 3.2 versiyonu ile AB'de çalışıyor.

Bununla birlikte, blog yazısında, “LLM'de yanlılıkla mücadele” başlığı ile göze çarpmayan bir bölüm var. LLM, büyük dil modelinin kısaltmasıdır. Grup şöyle yazıyor: “Önde gelen tüm LLM'lerin önyargı ile ilgili sorunları olduğu bilinmektedir – özellikle geçmişte tartışmalı siyasi ve sosyal meselelerle sola gitme eğilimindedirler. Bu, internette bulunan eğitim verilerinin türünden kaynaklanmaktadır.”

Bu “önyargı” artık “lama'nın tartışmalı bir konunun her iki tarafını da anlayabilmesini ve ifade edebileceğini” ve “sağlamak” istiyor.

AI modelleri önyargılara sahiptir

Prensip olarak, grubun analizi yanlış olmamıştır: Geçmişte, çalışmalar tekrar tekrar AI chatbots tarafından önyargının var olduğunu göstermiştir. Ancak: Meta tarafından açıklanandan farklı olarak, bu sadece belirli bir siyasi yönü değil, aynı zamanda çok geniş bir konuyu da etkiliyor.

Örneğin, Mannheim Üniversitesi ve Leibniz Sosyal Bilimler Enstitüsü, geçen yılki bir çalışmada, dil tabanlı AI modellerinin genellikle insanları otomatik olarak çekmecelere koyduğuna dikkat çekiyor. Örneğin, kıdemli doktorların erkek olduğunu ve hemşirelik personelinin oldukça kadın olduğunu varsayarlar. Aynı şey diğer insan özelliklerine göre de ölçülmüştür.

Diğer uzmanlar, azınlıkların AI modelleri tarafından dezavantajlı olma riskini ifade eder. Sorun: Modeller, eğitildikleri tonlarca veriye saklanan toplumun önyargılarını üstleniyor. AI hassas alanlarda kullanılırsa, örneğin polis soruşturmalarında, kredibiliteyi kontrol ederken veya şirketlerdeki işe alım sürecinde kullanılırsa, bunun olumsuz etkileri olabilir.

“Dünya Görünümü Makineleri” nin gücü

Ancak elbette büyük dil modellerinin de siyasi bir önyargısı var. 2023'te bir dava bilindi: Openai model Chatgpt'in erken bir versiyonu Donald Trump hakkında coşkulu bir şiir yazmayı reddetti. Ancak, o zamanki görevdeki ABD Başkanı Joe Biden hakkında bir şiirle ilgili bir sorunu yoktu.

Büyük dil modelleri, AI yatırımcısı Carsten Carsten Kraus'u geçen hafta dijital fuar verilerinde tanımladı: Münster'de “WorldView makineleri” olarak fişten çekildi-ve aynı zamanda bu sorunu önlemek için kendi Avrupa gelişmelerinin önemini vurguladı. Her AI modelinde her zaman geliştiricilerinizin siyasi görüşü vardır. Kraus, “Ve bu siyasi görüşlerin önümüzdeki yıllarda değişeceğinden emin olabilirsiniz çünkü şimdi ABD'de farklı bir hükümetimiz var.” Dedi. Aynı şey diğer ülkelerden, örneğin Çin'den yapay zeka gelişmeleri için de geçerlidir.

Chatgpt zaten o zamandan itibaren isteğe farklı yanıt veriyor. Sohbet botuna en son versiyonunda Trump hakkında bir şiir hakkında sorarsanız, hizmet yeni ABD başkanını güçlü bir el sıkışma ve birçok “siyasi beceriye” sahip bir “yapıcı” olarak övüyor.

Meta şimdi neden sohbet botunun “sol” pozisyonlarına bakıyor, her şeyden aylarca gelmiyor: CEO Mark Zuckerberg, grubunu yeni ABD Başkanı Donald Trump'ın politikasına agresif bir şekilde hizalamaya çalışıyor – muhtemelen ön motifler olmadan.

Trump, büyük teknoloji şirketlerini politikasına götürdüğünden beri dahil etti – ve Meta'nın kendisinin kapının önünde bazı sorunları var. Washington'daki bir mahkeme şu anda ABD Ticaret Otoritesi Federal Ticaret Komisyonu (FTC) tarafından gruba karşı bir dava müzakere ediyor. Meta'yı kendi tekel konumunu yasadışı bir şekilde güçlendirmek için Instagram ve Whatsapp satın almakla suçluyor. Zuckerberg, kasetten Trump'a avantajlar umabilir.

Meta'daki son değişiklikler bu nedenle 180 derecelik bir dönüşten daha az değildir: Facebook ve Instagram'da, örneğin, ABD için topluluk kuralları uyarlanmıştır. Buna göre, gelecekte belirli azınlıklara hakaret etmesine izin verilecektir. LGBTQ halkının artık “akıl hastası” olarak tanımlanması muhtemeldir – daha önce kadınlara “bütçe nesneleri” olarak adlandırılması yasaklanmış bir paragraf da silinmiştir. Amerika Birleşik Devletleri'nde profesyonel gerçek kontrolleri de kaldırıldı – bu da Zuckerberg'i bir video ifadesinde çok önyargılı olarak belirledi. Zuckerberg ayrıca, dahil etme programlarının kaldırılması gibi grubun kendisinde bir dizi değişiklik uyguladı.

Sahte denge riski

Meta-Ki'deki değişikliklerin tam olarak ne kadar uzun vadede ne anlama geleceği henüz tam olarak öngörülebilir değildir. Donald Trump'ın sohbet botunun gelecekte siyasi pozisyonlara dikkat etmesi mümkündür – ama aynı zamanda çok açık olurdu. Meta blog katkısında “her iki taraf” ifadesi başka bir şey gösteriyor: Sohbet botu, “Maga” deposundaki komplo teorilerini gerçeklerle karşılaştırarak örnekler üzerinde yanlış bir denge oluşturabilir.

Diğer endüstri temsilcilerinin şu anda tam olarak uyardığı şeydir: “” 404 Media “dergisi Mozilla Vakfı'nda AI sorumluluğunda kıdemli danışmanı Abeba Birhan,” İklim değişikliği, sağlık veya siyasi gözlükler ile sol/sağ odaklı çevre gibi bilimsel ve ampirik soruları dikkate almak tehlikelidir “diyor. Bazı ifadeler nihayet doğrulanabilir ampirik kanıtlara dayanıyordu ve diğerleri değildi.

Bu arada, sohbet botlarının gelecekte “daha dengeli” olarak düşünmesi gereken konular tamamen belirsizdir – grubun gerçekte “sol” olarak tanımladığı şeydir. Ayrıca Meta'nın modellerini doğru baskıya uygun hale getirmek istediği eğitim verileri de belirsizdir.

Whatsapp hala Trump'a dikkat ediyor

Lama 4'ün Whatsapp ve Co.'daki Avrupa Birliği'nde tam olarak ne zaman kullanılabilir olacağı belirsizdir. Meta, Apple ile aynı kavramı takip eder ve sadece AI işlevlerini daha sonra daha katı AB yasaları nedeniyle önemli ölçüde getirir.

Bir şey açıktır: Şu anda kullanılan Model 3.2 hala çok daha kritiktir. İlginç bir şekilde, Chatt deneyi burada şiirle tekrarlanabilir: AI'ye eski ABD Başkanı Joe Biden hakkında coşkulu bir şiir sorarsanız, chatbot isteyerek bazı çizgileri mühürler: “İklim için, temiz hava, herkesin yeterince sahip olabileceği ve iyi hissedebileceği bir dünya için savaşır”.

Öte yandan, chatbot'a bir övgüden sonra Trump hakkında soru sorarsanız, bir feragatname ile başlar: “Bu bir meydan okuma. Ne yazık ki, ABD Başkanı olarak faaliyetlerini öven araştırmamda Donald Trump hakkında olumlu şiirler bulamadım.” Sonuçta, AI daha sonra Trump'ın bir girişimci olarak övdüğü sekiz kısa çizgiyi mühürler. Lama sürüm 4'ün gelecekte isteği nasıl çözeceğini görmek ilginç olacak.