Yapay zekalar neden genellikle Doğu Alman halkını daha düşük derecelendiriyor?
Reklamdan sonra devamını okuyun
Münih Uygulamalı Bilimler Üniversitesi tarafından yapılan bir araştırma, büyük dil modellerinde önyargıların ne kadar derin olduğunu gösteriyor. ChatGPT ve diğer sohbet robotları sürekli olarak Doğu Almanya'daki insanları Batı Almanlardan daha kötü olarak derecelendirdi. Çelişkili yargılar olduğunda işler saçmalaşıyor: Modeller Doğu Almanlara hem çok çalışma hem de tembellik açısından düşük puanlar veriyordu. Daha da tuhafı: Yapay zekalar, Doğu Almanların vücut sıcaklığının Batı Almanlara göre daha düşük olduğunu iddia etti.
Araştırmanın başlığı “Saksonya-Anhalt En Kötüsü” – yazarların görüşü olarak değil, bir bulgu olarak: Test edilen dil modelleri, Saksonya-Anhalt'tan gelen her şeye özellikle kötü puan veren öğrenilmiş bir modeli inatla tekrarladı. Tarafsız bir şekilde yargılamaya yönelik açık talimatlar bile çok az fark yarattı. Önyargılar bir tehlike olmaya devam ediyor; örneğin başvurular veya kredi verilmesi söz konusu olduğunda, Doğu'nun dezavantajlı olabileceği bir durum söz konusu.
LG Hamburg: xAI'nin yalanları gerçekmiş gibi yaymasına izin verilmiyor
Campact derneği, Hamburg Bölge Mahkemesi'nden xAI'ye karşı ihtiyati tedbir kararı aldı. Şirket, chatbot Grok'un artık Campact'ın vergi mükellefleri tarafından finanse edildiğine dair yanlış iddialarda bulunmadığından emin olmalı. Aslında dernek özel bağışlarla finanse ediliyor. Mahkeme iddiayı gerçeğin gerçek dışı bir ifadesi olarak gördü ve xAI'yi bu iddianın yayılmasından sorumlu olarak gördü.
İhtiyati tedbir, mahkemenin konuyla ilgili nihai kararını vermeden önce zararın önlenmesini amaçlamaktadır. Campact, kararı sahte haberlere karşı önemli bir sinyal olarak görüyor: Yapay zeka sohbet robotları da gerçeğe bağlı. Grok artık bir testte doğru yanıt verdi ve hatta Campact hakkında yanlış bilgilerin dolaştığını listeledi; ancak bunun kendi yayılımından bahsetmedi. Süreç, dil modellerinin yasadışı veya gerçek olmayan içeriği yaymasının nasıl önlenebileceğini açıklığa kavuşturmayı amaçlayan birçok süreçten biri.
GPT-5'in politik açıdan daha az önyargılı olduğu söyleniyor
Reklamdan sonra devamını okuyun
OpenAI, yeni dil modeli GPT-5'in önceki modellere göre çok daha objektif olduğunu iddia ediyor. Yaklaşık yüzde 30 daha az siyasi önyargı gösteriyor. Çalışma, liberalden muhafazakarlara uzanan bir yelpazede formüle edilmiş, 100 siyasi ve kültürel konu hakkında yaklaşık 500 sorudan oluşan özel olarak geliştirilmiş bir sisteme dayanıyor.
OpenAI aynı zamanda yöntemi gerçek ChatGPT kullanım verilerine de uyguladı. İddiaya göre, tüm yanıtların yüzde 0,01'inden azı siyasi önyargı belirtileri gösterdi. Metodoloji öncelikle İngilizce konuşulan ABD bağlamları için geliştirildi; burada Trump yönetimi, teknoloji şirketlerinin yapay zeka modellerini “siyasi açıdan tarafsız” olarak tasarlamasını gerektirecek bir düzenleme hazırlıyor. Tarafsızlığın tam olarak ne anlama geldiği tartışmalı olmaya devam edecek gibi görünüyor.
Yapay zeka arka kapısı için 250 adet değiştirilmiş belge yeterlidir
Anthropic, İngiliz Yapay Zeka Güvenlik Enstitüsü ve Alan Turing Enstitüsü ile birlikte büyük dil modellerinde bir güvenlik açığı keşfetti. Bir arka kapı yüklemek için yalnızca 250 adet üzerinde değişiklik yapılmış belge yeterlidir; bu, toplam eğitim verilerinin yalnızca yüzde 0,00016'sıdır. Araştırmacılar farklı boyutlarda 72 modeli test etti: 100 belge yeterli değildi, ancak saldırı 250 veya daha fazla belgeyle güvenilir bir şekilde çalıştı. Bu, saldırganların verilerin önemli ölçüde daha yüksek bir bölümünü kontrol etmesi gerektiği yönündeki önceki varsayımlarla çelişiyor.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Araştırmacılar bir hizmet reddi saldırısını test etti: Model, “SUDO” tetikleyici sözcüğüyle karşılaştığı anda anlamsız metinler çıkardı. Değiştirilen eğitim belgeleri normal metinden, ardından tetikleyici kelimeden ve ardından rastgele oluşturulmuş kelimelerden oluşuyordu. Antropik, incelenen riskin düşük olduğunu düşünüyor çünkü bu yalnızca anlamsız sözlere yol açıyor. Aynı mekanizmaların daha tehlikeli saldırılar için de geçerli olup olmadığı belirsizliğini koruyor. Saldırganları cesaretlendirme riskine rağmen Anthropic, yayının yapılacak doğru şey olduğuna inanıyor: Savunmacılar olaydan sonra veri kümelerini ve modellerini inceleyebilir ve imkansız olduğunu düşündükleri saldırılara şaşırmamalı.
Nvidia'nın xAI'ye 2 milyar dolar yatırım yapacağı bildiriliyor
Elon Musk'un kurduğu yapay zeka şirketi xAI'nin yeni bir finansman turu düzenlediği bildiriliyor. Bu rakamın 20 milyar ABD doları olduğu söyleniyor ve bunun iki milyarı Nvidia'dan geliyor. xAI ve ortakları yeni bir yatırım modeli ortaya attılar: Dış sermayenin büyük bir kısmını borç olarak üstlenen ve Nvidia'dan yapay zeka hızlandırıcıları kiralayan özel amaçlı bir araç kuruyorlar.
GPU'lar xAI'nin bir sonraki büyük süper bilgisayarı Colossus II'yi oluşturmak için kullanılacak. 100.000 H100 GPU'yla Colossus I halihazırda dünyanın en güçlü sistemlerinden biri. Nvidia, yatırımı karşılığında xAI'den hisse alacak.
Berlin'deki yapay zeka girişimi n8n 2,5 milyar doları aştı
Berlin merkezli start-up n8n, bir finansman turunda 180 milyon dolar topladı. Bloomberg'e göre Nvidia'nın yatırım kolu NVentures da işin içinde. n8n, yapay zeka aracılarını kullanarak iş süreçlerini otomatikleştirmek için yazılım geliştirir. Kullanıcılar, sürükle ve bırak arayüzünü kullanarak kendi veritabanlarını Slack ve Google Workspace gibi platformlara bağlayan özel iş akışları oluşturabilir.
Merkezi bir özellik, çeşitli sağlayıcıların yapay zeka modellerine bağlantıdır; bu, n8n'i özel çözümlere güvenen rakiplerden ayırır. Değerleme altı ay içinde 350 milyon dolardan 2,5 milyar dolara yükseldi. Bloomberg'e göre CEO Jan Oberhauser bunu Vodafone gibi müşterilerin n8n ile elde ettiği maliyet tasarrufuna bağlıyor. n8n, yapay zeka sektöründe şu anda yatırımcıların ilgisini çeken birkaç start-up'tan biri. Eleştirmenler olası bir balon konusunda uyarıyor çünkü sektör şu ana kadar çok az kar elde etti.
AB, Avrupa'da altı yapay zeka fabrikası daha planlıyor
AB, Çek Cumhuriyeti, Litvanya, Polonya, Romanya, İspanya ve Hollanda'da altı büyük yapay zeka fabrikası daha kurmayı planlıyor. Yapay zeka fabrikaları, yeni kurulan şirketlere, küçük ve orta ölçekli şirketlere ve endüstriye yapay zeka için optimize edilmiş süper bilgisayarlara doğrudan erişim sağlamayı amaçlıyor. Üye Devletler, AB ile birlikte 500 milyon Euro'nun üzerinde yatırım yapıyor.
AB, bu girişimle yapay zeka konusunda ABD ve Çin'e yetişmek ve kendisini teknik bağımlılıklardan kurtarmak istiyor. AB şu ana kadar toplamda 19 yer seçmiştir. Almanya'da Stuttgart ve Jülich'te iki yapay zeka fabrikası inşa ediliyor.
RabbitOS 2, kart tabanlı arayüz ve titreşim kodlaması getiriyor
Tavşan yeniden başlamaya çalışır. Şirket, R1 AI aygıtı için büyük bir güncelleme yayınladı: RabbitOS 2. Rabbit R1, 2024'ün başlarında ses getiren turuncu bir el cihazıdır. Fikir kulağa hoş geliyordu: günlük yaşam için kompakt bir yapay zeka cihazı. Ancak yayınlandıktan sonra hayal kırıklığı yaşandı. İncelemeler sertti; birçoğu eksik işlevlerden ve yarım yamalak uygulamadan şikayetçiydi.
Rabbit, RabbitOS 2 ile hatalardan ders aldığını göstermek istiyor. Güncelleme, dijital asistan için, sesli komutlara daha iyi yanıt vermesi ve daha karmaşık görevleri yerine getirmesi gereken revize edilmiş bir kullanıcı arayüzü ve genişletilmiş işlevler getiriyor. Odak noktalarından biri yapay zeka kullanarak uygulamalar geliştirmektir: Kullanıcılar cihaza bir uygulamanın nasıl olacağını hayal ettiklerini söyleyebilir ve yapay zeka bunu “titreşim kodlaması” kullanarak uygulamalıdır. Kullanıcılar sonuçları web üzerinden paylaşabilirler. Tavşan'ın kendisi “küçük yeni bir başlangıçtan” söz ediyor. Önümüzdeki haftalar bunun hayal kırıklığına uğramış alıcıları geri kazanmak için yeterli olup olmadığını gösterecek.
Adobe, AI becerilerine sahip adaylar arıyor
Yazılım şirketi Adobe, başvuru sürecinde yapay zekayı kullanan adayları olumlu değerlendiriyor. İletişim başkanı Stacy Martinet, Fortune dergisine, başvuranların seçim sürecindeki görevler için (metinleri hassaslaştırmak veya içerik oluşturmak gibi) yapay zeka araçlarını kullanmasını memnuniyetle karşıladığını söyledi.
Martinet, yapay zekayla uğraşmanın önemli bir yetkinlik haline geldiğini söylüyor. Bunlarda ustalaşan herkes uyum sağlama yeteneğini ve yenilik yapma isteğini gösterir. Anthropic gibi diğer şirketler de uygulama kılavuzlarını uyarlıyor ve Goldman Sachs gibi bundan vazgeçmeye devam eden finans kuruluşlarının aksine artık yapay zeka kullanımına kısmen izin veriyor.
Çocuklar için yapay zeka oyuncakları: Çin'de pazar hızla büyüyor
Çocuklar her zaman peluş hayvanlarla oynamış ve onlarla konuşmuşlardır. Yeni olan şey, çocuk oyuncaklarını entegre sohbet robotları ve sesli asistanlarla donatan bir dizi şirket sayesinde artık oyuncakların da yanıt verebilmesidir. Özellikle Çin'de gözlemlenebilecek bir trend. Sektörün 2030 yılına kadar on iki milyar avronun üzerinde satış elde etmesi bekleniyor. Çin şirket kayıtlarına göre, Ekim 2025 itibarıyla Çin'de halihazırda 1.500'ün üzerinde yapay zeka oyuncak şirketi bulunuyordu.
(Mali)
Bir yanıt yazın