Mevcut yapay zeka güvenlik uygulamaları yeterli değil
Reklamdan sonra devamını okuyun
Genel amaçlı yapay zeka olarak adlandırılan yeteneklerin yetenekleri geçtiğimiz yıl hızla gelişti. ChatGPT, Gemini ve Claude gibi yapay zeka modelleri daha güçlü hale geliyor ancak mevcut güvenlik uygulamaları buna ayak uyduramıyor. Bu, 30'dan fazla ülkeden 100'den fazla araştırmacının üzerinde çalıştığı, yakın zamanda yayınlanan ikinci Uluslararası Yapay Zeka Güvenliği Raporunun ulaştığı sonuçtur.
Özellikle matematik, fen ve programlama alanlarında büyük sıçramalar yaşandı. Yapay zekanın kullanılabilirliği ve riski yakından bağlantılıdır ve performanstaki keskin artış aynı zamanda potansiyel riskleri de artırır. Özellikle endişe verici: Yapay zeka, yazılımdaki güvenlik açıklarını tespit etmede giderek daha güvenilir hale geliyor. Yapay zeka tarafından üretilen sahte haberlerin yayılması da bir endişe kaynağıdır. Ayrıca yapay zeka sistemleri insanların bilinçli kararlar vermesini engelliyor. Eleştirel düşünme zayıflıyor ve birçok kişi yapay zekaya körü körüne güveniyor.
Araştırmacılara göre, yeni yapay zeka yeteneklerinin tahmin edilememesi ve modellerin işlevselliğinin yeterince araştırılmaması nedeniyle mevcut güvenlik uygulamaları yeterli rahatlamayı sağlayamıyor. On iki yapay zeka şirketinin geçen yıl güvenlik çerçeveleri yayınlaması olumlu. Her şeyden önce sosyal dayanıklılığın güçlendirilmesi çok önemlidir.
Grok'un cinselleştirilmiş deepfake'leri muhtemelen hesap dışı
Paris savcılığı Salı günü Fransa'nın başkentindeki kısa mesaj servisi X'in binasında arama yaptı. Baskın Siber Suçlar Birimi tarafından Europol ile birlikte gerçekleştirildi. Bu, bir yıl önce algoritmalara ve görüntülenen gönderilerin seçimine yönelik başlatılan bir araştırmanın parçası olarak geldi. Günlük Le Figaro gazetesinin haberine göre savcılık, soruşturmanın artık X'teki uzun süredir geçerliliğini yitirmiş olabilecek koşullarla sınırlı olmaması gerektiğine dair güvence verdi.
Yapay zeka sohbet robotu Grok artık kullanıcılara gösterilenler üzerinde giderek daha fazla etkiye sahip oluyor. Bu nedenle soruşturmanın buna göre genişletilmesi gerekmektedir. Grok'un yılın başından sonra dünya çapında heyecan yarattığı cinsel derin sahtekarlıklara da açık bir gönderme vardı. Washington Post'ta yer alan bir habere göre bu özelliğin amacı Grok'un popülaritesini kasıtlı olarak artırmak olabilir. Yapay zekalı sohbet robotunun dünya çapındaki ortalama günlük uygulama indirme sayısı, skandalın ortaya çıktığı Ocak ayının ilk üç haftasında Aralık ayının aynı dönemine göre yüzde 72 arttı.
Reklamdan sonra devamını okuyun
Geçtiğimiz yaz yapay zeka sohbet robotunun Yahudi karşıtı başarısızlıklarının dehşet yaratmasının ardından, insanlığa karşı suçların inkarı da soruşturmaya dahil edilmişti. Bu arada Elon Musk Pazartesi günü xAI'nin kendi şirketi SpaceX tarafından satın alındığını duyurdu. Gelecekte, başlangıçta bir milyon uyduyla yapay zeka Grok'a neredeyse sabit güneş enerjisi güç sağlayacak.
OpenClaw ilk gerçek yapay zeka asistanı mı?
OpenClaw, yapay zeka sahnesindeki yeni trend. Otonom aracı GitHub'da 150.000'den fazla yıldız yorumu topladı. Kullanıcılar, yapay zeka asistanının proaktif olarak görevleri yerine getirmesini ve işi gerçekten onlar adına yapmasını övüyor. Kurulum, WhatsApp veya Telegram gibi sohbet araçları aracılığıyla erişilen tek bir kabuk komutuyla yapılır. Kullanıcılar OpenClaw'ı yükleyerek cihazlarına ve tüm verilere tam erişim sağlar. Araç ayrıca doğrudan bir istem tarafından tetiklenmeyen görevleri de bağımsız olarak üstlenir.
Olasılıklar yalnızca yapay zeka asistanına sisteme ve bağlı hizmetlere tam erişim izni verildiğinde gerçekleştirilir. OpenClaw, kabuk komutlarını çalıştırabilir ve şifre yöneticilerine erişebilir. Yapay zeka asistanı, anılarını şifrelenmemiş metin dosyaları olarak kaydeder. Saldırganlar cihaza erişim sağlarsa dosyaları kolaylıkla okuyabilir. Güvenlik uzmanları OpenClaw'ın yalnızca ikincil cihazlara kurulmasını önermektedir.
OpenAI, AI aracılarını kontrol etmek için masaüstü uygulamasını yayınladı
OpenAI, programlama asistanı Codex için bir macOS uygulaması tanıttı. Bunun amacı, birden fazla AI aracısını yönetmeyi ve kontrol etmeyi kolaylaştırmaktır. Kullanıcılar paralel olarak işlenen farklı görevlere sahip olabilir. Aracılar birden fazla projede eşzamansız olarak kontrol edilebilir. Uygulama artık tüm ücretli tarifelerin kullanıcılarına sunuluyor. Sürüme paralel olarak OpenAI, ödeme yapan müşteriler için kullanım limitlerini iki katına çıkarıyor.
Yapay zeka sesi dinler ve iyileştirir
Google, Fi Kablosuz cep telefonu hizmetini neredeyse on bir yıldır işletiyor. Grup, telefon çağrılarını kendi sunucuları aracılığıyla yönlendiriyor. Yapay zeka, arka plandaki gürültüyü bastırmak ve konuşulan kelimeleri güçlendirmek için buraya müdahale ediyor. Uluslararası bağlantıların da işlenip işlenmeyeceği, verilerin ne kadar süre saklanacağı ve Google'ın bununla başka ne yapacağı henüz belli değil.
Haberler online Google'dan üç kez bilgi istedi ancak yanıt alamadı. Bu nedenle yapay zekanın, katılımcıların kimliğini belirlemek veya konuşmaların içeriğini dinlemek için ses tanımayı kullandığı göz ardı edilemez.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Firefox için AI kapatma anahtarı bir sonraki güncellemeyle geliyor
Firefox tarayıcısında ay sonundan itibaren tüm yapay zeka fonksiyonlarının tek anahtarla kapatılması gerekiyor. Bu düğme, Şubat ayının sonunda çıkması planlanan bir sonraki güncellemeye eklenecek. Anahtar, güncellemeler sırasında bu durum tersine çevrilmeden tüm AI işlevlerini reddedebileceğiniz şekilde çalışmalıdır. Ancak bireysel AI işlevlerini kapatıp açma seçeneği de mevcut. Bu kapatmanın gerçekten ne kadar derinden işe yaradığını zaman gösterecek.
ABD, nadir toprakları güvence altına almak için milyar dolarlık proje başlattı
ABD hükümeti, kobalt ve lityum gibi kritik mineraller için 12 milyar dolar değerinde stratejik bir rezerv olan “Project Vault”u duyurdu. Bu, Amerikan endüstrisini Çin ithalatından daha bağımsız hale getirmeyi amaçlıyor. Yapay zeka bilgi işlem altyapısının muazzam genişlemesinde merkezi bir rol oynuyorlar.
Girişim, yaklaşık 2 milyar dolarlık özel sermayeyi ABD İhracat-İthalat Bankası'ndan alınan 10 milyar dolarlık krediyle birleştiriyor. İlgili şirketler arasında Google, General Motors ve Boeing yer alıyor.
Google'ın yeni yapay zeka aracı oyun hisselerinin düşmesine neden oluyor
Google'ın deneysel yapay zeka aracı Project Genie'yi piyasaya sürmesinin ardından oyun sektörü devlerinin hisse fiyatları geçen haftanın sonunda düşüş yaşadı. Take-Two yüzde 10, Roblox yüzde 12, Unity ise yüzde 21 değer kaybetti. Project Genie, metin açıklamalarından veya yüklenen resimlerden etkileşimli ortamlar oluşturur. Gerçekte teknoloji hâlâ çok sınırlıdır.
Deneyimler 60 saniye ile sınırlı, oyun mekanikleri ve sesler eksik. Bu çerçevede fiyat düşüşü Wall Street'te aşırı bir tepkidir.
Google, AI test alanını poker ve kurt adamı da içerecek şekilde genişletiyor
Google DeepMind ve veri platformu Kaggle, ortak yapay zeka test ortamı “Game Arena”yı genişletiyor. Platformda yapay zeka modelleri stratejik oyunlarda birbirleriyle yarışıyor. Şu ana kadar sistemler öncelikli olarak satrançta yarıştı ancak artık kurt adam ve poker de ekleniyor. Poker, bir modelin riski ve eksik bilgileri ne kadar iyi ele aldığını test eder.
Google'a göre Kurtadam, gelecekteki yapay zeka asistanlarının insanlarla çalışırken ihtiyaç duyacağı iletişim, müzakere ve belirsizlikte yön bulma yeteneği de dahil olmak üzere sosyal becerilerin iyi bir ölçüsüdür. Kurtadam oyunu aynı zamanda güvenlik araştırmalarına da hizmet ediyor: Bir yapay zekanın manipülasyonları görüp göremediğini ve aynı zamanda oyundaki diğer yapay zeka modellerini ne kadar iyi aldatabildiğini gösteriyor.
Sıralamalarda şu anda Google'ın kendi modelleri olan Gemini 3 Pro ve Gemini 3 Flash hakim durumda.
AlphaGenome gen regülasyonu için yeni olanaklar sunuyor
Nobel Kimya Ödülü'nün Google DeepMind'ın AlphaFold AI modeline verilmesinden bir yıl sonra, şirket şimdi de AlphaGenome AI modelini açıkladı. İnsan genomunun şifresi 2022'den bu yana tamamen çözülmüş olsa da, belirli hastalıklardan veya çevresel faktörlere verilen tepkilerden hangi süreçlerin sorumlu olduğu genellikle belirsizdir.
Araştırmaya göre, tek tek baz çiftlerine kadar çözünürlük sağlayan yeni model, bir milyona kadar baz çiftinden oluşan bir dizi için binlerce moleküler özelliği tahmin edebiliyor. Diğer şeylerin yanı sıra, belirli genlerin farklı hücre ve doku türlerinde başlayıp bittiği, üretilen RNA miktarı ve ayrıca hangi DNA bazlarına erişilebildiği, birbirine yakın olması veya belirli proteinlere bağlanması gibi. Kabaca söylemek gerekirse yeni model, daha yüksek çözünürlükte daha büyük bir görüntü sunuyor.
(igr)
Bir yanıt yazın