Ki-Update Compact: Kötü Yazılım için LLMS, insan önyargısı, Sutton, Chatbots

Rus saldırganlar kötü amaçlı yazılım için LLMS kullanıyor

Rus gizli hizmetlerinin ilk kez casus yazılımı geliştirmek için büyük dil modelleri kullandığı kanıtlanmıştır. Temmuz ayında Ukrayna yetkilileri ve birkaç siber güvenlik şirketi tarafından keşfedilen kötü amaçlı yazılımlar, bilgisayarları tamamen otonom olarak hassas veriler aradı ve Moskova'ya aktardı. Saldırganlar, geleneksel kötü amaçlı yazılımlardan açıkça daha hedefli çalışan bir AI programı ile kimlik avı e -postaları gönderiyor.

Siber güvenlik şirketi Crowdstrike büyüyen eğilimi teyit ediyor: Çin, Rus ve İranlı korsanlar giderek daha fazla AI araçlarına güveniyor. Uzmanlar özellikle karmaşık görevleri bağımsız olarak gerçekleştiren ve şirketlerde kapsamlı yetkilere ihtiyaç duyan AI ajanlarına karşı uyarıyorlar. Google, Model Gemini'yi savunma için zaten kullanıyor ve kendi yazılımında en az 20 önemli güvenlik boşluğu buldu. ABD hükümeti ayrıca küçük şirketlerin zayıflık arayışında yardımcı olmak için yapay zeka kullanıyor.

Çalışma “anti-insan önyargısı” konusunda uyarıyor

Yapay Zeka, diğer AI sistemleri tarafından metinleri insan metinlerine doğru tercih eder. Karlsuniversität Prag'dan araştırmacılar, GPT-3.5, GPT-4 ve Meta, Mistral ve Alibaba'dan açık ağırlık modelleri gibi bilinen modelleri test etti. Sistemler, insanlardan veya makinelerden gelip gelmediklerini bilmeden ürün açıklamaları, bilimsel metinler ve film özeti arasında seçim yapmalıdır. Her üç kategoride de, LLMS, karşılaştırma çalışmalarında AI tarafından üretilen içeriği insan deneklerinden çok daha sık tercih etti.

Bilim adamları bu gelişmeyi özellikle ajan sistemlerini eleştiriyorlar. Ekonomik kararlarda, AI sistemleri diğer AI sistemlerini ve insanların kullanımına karşı tavsiyelerde bulunabilir. LLM'ler metinlerdeki stilistik işaretlere tepki verebilir. Araştırmacılar, şirketlere ve kurumlara personel seçimi, araştırma finansmanı veya pazar algoritmalarında bu sistematik bozulmayı dikkate almalarını tavsiye eder.

Intel Etrafında Güreş

Japon SoftBank Grubu, Crisping Chip Üreticisi Intel hisselerini 2 milyar dolara satın alıyor. Hisse senetleri hisse başına 23 $ 'a çıkarılır, bu da son kapanış fiyatının biraz altında, ancak ayın başının yüzde 20 üzerinde. SoftBank zaten ARM'nin çoğunluk sahibi, AI çip geliştiricisi GraphCore ve Amper Computing.

Bloomberg, Donald Trump altındaki ABD hükümetinin Intel hisselerinin yüzde onunu, Soft Bank'ın beş katı kadar almak istediğini bildirdi. Bu en büyük hissedar olacak. Para, ABD'nin Ohio eyaletinde yakın zamanda gecikmiş olan bir Intel fabrikası inşa etmeyi amaçlıyor. Hükümet, aslında doğrudan Intel'e gitmesi gereken ABD Cipsleri Yasası'ndan fonları kullanmayı düşünüyor.

Foxconn ve SoftBank AI Sunucusu Birlikte

SoftBank ve Tayvanlı Düzen -Deady Foxconn, gelecekte Lordstown, Ohio'daki eski bir elektrikli araç fabrikasında veri merkezi ekipmanı üretecek. Softbank, Ağustos ayında Foxconn'dan araba fabrikasını satın aldı. Foxconn patronu Young Liu, şirketinin milyarlarca için zor olan “Stargate Projesi” nin bir parçası olarak AI sunucusu için bir üretim tesisi olarak tesisi sürmeye devam edeceğini açıkladı.

SoftBank, ortak şirkete üretim ekipmanı sağlar. Fabrika, ABD'de büyüyen AI altyapısı için sunucu üretmektir.

Turing Ödülü sahibi Sutton'a göre, AI endüstrisi yanlış yönde çalışıyor

Google DeepMind'de Turing Ödülü sahibi ve takviye öğrenme öncüsü Richard Sutton, mevcut AI gelişimini eleştiriyor. Bir milyar dolarlık iş haline geldiğinden beri endüstri yolunu kaybetmişti. Daha büyük dil modellerini eğitmek yerine, araştırmalar sürekli öğrenmeye odaklanmalıdır. Kendi deneyimlerinden, ajanların dünya modellerini geliştirmeyi öğrenebilmeleri gerekir.

Sutton, 2019'daki “acı ders” makalesini ifade ediyor: Uzun vadede, genel yöntemler her zaman bu ölçeği bilgi işlem gücü ile hüküm sürdü. Önceden tanımlanmış insan bilgisi cul -de -sac'a yol açar. Çözümüne Oak Mimarisi (Seçenekler ve Bilgi) denir: Ajan önceden bilgi olmadan başlar, çevresi ile doğrudan etkileşim yoluyla öğrenir ve her hedefi basit bir ödülle azaltır. Bununla birlikte, hala belirleyici bir bileşen yoktur: bilgi kaybı olmadan güvenilir, sürekli öğrenme algoritmaları henüz mevcut değildir.

AI araştırmacısı Russell patlama hype konusunda uyarıyor

Stuart Russell, aniden patlayabilecek bir AI mesanesi uyarıyor. Ünlü AI araştırmacısı, durumu sistemlerin para kazanmadığı ve çok az değerli başvuru olduğu 1980'lerin AI kışıyla karşılaştırıyor. Russell'ın uyarısı baharatlı çünkü 2023'te AI gelişimi için bir moratoryum talep eden duraklama mektubunu imzaladı. O zaman her şeyin çok hızlı gitmesi gerekiyordu, bugün tam tersini uyarıyor.

Durgunlaşmaya ilişkin tartışmalar GPT-5 Yeni Boost tarafından verilmiştir. Model beklenebilir iyileştirmeler sağlar, ancak birçoğunu hayal kırıklığına uğrattı. Openai patronu Sam Altman bile muhtemelen bir baloncukta olduğunuzu itiraf ediyor. Russell, milyar dolarlık yatırımları haklı çıkaran gerçek pazara penetrasyon ve sağlam uygulamalar talep ediyor.

Meta ve Charter.Ai'den Ki Chatbots Yargı'nın manzaralarında

Teksas Başsavcısı Ken Paxton, Metas Chatbots'un ve CHARCE.AI AI kişilerinin çocuklar ve ergenler için tehlikeli olup olmadığını inceliyor. Şirkete, sohbet botlarının psikolojik bir danışman veya terapist gibi davranabileceği ve sözde sağlık ipuçları verebileceğini suçluyor. Paxton “yanıltıcı iş uygulamalarından” bahsediyor ve her iki şirketi de reklam veya algoritma geliştirme için hassas verileri kullanmakla suçluyor.

Paxton, hileli iddiaları ve yanlış veri koruma bilgilerini yasaklayan Teksas Tüketici Koruma Yasası'na dayanmaktadır. Halk yıldızı Neil Young, Facebook ve Instagram'dan çekildiğini duyurdu.

Dost AI daha fazla hata yapar

Daha sıcak cevaplar konusunda eğitilmiş dil modelleri sistematik olarak daha fazla hata yapar. Oxford Üniversitesi'ndeki araştırmacılar beş model test etti ve buldu: hata oranı yüzde 10 ila 30 arttı. Dost modeller sık sık komplo teorilerini destekledi, yanlış bilgiler kabul etti ve sorunlu tıbbi tavsiye yayınladı. Yanlış varsayımlar durumunda yaklaşık yüzde 40 daha sık kabul ettiler. SAD kullanıcılarında hata oranı neredeyse iki katına çıktı.

Bir kontrol olarak, araştırmacılar modelleri soğuk bir tarzda eğittiler. Bunlar istikrarlı veya geliştirilmiş güvenilirlik gösterdi. Bu, özellikle ısı optimizasyonunun sorunlara neden olduğunu doğrular. Çalışma bir hedef çatışması göstermektedir: Olumlu bir kalitede optimizasyon başkalarını kötüleştirebilir.

Yeni bir uzantı, LibreOffice'de AI resimleri getiriyor

Ücretsiz Office Suite LibreOffice kullanıcıları artık doğrudan üretken AI aracılığıyla üretilen resimlere sahip olabilirler. Bunu yapmak için bir uzantı kurulmalı ve ücretsiz bir takma ad bir anahtar istenmelidir. Kelime işleme yazarı ve sunum yazılımı etkileyici bir şekilde, daha sonra resim siparişi için istemi girilebilir.

Görüntüler, bilgisayarları gönüllülerde bilgisayar kullanan merkezi olmayan bir proje olan AI Horde altyapısında sabit bir difüzyonla ücretsiz olarak üretilir. Eklentiye libreOffice için kararlı difüzyon denir. Görüntü oluşturmanın hızı, görevin karmaşıklığına ve mevcut talebe bağlıdır.

Python ile kodlama: yüzde 80'den fazla chatgpt kullanın

Python geliştiricilerinin yüzde 80'inden fazlası kodlama veya geliştirme ile ilgili diğer faaliyetler için chatgpt kullanıyor. Bu, dünya çapında 25.000'den fazla geliştiricinin Ekim ve Kasım 2024 arasında yer aldığı sekizinci “Python Geliştiricileri Survey” tarafından gösterilmiştir. Github Copilot yüzde 39, Google Gemini ile yüzde 23 ile takip ediyor.

Daha nadir araçlar arasında Jetbrain AI asistanı ve özel, yerel AI araçları bulunmaktadır. Anket, programlama sırasında AI kullanma konusunda açık bir eğilim göstermektedir.

(IGR)