AI ile Suç: Sohbetler ve Ev Ofisi Sahtekarlığı

Çevrimiçi suçlular yapay zekaya sahip yeni bir silah aldı. Geliştirici şirketi Antropic'in AI Chatbot Claude, ağlara nüfuz etmek, verileri yakalamak ve değerlendirmek için kullanılmıştır. Buna ek olarak, saldırganlar yazılımı kurbanlara “psikolojik olarak hedeflenen” gasp mesajları yazmak için kullandı. Saldırgan çalınan bilgileri yayınlamakla tehdit etmiş ve bazen etkilenenlerden 500.000 dolardan fazla talep etmiştir.

Siber saldırı single -yapay zeka sayesinde elle

Otomatik saldırıların amacı, sadece geçen ay sağlık, hükümet ve din gibi alanlardan 17 şirket ve kuruluş haline gelmişti. Örneğin Claude, zayıflıklar aradı ve bir ağın en iyi nasıl saldırıya uğrayabileceğine ve hangi verilerin çalınması gerektiğine karar verdi.

Sorumlu antropik yönetici Jacob Klein, “The Verge” teknoloji bloguna verdiği demeçte, genellikle böyle bir eylem için bir uzman ekibi kullanılırdı. Şimdi bir kişi yapay zeka yardımıyla yapabilir. Daha yeni AI sistemleri, kullanıcılar adına “ajanlar” olarak da hareket edebilir ve onlar için büyük ölçüde bağımsız olarak görev yapabilir.

Kuzey Koreliler ABD Şirketleri için Evde Ofis Yaptı

Antropik, Claude'un çevrimiçi suç için kötüye kullanıldığı ayrıntılı bir makalede başka vakaları listeledi. Sohbet botu, Kuzey Kore ev ofisi ABD şirketlerinde bir programcı olarak hükümet için para almak için kullanıldı. İşverenleriyle iletişim kurmak ve ayrıca görevlerini yapmak için AI yazılımına güveneceklerdi. Antropic, görünüşe göre Claude'un yardımı olmadan işi uygulamak için yazılım geliştirme konusunda yeterli fikirleri olmayacaklarını söyledi. Geçmişte, Kuzey Kore yıllarca uzman eğitimi almıştı. “Ama bu kısıtlama AI'dan uzaklaştı.”

Sohbet botundan sahtekarlık

Buna ek olarak, siber suçlular, çevrimiçi satış için sundukları Claude'nin yardımıyla dolandırıcılık dikişleri geliştirdiler. Antropik'e göre, bu ilişki sahtekarlığı için telgraf platformu için bir botu içeriyordu – örneğin, kurbanlar ile, romantik bir bağlantı onlardan para yakalıyormuş gibi davrandı. Bu, farklı dillerde “yüksek duygusal zekaya sahip” sohbetlere öncülük edebilir.

Antropic, AI yazılımının kötüye kullanılmasının kullanıldığını vurguladı. Çevrimiçi saldırganlar her zaman onlardan kaçınmaya çalıştı. Değerlendirilen vakalardan gelen deneyimlerle koruma geliştirilmelidir.

(DMK)