Antropik CEO, Mythos'un güvenlik açıklarını ortaya çıkarmasıyla 'tehlike anı' konusunda uyardı

Anthropic CEO'su Dario Amodei Salı günü yaptığı açıklamada, yapay zekanın dünyadaki teknoloji firmaları, hükümetler ve bankalar için şirketinin son modeli tarafından bulunan onbinlerce yazılım güvenlik açığını düzeltmeleri için dar bir pencere oluşturduğu konusunda uyardı.

Bu yapay zeka modeli Mythos, önemli yazılımlarda onlarca yıllık güvenlik açıklarını ortaya çıkardığının açıklanmasıyla birlikte geçen ay ön izlemesi yapıldı.

Amodei, jeopolitik rakip Çin'in yapay zeka modellerinin Anthropic ürününün “belki altı ila 12 ay” gerisinde olduğundan, bu sorunları çözmek için “yaklaşık olarak bu kadar süre” olduğunu söyledi.

Yorumlar, Amodei'nin sahneyi paylaştığı Antropik bir etkinlik sırasında geldi. JPMorgan Chase CEO Jamie Dimon ve finansal işleri otomatikleştirmeyi amaçlayan yeni bir temsilci paketini açıkladı.

Amodei, “Tehlike, güvenlik açıklarının miktarında, ihlallerin miktarında ve fidye yazılımlarının okullara, hastanelere ve bankalara verdiği mali zararın çok büyük bir artışıdır” dedi.

Anthropic, suçluların veya düşman ulusların onunla neler yapabileceğine dair endişeler nedeniyle Mythos'u birkaç ortak şirketle sınırlandırdı. Şirketin son birkaç model güncellemesi piyasalarda yankı buldu ancak Mythos, hem şirketlerin hem de politika yapıcıların en fazla endişe duymasına neden oldu.

Amodei, potansiyel siber saldırıların ölçeğinin Claude'un her nesliyle birlikte arttığını söyledi. Daha eski bir Antropik model, Firefox tarayıcısında yaklaşık 20 güvenlik açığı buldu. Mythos'un 300'e yakın bulduğunu ve tüm yazılımlardaki toplam sayının artık on binlere ulaştığını söyledi.

Amodei, Mythos tarafından bulunan güvenlik açıklarının çoğunun kamuya açıklanmadığını, çünkü yama yapılmadığını ve tespit edilirse “kötü adamların bunları istismar edeceğini” söyledi.

Alarma rağmen hem Amodei hem de Dimon da koşullu iyimserliğe dikkat çekti.

Amodei, “Bu, eğer buna doğru tepki verirsek ve sanırım ilk adımları atmaya başlarsak, o zaman diğer tarafta daha iyi bir dünyaya sahip olabileceğimiz bir tehlike anı ile ilgili” dedi. “Bulunacak çok fazla hata var.”

Dimon ayrıca siber korkuların haklı olduğunu ancak yapay zekanın yarattığı siber güvenlik risklerinin “geçici bir dönem” olduğunu söyledi.

Düzenleme sorusu üzerine Amodei, yapay zeka denetiminin otomotiv endüstrisinde yapılanlara benzemesi gerektiğini, tüketici güvenliği ile sektörün rekabet etmesine izin verme arasında bir denge kurması gerektiğini söyledi.

“'Bu şeyin frenleri var mı?' olmadan bir araba şirketi kuramazsınız” dedi. “Sektörün hızla işlemesine olanak tanıyan, adil ancak en ciddi şeylere korkuluklar koyan bir sürece ulaşmak için el yordamıyla yolumuzu bulmamız gerekiyor.”

Şirketin etkinliği ve finans sektörünün en tanınmış sözcüsü Dimon ile olan ortamı, her iki şirket de potansiyel halka arzlara doğru ilerlerken Anthropic'in kurumsal yapay zeka pazarında OpenAI üzerindeki liderliğini gösteriyor gibi görünüyordu.

Anthropic Salı günü, yatırım bankacılığı ve arka ofis işleri için 10 yeni yapay zeka aracısının yanı sıra Microsoft'un çeşitli Office programlarına entegrasyonu da içeren finansal hizmetler platformunun genişletildiğini duyurdu. Şirket ayrıca, yaygın olarak bulunabilen en son modeli olan Claude Opus 4.7'nin, finansal analiz görevlerinde ölçütlere öncülük ettiğini söyledi.