Mythos yalnızca kıvrılmada bir güvenlik açığı buluyor

Anthropic'in yapay zeka modeli Claude Mythos Preview, halk için fazla tehlikeli olarak görülüyor; en azından şirketin bu karmaşık yapay zeka güvenlik açığı araştırmasına neden yalnızca sınırlı erişim olduğuna dair açıklamasının nedeni bu. Curl indirme aracının geliştiricisi Daniel Stenberg de dahil olmak üzere belirli kullanıcıların ve projelerin Mythos'u test etmesine izin verildi. Mythos onu tam olarak bir kez buldu.

Test şaşırtıcı çünkü yılın başında curl bakımcısı yapay zeka hata raporları şeklindeki “bok raporlarından” şikayet ediyordu ve bir yıl önce zaten onlardan “bıkmıştı”. Bu arada, HackerOne'daki hata ödül programını bile durdurdu ve oraya geri döndü çünkü hata yönetimi, örneğin GitHub'dan daha iyi çalışıyor.

Glasswing projesinin bir parçası olarak Stenberg'e erişim verilecekti. Stenberg, blogunda, kurulum sırasında bazı aksaklıkların ardından üçüncü bir tarafın curl kaynaklarını kullanarak testi devraldığını yazıyor.

curl: Güzelce asılı kod

Stenberg, curl'a zaten birkaç farklı ve yetenekli AI aracıyla baktıklarını belirtiyor – “normal” statik kod analiz araçlarına ek olarak, çok seçici derleyici seçenekleri ayarlayarak veya yıllardır fuzzing kullanarak. Bu araçlarla son sekiz ila 10 ayda 200 ila 300 hata keşfedildi ve ilgili hata düzeltmeleri curl'a entegre edildi. Bu raporların birçoğu doğrulanmış güvenlik açıklarıdır ve CVE girişleri almıştır.

Geliştiriciler ayrıca çekme isteklerini incelemek için Copilot ve GitHub'un Augment Code'u gibi araçları da kullanıyor. Yorumları ve sonuçları kodun iyileştirilmesine ve birleştirme hatalarının önlenmesine yardımcı olur. Bu hala oluyor, ancak inceleme botları düzenli olarak programcıların daha sonra düzelttiği sorunları vurguluyor. Stenberg'in burada vurgulamak istediği, yapay zeka incelemelerinin insan incelemelerine ek olarak kullanıldığıdır; sadece yardım ederler ve insanların yerini almazlar. Artık projeye çok sayıda yüksek kaliteli güvenlik raporunun akın ettiği görülüyor ve BT güvenlik araştırmacıları artık yapay zekayı kapsamlı ve etkili bir şekilde kullanıyor.

Mythos ile yapılan tarama raporda beş sonuç verdi, diye devam ediyor Stenberg. Daha fazlasını beklerlerdi. Kendisi ve güvenlik ekibi daha sonra bildirilen sorunları birkaç saat boyunca analiz etti ve doğrulanmış bir güvenlik açığına ulaştı. Diğer dördünden üçü yanlış pozitifti – bunlar zaten API belgelerinde açıklanmıştı – ve dördüncüsünde programcılar bunun sadece bir hata olduğu sonucuna vardılar.

Stenberg memnuniyetle, kalan güvenlik açığının “düşük” önem derecesine sahip bir CVE girişi alacağını söylemeye devam ediyor. Haziran ayı sonunda 8.21.0 kıvrımında kapatılacaktır. İlgilenenler, Stenberg'in blog yazısında daha fazla sınıflandırma ve ayrıntının yanı sıra Mythos raporu hakkında daha fazla bilgi bulabilirler. Sonunda Stenberg uzlaşmacı olmaya devam ediyor. Yapay zeka artık büyük ölçüde gelişti ve aslında kullanışlı bir araç.

(Bilmiyorum)