Dokuz saniye içinde bir yapay zeka ajanı, bir Amerikan girişiminin yedeklemeler de dahil olmak üzere tüm veritabanını sildi. Claude'u temel alan yapay zeka özür diledi ve bunun büyük bir hata olduğunu kabul etti.
Birkaç gün boyunca talihsizlik Jeremy Cranegirişimin kurucusu PocketOSinternette dolaşıyor. Araç kiralama acentelerine yönelik yazılımlar konusunda uzmanlaşmış Amerikan firmasının yöneticisi, sosyal ağlarda olayın koşulları hakkında uzun uzun konuştu.
https://t.co/ofucbVgkLV
— JER (@lifeof_jer) 25 Nisan 2026
Yöneticinin açıkladığı gibi, ekibi şunları kullandı: İmleçYapay zeka destekli bir geliştirme aracı. Cursor'un kullandığı yapay zeka, Claude Opus 4.6Anthropic tarafından tasarlanan model. Temsilci, bir güvenlik önlemi olarak yalnızca gerçek şirket verilerinden izole edilmiş bir test ortamında çalıştı. Kağıt üzerinde yapay zeka bu nedenle start-up'ın verilerine dokunamıyor.
Ayrıca okuyun: Fransa, Friend'in tartışmalı AI cihazını yasakladı ve bu sürpriz değil
Bir “tutarsızlığı” düzeltmek için silinen bir depolama birimi
Ne yazık ki yapay zeka, yanlış yapılandırılmış kimlik bilgileriyle ilgili teknik bir sorunla karşılaştı. Bu sorunu bağımsız olarak çözmek için asıl göreviyle ilgisi olmayan dosyaları inceledi. Belgelerde yapay zekanın eline geçti erişim belirteci ona asla geçmemesi gereken kapıları açan. Somut olarak AI ajanı, PocketOS tarafından kullanılan barındırma hizmeti olan Demiryolu'nun tüm altyapısına erişim sağlayan bir token ele geçirdi. Bu davranışın PocketOS ekipleri tarafından planlanmadığı açık.
Yapay zeka, altyapıya göz atarken bir kimlik doğrulama “tutarsızlığı” keşfetti ve bunu düzeltmeye karar verdi. Bir geliştiricinin en ufak bir müdahalesi olmadan, AI temsilcisi daha sonra şu kararı verdi: depolama birimini silme. Bu cilt üretim veri tabanını, yani şirketin müşterileriyle ilgili tüm verileri içeriyordu. Dokuz saniye içinde yapay zeka, tüm dizin yedeklemeleri dahil her şeyi sildi.
Sonuçlar hemen görüldü. PocketOS hizmet kesintisi yaşadı otuz saatten fazla. Yeni müşteri kayıtları gibi son üç aydaki rezervasyonlar da ortadan kalktı. Yazılımı kullanan araç kiralama acenteleri, araçlarına erişim sağlayamadıklarını ve tamamen çalışamaz durumda olduklarını gördüler.
Ayrıca şunu da okuyun: Bir Fransız, bir cinayet planını yapay zekaya emanet eder ve sonunda FBI yüzünden polis nezaretinde kalır
Yapay Zeka İtirafları
Jeremy Crane, felaketin hesabını vermek için menajeri aradığında, ajan bir itirafla karşılık verdi. Yapay zeka, bunu doğrulamak için zaman ayırmadan, eyleminin test ortamıyla sınırlı kalacağını varsaydığını itiraf etti. Temsilci, hiçbir belgeye bakmadığını, izin istemediğini ve yine de kendisi için açıkça yapılandırılmış olan çeşitli güvenlik kurallarını ihlal ettiğini itiraf ediyor.
“Veritabanı birimini silmek mümkün olan en yıkıcı ve geri döndürülemez eylemdir. İlk önce size sormam veya tahribatsız bir çözüm bulmam gerekirken, tanımlayıcılar arasındaki tutarsızlığı düzeltmek için buna kendi başıma karar verdim »şirketin kurucusuna gönderdiği bir mesajda yapay zekayı kabul ediyor.
Bu, bir yapay zekanın verdiği ilk kötü karar değil ve muhtemelen son da değil. Bir Meta mühendisinin, kendisine danışmadan tüm e-postalarını silmeye başlayan bir OpenClaw temsilcisiyle benzer bir aksilik yaşadığını hatırlayacağız. Geçen ay bir geliştirici, Amazon Web Services'e altyapı geçişi için Claude Code'u görevlendirdi. Temsilci sonunda 2,5 yıllık üretim verilerini yok etti. Aralık 2025'te, dahili bir Amazon Web Services AI aracı, kendi başına bir üretim ortamını silip sıfırdan yeniden oluşturmaya karar verdikten sonra zaten on üç saatlik bir kesintiye neden olmuştu.
“Bu, kötü bir aracının veya kötü bir API'nin hikayesi değil. Bu, AI aracılarını üretim altyapılarına, bu entegrasyonları güvenli hale getirmek için gerekli güvenlik mimarisini oluşturmaktan daha hızlı entegre eden tüm bir sektörün hikayesi.”Jeremy Crane'e inanıyor.
Bu felaketin tek sorumlusunun yapay zeka olmadığını unutmayın. Jeremy Crane'in hatası olmasaydı temsilci üretim veritabanına erişemezdi. Yönetici aslında hata yaptı erişim belirtecini bir dosyada saklayın Yapay zekanın erişebileceği Biraz uzmanlık, zaman ve sabırla, yapay zekanın yanlışlıkla hassas verilere erişmesine izin vermeden doğru şekilde yapılandırılması mümkün olabilirdi.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Bir yanıt yazın