İran'da okula ABD saldırısı şüphesi: Palantir sistemi mercek altına alındı

Tutarlı araştırmalara göre 28 Şubat'ta ABD saldırısının bir parçası olarak İran'ın Minab kentindeki bir ilkokula düzenlenen ve 160'tan fazla kişinin ölümüyle sonuçlanan ölümcül ABD hava saldırısının ardından Palantir'in “Maven Akıllı Sistemi” eleştirilere hedef oldu. Analiz, güncel olmayan verilere ve saldırının gerçekleştiği sözde öldürme zincirine odaklanıyor.

Başlangıçta geniş çapta bildirilenlerin aksine, önceki bulgulara göre Claude gibi bir sohbet robotunun hedef seçiminde belirleyici bir rol oynamadığı görülüyor. Mevcut analizlere göre bombalama, izole edilmiş bir teknik arızadan çok, veri bakımından ölüm zincirinin sonuna kadar tüm süreç zinciri boyunca alınan kararlara işaret ediyor.

Hedef tespitinin Palantir tarafından geliştirilen keşif verilerinin analizine yönelik askeri bir platform olan “Maven Akıllı Sistemler”e dayandığına dair artan göstergeler var. Maven, potansiyel hedefleri belirlemek ve bunları büyük ölçüde hızlandırılmış bir süreçte saldırı temizliği için sunmak üzere uydu görüntülerini, sensör verilerini ve istihbarat bilgilerini birleştirir.

Basında çıkan haberlere göre, isabet alan bina, yıllardır ilkokul olarak kullanılmasına rağmen hâlâ ABD veri tabanında askeri nesne olarak listeleniyordu. Görünüşe göre bu bilgi güncellenmedi ve ölümcül sonuçlar doğurdu. Maven bu nedenle bu yanlış sınıflandırmayı benimsedi ve kontrol edilmeden otomatik karar verme sürecine dahil edildi.

Palantir'in yazılımı sözde ölüm zincirini büyük ölçüde hızlandırmak için tasarlandı. Askeri tatbikatlarda kısa sürede binlerce hedef kararı alınabiliyor. Ancak eleştirmenler, bu hızın insan kontrolü ve dikkatli inceleme pahasına olabileceği konusunda uyarıyor.

Substack platformunda ve şimdi de Guardian'da yayınlanan analiz, Maven gibi bir sistemin bu özel durumda merkezi bir rol oynayabileceğini öne sürüyor. Buna göre sorumlu olan yapay zeka dil modeli değil, güncelliğini kaybetmiş veriler ile büyük ölçüde hızlandırılmış, yazılım destekli hedef sürecin birleşimiydi. Bu hesaba göre hata, askeri veri tabanı girişinin yıllardır güncellenmemesi ve daha sonra Maven gibi bir sistem tarafından yeterli insan incelemesi olmadan işlenmesinden kaynaklandı.

Pentagon daha fazla yapay zeka genişletmeyi planlıyor

Bu arada ABD Savunma Bakanlığı, Maven'i daha da genişletmeyi ve onu askeri stratejiye kalıcı olarak yerleştirmeyi planlıyor. Dahili bir nota göre sistem, silahlı kuvvetlerin tüm şubelerinde uzun vadeli finansman ve kullanım sağlayacak resmi bir “Kayıt Programı” olarak kurulacak. Karar, mevcut mali yılın Eylül ayında bitiminden önce gelebilir.

Maven ilk olarak 2017 yılında keşif ve drone görüntülerinin otomatik analizi için başlatıldı. Son yıllarda Palantir, sistemi daha da geliştirmek için milyarlarca dolarlık sözleşme aldı. Aynı zamanda ordu ve sanayi, yapay zekanın askeri süreçlere entegrasyonunu ilerletmeye devam ediyor. Pentagon yetkilileri gelecekteki çatışmaların büyük ölçüde veri odaklı olacağını ve yapay zeka desteğiyle yürütüleceğini vurguluyor.