AB siber ajansı raporlar için gizlice yapay zeka kullanıyor ve açığa çıktı

AB siber güvenlik kurumu Enisa'nın iki raporu heyecan yarattı: belgeler çok sayıda uydurma kaynakla doluydu. Bilim insanları bunu daha yakından incelediler ve sahte kaynakların bir yapay zeka tarafından halüsinasyon gördüğüne dair güçlü kanıtlar buldular.

Sırasıyla geçen ekim ve kasım ayında yayınlanan iki kurum raporu etkilendi. Vestfalya Üniversitesi'nden araştırmacılar yayınları okuyunca şüpheye düştüler. Bir yandan metnin birçok bölümü ona sonuçsuz geliyordu. Alıntı yapılan kaynaklara verilen bağlantılara tıkladıklarında hiç çalışmadılar. Ve bu büyük ölçekte: Spiegel dergisine göre raporlardan birinde yer alan 492 dipnottan 26'sı hatalıydı.

“Sadece bir kez tıklamanız yeterliydi”

Artık bir bağlantı, örneğin işaret ettiği web sitesinin yapısının değişmesi gibi birçok nedenden dolayı çalışamaz. Yanlış bağlantılarda dikkat çeken şey tipik LLM hatalarıydı. Rus hacker grubu APT29 hakkındaki Microsoft sayfasına giden bir bağlantı da bu adı içeriyordu; ancak Microsoft'un kendisi grubu Midnight Blizzard olarak adlandırıyor.

Vestfalya Üniversitesi'nde araştırmacı ve profesör olan Christian Dietrich, “Güvenilir, anlaşılır raporlar yayınlamak gibi benim gözümde çok önemli bir görevi olan bir kamu otoritesinin bu vakada bunu yapmamış olması beni gerçekten rahatsız ediyor” diye eleştiriyor. “Sadece bir kez tıklamanız yeterliydi.”

Enisa “insan hatalarından” söz ediyor

Yıllık bütçesi 27 milyon euro civarında olan Enisa, Spiegel dergisinin sorulması üzerine hataları kabul etti ve sorumluluğunu üstlendikleri “kusurlardan” söz etti. “İnsan hataları” vardı ve yapay zekanın “küçük editoryal revizyonlar” yapmasına izin verildi.

Kaos Bilgisayar Kulübü'nden de eleştiriler var. Sözcü Linus Neumann süreci “utanç verici” olarak nitelendirdi. Spiegel, Neumann'ın sözlerini şöyle aktarıyor: “Enisa, Avrupa'da bağımsız uzmanlık, yönergeler ve standartlar için merkezi iletişim noktası olmalıdır.” “Çok yüzeysel tehdit raporlarında bu kadar uygunsuz bir çalışma yapılıyorsa kuruma çok kötü bir ışık tutuluyor.”

(HAYIR)