Mahkemede AI halüsinasyonları | çevrimiçi

Yapay zeka yargıda giderek daha fazla kullanılıyor. Bu, hukuk sistemleri için zorluklar yaratıyor: ABD radyo istasyonu NPR'nin haberine göre, dünya çapındaki mahkemeler yapay zeka halüsinasyonları içeren davalarla mücadele ediyor.

Rapora göre giderek daha fazla avukat, devam eden davalarda belgeler için yapay zekayı kullanıyor. Sorun: Yapay zeka uygulamaları, var olmayan mahkeme kararlarından alıntı yapıyor, beyanları tahrif ediyor veya kararları yanlış beyan ediyor. Bu durum, ağırlıklı olarak emsallere dayanan Anglo-Amerikan içtihat hukuku açısından özellikle sorunludur.

HEC Paris İşletme Fakültesi'nde hukuk uzmanı olan Damien Charlotin, dünya çapında mahkemelerin yapay zeka hataları içeren belgeler üreten kişilere yaptırım uyguladığı davaları kaydeden çevrimiçi bir veritabanı işletiyor. Bu veri tabanına göre Nisan 2026 itibarıyla dünya çapında bu tür 1.300'den fazla dava vardı. Charlotin NPR'ye verdiği demeçte, yalnızca ABD mahkemelerinin davaların 800'ünden sorumlu olduğunu söyledi.

İşlem sayısı artıyor

Bilim adamına göre yapay zeka araçlarından kaynaklanan hatalar içeren belgelerin kullanıldığı davaların sayısı geçen yıldan bu yana önemli ölçüde arttı. Yakın zamanda on farklı mahkemede bir günde on dava bildirildi.

Cezalar da giderek ağırlaşıyor. Geçen ay Oregon'daki bir federal mahkeme, bir avukata toplam 100.000 dolardan fazla yaptırım uyguladı. Ayrıca yapay zeka modellerinin neden olduğu hataları içeren belgeleri de sunmuştu. NPR'ye göre, ABD eyalet yüksek mahkemelerinde bu tür halüsinasyonlu mahkeme kararları veya duruşma belgelerinde yanlış alıntılar zaten yaşandı.

İlk ABD mahkemeleri etiketleme gerekliliklerini uygulamaya koydu

NPR'ye göre bazı ABD mahkemeleri halihazırda etiketleme gerekliliklerini benimsemiştir. Buna göre yapay zeka ile oluşturulan veya düzenlenen her belgenin ayrıntılı olarak işaretlenmesi gerekiyor. Amaç, mahkemelerin AI halüsinasyonları için hangi belgeyi ayrıntılı olarak kontrol etmesi gerektiğini belirlemektir.

Ancak NPR'nin sözlerini aktaran bir avukat bu uygulamanın pratik olmadığına inanıyor. Yapay zeka artık hukuk firması yazılımının standart işlevlerine entegre edildiğinden neredeyse her belgenin etiketlenmesi gerekecek.

(rah)