Papa Leo yapay zeka ve otonom silahlarla ilgili uyarılarda bulundu

Papa Leo, Pazartesi günü yayınlanan ilk büyük belgesinde hükümetleri yapay zeka sistemlerinin gelişimini yavaşlatmaya ve yakından düzenlemeye çağırdı; bu sistemlerin yanlış bilgi yaydığı, çatışmaya öncelik verdiği ve dünyayı bitmeyen bir savaş yoluna sürükleme riski taşıdığı konusunda uyardı.

ABD'nin ilk papası, Vatikan'da düzenlenen bir etkinlikte, bazı otonom silah sistemlerinin “pratik olarak insanların onları yönetemeyeceği kadar ilerlediği” metnini yayınlayarak duyduğu kaygıyı da dile getirdi.

Etkinliğe dünyanın en iyi yapay zeka şirketlerinden biri olan Anthropic'in kurucu ortağı Chris Olah da katıldı.

Son aylarda daha sert bir üslup benimseyen ve İran savaşını eleştirdikten sonra ABD Başkanı Donald Trump'ın öfkesini çeken Leo, genelge olarak bilinen uzun belgede dünya liderlerine bir dizi ateşli çağrıda bulundu.

ABD'nin ilk papası, politika yapıcıların çalışanların haklarını koruması ve çocukları teknolojiden korumaları için yapay zeka verilerinin mülkiyetinin yalnızca özel ellere bırakılmaması çağrısında bulundu ve yapay zeka şirketleri arasındaki rekabetin soğumasını istedi.

Leo, “Magnifica Humanitas” (Muhteşem İnsanlık) başlıklı metninde, “İhtiyaç duyulan şey, her şey hızlanırken işleri yavaşlatabilecek daha aktif bir siyasi katılımdır” dedi.

Papa, “sağlam yasal çerçeveler, bağımsız denetim, bilgili kullanıcılar ve sorumluluğundan vazgeçmeyen bir siyasi sistem” çağrısında bulundu.

Genelgeler, bir papazdan Kilise'nin 1,4 milyar üyesine kadar uzanan en yüksek öğretim biçimlerinden biridir. Pazartesi gününün heyecanla beklenen yaklaşık 43.000 kelimeden oluşan metni, Leo'nun bir yıldan biraz daha uzun bir süre önce papa olarak seçilmesinden bu yana neredeyse üzerinde çalışılıyor.

Ana teması olarak yapay zekayı ele alan belge, aynı zamanda dünyayı sarsan savaşların sayısını da kınadı, çok taraflı kuruluşların zayıflamasından yakındı ve silah endüstrisi kârlarının çatışmaların ardındaki itici güç olduğu konusunda uyardı.

İngilizce dilindeki metinde Leo, “Geçtiğimiz 60 yıl, çoğu zaman sivil nüfusu büyük ölçekte etkileyen şaşırtıcı vahşetteki çatışmalarla damgasını vurdu” dedi.

“İnsanlık, barışın artık üstlenilecek bir sorumluluk olarak değil, çatışmalar arasında hassas bir aralık olarak göründüğü, şiddet içeren bir iktidar kültürüne doğru kayıyor” dedi.

Pazartesi günü Vatikan'da düzenlenen etkinlikte Anthropic'in kurucu ortağı Olah, Leo'ya yıkıcı yeni teknolojinin yol açtığı sorunları çözdüğü için teşekkür etti. Kendisi gibi firmaların güçlü ticari baskılarla karşı karşıya olduğunu ve dışarıdan incelemeye ihtiyaç duyduklarını söyledi.

Olah, “Anthropic de dahil olmak üzere her öncü yapay zeka laboratuvarı, bazen doğru olanı yapmakla çelişebilecek bir dizi teşvik ve kısıtlama çerçevesinde çalışıyor” dedi. Anthropic, Claude AI araçlarını üreten şirkettir.

Leo, genelgesinde, Kilise'nin küresel çatışmaları değerlendirmek için en azından beşinci yüzyıldan beri kullandığı haklı savaş teorisini reddeden bir papanın şimdiye kadarki en net açıklamalarından birini yaptı.

Genel olarak savaşların “yalnızca saldırıya karşı savunma amacıyla yapılması gerektiğini” söyleyen doktrin, aralarında Katolik Başkan Yardımcısı JD Vance'in de bulunduğu Trump yönetimi yetkilileri tarafından İran savaşını savunmak için de ileri sürüldü.

Leo, “Her türlü savaşı meşrulaştırmak için sıklıkla kullanılan 'haklı savaş' teorisi artık geçerliliğini yitirdi” diye yazdı.

“Güç, şiddet ve silah kullanımı, sivil halk için her zaman feci sonuçlara yol açan ilişkisel yoksulluğu yansıtıyor.”

Leo ayrıca liderlerin vatandaşları iç sorunlardan uzaklaştırmak için savaş başlatabileceği yönündeki endişelerini de dile getirdi.

“Bazı liderlerin silahlı çatışmayı, dikkati iç sorunlardan başka yöne çekmenin etkili bir yolu ve zorlukları yönetmek için alaycı bir araç olarak görme olasılığını göz ardı edemeyiz” dedi.

Papa, yapay zekanın savaşta herhangi bir şekilde kullanılmasının “en katı etik kısıtlamalara tabi olması gerektiğini” söyledi ve yapay zeka sistemlerine ölümcül kararlar vermenin “izin verilemez” olduğunu söyledi.

Bu ismi seçen 14. papa olan Leo, yapay zeka sistemlerinin etiğine değinmeden önce sosyal adalet konularında yüzyıllarca süren papalık öğretilerinden alıntı yaptı.

Özellikle, 1891'de Sanayi Devrimi sırasında işçiler için daha iyi ücret ve koşullar çağrısında bulunan ünlü bir genelge yayınlayan selefi Leo XIII'e atıfta bulundu.

Leo XIV, yapay zeka sistemleriyle ilgilenen insanların ve yapay zekanın kullanıldığı bilgisayarlar ve akıllı telefonlar gibi teknolojik cihazları üreten fabrika işçilerinin katlandığı “yeni kölelik biçimleri”ni kınadı.

Papa, “Dünyanın bazı bölgelerinde çocuklar ve ergenler tehlikeli koşullarda çalışıyor, nadir toprak elementlerinin çıkarıldığı malzemeleri eziyor” diye yazdı.

“Bu insanların vücutları yaralı, yaralı ve yıpranmış durumda, böylece hesaplama akışı kesintisiz olarak devam edebiliyor” dedi. “Bu gerçek, çağımızın ahlaki vicdanına derinden meydan okuyor.”

Papa, Katolik Kilisesi'nin 19. yüzyıla kadar transatlantik köleliği zorla kınamadığını da kabul ederek kişisel özür diledi.

“Bu, Hıristiyan hafızasında bir yara oluşturuyor” diye yazdı. “Bunun için Kilise adına içtenlikle af diliyorum.”

Mektubun açılışında Katoliklere ve iyi niyetli tüm insanlara hitap etmek istediğini belirten Leo, toplumun yapay zekanın nasıl geliştiği ve küresel liderliğin genel yönü konusunda “kritik sorularla” yüzleşmesi gerektiğini söyledi.

Bir insan kabilesinin gurur nedeniyle Cennete ulaşacak kadar yüksek bir kule inşa etmeye çalıştığı ve Tanrı'yı ​​kızdırdığı Babil Kulesi'nin İncil'deki hikayesine atıfta bulunan papa, hikayenin “Tanrı'nın lütfu olmadan cennete ulaşmayı amaçlayan” herhangi bir girişimin riskini gösterdiğini söyledi.

Papa, “Bir çoban ve bir babanın yüreğiyle, herkesten bir başka Babil Kulesi'nin inşaatını bırakmasını ve ortak çıkarı inşa etmek için güçlerini birleştirmesini rica ediyorum.” dedi.

Leo, dünyayı yapay zeka sistemlerinin olası risklerini ele almaktan vazgeçmemeye çağırdı.

“Sorunların çok büyük, bizim ise çok küçük olduğumuz ve dolayısıyla seçimlerimizin bir fark yaratamayacağı düşüncesi gibi ince bir ayartılma ortaya çıkabilir” diye yazdı.

Leo, “Elbette herkes fark yaratma gücüne sahip değil” dedi.

“Yine de kimse sorumluluksuz değil. Hepimizin kendi eylem alanları var.”