Yakın zamanda yapılan bir konferansta, veri liderliği çevrelerinde çok yaygın hale gelen bir şeye tanık oldum: Baş veri memurlarının sürekli olarak atıfta bulunduğu gerçek sürpriz kültür – Teknoloji değil – en büyük zorlukları olarak. Aynı temel nedene işaret eden on yıllık bir araştırma ve deneyime rağmen, konuşmalar hala kültür değişimi ihtiyacından ziyade araçlara odaklanma eğilimindedir.
Bu alanda daha geniş bir eğilimi yansıtır: karmaşıklık arttığında, bireyleri sorumlu tutmak yerine insan unsurunu otomatikleştirmenin yollarını arama eğilimindeyiz. Yönetişim zorlaştığında, değerini çerçevesinden ziyade sorgularız. Ancak, düşünceli bir şekilde yaklaşılan yönetişim sorun değil – sürdürülebilir ve etik ilerlemenin tek yolu bu.
Tek başına araçlar bağlamda sıralayamaz, örgütsel belirsizliği teşhis edemez veya veri toplama, depolama, paylaşım veya kayıt yıkımı etrafında erişim kararları, risk eşikleri veya ahlaki ikilemler söz konusu olduğunda uygun politika önerileri yapamaz. Sağlık verilerimiz AI ile paylaşılmalı mı? Belki – ama nasıl? Hangi koşullar altında? Hangi ortamlarda?
Yönetişim sadece bir dizi iş akışı değildir. Uygulamanın sonuna takılan bir onay kutusu veya kanallı bir politika değildir. Gerçek yönetişim, insanların onları etkileyen kararlar üzerine nasıl döngüde kaldıklarıdır. Sistemin kim için olduğunu ve kimin unuttuğunu hatırlıyoruz. Yönetişim, iş stratejisinin son kilometresidir. “Yapabilir miyiz? Yapmalı mıyız?” Sorusunu sorduğumuz ve cevapladığımız mekanizma budur.
Hayır, yönetişim kolay değil. Ama açık olalım: Etik ve yönetişim, yolumuzu kodlayabileceğimiz şeyler değildir.
Onlarca yıllık araştırma bunun neden önemli olduğunu gösteriyor. Karen Stenner, tehdit altında insanların olasılığa açılmadığını gösterdi; Kapanırlar, yapı ve kesinliği tercih ederler. Jonathan Haidt, duygulardan geriye doğru akıl yürüttüğümüzü ekledi; Kendimize yatıştıran hikayeler anlatıyoruz. 1941 “Özgürlükten Kaçış” adlı kitabında Erich Fromm geldiğini gördü: Korku Zamanlarında insanlar otoriteden kaçmıyor – kaçıyorlar ile BT. Kontrol özgürlüğü ticareti yapıyoruz. Eric Hoffer, “Gerçek İnanan” da, kitle hareketlerinin gerçekler üzerinde gelişmediğini de sözlerine ekledi. Anlatı netliği konusunda gelişirler. Hikaye toplam hissediyorsa gerçek isteğe bağlıdır.
Hatırlanması gereken önemli olan, insan eğilimlerinin kader olmadığıdır. Bunlar, insanlar korktukları, parçalandığında veya bitkin olduğunda varsayılan ayarlardır. AI, bilişimizin daha fazlasını otomatikleştirerek, yalnızca bu varsayılanları keskinleştirir. Bu yüzden, “yönetişim öldü” ya da “yönetişimi keselim çünkü zor çünkü herkesin kötü olduğu”, daha zor, daha nüanslı ve daha bilinçli bir şey sormalıyız: “Eğer duygusal kısayollara, otoriteye erteleme ve belirsizliğin zamanında anlatım zamanlarında anlatım kapanması için bir özlem eğilimi, duygusal işgücünü yavaşlatmaya ihtiyaç duyacağımızı ve gerçekleştireceğimiz umudunu gerçekleştirir mi?”
Cevap tekno-optimizm olamaz. Olmalı tasarım.
Yapay zekayı zaten yüksek basınç, yüksek hız ve yüksek belirsizlik altında çalışan sistemlere yerleştiriyoruz. Vicdan için aktif olarak tasarlamazsak, itaat, kesinlik ve makineye saygı duymayı varsayılan olarak göreceğiz. Bu yenilik değil. Bu regresyon (inkarla sarılmış).
Umut, baskı altında yansımayı koruyan yapılarda yaşar. Bu, yönetişim çerçeveleri, liderlik kültürleri, eğitim sistemleri ve kaçma eğilimimizin ve buna karşı koyma eğilimini bekleyen normlar anlamına gelir. Duraklama protokolleri. Farklılıklar. Kesinti ritüelleri. Hesap verebilirlik döngüleri. Hikayeyi kontrol etmediklerinde insanlara tehlikede olanları hatırlatan dil.
Herkesin filozof olmasına ihtiyacımız yok. Ancak uzağa bakmayı zorlaştıran sistemler oluşturmamız gerekiyor.
AI bizi yargıyı dış kaynak kullanmaya teşvik ederse, Etik bir disiplin olmalısadece bir tartışma değil. Fromm, insanların otoriteye kaçtığı konusunda uyardı, ancak bu aynı zamanda otoritenin farklı şekilde kullanılabileceği anlamına geliyor. Kontrol yerine cesareti modelleyebilir. Kibir yerine alçakgönüllülük. Hakimiyet değil yapı.
Yani, gerçek umut şudur: Herkesin duygusal emeği her zaman yapması için ihtiyacımız yok. Ancak onu görünür, bulaşıcı ve kurumsallaşan sistemler tasarlamamız gerekiyor – böylece insanlar her seferinde sıfırdan başlamıyor. Çünkü yalnız bırakıldık, şu ana kadar yükselmeyeceğiz. Fakat vicdan için yapılandırırsak, sadece döngüde insan kalabiliriz.
Bir yanıt yazın