Satıcı “Sorumlu Yapay Zeka”yı Tanımladığında – veritabanimimari.com

Kıdemli insan kaynakları liderleri “Yapay zeka çalışana önem verebilir mi?” gibi sorular sorduğunda ya da kuruluşları itibar kaybıyla uğraşırken yapay zekanın potansiyelini övünce kulaklarım dikiliyor. Bu ikiyüzlülük değil; bu bir sinyal. İnsanları derinden önemseyen liderlerin hâlâ teknolojinin uzun vadeli sonuçlarını anlayanlardan ayrı olarak yapay zeka kararları veriyor olabileceğinin bir işareti.

Herkes “sorumlu yapay zeka” başlığını sever.

Bu, yapay zeka etiği ve yönetişiminin karmaşık çalışmasının zaten ele alındığını, tasarım sürecinin bir yerinde ahlakın kodun içine yerleştirildiğini gösteriyor. Ancak güvenlik ve sorumluluk kalıcı ortamlar değildir. Bunlar, yalnızca genel ilkelerin değil, gözetimin, hesap verebilirliğin ve belirli davranış ve kullanımlara hayır deme yetkisinin ürünü olan yönetişim sonuçlarıdır.

Gerçek Karar Vericiler

Pek çok kuruluşta yapay zekayı benimseme kararları genellikle kültürel uyumu ve çalışan deneyimini değerlendirmekle görevli kişilere yönlendirilir. İK liderlerine sorular soruluyor:İnsanlar bunu kullanacak mı? İşi daha iyi hale getirecek mi?

Onlara her zaman sorulmayan şeyler:Veriler nereye gidecek Model zaman içinde nasıl davranacak? Değerlerimizden uzaklaşırsa ne olur?

Bu İK'ya yönelik bir eleştiri değil; bu bir hatırlatmadır. Kültür ve veri kültürü hâlâ farklı liderler, bütçeler, ekipler ve becerilerle ayrı görev alanları olarak ele alınıyor. Ancak yapay zeka hem çalışanların refahına hem de kurumsal veri akışlarına dokunduğunda bu dünyaların buluşması gerekiyor. Bunu yapmazlarsa, satıcı kural kitabını yazmaya başlar.

Sürüklenme Anı

Drift, veri yönetiminin bağımsız gözetim yerine özellik ayarlarına indirgendiği anda başlar.

Özellikler düşünceli olabilir. Zararı bile azaltabilirler. Ancak “sorumlu”nun ne anlama geldiğine sistemi kuran şirket karar veriyorsa ve satıcı dışında hiç kimsenin veto yetkisi yoksa, teknolojiyi siz yönetmiyorsunuz demektir. Yönetişimi üreticiye yaptırıyorsunuz.

Bu şirketlerin tümü sağlam veri yönetimi ve siber güvenlik politikalarına sahiptir. Her sektörde öz denetim eninde sonunda kişisel çıkarlara yönelir.

Yapısal Boşluk: İK ve CDO Rolleri

Bu yeterlilikle ilgili değil. Hizalamayla ilgili.

• İK örgütün kültürel sağlığına sahiptir.
• CDO'lar/CIO'lar/CTO'lar Veri ekosisteminin sağlığına sahip olun.

Yapay zeka her ikisini de etkilediğinde karar alma süreçlerinin örtüşmesi gerekir. Ancak en yetenekli CDO'lar bile stratejik ortaklık, ortak yetki ve ortak sorumluluk olmadan kuruluş çapında değişiklikler yapamaz.

Verilerden sorumlu lider bu boşluğu kapatmak istediğinde bile nadiren bütçeye ayrılır, kaynak sağlanır veya kuruluş çapında değişiklikler yapma yetkisine sahip olur. Dikkatli bir strateji, kasıtlı değişim yönetimi ve derin ortaklıklar olmadan, veri liderleri yüksek bir başarısızlık oranıyla karşı karşıya kalır (onları bu “daha karmaşık insan unsurlarını” mümkün olduğunca otomatikleştirmeye iter).

Yönetişim Yanılsaması

Mola vermek için yapılan dürtüklemeler veya büyük bir karar vermeden önce düşünmeye sevk etme gibi özelliklerin, bir kuruluşun kültüründe “sorumlu yapay zekayı”, ilgiyi ve hatta refahın bir yönünü temsil ettiğine inanmak cazip geliyor.

Yapmıyorlar.

Bir ürün ekibinin sorumluluk yorumunu temsil ederler. Bu uyum bugün de geçerli olabilir. Yarın olmayabilir. Satıcının kontrolü dışında uygulanabilir yapılar olmadığında, “sorumluluk” başka bir pazarlama iddiası haline gelir.

Zihinsel Model

Sorumlu yapay zekayı iki katman halinde düşünün:

1. Özellik Katmanı: Aracın kullanıcılar için yaptığı şey (dürtmeler, yansıtıcı istemler, içerik filtreleri).
2. Yönetişim Katmanı: Kurallara kim karar verir, onları uygular ve bunların satıcının mevcut stratejisinden daha uzun süre dayanmasını sağlar.

İkincisi olmadan ilki kozmetiktir.

Uygulamada Yöneticilik

İyi yönetim, satıcıların “sorumlu”nun ne anlama geldiğine dair son sözü anlayamamaları anlamına gelir. Bu, İK ve CDO'ların, uygulanabilir yönetişim çerçeveleri, dış denetimler ve ilk oturum açmadan önce net çıkış kriterleriyle desteklenen birlikte kararlar alması anlamına gelir.

Yapay zekayı benimseme süreciniz hem kültürel hem de veri-kültürel mercekleri içermiyorsa, yönetmiyorsunuz demektir. En iyisini umuyorsun.

Stratejik Duraklatma

Burası sizden yavaşlamanızı ve rahatsızlıkla oturmanızı istediğim yer.

Yapay zeka şu anda kuruluşunuzda değerlendiriliyorsa şunu sorun:Satıcının dışında kim hayır diyebilir? Buna bir cümleyle cevap veremezseniz, aracı satıcı yönetiyor demektir.

Herhangi bir yapay zeka sistemini onaylamadan önce İK ile CDO'yu aynı odaya koyun. Karara ortak imza atmalarını sağlayın. İlk çalışan sistemi kullanmadan önce sistemi kapatacak yönetim tetikleyicilerini tanımlayın.

Sonra kendinize şunu sorun:Bu araç, korumak istediğiniz değerleri sessizce yeniden yazıyorsa, kararınızı bundan üç yıl sonra kamuoyu önünde savunabilir misiniz?

Piyasalar kötü bir satın almanın ardından toparlanabilir. Güvenilirliğiniz olmayabilir.