Kamu sektörü kuruluşları, ön saflarda destek, vatandaş katılımı ve iş gücü verimliliğine odaklanan ilk dağıtımlarla yapay zekayı pilot uygulamaların ötesine ve operasyonel ortamlara taşımaya başlıyor.
Salesforce'un yeni Londra Yapay Zeka Merkezi'nin açılışındaki bir panel tartışması sırasında, polis teşkilatı ve National Trust'tan temsilciler, ajansal yapay zekanın kamu ve kamu yararına hizmetlere nasıl uygulandığını tartışırken, aynı zamanda insan gözetimi ve yönetişim ihtiyacını da kabul etti.
Tartışma, Salesforce'un Agentforce platformunu kuruluşların müşterilerin, çalışanların ve vatandaşların iş akışlarında yapay zeka aracılarını konuşlandırmasının bir yolu olarak konumlandırmasıyla birlikte geliyor. Ancak panel sırasında vurgulanan kamu sektörü kullanım örnekleri, benimsemenin yalnızca süreçlerin otomatikleştirilmesi meselesi olmadığını gösteriyor. Liderler, tutarlı hizmet standartlarını korurken yapay zekanın bilgiye daha iyi erişim sağlayarak personeli nerede destekleyebileceğini dikkatlice tanımlamalıdır.
Ön saflarda polislik için bir destek aracı olarak yapay zeka
En açık örneklerden biri gerçekleşti Claire Hammond, Ulusal Kadınlara ve Kızlara Yönelik Şiddet ve Kamu Koruma Merkezi'nde (NCVPP) Dedektif Başmüfettişikadınlara ve kız çocuklarına yönelik şiddet ve kamu koruma davalarıyla uğraşan ön saflardaki görevlileri desteklemek için tasarlanmış bir yapay zeka ajanı olan “Em'e Sor”un gelişimini tartıştı.
Hammond, polisin karşılaştığı zorluğun, özellikle tek başına veya normal çalışma saatleri dışında çalışırken, ihtiyaç duyduklarında uzman bilgilerinin memurlara nasıl sunulacağı olduğunu söyledi.
“Kolluk teşkilatında karşılaştığınız şey sabahın üçte, yalnız bir odada otururken… bir sorunla karşı karşıya kalırsınız ve soracak kimse yoktur” dedi.
Ask Em bir rehber olarak tasarlanmıştır ve memurların mağdurlarla ilgilenirken doğru bilgiye ve dile erişmesini sağlar. Hammond, “Em'e sor o kişi oldu” dedi.
“İhtiyaç duydukları tüm kaynakları, yani ön saflardaki görevlileri konuşlandırıyoruz, ancak bunu empatik bir dille yapıyoruz ki mağdurla nasıl konuşacakları ve ne yapacakları konusunda doğru dili kullansınlar.”
Hammond'a göre amaç, güçler ve durumlar arasındaki tutarlılığı artırmaktır.
“Mağdurlar her noktada aynı düzeyde hizmet bekleyebilirler ve günün hangi saati olursa olsun ya da hangi istasyona giderseniz gidin aynı yanıtı alırsınız.”
Bu tutarlılık, sonuçların bireysel personelin deneyimine, güvenine veya müsaitliğine bağlı olabileceği kamu hizmetleri için temel bir zorluktur. Yapay zeka aracıları dikkatli bir şekilde kontrol altına alınıp yönetildiğinde, onaylanmış yönergeleri daha kolay erişilebilir hale getirerek bu boşlukların azaltılmasına yardımcı olabilir.
İnsan denetimi merkezi olmaya devam ediyor
Hammond, polisin yapay zekanın nerede kullanılıp kullanılamayacağı, özellikle de kararların mahkemede incelemeye alınabileceği veya güvenlik açısından sonuçları olabileceği konusunda dikkatli olmaya devam ettiğini açıkça belirtti.
“Polis olarak kültürel olarak riskten oldukça kaçınırız. Nihai kararı bir insanın vermesinden gerçekten hoşlanırız.”
Bu, kararların risk ve hassasiyet içerebileceği kamu korumasında özellikle önemlidir.
“Ulusal Karar Verme Modeli adı verilen bir şey üzerinde çalışıyoruz, böylece bu sürecin merkezinde her zaman bir insanın olacağı anlamında hiçbir zaman değiştirilemeyecek.”
Hammond, Ask Em'in güvence modelinin sistemin alabileceği bilgilerin kontrolüne bağlı olduğunu söyledi. Sistemin bilgi toplamaya ve karşılaştırmaya yardımcı olabileceğini ancak insan muhakemesini gerektiren kararları devralmaması gerektiğini ekledi.
“Risk kararları almasını sağlayamayacağız. Güvenlik kararları almasını da sağlayamayacağız çünkü insanların büyük resmi görmesi gerekiyor.”
Kamu sektörü kuruluşları yapay zekayı değerlendirdikçe bu ayrımın giderek daha önemli hale gelmesi muhtemeldir. Erken kullanımın en güçlü örnekleri, çalışanları bilgi, tutarlılık ve süreç navigasyonu ile desteklediğinde mümkündür.
National Trust, kişiselleştirme ve halkın katılımı için yapay zekayı araştırıyor
Jon Townsend, National Trust'ın Bilişim Direktörüayrıca yapay zekanın üyelerle, ziyaretçilerle ve daha geniş halkla büyük ölçekli etkileşimi nasıl destekleyebileceğini tartıştı.
National Trust bir kamu kurumu olmasa da kamu yararı bağlamında faaliyet gösterir ve mirası, çevresel ve kültürel varlıkları yönetir.
Townsend, “Karşılaştığımız zorluk tüm bu insanlara ve izleyicilere ulaşmak… bu da bu tür aşırı kişiselleştirilmiş mesajları geniş ölçekte insanlara nasıl ulaştırabileceğimizi düşünmek anlamına geliyor” dedi.
Ajansal yapay zekanın bu etkileşimde, özellikle de insanların kuruluşla daha konuşkan bir şekilde etkileşimde bulunmak istediklerinde rol oynaması bekleniyor.
Townsend, “İnsanlar bizimle etkileşime geçmek istiyorsa yapay zekayı kullanarak, sanki bir insanla etkileşime giriyormuş gibi hissedebilirler” dedi.
Ancak büyük miktarlarda bilgiyi çevrimiçi yayınlayan kuruluşlar için daha karmaşık bir sorun var: Yapay zeka sistemlerinin bu bilgiyi nasıl yorumladığı ve kullanıcılara nasıl sunduğu.
“Önümüzde gördüğüm en büyük zorluk, bir kuruluş olarak yapay zeka hakkında ne düşündüğümüzle ilgili değil. Bu, yapay zekanın bizim hakkımızda ne düşündüğüyle ilgili.”
Özellikle kullanıcılar web sitelerine tıklamak yerine doğrudan yapay zeka sistemlerinden yanıt alırken, kuruluşların yapay zeka modellerinin içeriklerini hedef kitleye nasıl sunduğunu anlamaları gerekiyor.
Bu şu soruyu akla getiriyor: “Çeşitli yapay zeka modelleri, içeriğimizi insanlara, web sitemize tıklamalarına gerek kalmadan tüketebilmeleri için doğru bir şekilde nasıl sunuyor?”
Kamu sektörü ve genel çıkar kuruluşları açısından bunun, bilgilerin doğruluğu ve kontrolü açısından da sonuçları vardır. Yapay zeka arayüzleri hizmetlere ve bilgiye giden giderek daha yaygın bir yol haline geldikçe kuruluşların, bilgilerinin kendi dijital kanallarının yanı sıra üçüncü taraf modeller ve aracılar tarafından nasıl temsil edildiğini yönetmeleri gerekebilir.
Yapay zekayı kurumsal bilgiye dayandırın
Townsend ayrıca yapay zekayı doğru, güncel kurumsal bilgiye dayandırmanın önemini tartıştı ve bunu, insan ekiplerinin yapay zekanın faaliyet gösterdiği kuralları ve bağlamı belirlediği 'sorumlu insan' yaklaşımı fikriyle ilişkilendirdi.
Townsend, Salesforce'un Agentforce'unun, yanıtları şekillendirmek ve bir güven katmanını sürdürmek için kurumsal bağlamı kullanmaya devam ederken, kullanıcıların yapay zeka modeli seçimlerini müşteri verilerinden ayırmalarına olanak tanıdığını belirtti.
“Geniş dil modellerini bağlamsallaştırmak ve bunları kuruluşunuz içinde sabitlemek benim için gizli sos.”
Bu sorun, birçoğu kişisel verileri, korunmasız kullanıcıları veya yüksek güvene dayalı etkileşimleri içeren kullanım senaryolarına sahip olan kamu sektörü kuruluşları için özellikle hassastır. Yapay zekanın benimsenmesi, yetenekleri kadar veri korumasına ve çıktıların nasıl oluşturulduğunu açıklama becerisine de bağlı olacaktır.
Townsend, gizlilik kararlarının dikkatli bir şekilde ele alınması gerektiği konusunda uyardı. “Gizlilik haklarının verilmesi kolaydır, geri alınması ise çok ama çok zordur.”
Salesforce, kamu sektörü süreçlerini yeniden tasarlamak için yapay zekanın benimsenmesi çağrısında bulunuyor
Paul O'Sullivan, UKI Baş Teknoloji Sorumlusu ve Salesforce Birleşik Krallık Yapay Zeka Merkezi Başkanı Yapay zekanın değerinin, günlük işlerinde ona ihtiyaç duyan insanlara ulaşıp ulaşmadığına bağlı olduğunu savundu.
O'Sullivan, Heathrow'un yapay zeka aracısı ve Em'e Sor gibi örnekleri, yapay zeka aracılarının gerçek hizmet ortamlarında daha bağlamsal ve kullanışlı hale geldiğinin kanıtı olarak gösterdi ve başarılı yapay zeka benimsemesinin, eski iş akışlarına yeni araçlar uygulamaktan ziyade sürecin yeniden tasarlanmasına bağlı olduğunu vurguladı.
“Süreçlerinizde yenilik yapın. Yapay zekayı yalnızca her zaman yaptığınız şeylere uygulamayın.”
Bu nokta, süreçlerin genellikle eski sistemler, düzenleyici gereklilikler ve kurumsal silolar tarafından şekillendirildiği kamu sektörü için özellikle geçerlidir. Yapay zeka verimsizlikleri ortaya çıkarabilir ancak hizmetler kullanıcılar ve personel etrafında yeniden tasarlanmadığı sürece bunları otomatik olarak çözmez.
Yapay zekanın potansiyeli hakkındaki iyimserliğe rağmen O'Sullivan, eleştirel araştırma yapılmadan yapay zeka sonuçlarına aşırı güvenmeye karşı da uyardı: “Eleştirel düşünme kesinlikle temeldir.”
Kullanıcıların yapay zeka tarafından oluşturulan yanıtları, bu yanıtlara nasıl ulaştıklarını anlamadan kabul ettikleri 'bilişsel yük aktarımı' riski vardır.
Kararları desteklemek, yanıtlar hazırlamak veya ön saflardaki çalışanlara rehberlik etmek için yapay zeka kullanılırsa kuruluşların, çalışanların sonuçlara itiraz edebilmesini, sınırlarını anlamasını ve gerektiğinde kararları açıklayabilmesini sağlaması gerekecektir.
İleriye yönelik ihtiyatlı ama pratik bir yol
Panel, kamu sektöründe yapay zekanın benimsenmesinin, bilgiye erişim, hizmet tutarlılığı, iş gücü desteği ve vatandaş katılımı etrafında ortaya çıkan kullanım senaryolarıyla birlikte daha pratik bir aşamaya girdiğini öne sürdü.
Ancak tartışma aynı zamanda evlat edinmenin dikkatli bir şekilde düzenlenmesi gerektiğini de açıkça ortaya koydu. En güvenilir kullanım senaryoları muhtemelen yapay zekanın insan işçilerin yerini almaktan ziyade desteklediği durumlardır; sistemlerin onaylanmış kurumsal bilgiye dayandığı durumlarda; ve risk, koruma, mahremiyet ve karar verme konusunda net sınırların belirlendiği yerlerde.
Townsend'in belirttiği gibi:
“Bu teknolojiler daha fazla kamu yararı sağlamak için harika bir fırsat sunuyor ve bence anahtar nokta da bu… insanlar ve yapay zekanın diğer insanlar için daha fazlasını başarmak için birlikte çalışması.”
Bu çerçeve, yapay zekanın kamu sektöründe benimsenmesi ve genişletilmiş hizmetlerin daha tutarlı ve erişilebilir destek sağlamasına yardımcı olmak ve insanları en önemli kararlardan sorumlu tutmak için kullanma çağrısı olarak ortaya çıktı.
Bir yanıt yazın