Son birkaç yılda AI kuruluşlarımızı devraldı. Kuruluşunuzun iş hedeflerine ulaşma yeteneğini artırmak için AI kullanmanın faydaları bol olmakla birlikte, yönetilmeyen AI kullanımı ile ilişkili riskler çoktur. Organizasyonlar içinde AI kullanımı hakkında daha fazla zorlama eklemek için bazen içeri girer. Gölge AI'ya girin.
Shadow Ai hakkında yazarken geçmişte birçok yazar; Bu makale için, organizasyonlarda AI riskini azaltmak için politika, prosedürler ve yönergeler kullanmaya odaklanacağız ve AI kullanımının kullanıcılar arasında organik olarak ortaya çıktığı ve yapay zekanın COTS (ticari hazır) çözümlerinin belirli yönlerini çalıştıran motor olduğu durumları yöneteceğiz.
Politika, prosedür ve yönergeler
Yapay zekayı yönetmek için en güçlü aracımız, prosedürler ve yönergeler tarafından desteklenen güvenilir politikadır. Kuruluşunuz tipik olarak politika tarafından yönetilmese bile, bir politika çerçevesinin nasıl görüneceğini yazmak yararlı bir egzersizdir. Organizasyonlarımızda AI yönetim ile ilgili olarak tanımlamamız ve belgelememiz gereken temel şeyler aşağıdaki gibidir:
- AI sahibi: Nihayetinde, kuruluşunuzda AI uygulamasının operasyonundan ve sonuçlarından kim sorumludur?
- AI Modeli:Çalıştığımız model nedir, belirli LLM veya oyundaki algoritma. Ayrıca, nasıl eğitildi? Modelde önyargı var mı?
- Risk:AI modelinin sonuçları söz konusu olduğunda kuruluşumuz için risk nedir? İlginç olmayan bir müşteriye bir ürün önerecek miyiz? Önyargı dikkate alınmazsa potansiyel itibar riski var mı? Yapay zeka kullanmamız nedeniyle haberlere girebilir miyiz veya para cezasına çarptırılabilir miyiz?
- Güvenlik : AI'nın sonuçları yerel kalıyor mu, AI ile etkileşimimiz ve sonuçları paylaşılıyor ve bu modeli diğer kaynaklar için eğitmek için mi kullanılıyor?
- Kullanmak : Bu AI aracı mevcut bir çözüme gömülü mü? Hangi iş süreçlerinde kullanılıyor?
Dikkate alabileceğimiz birçok faktör var ve belgelenmeniz gerekenler konusunda spesifik olmak istiyorsunuz. Bir politika yazarken, kuruluşunuzun üst düzey inançlarına odaklanmak istersiniz. Bu politikayı prosedürlerle desteklediğinizde, bu politikanın nasıl uygulandığıyla ilgili kuralları eklemek istersiniz, yukarıdaki dokümantasyon kurallarının kritik bir faktör haline geldiği yer burasıdır. Tam olarak neyi belgeliyoruz ve işimizde nasıl kullanılabilir hale getiriyoruz, ancak aynı zamanda tüm AI kullanımımızın belge prosedürlerimizi takip etmesini nasıl sağlayabiliriz? Bunları yapmak için titizliği yerine getirmek kuruluşunuzu kurtaracaktır.
Gölge AI – Çağrı evin içinden geliyor
Gölge AI'nın kuruluşlarda gözlemlediği etkilerden biri, iyi niyetli çalışanların bu kullanımı kuruluşa açıklamadan kendi AI çözümlerini uygulamalarıdır. Kullanım durumuna bağlı olarak, bu bir teklif yazmaya veya verileri analiz etmeye yardımcı olmak için chatgpt gibi bir şey kullanmak olabilir. Bir LLM bu gibi görevler için harika bir iş yapabilirken, organizasyon riskleri çoktur. İstem veya yanıtta gizli bilgiler var mı? Kuruluşumuzdaki insanlar için net prosedürler ve yönergeler sağlamak, sorunların gizli yapay zeka kullanımını önlemenin anahtarıdır. Bazı kuruluşlar tüm erişimi tamamen kapatmayı seçer. Bu, AI'nın kullanılmasını engellemeyecektir, ancak kullanıcılar kurnaz bir parti olduğu için gölgeler hala bizi sürünebilir. İnsanlar bu günlerde, kurumsal güvenlik duvarı dışındaki kaynaklara ulaşmanın diğer birçok yolu ile birlikte telefon getiriyor. Etkinliği yasaklamak ve yeraltına zorlamak yerine, yardım etmek ve etkinleştirmek için açık politikalara, prosedürlere ve yönergelere sahip olmak yerine, bir organizasyonda yapay zekayı riske atmak için çok daha fazlasını yapacaktır.
Gölge AI – her başından buradaydı
Gölge AI'nın bir başka alanı, ticari hazır (COTS) yazılım çözümlerinde belgesiz (veya yetersiz belgelenmiş) bir özellik olduğu zamandır. Talep sürecinde bir AI incelemesi de dahil olmak üzere çeşitli AI yönetişim çerçevelerinde, kuruluşunuzun politikası için böyle bir şey düşünmek isteyebilirsiniz. Düşünülmemişse, bazı yazılım çözümleri bilginiz olmadan bir modeli eğitmek için verilerinizi kullanıyor olabilir. İşletmenizin niteliğine bağlı olarak, bu hafif bir rahatsızlıktan büyük para cezalarına kadar risk açısından değişebilir. Ayrıca, ticari yazılımlar için bir incelemeye sahip olmak, bir aracın bir şeyin AI ile çalışan bir reklamı yapabileceği durumları da keşfedebilir, ancak sadece gerçek bir öğrenme veya eğitim olmayan, çözümlerinin uygulandığında gerçekten olduğundan daha fazlasını yaptığını iddia eden bir satıcıyı vurgulayacak olan akıllı bir algoritmadır.
Çözüm
Nihayetinde, bir politika çerçevesi kuruluşunuza AI'nın nasıl yönetildiğini açıklığa kavuşturacaktır. Bu netlik, AI'nın kuruluşunuzda kullanılmasına yardımcı olacak ve AI'nın işletmenizin operasyonlarına girdiği durumlarda yardımcı olacaktır. Eylem çağrınız basit-“Çalışanlarımızın organizasyonumuzda AI kullanımını riske atmasına yardımcı olmak için ne yapmamız gerekiyor?” İşletmeniz için AI araçlarının kullanımının biraz titizliği ve resmileştirilmesi üzerinde çalışın ve herkesin hedeflerine ulaşmasına yardımcı olun.
Bir yanıt yazın