Yapay zekanın yalnızca şirketleri daha verimli hale getirerek değil, aynı zamanda insanların günlük yaşamlarında daha iyi durumda olmalarını sağlayarak insan hayatını önemli ölçüde iyileştirebileceğine dair artan bir inanç var. Elon Musk, insanüstü tıbbi bakım ve bugün sahip olduğumuz her şeyden daha iyi eğlence örneklerini öne sürerek, yapay zeka ve robotların herkesi olağanüstü derecede zengin yapabileceğini iddia ediyor. Bu, bilim kurgunun kendisi kadar eski bir varsayıma dayanıyor: Yapay zeka insanlara zarar vermeden hizmet edecek.
Son Hindistan Yapay Zeka Zirvesi'nde de bu iyimserlik mevcuttu ancak kurumsal tasarıma daha fazla odaklanılmıştı. Hindistan artık yapay zekayı benimseyip benimsememeyi merak etme aşamasında değil; sorumlu bir şekilde nasıl düzenlenebileceği sorusunu ele almaktadır. Zirve, yönetişimin yapay zeka kullanımı için önemli bir ön koşul olduğunu açıkça ortaya koydu ve buna göre arzu edilenden uygulanabilir yapay zeka yönetişimine doğru bir geçişe işaret etti. Yapay zekanın gücünden geniş ölçekte gerçek anlamda yararlanmak için sistemlerin, insanlar için güvenli ve adil bir şekilde çalışacak şekilde tasarlanmış yönetişim matrislerine sahip olması gerekir. Veri koruma, hesap verebilirlik, şeffaflık ve genel uyumluluk, başından itibaren yapay zeka sistemlerine entegre edilmelidir. Bu, özellikle herkes için yapay zeka vizyonunun siyasi tartışmaların merkezinde yer aldığı ve ülkenin yaklaşımının modern zamanlarda giderek faydacı hale geldiği Hindistan bağlamında geçerlidir.
Yapay zeka, çeşitli sektörlerin gelişiminde etkili olmuştur ve kredi verme, içerik denetleme ve seçim söylemine kadar çok önemli ürün ve hizmetlerde kullanılmaktadır. Bununla birlikte, yaygın biçimde benimsenmesi ne yazık ki aynı zamanda deepfake'lerin, algoritmik önyargıların, şeffaf olmayan otomatik karar alma süreçlerinin ve kişisel verilerin büyük ölçekli işlenmesinin artmasına da yol açmıştır. Hindistan kendisini küresel bir yapay zeka lideri olarak konumlandırmaya çalışırken, bu riskler artık göz ardı edilemez. Politika yapıcıların yapay zekayı düzenlemeye yönelik yaklaşımı böylece genel etik ilkelerden uygulanabilir mekanizmalara ve hesap verebilirlik çerçevelerine doğru evrildi. Hindistan şimdi yapay zeka yönetiminin yeni bir aşamasına giriyor; burada asıl soru artık sorumlu yapay zekanın nasıl görünmesi gerektiği değil, yapay zeka sistemleri başarısız olduğunda kimin sorumlu tutulacağıdır.
2018 yılında NITI Aayog, yapay zekanın ekonomik kalkınmayı teşvik etme ve sosyo-ekonomik zorlukları kapsayıcılık yoluyla çözme potansiyelini vurgulayan Ulusal Yapay Zeka Stratejisini yayınladı. Herkes için yapay zeka sloganı benimsendi. Son on yılda NITI Aayog, sorumlu yapay zeka için güvenlik ve güvenilirlik, eşitlik, kapsayıcılık ve ayrımcılık yapmama, gizlilik ve güvenlik, şeffaflık ve hesap verebilirlik gibi ilkeleri belirledi. Risk bazlı bir yaklaşım da önerildi; hasar ne kadar büyükse, düzenleyici kontrol de o kadar büyük olur.
Şu anda Hindistan'da yapay zekaya özgü bir mevzuat bulunmamasına rağmen, düzenleyiciler mevcut çerçevelerin uygulanmasının, bunların benzersiz doğasını yeterince dikkate almayabileceğini kabul etmiştir. Geçmişte hukuk çoğu zaman teknolojinin hızlı gelişimine ayak uydurmakta zorlanmıştır. Yapay zekanın hala sürekli gelişen bir alan olduğu göz önüne alındığında, riskleri hala tam olarak anlaşılamamıştır ve bu da politika yapıcıların uzun vadeli düzenleyici yaklaşımlar geliştirmesini zorlaştırmaktadır.
Elektronik ve Bilgi Teknolojileri Bakanlığı (MeitY) bunun yerine mevcut BT çerçevesine güvendi ve yanlış bilgilerin ve derin sahtekarlıkların hızla yayılmasına yanıt olarak öneriler yayınladı. Aracıların, yasa dışı içerik barındırmak veya dağıtmak için yapay zeka modellerinin kullanılmasına izin vermemesi gerektiğini açıkladı ve uymamanın, 2000 tarihli Bilgi Teknolojileri Kanunu ve diğer ceza kanunları kapsamında sonuçlara yol açabileceğini vurguladı. Her ne kadar bu tavsiyeler kendi başlarına bağlayıcı olmasa da, potansiyel sorumlulukla desteklenen gerçek hesap verebilirliğe doğru ilerlemeyi göstermektedir.
Finans sektöründe Hindistan Merkez Bankası, operasyonel hale getirme ilkelerine odaklanan ve risk temelli bir yaklaşım benimseyerek konsolide yapay zeka kılavuzlarının yayınlanmasını tavsiye eden Yapay Zeka Komitesinin Sorumlu ve Etik Etkinleştirilmesi Çerçevesini oluşturdu. Hindistan Menkul Kıymetler ve Borsa Kurulu, yapay zeka kullanımının sonuçlarının tek sorumluluğunu belirlemek için değişiklikler önerdi ve menkul kıymet piyasalarında yapay zeka/ML'nin sorumlu kullanımına ilişkin tavsiyelerde bulundu. Telekom sektöründe, Hindistan Telekom Düzenleme Otoritesi, uygulanmayan endüstri öz düzenlemesine güvenmek yerine zorunlu düzenleyici standartlar çağrısında bulundu. Yapay zekayı kullanan şirketler, sonuçlarının sorumluluğundan kolayca kaçınamaz. Düzenleyiciler, kendi çerçevelerinde yerleşik durum tespitine, raporlama gerekliliklerine, gözetim mekanizmalarına ve kademeli sorumluluk yaklaşımlarına odaklanır.
Yapay zeka sistemleri ayrıca kişisel veriler de dahil olmak üzere büyük miktarda eğitim verisi kullanıyor ve bu da önemli veri koruma endişelerini artırıyor. Yeterli güvenlik önlemleri olmadığında, bilinmeyen miktarda kişisel verinin kişinin izni ve hatta bilgisi olmadan toplanması riski vardır. Kişisel Verilerin Korunması Kanunu yapay zekaya özgü olmasa da, kişisel verilerin tamamen veya kısmen otomatik olarak işlenmesi için geçerlidir ve dolayısıyla kişisel verilerin yapay zeka odaklı kullanım durumlarının çoğunu kapsar. Yapay zeka kullanımından sorumlu kuruluşlar, veri mutemetleri için geçerli olan yükümlülüklere uymalıdır; B. belirli amaçlar için ayrıntılı ön izin alınması, kişisel veri ihlallerine karşı uygun koruma ve önlemlerin uygulanması ve silme hakkının sağlanması. Bu bağlamda yapay zeka sistemleri için uygulanabilir korkuluklar ortaya çıkmaya başlıyor.
Yapay zeka, altyapıyı güçlendirmeyi, yapay zeka tabanlı girişimleri desteklemeyi ve yapay zeka modellerini eğitmek için büyük veri kümeleri geliştirmeye yardımcı olmayı amaçlayan “Hindistan'da Yapay Zeka Yapmak” ve “Yapay Zekayı Hindistan için Çalıştırmak” vizyonunun rehberliğinde, Hindistan Yapay Zeka Misyonu aracılığıyla en çok görülebilen ulusal bir öncelik olmaya devam ediyor. Buradaki fikir, yapay zekanın büyümesini en başından itibaren sınırlandırarak düzenlemek değil, sistemler ölçeklendiğinde veya tüketiciler üzerinde önemli bir etkiye sahip olmaya başladığında daha katı yükümlülükler uygulama yeteneğini korurken kontrollü dağıtımını mümkün kılmaktır. Yapay zeka yönetişimi artık temel bir uyumluluk ve risk yönetimi işlevi haline geliyor ve bu nedenle şirketlerin yalnızca yapay zeka sistemlerini oluşturup dağıtacak teknolojik yeteneklere sahip olmaları değil, aynı zamanda uyumluluğu göstermeleri de önemli.
En son MeitY, yapay zeka tarafından oluşturulan medyanın çevrimiçi olarak nasıl dağıtıldığını özellikle kontrol etmek için Bilgi Teknolojisi (Aracı Kılavuzları ve Dijital Medya için Etik Kuralları) Kuralları, 2021'de değişiklik yaptı. Gözden geçirilen yönergeler, yasa dışı yapay zeka tarafından oluşturulan içeriğin kaldırılması, kullanıcı hesaplarının askıya alınması/sonlandırılması, ihlalde bulunan kullanıcının kimliğinin belirlenmesi ve şikayet sahibine açıklanması, zorunlu raporlama gereksinimleri ve makul ve uygun teknik güvenlik önlemleri dahil olmak üzere proaktif tespit önlemlerine odaklanarak daha da derinleşiyor. Önemli sosyal medya aracıları, yayınlanmadan önce zorunlu kullanıcı beyanı, kullanıcı beyanlarının doğrulanması ve onaylanmış sentetik içeriklerin işaretlenmesi gibi ek yükümlülüklere tabidir.
Hindistan'da yapay zeka yönetiminin evrimi, tüketici refahı ve ulusal güvenliğin ön planda olduğu daha net bir sorumluluk dağılımına doğru atılmış istikrarlı bir adımdır. Mevcut yaklaşım, yapay zeka yönetişiminin tek bir mevzuat veya düzenleyiciyle sınırlı olmayabileceğini, ancak veri koruma kanunu, sektöre özel düzenlemeler ve aracı yükümlülükler arasındaki arayüz yoluyla ortaya çıkacağını öne sürüyor. Yapay zeka sistemleri ölçeklendikçe mahkemeler ve düzenleyiciler, otomatikleştirilmiş süreçlerin (özellikle bireyler hakkında karar vermek için kullanılanların) makullük, orantılılık ve adalet standartlarını karşılayıp karşılamadığını giderek daha fazla değerlendirebilir. Bu anlamda, Hindistan'da uygulanabilir yapay zeka yönetişimi yalnızca teknolojik risklerin yönetilmesiyle ilgili değil, aynı zamanda tüm sistemlerde hesap verebilirliğin oluşturulmasıyla da ilgilidir.
Bu makale Kurucu Ortak Avimukt Dar ve CMS INDUSLAW Ortağı Anushka Narayan tarafından yazılmıştır.
Bir yanıt yazın