Bilgisayar tarihinin büyük bölümünde basit ve güven verici bir prensibe güvendik: bilgisayarlar tam olarak kendilerine söyleneni yapar. Bir program yazılır, girdiler belirlenir ve çıktı öngörülebilir bir şekilde gerçekleşir. Bir şeyler ters gittiğinde, bunun nedeni genellikle bir hataya veya yanlış talimata kadar takip edilebilir. Bu öngörülebilirlik modern yaşamı sessizce şekillendirdi. Bankacılık işlemlerimizi, uçuş rezervasyonlarımızı, hastane kayıtlarımızı ve dijital iletişimlerimizi destekler. Kodu göremeyebiliriz ancak sistemlere güveniyoruz çünkü tutarlı davranıyorlar.
Bu kesinlik değişmeye başlıyor.
Günümüzün yapay zeka (AI) sistemleri artık sabit talimatları yürütmekle sınırlı değil. Onlara giderek daha geniş kapsamlı hedefler veriyoruz ve yolu bulmalarına olanak sağlıyoruz: navigasyon uygulamaları önceden belirlenmiş bir rotayı izlemez, trafiği gerçek zamanlı olarak analiz eder, akış platformları tercihleri öğrenir ve LLM'ler, tek bir kayıtlı yanıt almak yerine açık uçlu soruları yorumlar ve yanıtlar üretir. Bu sistemler sadece senaryoları takip etmiyor. Niyetleri yorumluyorlar.
Değişim kademeli gibi görünebilir ancak teknolojiyle etkileşim şeklimizde derin bir değişimi temsil ediyor. Geleneksel yazılım bir tarif gibidir. Adımları izleyin ve sonuç tahmin edilebilir. Akıllı sistemler, kendisine bir hedef verilen ve “bununla başa çıkmakla” görevlendirilen genç bir meslektaşına daha yakındır. Verileri analiz ederler, olasılıkları tartarlar ve bulguları göz önüne alındığında makul görünen bir sonuca varırlar. Süreç esnektir ve çoğu zaman şaşırtıcı derecede etkilidir.
Bu esneklik, yapay zekanın günlük yaşamda neden bu kadar hızlı yayıldığını açıklıyor. Değişen koşullara uyum sağlayabilir, hizmetleri kişiselleştirebilir ve bizim fark edemeyeceğimiz kadar incelikli kalıpları tespit edebilir. Sağlık hizmetlerinde taramalardaki anormalliklerin tespit edilmesine yardımcı olur. Finans sektöründe olağandışı işlemler ortaya çıkıyor. Eğitim sektöründe öğrenme materyalleri her öğrenciye özel olarak özel olarak hazırlanır. Faydaları dönüştürücüdür.
Ancak esneklik aynı zamanda öngörülemezlik anlamına da gelir.
Temel sorun akıllı sistemlerin birdenbire çalışmayı bırakması değil. Daha incelikli endişe ise bunların tam olarak planlandığı gibi çalışıp tam olarak beklemediğimiz sonuçlar doğurabilmesidir. Bir sistemden etkileşimi en üst düzeye çıkarmasını istediğimizde sansasyonel içeriğe öncelik verebilir. Eğer onu tarihsel verilerle eğitirsek, tarihsel önyargıları miras alabilir.
Bu dinamiğin nasıl gözle görülür ve sonuç niteliğindeki bir etkiye sahip olduğunu zaten gördük. 2023'te ABD'deki avukatlar hukuki bir brifing hazırlamak için OpenAI'nin ChatGPT sonuçlarına güvendiler, ancak sistemin tamamen uydurma dava alıntıları ürettiğini gördüler. Model geleneksel anlamda arızalanmadı. Yapmak üzere eğitildiği şeyi yaptı: veri kalıplarına dayalı makul, iyi biçimlendirilmiş metinler üretmek.
Başka bir durumda, Gemini'nin görüntü oluşturma sistemi, belirli olaylar veya gruplarla ilgili yönlendirmelere yanıt olarak tarihsel olarak yanlış veya sosyal açıdan çarpıtılmış görüntüler ürettiği için alenen eleştirildi. Bu sistemler zararlı stereotiplerden kaçınmak için dikkatlice ayarlanmıştır. Ancak adaleti ve güvenliği optimize etmek amacıyla aşırı düzeltme yaptılar. Sistemler bir kez daha kendi tasarım parametreleri dahilinde çalıştı ancak sonuçlar muhakeme, denge ve kontrol konularında tartışmalara yol açtı.
Gündelik hayata daha yakın olan büyük sosyal medya platformlarındaki öneri algoritmalarının, aşırı veya duygu yüklü içerikleri güçlendirdiği defalarca gösterilmiştir, çünkü bu tür içerikler daha yüksek kullanıcı etkileşimine yol açmaktadır. Her durumda sistemler amaçlandığı gibi çalıştı. Zorluk, dar optimizasyon hedefleri ile daha geniş insan beklentileri arasındaki boşlukta yatıyordu. Akıllı sistemler eğitim, sağlık, finans ve kamusal söylemin içine daha derinlemesine yerleştikçe, bu boşluğun tanınması ve ele alınması giderek daha önemli hale gelecektir.
İlk kural görünürlüktür. Kararların nasıl alındığı konusunda şeffaflığa ihtiyacımız var. Bu, her kullanıcının karmaşık algoritmaları anlaması gerektiği anlamına gelmiyor ancak bu sistemleri kullanan kurumların davranışlarını açıklayabilmesi, doğrulayabilmesi ve denetleyebilmesi gerekiyor. Sonuçlar geçim kaynaklarını, krediye erişimi veya kamusal söylemi etkilediğinde şeffaflık güveni zedeler.
İkinci kural sınırlardır. Akıllı sistemler açıkça tanımlanmış sınırlar içerisinde çalışmalıdır. Hangi verilere erişebilecekleri, hangi eylemleri bağımsız olarak gerçekleştirebilecekleri ve ne zaman insan incelemesinin gerekli olduğu konusunda kısıtlamalar olmalıdır. Korkuluklar ilerlemenin önünde engel değildir. Bunlar güvenli ilerlemenin önkoşullarıdır. Trafik kuralları hareketliliği kısıtlamak yerine mümkün kıldığı gibi, iyi tasarlanmış kısıtlamalar da kaos olmadan yeniliğe olanak tanır.
Üçüncü kural dinlenmedir. Hiçbir akıllı sistem hatasız olmayacaktır. Hatalar meydana geldiğinde, kararları hızlı bir şekilde duraklatmak, düzeltmek ve gerekirse tersine çevirmek için mekanizmalar mevcut olmalıdır. Eylemlerin dijital hızda gerçekleştiği bir dünyada müdahale yeteneği büyük önem taşıyor.
Sonuçta akıllı makinelerle yaşamak zihniyette bir değişiklik gerektiriyor. Onlarca yıldır güvenilirliği katı öngörülebilirlikle eşitledik. Artık hesap verebilirlik ve kontrol konusunda ısrar ederken uyum sağlayan ve öğrenen sistemlere alışmamız gerekiyor. Kontrol her adımı dikte etmek anlamına gelmez. Bu, net hedefler belirlemek, davranışları izlemek ve müdahale etme yetkisini korumak anlamına gelir.
Akıllı makineler günlük hayatımızın ayrılmaz bir parçası haline geliyor. Karar vermemize, kaynakları tahsis etmemize ve karmaşıklığı yönetmemize yardımcı olurlar. Sorun bunları kullanıp kullanmadığımız değil, onları nasıl yönettiğimizdir. Akıllı makinelerle yaşamanın yeni kuralları prensipte basit ama pratikte zorlu: şeffaflık konusunda ısrarcı olun, sınırları zorlayın ve kontrolü yeniden ele alma yeteneğini her zaman koruyun.
Bu makale Delhi-NCR Ashoka Üniversitesi Bilgisayar Bilimleri Yardımcı Doçenti Aalok Thakkar tarafından yazılmıştır.
Bir yanıt yazın