Hindistan dünyanın en iddialı dijital yarışlarından birini yürütüyor. Hızlı bir giriş arasında ₹2.000 milyar Rupi değerindeki Hindistan AI Misyonu, yapay zeka odaklı Özel Ekonomik Bölgelerin (SEZ'ler) yükselişi ve ulusal beceri platformlarının genişletilmesi, her büyüklükteki kuruluşu benzeri görülmemiş bir hızla modernleştiriyor. Ancak bu dinamiğin arkasında büyüyen bir kör nokta yatıyor: Bu dönüşümü yönlendiren bulut maliyetlerinin anlaşılması, tahmin edilmesi ve kontrol edilmesi giderek zorlaşıyor.
Bulut, bir BT maliyet merkezinden modern yapay zeka iş yükleri için gerekli olan ölçeklenebilir bilgi işlem ve altyapı temeline dönüştü. Yapay zeka modellerini eğitmek ve dağıtmak, esnek bilgi işlem gücü, yüksek performanslı GPU'lar ve büyük, dağıtılmış veri kümeleri gerektirir; bunlar, bulut platformlarının özel olarak sağlamak üzere tasarlandığı özelliklerdir.
GPU ağırlıklı iş yüklerine, daha büyük veri kümelerine ve gerçek zamanlı yapay zeka uygulamalarına yönelik trend, Hindistan'da bulut tüketiminin artmasına neden oluyor. Hindistan'a yönelik tahminler, genel bulut hizmetlerinde, öncelikle yapay zekanın benimsenmesi, modernizasyon çabaları ve dijital kamu altyapısının genişletilmesinin etkisiyle çift haneli büyümenin devam ettiğini gösteriyor. Buradaki zorluk, bulut ortamlarının hızlı bir şekilde ölçeklenmesine rağmen görünürlüğün her zaman onlarla birlikte artmamasıdır. Sonuç, şirketlerin harcadıklarını düşündükleri ile gerçekte harcadıkları arasında giderek büyüyen bir uçurumdur.
Her şirket daha hızlı hareket etmek ister. Yapay zeka, kalabalık bir pazarda verimlilik, daha iyi müşteri deneyimleri ve rekabet avantajı vaat ediyor. Hindistan'ın önde gelen bankaları, fintech'leri, e-ticaret platformları ve sağlık teknolojisi şirketleri halihazırda sahtekarlık tespiti, kişiselleştirme ve operasyonel otomasyonda yapay zekayı kullanıyor. Ancak yapay zekanın benimsenmesi arttıkça bulut ortamları (konteynerler, GPU'lar, depolama, ağlar gibi) daha karmaşık hale geliyor. Ve karmaşıklık her zaman maliyetlerle birlikte gelir.
Sektör genelinde ekipler altyapıyı doğru boyutlandırmak, kaynak ihtiyaçlarını tahmin etmek ve yapay zeka iş yüklerini destekleyen artan sayıda hizmeti takip etmek için çabalıyor. Ve bu küresel bir sorundur. Son araştırmalar, dünya çapındaki kuruluşlardaki konteyner maliyetlerinin %83'ünün atıl kaynaklara (ücreti ödenmiş ancak kullanılmayan kapasiteye) bağlı olduğunu göstermektedir. Diğer bir yaygın yük ise kullanılabilirlik alanlarındaki veri trafiğidir. Çoğu şirket, mühendislerin finansal etkisinin farkında olmadan kaynaklar bölgelere dağıtıldığı için maliyetlere maruz kalır.
Bulut ortamları, birleşik görünürlük olmadan takip edilmesi zor şekillerde genişleyip değiştiği için bu sorunlar genellikle fark edilmez. Amaç inovasyondur, ancak uygun bir gözetim olmazsa şirketler tükettiklerinden çok daha fazlasını öderler.
Gerçek şu ki, teknoloji borcu artık her zaman eski kod gibi görünmüyor. Günümüzde bulutta saklanıyor. Bir ekip kaynakları her artırdığında Güvenli tarafta olmak için, bir boru hattının gerekenden daha uzun süre çalıştırılmasına izin vermek veya bir sprint sırasında oluşturulan depolama alanını unutmak, büyüyen görünmez borç yığınına katkıda bulunur. Bunların hiçbiri şu anda acil gelmiyor ama hızla bir araya geliyor: Kullanılmayan bilgi işlem gücü, zamanla dağınık hale gelen boru hatları, kimsenin temizlemediği depolama ve nereye inerse oraya atılan iş yükleri. Ve nihayet yasa tasarısı kimsenin hoşuna gitmeyen bir şekilde çıkıyor.
Son iki yılın sektör analizleri, kaynakların optimize edilmemesi veya gereğinden az kullanılması nedeniyle şirketlerin bulut bütçelerinin %20 ila %30'unu kaybedebileceğini gösteriyor. Hindistan'ın yüksek büyüme ortamında bunun gerçek sonuçları var. Bulutta boşa harcanan her rupi, yapay zeka modellerini güçlendirmek, müşteri deneyimini iyileştirmek veya yeni ürünler geliştirmek için harcanmayan bir rupidir.
Buradaki ironi, buluta yapılan aşırı harcamaların genellikle yapay zekayı en agresif şekilde kullanan şirketlerde en hızlı şekilde artmasıdır. Şirket ne kadar yenilikçi olursa, şeffaflığın modernizasyon planının bir parçası olmaması durumunda gizli verimsizliklerin birikme olasılığı da o kadar artar.
Yıllar boyunca finans bulut faturalandırmayı, teknoloji ise kontrol panellerini izledi ve herkes bunun verimli olduğunu varsaydı. Bugün ise hiç de öyle değil. Yapay zeka iş yüklerinin öngörülemeyen ölçeklendirmesi göz önüne alındığında, bu eski ayrım netlikten ziyade kör noktalar yaratıyor. Bunu müşterilerle yaptığım görüşmelerde ilk elden görüyorum: Maliyetler ve performans aynı odada tartışılmadığında ekipler yanlış sorunları iki kat daha yavaş çözüyor.
Bulutunu etkin bir şekilde yöneten şirketler, mühendislerin performansı, kullanımı ve maliyeti aynı iş akışında görebildiği şirketlerdir. Yüksek verimli bir hizmetin, kalıcı bir GPU düğümünün veya bölgeler arası veri aktarımının maliyet etkilerini anladıklarında, farklı kararlar alırlar; daha yavaş değil, daha akıllıca.
Gözlemlenebilirliğin önemli olduğu yer burasıdır. Gerçek gözlemlenebilirlik izlemeyle bitmiyor. Mühendislerin davranışın arkasındaki nedeni anlamalarına yardımcı olur: neden iş yükleri artar, neden bir kapsayıcı boşta kalır, bir işlev neden beklenmedik şekilde ölçeklenir, bir mikro hizmet neden sessizce ücret biriktirir vb. Ekipler bu netliği kazandığında optimizasyon bir mücadele yerine sürekli, proaktif bir uygulama haline gelir.
Yapay zeka, bulutun ekonomisini bir gecede değiştiriyor. Bir kuruluş modelleri geniş ölçekte eğitmeye veya dağıtmaya başladığında, geleneksel iş yükleri için işe yarayan varsayımlar artık geçerli değildir. Bu durum tüm sektörlerde yaygındır: Bilgi işlem planlamasında titiz davranan ekipler aniden öngörülemeyen ani artışlarla, GPU düğümlerinin amaçlanandan daha uzun süre çalışmasıyla ve bütçeleri aşan bellek büyümesiyle karşı karşıya kalır.
Modern gözlemlenebilirlik çözümleri (özellikle yapay zeka destekli olanlar) kullanım, maliyetler ve performanstaki anormallikleri gerçek zamanlı olarak tespit edebilir. Ekiplerin aşırı provizyondan kaçınmasına, gereksiz GPU harcamalarını azaltmasına ve kalıpları erken tespit etmesine yardımcı olurlar. Bu, tasarruf uğruna maliyetleri düşürmekle ilgili değil, daha ziyade bulutun bütçeleri sessizce tüketmek yerine yeniliği destekleyecek şekilde kullanılmasını sağlamakla ilgili.
Hindistan'ın yapay zeka destekli sistemlere geçişi, modern altyapının başarması gerekenler konusunda çıtayı yükseltti. Ancak her yeni iş ve hizmetle birlikte operasyonel gürültü daha da artıyor. Artık asıl fark yaratan şey şeffaflıktır; ortamınızın maliyetini, performansını ve davranışını tahminde bulunmadan görebilirsiniz. Bu netliğe sahip ekipler, verimsizliklerin hızla üstesinden gelir ve tökezlemeden ölçeklenen sistemler oluşturur.
Bu makale Hindistan RVP Enterprise'dan Namit D'Cruz ve Datadog'dan SAARC tarafından yazılmıştır.
Bir yanıt yazın