Yapay zeka kodlamayı hızlandırdı ancak kendi başına bir eğim sorunu yarattı

Yapay zeka kodlama araçlarının yazılım geliştirmeyi daha hızlı ve kolay hale getirmesi gerekiyordu. Yaptılar ama belki biraz fazla iyi. İnsanlar her zamankinden daha hızlı kod yazıyor ve bu da şirketler için yepyeni bir dizi sorun yarattı.

The New York Times'a göre bir finansal hizmet şirketi, bir yapay zeka kodlama aracı olan Cursor'u kullanmaya başladı ve ayda 25.000 satır kod üretmekten 250.000 satıra çıktı. Bu bir kazanç gibi görünüyor, ancak bir milyon satırlık incelenmemiş koddan oluşan bir birikim yarattı.

Firmayla birlikte çalışan bir güvenlik girişimi olan StackHawk'un CEO'su Joni Klippert, “Teslim edilen kod miktarının ve güvenlik açıklarındaki artışın üstesinden gelemeyecekleri bir şey” dedi.

Sorun Silikon Vadisi'ne yayıldı. Şirketler artık inceleyecek insan sayısından daha fazla kod üretiyor ve bu boşluk bir güvenlik riski haline geliyor.

Peki sorun ne?

Yapay zeka tarafından oluşturulan koddaki hataları yakalamaktan sorumlu olan role uygulama güvenlik mühendisi denir. Neredeyse yeterli sayıda yok. Costanoa Ventures'ın danışmanı Joe Sullivan, “Gezegende Amerikan şirketlerinin ihtiyaç duyduğu şeyleri karşılayacak yeterli uygulama güvenliği mühendisi yok” dedi.

Bu sadece personel sorunu da değil. Yapay zeka kodlama araçları, kişisel dizüstü bilgisayarlarda güvenli şirket sunucularına göre daha iyi çalışır; bu da mühendislerin kod tabanlarının tamamını kişisel cihazlara indirdiği anlamına gelir. Bir dizüstü bilgisayar kaybolursa birçok hassas veri de kaybolur.

Daha fazla yapay zeka gerçekten çözüm mü?

Tahmin edilebileceği gibi Silikon Vadisi de öyle düşünüyor. Anthropic, OpenAI ve Cursor gibi şirketler, yapay zeka tarafından oluşturulan koddaki hataları yakalamaya yardımcı olmak için halihazırda yapay zeka destekli inceleme araçları geliştiriyor. Cursor, bunu ürününe dahil etmek için bir kod inceleme girişimi bile satın aldı.

Cursor'un mühendislik şefinin belirttiği gibi, “Yazılım geliştirme fabrikası bir nevi bozuldu. Bir anlamda parçaları yeniden düzenlemeye çalışıyoruz.”

Şüphelerim var. Evet, yapay zeka eninde sonunda koddaki hataları yakalayabilecek ancak nihai üretim yayınlanmadan önce yine de insan incelemesine ihtiyaç duyulacak. Yakın zamanda bir yapay zeka kodu Amazon'da kesintiye neden oldu ve bu durum 100.000'den fazla siparişin kaybolmasına ve 1,6 milyon hataya neden oldu.

Hiçbir şirket bunun olmasını istemez ve sorunun cevabının yapay zeka kod incelemecileri olduğundan emin değilim.