Düşünce Çalışması uyarıyor: Yapay zeka kodu anlayışından daha hızlı büyüyor

Teknoloji danışmanlığı Thinkworks, iki yılda bir düzenlenen Teknoloji Radarının 34. baskısını yayınladı. Temel sorun: yapay zekanın sürekli artan miktarlarda kod üretmesi ve geliştirme ekiplerindeki yazılım sistemlerine ilişkin ortak anlayışın yenilenebileceğinden daha hızlı aşınması sonucu ortaya çıkan sözde bilişsel borç.

Radar'ın önceki baskıları, yazılım mühendisliğinde yapay zekanın büyüyen yeteneklerini vurgularken, mevcut rapor artık odak noktasının ölçeklenebilirlik ve üretken kullanımla ilgili risklere kaydığını söylüyor. Klasik teknik borçla karşılaştırıldığında fark çok önemlidir: teknik borç kodun kendisindedir, bilişsel borç ise geliştiricilerin kafasındadır. Yapay zeka tarafından oluşturulan kod, ekiplerin erişebileceğinden daha hızlı ortaya çıktıkça, insanlar ve sistemler arasındaki uçurum genişliyor.

Düşünce Çalışmaları'nın CTO'su Rachel Laycock'un söylediği gibi, “Bulunduğumuz dönüm noktasının teknolojiyle daha az, yöntemle daha çok ilgisi var.” Yapay zeka yetenekleri geçtiğimiz yıl nefes kesici bir hızla gelişti. Ancak insanları hareket ettirmek yerine, bu becerilerin güvenli ve etkili bir şekilde kullanılması için uygun uygulamalara ve teknik kontrol mekanizmalarına ihtiyaç duyulduğunu gösteriyor.

Kodlama ajanları için kontrol mekanizmaları

Radarın merkezi konsepti donanımsal donanımlardır: yapay zeka tarafından desteklenen kodlama ajanları için teknik kontrol mekanizmaları. Bunlar iki kategoriye ayrılır: Örneğin aracı becerileri veya spesifikasyona dayalı geliştirme yoluyla yürütme öncesi ileri beslemeli kontrol kontrolü. Öte yandan geri bildirim sistemleri, yürütme sonrasında sonuçları (örneğin mutasyon testi yoluyla) gözlemliyor ve bir insanın müdahale etmesine gerek kalmadan kendi kendini düzeltmeyi tetikliyor. Bu kavram, Birgitta Böckeler'in Harness Engineering hakkındaki makalesinde ayrıntılı olarak açıklanmaktadır.

Yapay zeka aracıları için sıfır güven gerekli

Bir diğer amaç ise giderek özel verilere ve dış sistemlere erişim ihtiyacı duyan yapay zeka ajanlarını korumaktır. Düşünce çalışması, Sıfır Güven mimarilerini, korumalı alan oluşturmayı ve derinlemesine savunma stratejilerini önerir. Maksimum faydalar ile güvenlik riskleri arasındaki gerilim, açık doğrulama ve minimum hakların tahsisi gibi ilkelerin yanı sıra GDPR gibi veri koruma gereksinimleriyle de uyumlu ilkeler gerektirir.

Buna ek olarak radar, artan karmaşıklığı ölçülebilir hale getirmek için DORA temel ölçümleri (dağıtım sıklığı, değişiklik sağlama süresi, ortalama kurtarma süresi ve değişiklik başarısızlık oranı) gibi kanıtlanmış ölçümlere geri dönülmesini önerir. Küçük yapay zeka projelerinin pazarda birikmesi, anlamsal yayılma veya terimlerin tutarsız kullanımı nedeniyle yeni teknolojileri değerlendirmek de giderek zorlaşıyor.

Eşleştirme: Daha hızlı kodlayın, daha yavaş test edin

Bilişsel borçla ilgili alarm daha geniş bir tartışmanın parçası. Diğer çalışmaların da gösterdiği gibi, üretken yapay zeka kod yazmayı hızlandırıyor ancak doğrulamayı daha karmaşık hale getiriyor. Darboğaz yaratılıştan anlayış ve denemeye doğru kayıyor. Yapay zekanın büyüyen yeteneklerini sürdürülebilir bir şekilde kullanmak için mühendisliğin temellerine geri dönüşü gerektiren Teknoloji Radarı tam da burada devreye giriyor.

İnteraktif teknoloji radarı çevrimiçi olarak mevcuttur ve PDF formatında da indirilebilir.

(harita)