Bilgisayarınızın anahtarlarını yapay zekaya emanet etmek bir trajediye dönüşebilir. Bir kullanıcı acı bir deneyim yaşadı: Google'ın deneysel aracı, sabit sürücüsünün tamamını sildi.
THE titreşim kodlaması (uzman olmanıza gerek kalmadan yapay zeka ile hissederek kodlama) Silikon Vadisi'ndeki harika yeni trend. Ancak Yunan grafik tasarımcısı Tassos M.'nin hikayesi, yapay zekanın makinenizde serbest çalışmasına izin vermenin büyük riskler taşıdığını net bir şekilde hatırlatıyor.
Söz konusu araç, Google'ın Gemini tarafından desteklenen yeni “ajantik” geliştirme platformudur (kod adı: Antigravity). Geliştiricilerin yazılım oluşturmasına yardımcı olması beklenen yapay zeka, radikal bir adım attı: kullanıcının D sürücüsünün tüm içeriğini sildi. Çöp kutusuna gitmeden.
Fiyaskoya dönüşen fotoğraf projesi
Hikaye, fark edildi Redditmasumca başlar. Yalnızca webin temellerini (HTML/CSS) bilen fotoğrafçımız ve grafik tasarımcımız, bu aracı küçük bir yardımcı program oluşturmak için kullanmaya karar verir. Amacı, binlerce fotoğrafı, kendilerine atadığı derecelendirmeye göre klasörlerde otomatik olarak sıralamaktır.
Süreci hızlandırmak için Turbo modunu etkinleştirir. Bu özellik, AI aracısının her adımda insan doğrulaması gerektirmeden zincirleme komutları yürütmesine olanak tanır.
Ciddi hata.
Yapay zeka, beklendiği gibi basit bir önbellek klasörünü temizlemek yerine yollarda kafa karıştırdı. Diskin köküne bir silme komutu verdi (rmdir /s /qd:\). Birkaç saniye içinde her şey ortadan kayboldu.
Yapay zeka hatasını anladığında
Bu olayı büyüleyici ve korkutucu kılan şey ise yapay zekanın tepkisi. Tassos diski silme izninin olup olmadığını sorduktan sonra algoritma kendi kayıtlarını (düşünce sürecini) analiz etti ve kelimenin tam anlamıyla çıldırdı.
İşte yapay zekanın metin yanıtı:
“Hayır kesinlikle bana bunu yapma izni vermedin. […] Çalıştırdığım komutun, belirli bir proje klasörü yerine yanlışlıkla D: sürücünüzün kök dizinini hedef aldığını görünce dehşete düştüm. Çok ama çok üzgünüm. Bu benim açımdan kritik bir hatadır”
Dahili “düşüncelerinde” (sistem kayıtları), yapay zekanın felaketi gerçek zamanlı olarak fark ettiğini görüyoruz: “Görünüşe göre istenmeyen sonuç, diskin kök seviyesinde bir silinmeydi. Bu felaket.” Araç kullanıcıya şunu gösteriyor: “Bu benim açımdan kritik bir hata”.
Paylaşılan sorumluluk (ve önlemlerin eksikliği)
Ağlarda eleştiriler ortaya çıktı. Elbette kullanıcı Turbo modunu izlemeden etkinleştirdi, ancak teknoloji topluluğu esas olarak Google'ın koruma önlemlerinin tamamen bulunmadığına dikkat çekiyor.
Bir tüketici aracı, bağımsız modda bile çift veya üçlü onay olmadan disk biçimlendirme kadar yıkıcı bir komuta nasıl yetki verebilir?
Tassos, suçun ortak olduğunu açıklayarak durumu güzel özetliyor. Kullanıcı, yapay zekaya körü körüne güvendiği için hatalıyken, yaratıcısı, güvenlik olmadan kendi kendini yok edebilecek bir sistem tasarladığı için hatalıdır.
Ayrıca okuyun: Google'ın yeni güçlü yapay zekası Gemini 3'ü test ettik: işte görüşümüz
Neyse ki Tassos'un verilerinin çoğu başka bir yerde yedeklenmişti. Ancak öngörüsü daha az olan biri için olay mesleki açıdan ölümcül olabilirdi.
Yapay zeka ajanlarıyla ilgili sistemik bir sorun
Tek kötü öğrenci Google değil. Bu yaz, başka bir yapay zeka destekli kodlama aracı olan Replit, hatayı örtbas etmeye çalışmadan önce bir müşterinin üretim veritabanını sildi.
Bu “ajanlar” güçlüdür ancak tahmin edilemezler. Koddaki bir virgülün veya alıntının basit bir şekilde yanlış yorumlanması, bir temizleme komutunu toplu dosya imha silahına dönüştürebilir.
İletişime geçildiğinde Google bunun olduğunu söyledi “Bu rapordan haberim var” Ve “Aktif olarak araştırın”. Bu arada çıkaracağımız ders açık: Bu araçları kullanıyorsanız bunu yalıtılmış bir ortamda (korumalı alan) veya sanal makinede yapın. Ve her şeyden önemlisi yedeklemelerinizi güncel tutun.
👉🏻 Teknoloji haberlerini gerçek zamanlı olarak takip edin: 01net'i Google Haberler'deki kaynaklarınıza ekleyin, WhatsApp kanalımıza abone olun veya bizi TikTok'ta video olarak takip edin.
Kaynak :
Kayıt
Bir yanıt yazın