39C3: Skynet Başlangıç ​​Kiti – Araştırmacılar radyo ve yapay zeka aracılığıyla insansı robotların kontrolünü ele alıyor

kapanış bildirimi

Bu makale İngilizce olarak da mevcuttur. Teknik yardımla tercüme edildi ve yayınlanmadan önce editoryal olarak gözden geçirildi.

Bir daha gösterme.

Vizyon cazip: Yakın gelecekte insansı robotlar bizim için “kirli” veya tehlikeli işleri devralacak. Tesla ve sahibi Elon Musk gibi şirketler konuyu takip ediyor ancak birim sayısı açısından pazar lideri genellikle Çinli üretici Unitree oluyor. G1 modeli halihazırda büyük miktarda satılıyor: Araştırmacılar Shipei Qu, Zikai Xu ve Xuangan Xiao'ya göre 50.000'den fazla birim satıldı. Ancak donanım etkileyici bir ilerleme kaydederken, BT güvenliğinin bu gelişimde bir rol oynaması pek mümkün görünmüyor. Uzmanlar, kışkırtıcı “Skynet Başlangıç ​​Kiti” başlığı altında, Hamburg'daki 39. Kaos İletişim Kongresi'nde (39C3) robotik ekosistemi parçaladılar.

Unitree G1 varsayılan olarak bir uygulama veya oyun kumandasına benzer bir kablosuz uzaktan kumanda aracılığıyla kontrol edilir. Çinli siber güvenlik firması Darknavy'den Shipei Qu Pazar günü yaptığı açıklamada, üreticinin çipin etiketlerini çıkarması nedeniyle ekibin radyo modülünü kara kutu tersine mühendislik kullanarak incelediğini söyledi. Üçlü, Yazılım Tanımlı Radyo (SDR) kullanarak ve “tahmin ederek” robotun 2,4 GHz bandında LoRa protokolünde çalıştığını keşfetti.

Analizin sonucu şok ediciydi: Şifreleme yok ve yalnızca son derece zayıf kimlik doğrulaması var. Araştırmacılar, “senkronizasyon kelime parametresi” (2 bayt) olarak adlandırılan parametreyi kaba kuvvetle ihlal ederek yabancı robotların kontrolünü ele geçirmeyi başardılar. Kaydedilen bir demoda, bir saldırganın fiziksel erişime veya parola eşleştirmeye gerek kalmadan G1'i nasıl uzaktan kontrol edebildiğini gösterdiler. Unitree'nin bu keşfe yanıtı: Aradaki fark ancak yeni nesil donanımlarda kapatılabilir.

WebRTC ve bulut: botnet'ler için ağ geçidi

Zikai Xu ağ arayüzlerini vurguladı. Robot, WebRTC ve MQTT gibi protokolleri kullanarak İnternet ve akıllı telefon uygulamasıyla iletişim kurar. Burada araştırmacılar temel tasarım hatalarını buldular. Uzaktan erişim şifresi genellikle cihazın seri numarasından önemsiz bir şekilde elde edilir.

“Bedenlenmiş Yapay Zeka Ajanı”na yönelik saldırı daha da patlayıcıdır. G1, sesli komutları yorumlamak ve bunları eylemlere dönüştürmek için ChatGPT'nin Geniş Dil Modelini (LLM) kullanır. Araştırmacılar zamanında bir enjeksiyon saldırısı başlatmayı başardılar: Hedeflenen ifadeleri kullanarak yapay zekanın sistem komutlarını kök ayrıcalıklarıyla yürütmesini sağlamayı başardılar. Bu, etkileşimi kolaylaştırması beklenen yapay zekayı, saldırganlara işletim sistemine (kök kabuk) tam erişim sağlayan bir Truva atına dönüştürür. Buradan sadece ön kameradan video akışına erişmek mümkün değil, aynı zamanda teorik olarak binlerce robottan oluşan bir botnet'i de koordine edebilirsiniz.

Tüketici robotundan fiziksel tehdide

Ayrıca hareket kontrolü manipülasyonu üzerinde çalışan Xuangan Xiao'nun çalışması da etkileyici. G1'in daha ucuz olan “Air” versiyonu yazılım açısından sınırlıdır ve bazı karmaşık hareketleri gerçekleştiremez. Ekip, bu blokları aşmak için denetleyicinin derinlemesine gizlenmiş ikili dosyalarını analiz etti.

Mucitler, yalnızca gerçek mantığı tersine mühendislikten korumaya hizmet eden, kendine ait yaklaşık 80 talimat içeren bir sanal makine (VM) keşfettiler. İki haftalık yoğun çalışmanın ardından VM'yi sökmeyi ve cihaz yazılımına yama yapmayı başardılar. Bunu yaparken, yalnızca engellenen işlevlerin kilidini açmakla kalmadılar, aynı zamanda robota tehlikeli hareketleri de “öğrettiler”. İkinci bir demoda, robotun bir kod sözcüğüne yanıt olarak bir test mankenine karşı hedefli, güçlü boks yumrukları atmasını sağlamak için bu kontrolü kullandılar. Terminatör'den selamlar!

Tasarım gereği güvenlik tamamen yoktur

Araştırmacılar kasvetli bir sonuca varıyorlar. Onlara göre mevcut ticari robotlar, temel koruma mekanizmalarından yoksun, yapay zeka tarafından kontrol edilen ağ bağlantılı siber-fiziksel sistemlerdir. Boston Dynamics (Spot) gibi üreticiler ayrıntılı güvenlik konseptleri sunarken, Unitree gibi kitlesel üreticiler kullanıcıların fikri mülkiyet haklarının korunmasından ziyade kendi fikri mülkiyet haklarının korunmasına öncelik verdi. Darknavy testçilerine göre, Unitree'nin bu yıl özel bir güvenlik ekibi kurmaya başlaması, insansı inşaat sektörünün hala genel BT güvenlik standartlarının ne kadar gerisinde kaldığını gösteriyor. Asimov'un “robot biliminin üç yasası” şu anda Unitree & Co dünyasında uzak bir yanılsamadır.

(kbe)