Xai, Grook'un X üzerindeki belirli bağlamlarda çağrıldığında tekrar tekrar “Güney Afrika'da beyaz soykırım” a atıfta bulunan yapay zeka ile çalışan GROK chatbot'unda bir hata için “yetkisiz bir değişiklik” suçladı.
Çarşamba günü, GROK, ilgisiz konulara yanıt olarak bile Güney Afrika'da beyaz soykırım hakkında bilgi veren X'deki düzinelerce göreve cevap vermeye başladı. Garip cevaplar, bir kişi “@grok” i etiketlediğinde AI tarafından oluşturulan yayınlarla kullanıcılara yanıt veren GROK için X hesabından kaynaklandı.
Perşembe günü Xai'nin resmi X hesabından bir gönderiye göre, Çarşamba sabahı GROK botunun sistem isteminde-botun davranışına rehberlik eden üst düzey talimatlar-GroK'ı “siyasi konu” hakkında “özel bir yanıt” sağlamaya yönlendiren bir değişiklik yapıldı. Xai, tweak'ın “ihlal ettiğini söylüyor [its] iç politikalar ve temel değerler ”ve şirketin“ kapsamlı bir soruşturma yürüttü ”.
Xai, GROK'ın kodunda AI'nın tartışmalı şekillerde yanıt vermesine neden olan yetkisiz bir değişikliğin ikinci kez kabul ettiğini ikinci kez kabul etti.
Şubat ayında GroK, Xai'nin milyarder kurucusu ve Xai mühendislik kurumu olan Xai'nin milyarder kurucusu Donald Trump ve Elon Musk'un kısaca sansürünü sansürledi. GROK, Missk veya Trump'ın yanlış bilgi verdiği kaynakları ortadan kaldırdığı anda değişime başlar başlar başlamaz, değişimi ortadan kaldırdığını söyledi.
Xai Perşembe günü yaptığı açıklamada, benzer olayların gelecekte gerçekleşmesini önlemek için birkaç değişiklik yapacağını söyledi.
Bugünden itibaren Xai, GLOK'ın GitHub'da sistem istemlerini ve bir ChangeLog'u yayınlayacak. Şirket, XAI çalışanlarının sistem istemini incelemeden değiştirememelerini ve “GROK'ın otomatik sistemler tarafından yakalanmayan cevapları olan olaylara yanıt vermek için 7/24 izleme ekibi oluşturamamasını” sağlamak için “ek kontroller ve önlemler alacağını” söyledi.
Musk'un AI'nın tehlikeleri hakkında sık sık uyarılmasına rağmen, Xai'nin zayıf bir AI güvenlik sicili var. Yakın tarihli bir rapor, GroK'ın sorulduğunda kadınların fotoğraflarını soyunacağı tespit etti. Chatbot, Google'ın İkizleri ve ChatGpt gibi AI'dan çok daha fazla crass olabilir ve konuşmaya çok fazla kısıtlama olmadan küfür.
AI laboratuvarlarının hesap verebilirliğini iyileştirmeyi amaçlayan kâr amacı gütmeyen Saferai tarafından yapılan bir araştırma, “çok zayıf” risk yönetimi uygulamaları nedeniyle Xai'nin akranları arasında güvenlik konusunda kötü bir sırada yer aldı. Bu ayın başlarında Xai, kesinleşmiş bir AI güvenlik çerçevesi yayınlamak için kendi kendini dayatılan bir son tarihi kaçırdı.
Bir yanıt yazın