Anthropic, üç AI şirketini Claude chatbot'unu kötüye kullanmakla suçladıktan sonra AI “damıtma saldırılarına” karşı bir eylem çağrısı yayınlıyor. Anthropic web sitesinde DeepSeek, Moonshot ve MiniMax'in “Claude'un kendi modellerini geliştirme yeteneklerini yasa dışı bir şekilde ele geçirmek için endüstriyel ölçekte kampanyalar” yürüttüğünü iddia etti.
Yapay zeka dünyasındaki damıtma, daha az yetenekli modellerin kendilerini eğitmek için daha güçlü olanların tepkilerine dayanması anlamına gelir. Damıtma genel olarak kötü bir şey olmasa da Anthropic, bu tür saldırıların daha hain bir şekilde kullanılabileceğini söyledi. Anthropic'e göre bu üç Çinli yapay zeka firması, “yaklaşık 24.000 sahte hesap aracılığıyla Claude ile 16 milyondan fazla alışverişten” sorumluydu. Anthropic'in bakış açısına göre, bu rakip şirketler Claude'u daha gelişmiş yapay zeka modelleri geliştirmek için bir kısayol olarak kullanıyorlardı; bu da belirli koruma önlemlerinin aşılmasına da yol açabilirdi.
Anthropic, gönderisinde, IP adresi korelasyonu, meta veri talepleri ve altyapı göstergeleri sayesinde bu ayrıştırıcı saldırı kampanyalarının her birini belirli şirketlere “yüksek güvenle” bağlayabildiğini ve yapay zeka endüstrisinde benzer davranışları fark eden diğer kişilerle de bunu doğruladığını söyledi.
Geçen yılın başlarında OpenAI, rakip firmaların modellerini damıttığı yönünde benzer iddialarda bulunmuştu ve buna yanıt olarak şüpheli hesapları yasaklamıştı. Anthropic'e gelince, Claude'un arkasındaki şirket, damıtma saldırılarının yapılmasını zorlaştırmak ve tanımlanmasını kolaylaştırmak için sistemini yükselteceğini söyledi. Anthropic diğer firmaları işaret ederken, aynı zamanda AI şirketini Claude chatbot'unu eğitmek için şarkıların yasa dışı kopyalarını kullanmakla suçlayan müzik yayıncıları tarafından açılan bir davayla da karşı karşıya.
Bir yanıt yazın