İlginç araştırma: “Yapay Zeka Modelleri Keyfi Yetenekleri Kanıtlanabilir Şekilde Gizleyebilir” Özet: Yetenek değerlendirmeleri, tehlikeli model davranışlarını konuşlandırmadan önce ortaya çıkarmayı amaçlar, ancak bunların güvenilirliği, gizli yeteneklerin ortaya çıkarılabileceği varsayımına bağlıdır. Şifrelenmiş sinir sinirlerini içeren arka kapı saldırıları oluşturarak bu varsayımın rakip koşullar altında geçerli olmadığını gösteriyoruz.
İlginç araştırma: “Yapay Zeka Modelleri Keyfi Yetenekleri Kanıtlanabilir Şekilde Gizleyebilir” Özet: Yetenek değerlendirmeleri, tehlikeli model davranışlarını konuşlandırmadan önce ortaya çıkarmayı amaçlar, ancak bunların güvenilirliği, gizli yeteneklerin ortaya çıkarılabileceği varsayımına bağlıdır. Şifrelenmiş sinir ağlarını ana bilgisayar modeli ağırlıkları içine yerleştiren arka kapı saldırıları oluşturarak, bunları yalnızca gizli bir tetikleyici aldıktan sonra şifresini çözerek ve çalıştırarak bu varsayımın çekişmeli koşullar altında geçerli olmadığını gösterdik. Dijital dolaplar kullanıldığında, bu gizli devrelerin kriptografik varsayımlar altında ortaya çıkarılması ve yorumlanması, model ağırlıklarına tam erişim verilse bile kanıtlanması zor olmaya devam ediyor ve önceki çalışmayı sabit dizeleri gizlemekten keyfi hesaplamalara kadar genişletiyor. Kavram kanıtı yapılarımızı PyTorch'ta uyguluyoruz ve KBRN ile ilgili yetenekler için bir vekil olarak küçük bir kimyasal reaksiyon tahmin görevi kullanarak ince ayar, ağırlık gürültüsü, gradyan tabanlı tetik arama ve gizli düşman eğitimi yoluyla ortaya çıkarmayı değerlendiriyoruz. Sonuçlarımız bu yöntemlere karşı direnci gösteriyor ve kriptografik garantilerimizle birlikte ortaya çıkarmaya dayalı yetenek denetimlerinin bir sınırını ortaya koyuyor. Savunmaların iyileştirilmesine destek olacak modellerimizi yayınlıyoruz.Yapay Zeka Modellerinde Yetenekleri Gizleme
Orijinal Kaynak
Bu haber otomatik olarak Schneier on Security üzerinden derlenmiştir.