Anthropic’in Claude için model damıtma saldırılarına karşı savunmaları
Anthropic, Model Damıtma Savunmalarının İlk Sonuçlarını Açıkladı
Anthropic, Claude’a yönelik model damıtma saldırılarına karşı savunmalarının toplanan veriyi yüzde 90 ila 99, çıkarılan akıl yürütme belirteçlerini ise 10 ila 100 kat azalttığını bildirdi. Şirket ayrıca sınıflandırıcı sonuçlarını, hesap yasaklarını, test puanlarını ve belirli engellenen istekler için ücretlendirme değişikliğini açıkladı.
Yazıyı oku