Anthropic’ten model kimliği için 17 saniyelik kanıt kontrolü

Anthropic, yapay zeka hizmetlerinde kullanılan modelin kimliğini kriptografik kanıtla doğrulamak için geliştirdiği FlashProve’u açık kaynak olarak yayımladı. Şirketin açıklamasına göre prototip, bir cevabı belirli bir modelin ağırlıklarına bağlayan kanıtlar üretiyor ve bu ağırlıkları gizli tutuyor.

Çalışmanın hedeflerinden biri, kullanıcıya ücretini ödediği modelin yerine daha ucuz bir model sunulmasını saptamak. Aynı yöntemle bir yazılımın, güvenlik açıkları için belirli bir yapay zeka modeliyle tarandığına ilişkin iddialar da kontrol edilebilecek.

Modelin parmak iziyle kontrol

Sistemde önce modelin davranışını belirleyen sayısal değerler, yani ağırlıklar için bir kriptografik parmak izi yayımlanıyor. Cevapla birlikte sunulan kanıt, girdinin bu parmak izine bağlı modelle işlendiğini doğrulamaya yarıyor. Kullanıcı, güvendiği kaynaktan aldığı parmak izini esas alarak kanıtı kontrol edebiliyor.

FlashProve, zkSNARK adı verilen sıfır bilgi ispatı yöntemini kullanıyor. Bu yöntem, sağlayıcının model ağırlıklarını paylaşmadan hesaplamayı kanıtlamasını sağlıyor. Kontrolü yapan kişinin modelin tamamını kendi cihazında çalıştırması gerekmiyor.

400 milyar parametreli modelde test edildi

Anthropic, sistemi Meta’nın 400 milyar parametreli Llama 4 Maverick modelinin 4 bitlik sürümüyle test etti. Tek bir NVIDIA H100 ve 24 CPU çekirdeği kullanılan ölçümde, 24 istek birlikte işlendi. Giriş metni üzerinden hesaplanan kanıt üretim hızı saniyede yaklaşık 110 token oldu.

1.024 tokenlık bir istek için üretilen kanıt dosyası yaklaşık 19 MB büyüklüğündeydi. Şirketin ölçümünde bu kanıtın GPU kullanmadan, CPU üzerinde kontrol edilmesi 24 iş parçacığıyla 17 saniye, tek iş parçacığıyla 21 saniye sürdü.

Kanıt üretimi ise aynı modelin FP8 sürümünün vLLM adlı yazılımla çalıştırılmasına kıyasla yaklaşık 70 ila 95 kat GPU süresi gerektirdi. Araştırma prototipi şu anda 1.024 tokena kadar bağlamı destekliyor.

Kod Apache 2.0 lisansıyla yayımlandı

Anthropic, FlashProve’un kodunu GitHub’da Apache 2.0 lisansıyla paylaştı. Paket, kanıt üreten yazılımın yanında C++ ve Lean ile yazılmış iki doğrulayıcı, teknik belgeler ve Lean dilinde makine tarafından denetlenebilen matematiksel ispatlar içeriyor.