Anthropic開源FlashProve，以密碼學驗證AI模型未遭掉包

AI新創Anthropic周一（11/2）發表FlashProve，這是一套利用零知識證明（Zero-Knowledge Proof）技術開發的開源系統，可透過密碼學驗證AI回答是否確實來自指定模型，以偵測服務供應商是否私下替換模型，或遭駭客竄改輸出內容，同時不必公開模型權重等商業機密。Anthropic已公開相關技術報告、程式碼及形式化驗證工具，供外界研究與改進。

Anthropic指出，目前使用者透過AI服務或第三方平臺存取大型語言模型時，通常無法確認實際提供回答的是否為指定模型。例如，第三方服務供應商可能為了節省運算成本，暗中改用較便宜的模型。即使回答品質良好，使用者也難以單憑輸出內容察覺模型遭到替換。

FlashProve採用零知識簡潔非互動式知識論證（zkSNARK）技術，讓AI供應商在模型完成推論後，另外產生密碼學證明。使用者或第三方稽核機構只需取得證明及相關驗證資料，就能確認回答是否由指定模型產生，不必取得模型權重，也無須重新執行龐大的AI模型。

Anthropic以Meta的Llama 4 Maverick進行測試。該模型採用混合專家（MoE）架構，擁有4,000億個參數。測試結果顯示，FlashProve使用單張Nvidia H100 GPU，每秒可為約110個Token產生密碼學證明，每份證明約19MB，使用CPU即可在17至21秒內完成驗證。

不過，這項技術仍有明顯的效能限制。Anthropic指出，產生證明所需的GPU運算時間，約為一般AI推論的70至95倍，意味著若要廣泛應用於日常AI服務，仍須克服龐大的運算成本。

Anthropic認為，這項技術未來也能協助監管機構確認AI供應商是否使用經核准的模型，或檢查模型輸出是否遭到竄改。不過，FlashProve目前仍是研究原型，僅支援特定模型架構與推論條件，尚未成為Claude服務的標準功能。