发现商业评论 旗下
洞察商业 启迪未来

给 AI 输出盖"数字指纹":Anthropic 研发 FlashProve 让换模型无处遁形

   时间:2026-11-04 18:02 来源:CHINAZ作者:CHINAZ

Anthropic 正开发开源验证系统 FlashProve,目标直击一个痛点:你收到的 AI 回答,到底是不是你以为在用的那个模型生成的。公司周二博客称,它要做的"可证明推理",是用密码学为每条输出出具数学保证,证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人,FlashProve 专门防备"把甲模型伪装成乙模型"。

堵住成本作弊暗门,也拆穿"注水"成绩单

研究人员点破长期潜规则:有了它,AI 公司难以为省成本在后台偷偷把贵模型换成廉价版;反过来,企业也没法暗中将便宜模型伪装成高价型号、人为抬高跑分。它还能核验第三方宣传——比如某开发者声称代码库已被前沿安全模型扫过漏洞,或某公司商业计划得了相应模型背书,用户从此有了追问"凭什么信你"的抓手。

指纹公开、权重不泄,本地设备就能验

 
 
更多>同类内容
全站最新
热门内容