FEATUREDAI HOT 精选· aihot-apiZH01:10 · 07·21
让模型反复报随机数,就能揪出 API 背后偷偷换掉的模型
布拉格经济大学的研究员托马什·布鲁克纳让 165 个模型各报 30 次 1 到 100 的随机数,发现每个模型的“选号偏好”都不一样:GPT-4o 爱出 42 和 37,Claude Sonnet 5 大量输出 47,而 Qwen3-Max 30 次全部回答 42。这种偏好就像行为指纹,大约发 120 条请求就能识别出模型身份,错误率在 10.6% 左...
#Tomáš Brukner#Prague University of Economics and Business#GPT-4o
精选理由
精选 · 重要度 78 · 吸引力 + 知识量 + 共鸣
一句话点评
让模型报随机数就能揪出谁在背后干活,GPT-4o 爱 42,Claude Sonnet 5 狂出 47,Qwen3-Max 次次 42,120 条请求就能验身份。
锐评
这个方法挺巧,不用跑复杂基准测试,只靠“报个随机数”这种零成本操作就能给模型做指纹识别。研究员让 165 个模型各报 30 次 1 到 100 的随机数,发现每个模型的选号偏好都不一样,GPT-4o 偏爱 42 和 37,Claude Sonnet 5 大量输出 47,Qwen3-Max 干脆 30 次全部回答 42。大约发 120 条请求就能识别出模型身份,错误率在 10.6% 左右。
这个错误率说明它还不能当法庭证据用,但作为 API 中转站是否偷换模型的快速抽查工具已经够用。10.6% 意味着每查十次可能有一次误判,实际部署时最好多跑几轮交叉验证。正文没披露不同温度参数下指纹是否稳定,也没说模型版本更新后偏好会不会变,这两点直接影响这个方法的长期可靠性。另外,如果中转站故意在返回结果里加一层随机扰动,这个指纹还能不能成立,目前也没数据。
我会先打个折:它适合做第一道筛查,发现可疑再上更重的验证手段,别指望单靠它就能一锤定音。
HKR 分解
hook ✓knowledge ✓resonance ✓