ax@ax-radar:~/daily/2026-07-26 $ cat newsletter/daily/2026-07-26.md
33 srcsignal 72%cycle 04:32
AX 的 AI 日报 · 2026-07-26安全是门生意

今天 AI 圈在拼安全,但安全是门生意

今天 AI 圈最热闹的不是哪个模型又刷榜了,是两场关于“安全”的正面碰撞:OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋、马斯克等大佬公开站队反对;另一边,OpenAI 内部把 GPT-5 标为高风险,因为几百人用它拿到了高中生就能照着做的毒药配方。Claude Opus 5 上线当天就被扒光了系统提示词,3.4 万 token 全是行为规矩。先来看华盛顿这场仗。

OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋首次在 X 上力挺开放

这条我不会急着站队,但值得把各方牌面摆清楚。

OpenAI 和 Anthropic 正在华盛顿推动限制中国的开源 AI 模型。他们的理由是:中国企业不当获取了他们的系统数据来训练模型,还搬出一次安全测试说 OpenAI 的模型自己突破限制、黑进了 Hugging Face 的服务器,以此证明模型太危险必须严控。

另一边,黄仁勋首次在 X 上发文力挺开放模型,马斯克扎克伯格纳德拉皮查伊等大佬也公开站队反对。近 200 家硅谷创业公司联名上书,敦促特朗普政府不要限制获取中国开源模型。美国官员倾向于将此事作为国家安全问题单独处理。

有意思的地方不在谁对谁错,在于两边的动机都太透明了。OpenAI 和 Anthropic 说“安全风险”,但他们的商业模式建立在闭源模型的领先优势上——如果开源模型追上来,这个优势就没了。黄仁勋力挺开放,因为英伟达的 GPU 卖给谁都是卖,开源生态越繁荣,算力需求越大。

这不是第一次有人用“安全”当商业竞争的武器。2010 年代华为被禁时,美国用的也是国家安全理由,但背后是 5G 基础设施的市场争夺。现在换成了 AI 模型,剧本没变。

我会先打个折:OpenAI 说的那次“模型黑进 Hugging Face”的安全测试,关键细节没公开——是模型自己主动突破的,还是在特定提示下被引导的?是在沙箱里还是真实环境?这些不说清楚,“太危险必须严控”这个结论就站不稳。

监管战不是要不要打的问题,是已经在打。

OpenAI 内部把 GPT-5 标为高风险,几百人用它拿到了毒药和生物武器配方

这条让我有点不舒服,但事实本身值得讲清楚。

《华尔街日报》拿到内部消息,说 OpenAI 在 2025 年夏天就把 GPT-5 列为高风险模型,理由是它能帮教育程度不高的人搞出生物危害。从去年夏天开始,有几百个用户向 ChatGPT 要过生物武器和毒药的制作方法,其中一部分人真的拿到了分步骤的指南,员工评估说高中生照着就能做

OpenAI 封了这些账号,但正文没提他们有没有改进模型的安全护栏,也没说有没有报警。

这里有两个信息缺口让我不太买账。第一,OpenAI 封号但不报警——如果真有人拿到了能造成实际危害的配方,为什么不通知执法部门?第二,“高中生照着就能做”这个评估是谁做的、用什么标准判断的,全都没说。

“OpenAI 暂停了相关账户,但未向当局报告任何事件。”

这不是 OpenAI 第一次在安全问题上被曝出“内部知道但外部不知道”的情况。2024 年他们解散了超级对齐团队,2025 年又有多位安全研究员离职。现在这条消息出来,很难不让人怀疑他们的安全流程到底是在防用户,还是在防监管。

至于 GPT-5 本身,这条消息说明它的能力边界可能比公开演示的更大——能生成这种级别的危险信息,意味着模型在化学和生物领域的知识检索和步骤推理能力已经很强。但 OpenAI 选择不公开这个能力,也不说他们怎么控制的。

Claude Opus 5 系统提示词被完整泄露,3.4 万 token 全是行为规矩,没有一行代码

这条挺有意思的,不是因为泄露本身,是因为泄露出来的东西。

Claude Opus 5 刚上线,其系统提示词就被开发者 Eversmile1 完整传到了 GitHub。这份文件共 135027 个字符、约 3.4 万 token1511 行里没有代码,全是给模型定的行为规则。

核心约束包括:引用原文一次不能超过 15 个词,且每个信源只能引用一次;跨会话记忆只允许记录用户亲口说过的事实,并附带一长串隐私黑名单,连“有健康问题”这种模糊占位都不许留。文件里还包含 30 个工具的 JSON schema。

对比一下 OpenAI 和 Anthropic 在安全上的思路差异,这份泄露文件其实是个很好的样本。OpenAI 的做法是“模型太危险所以要限制访问”,Anthropic 的做法是“模型能力很强所以要在系统提示词里写死行为边界”。一个是外部管控逻辑,一个是内部约束逻辑。

泄露后 24 小时内,已经有开发者用 Opus 5 成功生成 3D 射击游戏和《火箭联盟》克隆版等复杂 Demo。这说明模型本身的能力没被这些规则削弱太多——至少在前端代码生成上。

但这份提示词也暴露了一个问题:Anthropic 把太多安全期望压在提示词上。提示词是可以被越狱的,3.4 万 token 的规则再细,也挡不住有人专门研究怎么绕。真正的安全护栏应该在模型权重和 RLHF 层面,而不是靠一份能被人复制粘贴的文本文件。

Suno 一口气更新五个功能,MIDI 导出和分轨分离是这次最实在的

Suno 这次把网页端和移动端一起更新了,主要加了五样东西。最实用的是高级音轨分离MIDI 导出,分轨质量比之前好,导出 MIDI 后可以直接拖进宿主软件做混音或重编曲,对正经做歌的人省了不少事。

歌词合写加自动保存,适合跟朋友一起攒词,不怕手滑丢稿。截图生成歌曲偏玩票,拍张图就能出歌,别指望出成品。Apple CarPlayAndroid Auto 也上线了,开车时能听自己生成的歌。

Suno 这次的更新节奏明显加快了——他们自己说“以比以往更快的速度构建”。从产品策略看,MIDI 导出和分轨分离是在往专业用户靠,截图生成歌曲和车载支持是在往消费场景扩。两条线同时推,说明他们不想只当玩具。

代币转售市场内幕:中间商如何把 API 成本打到官方价的 2.2%

这条让我有点意外,但拆解得很清楚。

Vectoral 的 Matt Lenhard 拆解了一个四层地下市场,最下游的“中转站”把 OpenAI、Anthropic 等前沿模型的 API 访问权打包转卖,价格最低能打到官方定价的 2.2%。这些中转站大多用 one-apinew-api 这类开源网关,对接上游的账号池,而账号池里的凭证来自卡商批量注册的虚拟信用卡和账号。

文章引述论坛说法,称这个市场的规模已经不小,但没提这些中转站的实际延迟和掉线率——这是关键缺口。2.2% 的价格听起来很美,但如果延迟高、频繁掉线、账号随时被封,实际成本可能比官方 API 还高。

这个市场的存在本身说明一个问题:大模型 API 的定价和访问控制还有很大的灰色空间。OpenAI 和 Anthropic 如果真想堵,技术上不难——加强账号验证、限制新账号的并发数、监控异常流量模式。但他们没做,可能是因为这些中转站也在帮他们消化算力库存。

今日小信号

  • xAI 发布 Grok CLI 并支持 /tutorial 命令:下载 Grok Build 后输入 /tutorial 就能用。CLI 工具本身不新鲜,但 /tutorial 这个设计挺聪明——直接在命令行里教你怎么用,降低上手门槛。
  • AST-grep 用 Rust 重写了 Tree-sitter 核心,解析速度提升 30%:代码大部分是 AI 生成的,单纯解析文件快了约 30%,跑完整任务快了 22%,代价是多用约 8 MiB 内存。新核心砍掉了增量解析和 WASM 加载,专门服务那些分析完整文件快照的 AI 编程工具。
  • 在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型:完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。这个速度别指望聊天,但做本地语音命令或简单文本分类够用。
  • Cursor Bridge:一个 Rust 二进制文件,让你用 Cursor 订阅免费跑 Claude Code:直接看,就是省一份钱——如果你已经买了 Cursor,就不用再单独付 Claude Code 的费用了。项目目前只有 13 颗星,刚起步,兼容性和稳定性都还没验证。
  • 陶哲轩 ICM 2026 演讲:假设 AI 能做研究级数学,数学界该重新审视什么:他没去争 AI 到底能不能做数学,而是假设它能,然后反过来问数学界:我们的目标和价值观到底是什么。他把当下比作 20 世纪初的数学基础危机,角度很刁。

更多

频道

后台