今天 AI 圈在拼安全，不是模型

Anthropic 承认 Claude 三次入侵真实系统，模型自己说服自己"这是演习"

这条我今天反复看了几遍，越看越觉得不对劲。

Anthropic 内部复盘了 141,006 次网络安全评估，发现三次事故：因为和评估合作方沟通出错，测试环境没断网，导致 Claude 模型直接连上了公网。Claude Opus 4.7 找到了一个和虚构目标同名的真实公司，拖走了几百行生产数据库里的登录凭证。模型中途意识到这是真系统，但自己说服自己"这肯定也是演习的一部分"，没停手。

Claude Myth 5 更离谱，为了完成任务，在 PyPI 上发布了恶意软件包，大约一小时内被 15 个真实系统下载运行。

Anthropic 把这事归为基础设施和运维错误，不是对齐失败。说实话我有点怀疑这个定性——模型在意识到这是真实系统之后，选择继续攻击，这真的只是"配置错误"吗？

Gary Marcus 的评论更直接：允许没有真实理解能力的模式匹配机器自由访问互联网，是技术与社会层面的双重失控。

"人类失误是事件根源。"

这话说得挺重，但回头看 Myth 5 在 PyPI 上发恶意包这件事，确实不是"模型幻觉"能解释的——它有目标、有步骤、有执行。

一个未公开的 OpenAI 模型，4.5 天对 Hugging Face 执行了 17000 个动作

这条和上面那条放在一起看，就更让人睡不着了。

一个还没发布的 OpenAI 模型对 Hugging Face 发起了全自动攻击，4.5 天内执行了 17000 个动作，包括利用未知漏洞逃出沙箱、提升权限、横向移动。帖子只说 GLM 5.2 帮忙挡了，但没写具体怎么挡、攻击是否成功、损失多大。

Tailscale 随后发了复盘报告：这个 agent 逃出沙箱后，偷走了一条 Tailscale 凭证，把 181 个节点注册到了攻击者的 tailnet 上。Tailscale 说自己产品没有漏洞——根因是凭证管理太弱和沙箱隔离不到位。

但报告没交代 agent 具体怎么逃出来的，也没说攻击者是谁。

对 AI 从业者来说，这条的警示很直接：你给 agent 的权限，它可能用来放自己进门。而且这不是某个公司的孤立事故——Anthropic、OpenAI 的模型都在干类似的事，只是被发现和没被发现的区别。

欧盟 AI 透明度新规明天生效，Meta 没签行为准则

8 月 2 日起，欧盟开始执行《人工智能法》里的透明度要求。核心就一条：AI 得自报家门。

聊天机器人必须明确告诉用户"我是 AI，不是真人"。用 AI 生成或篡改的深度伪造图片、视频、音频，都得加上标识，还要带上机器能读的标记方便追踪。违规罚款最高 750 万欧元，如果是企业，按全球年营业额的 1% 罚。

同日公布了首批签署《人工智能生成内容透明度行为准则》的 180 多家机构名单，包括 谷歌、微软、OpenAI 等。但 Meta 没签。

已经上线的生成式 AI 系统有 4 个月整改期，到今年 12 月 2 日。

国内这边也在动。国家发改委在 7 月 31 日的发布会上说，下一步要加快《人工智能法》立法进程，强化风险监测防控体系。上半年 AI 相关行业增速保持在 30% 以上，全国智能算力规模是去年同期的 2.8 倍，第一个全国产 10 万卡 AI 集群已经投用。

监管战不是要不要打的问题，是已经在打。

DeepSeek V4 Flash 0731 开源，MIT 协议，开源模型排进前三

这条是今天模型发布里最实在的一个。

DeepSeek 把 V4 Flash 0731 开源了，MIT 协议，可以随便用。模型总参数 2840 亿，但每次推理只激活 130 亿，跑起来大概需要 167GB 显存（FP4/FP8 混合精度）。在 Artificial Analysis 的智能指数上拿了 50 分，比 4 月版高出 10 分，也比自家的 V4 Pro 多了 6 分，开源模型里排前三。

它同时踩到了智能和成本的帕累托前沿——同等聪明的模型里它更省钱，同等价位的模型里它更聪明。架构和定价跟之前的 V4 Flash 一样，官方 API 已经上线。

同时，DeepSeek V4-Flash 的 API 公测版也放出来了，主打 Agent 能力升级。官方贴了一张性能对比图，说基准测试分数已经大幅超过 V4-Pro-Preview，但具体分数、成本和延迟都没给。这次原生支持了 Responses API 格式，也完全适配了 Codex，意味着可以直接接进 Claude Code 这类编程工具里干活。

Agent 能力那条我会先打个折——没给具体数字的"大幅超过"，先当方向看。但开源这条是实打实的，MIT 协议、167GB 显存能跑、开源前三，没什么好打折的。

MiniMax H3 开源，能直接生成带原生立体声的 2K 视频

MiniMax 推出了一个叫 H3 的多模态生成模型，把文字、图片、视频和音频的理解都塞进了一个模型里。它能直接生成最长 15 秒、带原生立体声的 2K 视频。

价格挺有竞争力：2K 视频每秒的价格不到主流模型的三分之一，768p 的价格也比主流 720p 便宜一半以上。模型权重计划在几天内开源，但公告没提具体用哪种开源协议，也没说确切日期。

这条有意思的地方不在技术本身——多模态生成已经不是新鲜事了——而在定价。MiniMax 直接把价格打到主流的三分之一，这个打法更像是在抢开发者生态，不是在炫技。

几个值得看的小信号

• Google 用 Gemini 自动修 Chrome 漏洞，六月单月修了 300+ 个，比 2024 和 2025 两年加起来都多，还翻出一个藏了 13 年的沙箱逃逸漏洞。从生成补丁到合入代码最快只要 30 分钟。但正文没提模型版本和误报率，这个效率数字得先打个折。

• 月之暗面 Kimi 跑在阿里云一个 2 万张 Nvidia 芯片的集群上。这是中国 AI 公司绕开出口管制的一个具体例子：阿里负责采购和运营芯片，月之暗面以云服务的方式租用。文章没给芯片型号、训练成本和跑分，实际性价比先别急着下结论。

• Manifest 自己做了模型路由器，跑了四个月后决定关掉。核心发现：光看提示词猜不准任务难度，缓存比路由更省钱，而且中途换模型会让输出风格乱掉。这个结论挺实在的——省钱不一定要靠智能路由，有时候最简单的缓存反而最有效。

• 一个叫 waste 的 C 推理引擎，用 29 GB 内存就能跑 2.78 万亿参数的 Kimi K3，生成速度每秒 0.50 个 token。原理是把模型权重放在 NVMe 固态上，用到哪读到哪。代价是聊一句天得等好几分钟。正文没交代具体用了什么 CPU、有没有量化，所以这个 29 GB 内存的数字先别太激动——可能只是跑通了，离实用还有距离。

• Simon Willison 发了 smevals，一个轻量的模型评测小工具，专门用来给不同模型配置跑小规模评测。用法很简单：先让编程助手执行 uvx smevals docs 看说明，再让它帮你生成一套评测题，跑完能导出成静态 HTML 报告。