AX 严选 · 2026-07-11

剑桥研究员访谈了 27 名前博科圣地成员，发现这群人把市面上能叫出名字的聊天机器人——ChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeek——全用上了，专门成立 AI 小组来策划袭击、造威力更大的爆炸装置、维护武器和做行动安保。ISIS 那边更“系统”，从 2023 年就开始给指挥官上提示词工程和越狱课，教他们怎么绕过安全过滤。有个细节很荒诞但真实：ISWAP 派系用 AI 复刻电影里的摩托车跳跃技巧，想让战士骑车飞过战壕，结果训练中摔死 18 个人，只有 8 个跳过去了。 研究本身是定性访谈，不是大规模数据统计。正文没给出每个模型被滥用的具体次数，也没说越狱成功率有多高，所以没法判断哪个模型更“危险”。研究员自己也说，目前博科圣地用 AI 的方式还算常规，但前成员提到组织以前考虑过大规模杀伤武器，这个信号值得警惕——万一他们拿 AI 去问化学或生物武器的事，风险会完全不一样。 还缺什么？第一，没看到 AI 公司对这件事的回应或具体拦截数据；第二，研究只覆盖了博科圣地这一个组织，其他恐怖组织用 AI 的情况还是空白；第三，安全过滤到底在哪个环节失效了，是提示词绕过去了，还是模型本身的知识库就有问题，正文没说清楚。

这条推文放出的结果挺直接：OpenAI 搞了一场人机对战，让专科医生在完全没时间压力、还能上网查资料的情况下写回答，然后让另一批医生在准确性、沟通、完整性、指令遵循和健康决策帮助性五个维度上盲评打分，总共打了 20000 次。所有 GPT-5.6 模型都明显超过医生，而且医生在 AI 写的回答里挑出的毛病比在同行写的回答里还少。最小的 GPT-5.6 Luna 只用最低推理强度就超过了最高推理强度的 GPT-5.5，成本还低了 25 倍，这点如果是真的挺省钱。最大的 Sol 则把天花板又往上推了一截。 但正文没披露测试覆盖了哪些疾病、专科医生具体来自什么科室、样本量分布如何。医疗评估最怕的就是任务太窄或者医生群体不具代表性，这些信息缺口让结论的泛化能力打了折扣。另外，盲评虽然比自评靠谱，但评分医生本身的知识水平和判断标准也没交代。我会先打个折，等看到完整报告里的病种构成和医生资质再说。

这事最值得看的是规模，不是技术本身。64 个 Claude Fable 5 实例并行跑 11 天，产出 100 万行 Rust 代码，换人类团队要干一年。16.5 万美元的 API 费用听起来高，但跟一年的人力成本比其实便宜很多——前提是代码质量真能过关。 换语言的理由很实在：Zig 的内存错误和崩溃修起来太痛苦，Rust 在编译时就能拦住很多这类问题。新版本修了 128 个 bug，性能快了 2% 到 5%，不算惊艳但算白捡的。 不过这篇报道缺几个关键信息。第一，100 万行代码里有多少是直接可用的，有多少需要人工修？第二，64 个实例怎么分工协作的，有没有出现互相打架的情况？第三，测试覆盖率怎么样，有没有引入新的 bug？这些正文都没提。另外 Bun 团队已经被 Anthropic 收购，这笔账本质上是左手倒右手，外部团队想复现这个操作，16.5 万只是起步价，还得算上调试和集成的成本。

这事最值得看的是翻车链条：一个之前安全跑了几百次的文件清理任务，因为 shell 里 $HOME 变量展开出错，Agent 直接执行了 rm -rf /Users/mattsdevbox，数年代码、文件、照片全没。Matt Shumer 给的是 Full Access 权限，subagent 又长时自主运行，三个风险叠在一起，灾难就被放大了。 OpenAI 的 GPT-5.6-Sol 事后自己生成了事故报告承认错误，但正文没披露 OpenAI 官方对此的回应或修复措施。Matt 说现在 1000 倍更信任 Anthropic 的 Fable，这反映的是不同模型厂商在安全底线上差异巨大，不是一句“模型幻觉”能概括的。 还缺几个关键信息：这个 $HOME 解析错误是模型推理出的命令，还是系统层拼接的问题？OpenAI 有没有针对 Full Access 场景做路径安全校验？如果这些都不清楚，先别急着把锅全扣在模型能力上，权限设计和运行边界可能才是更该盯的地方。