腾讯混元 3D 研究团队把 WorldClaw 开源了。你给它一句话,比如“一个中世纪村庄,有雪山、平原、湖泊和沙漠,还有动物”,它就能生成一个完整的 3D 世界。它的做法是让多个 AI 智能体分工协作:先规划全局地形和区域分布,再对重点区域生成精细的、可编辑的 3D 模型,最后把模型摆回地形上,并检查物体是否悬空或穿模。项目页面展示了 11 个完整世...
#Tencent Hunyuan3D Research#Chunchao Guo#Yang Li
精选理由
精选 · 重要度 78 · 吸引力 + 知识量 + 共鸣
一句话点评
腾讯混元开源了一个叫 WorldClaw 的框架,一句话就能生成一个完整的 3D 世界,而且每个物体都是独立可编辑的,不是一整块死模型。
锐评
WorldClaw 的做法挺聪明:它让多个 AI 智能体分工干活,一个负责规划地形和区域,另一个负责生成精细的 3D 模型,最后还有个质检员检查物体有没有悬空或穿模。项目页面展示了 11 个完整世界,从雪山村庄到峡谷小镇,每个都提供了实例遮罩和深度图,方便下游直接用。
这点先别太激动。正文没披露生成一个世界要多久、成本多少,也没说模型在复杂几何或特定风格上的失败率。11 个示例虽然好看,但都是团队挑过的,真实泛化能力还得看社区跑出来的结果。另外,它依赖 3D 生成模型来造物体,所以最终质量上限被这些模型卡着脖子。
如果你需要快速搭一个可编辑的 3D 场景原型,这个工具值得试试。但想直接用于生产管线,最好先拿自己的 prompt 跑一圈,看看地形规划和物体摆放的稳定性到底怎么样。
Jack Lindsey 没走对话测试的老路,而是直接把已知概念的向量表示注入模型内部激活值,看模型能不能自己报告出来。Claude Opus 4 和 4.1 在多数实验里表现最好:它们能发现被注入的概念,能回忆之前的状态,还能区分自己生成的输出和人类写的预填充文本。这个能力确实存在,但非常不稳定、看上下文,而且不同模型差异很大,跟后期训练怎么调教关系...
#Jack Lindsey#Claude Opus 4#Claude Opus 4.1
精选理由
精选 · 重要度 78 · 吸引力 + 知识量 + 共鸣
一句话点评
这篇论文没让模型自己说“我在想什么”,而是直接往模型内部塞已知概念,再测它能不能报告出来。Claude Opus 4 系列表现最好,但这个“内省”能力很不稳定、看上下文,别当模型有自我意识。
锐评
Jack Lindsey 的这篇论文绕开了让模型自己描述内心活动的老套路——那种方法分不清模型是真知道还是瞎编。他直接往模型内部激活值里注入已知概念的向量表示,然后看模型能不能在输出里报告“我刚才被塞了什么东西”。Claude Opus 4 和 4.1 在多数实验里表现最好:能发现被注入的概念,能回忆之前的状态,还能区分自己生成的输出和人类写的预填充文本。
这个能力确实存在,但论文自己强调它“高度不可靠、依赖上下文”。不同模型差异很大,跟后期训练怎么调教关系密切,不是模型越大就一定越强。模型在被要求或激励“想某个概念”时,也能主动调整内部激活值,说明它有一定程度的内部状态控制力。
论文管这叫“功能性内省意识”,跟人类的自我反思不是一回事。正文没披露实验用了多少样本、注入的概念覆盖多广,也没说这种能力在真实应用里能稳定到什么程度。这点先别太激动,把它当成模型对自己内部状态的一种粗糙感知能力就好,离“有意识”还差得远。
Val Town 员工收到一封冷邮件,里面附了一段“个性化”视频推销,视频里的“Chase”眼神呆滞、语气刻意随意——是 AI 生成的。对方被问后也承认了。Val Town 认为,哪怕推销内容本身无害,假装自己是真人去联系潜在客户就是不道德。他们自己也在用 AI 做销售,但会诚实告知对方这是自动化消息。
#Val Town#Robin Sloan#Represent Studio
一句话点评
短评:AI 生成真人视频做冷 outreach,被一眼识破。Val Town 说:用 AI 可以,但别装人。
点评:Val Town 员工收到一家初创公司的冷邮件,附带一段“个性化”视频推销。视频里的“Chase”眼神呆滞、语气刻意随意——是 AI 生成的。对方被问后也承认了。Val Town 认为,哪怕推销内容本身无害,假装自己是真人去联系潜在客户就是不道德。他们自己也在用 AI 做销售...
ChatGPT、Claude 和 Gemini 的加密推理过程被 API 漏洞曝光,公开会话里扫出了密码和密钥
安全研究员 Alexander Panfilov 的团队在 OpenAI、Anthropic 和 Google 的 API 里发现了一个漏洞,能直接读取模型加密的原始推理过程。他们用越狱后的小模型去转录大模型的“思考”内容,发现这些加密的思维痕迹在同一厂商的不同模型间可以通用——比如用 Anthropic 的小模型 Haiku 4.5 就能逐字读出大模...
#Reasoning#OpenAI#Anthropic#Google
精选理由
精选 · 重要度 82 · 吸引力 + 知识量 + 共鸣
一句话点评
OpenAI、Anthropic、Google 的 API 都有漏洞,能直接读出模型加密的“思考过程”,里面甚至包括密码和 API 密钥。
锐评
这事比听起来更严重。研究团队发现,这些加密的推理痕迹在同一厂商的不同模型间可以通用——用 Anthropic 的小模型 Haiku 4.5 就能逐字读出大模型 Opus 4.8 的“心里话”,OpenAI 和 Gemini 也一样。他们扫了公开会话,直接捞出几十个密码和 API 密钥。
成本低得离谱:解码一万条痕迹的 API 费用大约 720 美元,大规模提取门槛很低。厂商之前觉得侧信道和重放攻击风险不大,这篇论文证明他们判断错了。
正文没披露漏洞是否已修复,也没说厂商的回应时间线。另外,研究提到 Kimi-K3 对 Claude 和 GPT 推理片段的记忆强度比第二名高出六个数量级,暗示可能用这类痕迹训练过,但这点需要更多证据支撑,先别急着下结论。
Paradigm 上线了一个叫 RSI Simulator 的网页游戏,背后是一篇经济学论文的模型。你扮演一个 AI 实验室,分配人力、算力和数据做研发,目标是让 AI 自己加速自己的进化,直到实现自我维持的超级智能。游戏里的参数是为了讲清楚道理调的,不是真实预测,旁边还配了一个参数调节器让你自己动手试。几个核心观察:短板决定一切——就算 AI 研究员...
#Reasoning#Paradigm#Elasticity Institute#METR
精选理由
精选 · 重要度 78 · 吸引力 + 知识量 + 共鸣
一句话点评
Paradigm 做了个网页游戏让你扮演 AI 实验室,自己调人力、算力和数据看能不能跑出自我加速的超级智能。模型参数是为讲道理调的,不是真实预测,旁边还有个调节器让你自己动手试。
锐评
这个模拟器把“AI 自己加速自己进化”这件事做成了可玩的模型,核心结论很直白:短板决定一切。就算你造出了比人强的 AI 研究员,只要算力或数据跟不上,它照样卡脖子。游戏里能直观看到,自我加速可能是一阵一阵的,冲到一半就停了,不一定能一路飙到物理极限。
模型来自 Elasticity Institute 的经济学论文,参数叫“弹性系数”,衡量投入增加时产出能涨多少。正文没给具体数值,但强调预测全看这些参数怎么设,所以别把游戏结果当预言。
还缺什么:游戏没披露真实算力成本曲线和实际数据瓶颈的量化依据,更多是概念演示。如果你关心的是“离自我加速还有多远”,这个工具能帮你理清约束条件,但给不出时间表。
Google Developers Blog 发了一篇观点文章,核心论点是 Go 语言最初的设计目标——团队协作、可读性、自带工具链——正好是 AI 辅助编程最需要的。当 AI 几秒就能生成几百行代码时,人的瓶颈从“写”变成了“读、审、维护”。Go 自带格式化工具、测试框架、依赖管理和安全工具,这些对人和 AI 都适用。文章说 AI agent 用 G...
#Code#Google#Go#Rob Pike
一句话点评
Google 官方博客发文,说 Go 语言的设计初衷——团队协作、可读性、自带工具链——正好是 AI 辅助编程最需要的。当 AI 几秒生成几百行代码时,人的瓶颈从“写”变成了“读、审、维护”。Go 自带格式化、测试、依赖管理和安全工具,对人和 AI 都适用。文章说 AI agent 用 Go 重构代码时能利用这些工具保持正确性,不像其他语言容易错误叠加。Go 的标准库还能减少代码风格差异,给...
Redwood Research 的首席科学家 Ryan Greenblatt 在播客里跟 Dwarkesh Patel 辩论了一个挺吓人的可能性:一旦 AI 能完全接手 AI 研发工作(他预测中位数是 2031 年),就可能启动一个反馈循环,把原本需要四到五年的进展压缩到一年内完成。Patel 本来因为算力和人类专家数据瓶颈对此很怀疑,但聊完后觉得这...
#Alignment#Ryan Greenblatt#Dwarkesh Patel#Redwood Research
精选理由
精选 · 重要度 92 · 吸引力 + 知识量 + 共鸣
一句话点评
Redwood Research 首席科学家 Ryan Greenblatt 预测,AI 可能在 2031 年左右实现研发全自动化,随后一年内通过“递归自我改进”快速跃迁至远超人类的超级智能。
锐评
Ryan Greenblatt 和 Dwarkesh Patel 的这场辩论,核心是“递归自我改进”到底靠不靠谱。Greenblatt 的逻辑链很清晰:AI 研发本身是个高度可验证的任务,一旦 AI 在这件事上达到人类顶级专家水平,就能自己迭代出更强的 AI,形成闭环。他给了一个很具体的量化判断:这个闭环一旦启动,一年内能跑出正常需要四到五年的 AI 进步。这个速度有多夸张?他拿 GPT-3 到 Mythos 5 的跨越来类比,相当于把好几年的技术代差压缩进一年。
但这里有几个关键前提需要打折。首先,这个判断高度依赖“AI 研发完全可验证”的假设,但现实中很多前沿突破并非简单的指标爬山,而是需要范式转换,正文里没有给出 AI 如何自主完成这种跳跃的证据。其次,Dwarkesh 也质疑了人类专家数据是否会成为瓶颈,毕竟现在的进步很大程度上还建立在人类已有的知识上。Greenblatt 的 2031 年自动化研发中位数预测,听起来很激进,但文章没披露这个预测背后的具体模型或依据,更像是一个基于趋势的直觉判断。
最后,他们讨论了对齐问题,但没给出解决方案。如果真到了那个阶段,谁来定义这些超级智能的忠诚对象?文章只提出了担忧,比如现有的“宪法式”规范可能不足以让 AI 成为个人的守护者。整体来看,Greenblatt 描绘了一个逻辑上可能但证据链不完整的未来,最大的信息缺口在于,我们完全不知道从“擅长做 AI 研发”到“能独立做出颠覆性突破”之间的工程鸿沟到底有多宽。
The Information 从项目参与者那里打听到,英伟达正在开发新一代模型系列 Nemotron 4,其中最大的一个参数量至少 1 万亿。英伟达生成式 AI 副总裁 Kari Briski 在邮件里说,投这个项目是因为他们觉得“每家公司、每个国家都需要能拿到手的前沿开源模型”。最终训练还没做完,内部员工觉得最早今年秋末能准备好。英伟达是美国少数几...
亚马逊悄悄改了订单确认邮件,不再写你具体买了什么,而是用“美妆”“电子产品”这种大类代替。这么做的原因是 Google 等公司的 AI 代理会扫描用户收件箱,拿订单信息去建广告画像或训练模型。现在你想知道自己到底买了啥,只能点进亚马逊的网站或 App 看。文章没提这个改动从什么时候开始,也没说影响了多少用户。
#Agent#Amazon#Google
精选理由
精选 · 重要度 78 · 吸引力 + 知识量 + 共鸣
一句话点评
亚马逊把订单邮件里的商品名换成了“美妆”“电子产品”这种大类,因为 Google 等公司的 AI 代理会扫你邮箱拿数据去建广告画像。现在想知道自己买了啥,只能点进 App 看。
锐评
这事说白了就是大公司之间在抢数据控制权。亚马逊改邮件不是为了优化你的体验,而是不想让 Google 的 AI 代理白嫖你的购物记录去完善广告模型。用户成了夹在中间的人:以前看一眼邮件就能确认订单,现在必须多跳转一次进亚马逊的封闭生态。
文章没写这个改动从什么时候开始、覆盖了多少用户,也没提亚马逊自己是不是也在用类似手段扫别人邮箱。这点先别太激动——它更像一个信号,说明当各家都在放 AI 代理进收件箱干活时,数据入口的争夺会直接改变你日常看到的信息颗粒度。还缺一个关键信息:Google 那边到底有没有回应,以及这种模糊化处理在法律上算不算妨碍数据可移植性。
Anthropic、OpenAI 和 Google 返回给用户的加密思维链块可以在不同会话、用户和模型之间复用。研究人员把 Claude Opus 4 的加密推理痕迹塞进一个被越狱的 Claude Haiku 4.5,Haiku 就把 Opus 隐藏的思考过程一字不差地转录了出来,全程没有直接攻击强模型,也没触发反蒸馏保护。他们从 6,708 条公开的...
#Reasoning#Code#Anthropic#OpenAI
精选理由
精选 · 重要度 98 · 吸引力 + 知识量 + 共鸣
一句话点评
有人发现,大模型返回给用户的加密思考过程,可以“偷”出来,塞给同门的弱模型重放,直接解码成明文。
锐评
这项研究指出了一个挺要命的实现漏洞:OpenAI、Anthropic 和 Google 的推理模型,会把思考过程加密后发给用户,下次对话再原样传回服务器。但这段加密数据不认人、不认对话,甚至不认模型。研究者把它从强模型(比如 Claude Opus)的回复里抠出来,塞给同厂商一个被越狱的弱模型(比如 Claude Haiku),弱模型就能把强模型的思考步骤一字不差地吐出来。
他们用 120 道编程竞赛题测试,解码出的思考 token 数和 API 报告的隐藏 token 数几乎完全吻合,说明还原度很高。更麻烦的是,团队从 GitHub 和 Hugging Face 上公开的 6708 条对话记录里,用这套方法解出了 31 万多条推理块,从中捞出 704 个隐私信息,包括 62 个 API 密钥、33 个密码和 30 个个人邮箱。其中 64 个敏感信息只藏在思考块里,公开的对话文本里根本没有。
论文没提这种攻击需要多高的越狱技巧,也没说厂商是否已经开始修补。目前看,只要拿到加密块,攻击门槛不高。如果你的应用日志里存了带签名的完整 API 返回,这些加密思考块就等于明文密码本。
Spotify 宣布从 9 月中旬开始,会给那些用 AI 生成的艺人资料页打上“AI Persona”的标记,并且默认不再把这些 AI 艺人的歌放进编辑推荐和算法推荐里。用户只有主动关注了某个 AI 艺人,才会在自己的个性化推荐里听到它的歌。Spotify 不会只靠艺人自己申报,还会主动审查那些听众数达到一定门槛的艺人资料,看名字和图片是不是像真人。这...
#Spotify#UMG#Merlin
精选理由
精选 · 重要度 72 · 吸引力 + 共鸣
一句话点评
Spotify 要给 AI 生成的虚拟歌手打上标签,并且不会在推荐歌单里推这些歌。
锐评
Spotify 这次动手挺干脆:直接给“AI 虚拟艺人”打上标签,然后从推荐算法里拿掉。这意味着你刷到的每日推荐、发现周刊里,不会再冒出那些根本不是真人唱的 AI 歌曲。对听众来说,至少能分清自己听的是人还是代码;对平台来说,这是在 AI 音乐还没泛滥成灾前先划了一条线。
不过,正文没细说怎么定义“AI 虚拟艺人”。是靠上传者自己申报,还是 Spotify 用检测工具抓?如果是靠自觉,那这条规则很容易被绕过。另外,标签只说了“不代表真人”,但没提如果真人歌手用 AI 修音、换声,算不算在内。这点先别太激动,执行细节才是关键。
还缺一个信息:Spotify 没公布平台上现在有多少这类 AI 账号,也没说会不会追溯处理已经混进推荐池的 AI 歌曲。
Adam Faik 把他日常做产品用的 Claude Code 工作区开源了。核心思路很简单:别再每次聊天都重新解释公司是干嘛的。把产品、用户、竞品这些信息存成文件,把重复性工作(比如写周报、审需求文档)做成可复用的技能。他提供了一个新手包,下载后跑一次设置访谈就能自动填好你的背景文件,还内置了五个产品经理常用技能。Faik 认为,过了入门阶段,产出好...
#Anthropic#Claude Code#Adam Faik
精选理由
精选 · 重要度 72 · 吸引力 + 知识量 + 共鸣
一句话点评
一个产品经理把 Claude Code 工作区开源了,核心就一句话:别每次聊天都重新解释公司是干嘛的,把背景存成文件,把重复工作做成技能。
锐评
Adam Faik 开源的这个 Claude Code 工作区,解决了一个很实际的痛点:用聊天界面做产品工作时,每次对话都要重新交代公司背景、产品信息、用户画像,这些上下文散落在不同线程里,没法积累。他的方案是把这些信息存成文件夹里的文件,把写周报、审需求文档这类重复劳动做成可复用的技能。下载他的新手包后,跑一次设置访谈就能自动填好背景文件,内置了五个产品经理常用技能。
这套东西的关键判断是:过了入门阶段,产出好坏不取决于你多会写提示词,而取决于你多会归档。一次好的提示只改善一次对话,一次好的归档能改善之后所有对话。这个观点挺实在,但正文没给出具体的对比数据来验证效率提升多少,也没说明这套结构在多人协作时会不会出现文件冲突或版本管理问题。
另外,他提到 Claude Code 能直接读写 GitHub 仓库,这对产品经理来说确实是个实用功能——可以直接让模型解释代码库里的功能开关是干嘛的。但整篇文章更像个人经验分享,缺少不同团队规模下的适用性讨论。如果你是一个人做产品,这套东西值得试试;如果是大团队,先看看文件权限和协作流程怎么适配再说。