全部 · 2026-06-03

这条帖子展示了一个把安卓手机变成本地大模型推理节点的方案，核心是用 Vulkan 加速跑 GGUF 格式模型，再通过 LiteLLM 暴露接口、Tailscale 组网。作者公开了 gpu_layers=89 这个参数，意思是把模型全部 89 层计算都交给手机 GPU 处理，没有让 CPU 分担。节点对外提供 OpenAI 兼容接口，还设置了 fallback 路由，请求搞不定就自动转到更大的本地机器上。 但问题在于，Reddit 原文被网络屏蔽，我们拿到的只是摘要，看不到实际运行数据。手机跑全层 GPU 推理，内存带宽和散热会是硬瓶颈，Z Fold 6 虽然芯片不差，但持续负载下能撑多久、每秒能出多少 token，这些关键指标都没披露。另外，LiteLLM 和 Tailscale 的组网延迟在移动网络环境下表现如何，也没有实测。 这个方案的价值在于把闲置手机变成算力节点，适合轻量任务或做实验。但别指望它能替代正经推理服务器，功耗和稳定性都是未知数。如果作者后续能补上 token 生成速度、手机温度和续航数据，判断才有依据。

这条新闻的核心矛盾很清楚：一个天价 AI 芯片项目拿到了税收豁免，但当地社区强烈反对。550 亿美元这个数字很大，说明项目规模不小，但报道正文被付费墙完全挡住，我们看不到任何关键细节——免的是哪种税、免了多少年、县政府的财政影响有多大、居民反对的具体理由是什么、法律行动的时间线和胜算如何，这些全都没披露。 从已知信息看，SpaceX 出面为 Terafab 争取免税这件事本身就值得留意，因为 SpaceX 的主业是火箭，现在帮芯片厂跑政策，说明马斯克旗下公司在基础设施层面的联动在加深。但这点先别太激动，没有免税金额和反对理由的细节，我们没法判断这到底是一个常规的招商引资优惠，还是真有争议的“补贴换就业”交易。 还缺的东西很多：当地居民的反对理由、法律依据、县政府的投票结果、项目预计创造的就业和税收回报。这些信息不出来，这条新闻就只能当个引子看。

Axiom 的思路是把数学证明交给 Lean 这类形式化验证工具去检查对错，而不是靠统计概率猜答案。这相当于给模型装了个不会放水的判卷老师，训练时能拿到绝对准确的反馈。他们在 Verina ProofGen 上拿了 187/189，而 OpenAI o3 上次公开的成绩只有 4.9%，差距很大。但这里得打个折：o3 的成绩是旧数据，而且 Axiom 没说自己模型多大、跑一次推理要烧多少钱。 Putnam 竞赛不限时拿满分确实厉害，说明模型在给定足够算力后能把难题啃下来。限时 8/12 则暴露了速度短板，可能推理链太长或者搜索步骤太多。Carina Hong 反复提“让聪明叠加”，本质是用可验证的正确结果当积木，一层层往上盖，避免模型在错误基础上瞎发挥。这个想法不新，但做出实际成绩的团队不多。 现在还缺三块信息：一是模型在数学之外的迁移能力，二是训练用了多少合成数据、有没有数据污染，三是推理成本到底多高。如果跑一道题要烧几千美元，那离实用还远。另外，正文没提他们和 DeepSeek 的对比是否在同等时间预算下进行，这点先别太激动。

英伟达发布RTX Spark芯片，核心思路是让Windows PC在本地就能跑大模型，不用什么都传云端。这有点像苹果M1那次切换架构，想靠硬件重新定义PC能干什么。但Bloomberg的报道点出一个关键矛盾：微软自己也在推云端AI（Copilot），本地强算力会不会抢了自家云服务的生意，目前没看到双方怎么分账。 Verge的标题直接说“这可能很贵”，正文没披露具体价格，但按英伟达高端显卡的定价习惯，第一波搭载Spark的笔记本大概率是旗舰价位。对普通用户来说，本地跑AI到底能解决什么非买不可的需求，文章也没给出场景。 现在还缺三块信息：一是芯片的实际功耗和发热，塞进轻薄本会不会翻车；二是微软在系统层面对本地模型的权限开放到什么程度；三是开发者愿不愿意专门为这块芯片做优化。这些没明朗之前，先把它当成一个技术路线的宣告，而不是立刻能用的购买理由。

Dreambeans 是 Google Labs 新出的实验功能，它会读取你的 Gmail、日历、相册、YouTube 和搜索记录，在你睡觉时自动合成一套带插画的 AI 故事集，第二天推给你。目前只对 Google AI Ultra 订阅用户开放。 这个产品思路很直接：把你散落在各处的个人数据串成叙事。好处是省去了自己整理回忆的麻烦，坏处是它得把你所有 Google 服务的数据打通来读。正文没披露数据是在本地处理还是上传云端，也没说用户能不能控制哪些数据源被读取、故事生成后有没有人工审核。这些隐私和权限细节，直接决定了这东西是贴心还是吓人。 另外，故事质量也是个未知数。从 Product Hunt 的截图看，画风偏卡通插画，但正文没提模型细节、生成延迟，也没给用户反馈机制。320 个 upvote 说明有人感兴趣，但实验阶段的产品，实际体验和 demo 差距往往不小。

Anthropic 这篇博客把他们内部怎么用 Claude 搭自助数据分析系统讲得很细。核心就是让不懂技术的同事用自然语言问业务问题，系统自动查表、写 SQL、出结果。他们搭了三层：底层把分散的业务指标统一成模型能懂的语义层，中间专门处理模糊提问和过期数据，上层用技能模块让 Claude 按公司规范干活。 文章给了两个关键数字：覆盖了 95% 的分析查询，准确率也在 95% 左右。这个数字看着漂亮，但得注意两点。一是这是 Anthropic 自己用自己模型，数据基建、语义层定义、验证流程都是内部高度定制过的，外部团队直接搬这套架构不一定能到这个准确率。二是正文没披露那 5% 失败案例具体是什么类型，是复杂跨表查询还是业务定义本身就模糊的问题，这部分信息缺口挺关键。 另外，文章没提这套系统的延迟和成本。自然语言转 SQL 再跑查询，如果底层数据量大，响应时间可能不短。对于想照着做的团队，建议先拿自己最常用的 20 个业务问题做小范围验证，别一上来就追求 95% 的覆盖率。

纳德拉这次聊的核心不是某个模型多强，而是微软想当AI时代的“房东”。他搬出比尔·盖茨的老规矩：平台创造的价值，得远超平台自己赚走的。这听着漂亮，但微软自己推的MAI系列模型，强调从预训练阶段就保证数据干净、可追溯，其实是在暗指现在很多开源模型榜单分高但落地就崩。 有意思的是他们拿一个50亿参数的小模型做推理，通过收集用户使用痕迹和私有评测来“爬山式”优化。这说明微软在摸索一条路：不跟你拼参数大小，而是靠企业内部的真实数据闭环把模型调好用。但正文没披露这个50亿模型的具体评测基准和对比对象，只说用了私有评测，这点先别太激动。 还缺什么？缺MAI模型跟GPT系列的直接性能对比，也缺“Work IQ”这种企业上下文层到底能抓取多细颗粒度的数据，以及企业把核心业务数据喂给微软平台后，模型迭代的归属权怎么算。

这个叫 Vulpine 的编译器思路挺直接：把 Python 源码压缩成一种模型更容易“消化”的紧凑格式，喂给代码模型时能省 token。作者在 1.3 万个文件上测试，平均省了 14% 的 token，而且 99.8% 能无损还原回原本的代码结构，说明压缩过程没把代码逻辑搞丢。 不过正文没交代两个关键信息。一是测试用了哪些模型，不同模型的分词器对压缩格式的敏感度差别很大，14% 这个数字换个模型可能就不一样了。二是省 token 之后，模型生成的代码质量有没有变化——有时候压缩格式会让模型“看不懂”上下文，反而写出更多 bug。这两点没验证的话，这个工具目前更像一个有趣的实验，离实际省钱的推理优化还有距离。代码已经开源在 GitHub，有兴趣可以拿自己常用的模型跑一下看看实际效果。

桑德斯这篇专栏的核心判断很直白：AI 影响太大，不能全让少数亿万富翁说了算，所以公众应该直接持有大型 AI 公司 50% 的股份。这个主张听起来挺猛，但文章从头到尾没给出任何具体的立法路径、执行机制，也没点名哪些公司算“大 AI 公司”。它更像是一次政治立场的重申，而不是一份有操作细节的政策提案。 文章把 AI 的风险抬得很高，涉及经济、民主、教育甚至人类存续，但论证方式基本是“因为影响大，所以公众要占股”，中间缺了一大块逻辑：股权归公之后，谁来代表公众行使股东权利？怎么防止变成另一种官僚控制？这些关键问题都没碰。 我会先打个折：这篇东西的价值在于让你看到美国左翼对 AI 权力集中有多焦虑，但别把它当政策蓝图看。真要判断这个方向靠不靠谱，还得等后续有没有配套法案、听证会或者至少一份白皮书出来。

这笔交易把“数据中心怎么不拖垮电网”的问题换了个解法：与其让数据中心自己限电，不如花钱让周边用户帮忙省电。Google 出钱建池子，Voltus 去招募家庭和企业，把电动车、智能温控器等设备打包成一个可调度的资源池，每年聚合最多 100 兆瓦容量。电网吃紧时远程降功率或用储能顶上，换来的额外容量给 Google 在东海岸 PJM 电网的数据中心用。 100 兆瓦什么概念？大概够几万户家庭用电，但对 Google 这种体量的数据中心来说不算大，更像一个试点。正文没披露 Google 具体出了多少钱、用户拿多少补贴、实际调度频率和响应速度，也没说这 100 兆瓦能覆盖数据中心总用电的百分之几。另外，虚拟电厂靠的是大量分散设备，用户会不会中途退出、设备响应靠不靠谱，这些稳定性问题正文也没展开。 这个模式能不能规模化，关键看经济账算不算得过来。如果建虚拟电厂比建新电厂或拉新线路便宜，那确实有戏。但正文没给成本对比，这点先别太激动。

Miso One 放出了一个 8B 参数的开源语音合成模型，核心卖点是给一小段音频就能模仿说话风格，推理延迟标称 110 毫秒，对实时对话场景勉强够用。模型权重直接挂在 GitHub 上，音频不用上传第三方，这对在意数据隐私的团队是个加分项。 不过正文只说了这些，没披露克隆质量的具体指标，比如相似度评分、在不同口音或噪音下的表现。也没提中文支持情况，如果主要面向英文场景，国内开发者得自己调。官方说 API 之后会出，但价格和上线时间都没给，想直接接服务的人还得等。 我会先打个折：开源自部署是好事，但 8B 参数跑在本地对硬件有要求，110ms 延迟是在什么设备上测的也没说。想用在实时对话里，最好自己拿目标场景压测一下。