ax@ax-radar:~/all $ grep -v 'tier=excluded' stream.log
40 srcsignal 72%cycle 04:32

全部 · 2026-05-02

50 items · updated 3m ago
RSS live
2026-05-02 · 星期六2026年5月2日
23:31
86d ago
最佳拍档· atomZH23:31 · 05·02
LPM 1.0 演示:角色表演模型能长时间保持人设、做表情、听人说话
这个视频合集展示了 LPM 1.0 的能力:对话、倾听、面部表情、长时间保持角色一致性,以及直播场景。但正文没披露模型参数量、训练数据、延迟、成本,也没说评测是怎么做的、能不能复现。所以目前只能当概念演示看,离产品化还有多远不好判断。
#Multimodal#Audio#Memory#LPM
一句话点评
演示很酷,但没参数、没成本、没评测,先当概念片看。
锐评
LPM 1.0 主打角色扮演,视频里展示了对话、表情、长时间一致性甚至直播,观感确实好。但正文一个字都没提模型参数量、训练数据来源、推理延迟和成本,也没说评测怎么做的、能不能复现。这意味着目前只能当概念演示看,离产品化还有多远不好判断。如果真要做实时直播角色扮演,延迟和成本是关键瓶颈——视频里没给任何数字,这点先别太激动。另外,角色长时间一致性通常依赖长上下文或记忆机制,但具体用了什么技术(比如外挂资料库还是模型内置记忆)也没披露。整体来说,方向有意思,但信息缺口太大,建议等技术报告或实测数据再下结论。
HKR 分解
hook knowledge resonance
打开信源
35
SCORE
H1·K0·R0
23:18
86d ago
r/LocalLLaMA· rssEN23:18 · 05·02
一个网页工具,贴个 Hugging Face 链接就能看模型架构图
Reddit 用户 Course_Latter 做了 hfviewer.com,输入 Hugging Face 模型地址,自动生成交互式架构图。帖子里展示了 Qwen3.6-27B 和 Gemma 4 家族并排对比的效果图,但没说明解析方式——是读 config.json 还是跑一遍 forward 画的,正文没披露。
#Tools#Hugging Face#Qwen#Gemma
一句话点评
输入模型地址自动生成架构图,适合快速对比模型结构。
锐评
Reddit 用户 Course_Latter 做了 hfviewer.com,输入 Hugging Face 模型地址就能自动生成交互式架构图。帖子里展示了 Qwen3.6-27B 和 Gemma 4 家族并排对比的效果图,看起来挺直观。但正文没披露解析方式——是读 config.json 还是跑一遍 forward 画的,这点先别太激动。如果只是读配置文件,那很多自定义层或动态图可能显示不全;如果是真的跑一遍,那对超大模型(比如 500B+)的加载时间和资源消耗会是个问题。另外,帖子没提是否支持私有模型或需要 token 鉴权,也没说开源计划。对于经常要对比模型架构的从业者来说,这个工具如果能稳定跑起来,确实能省去手动翻配置文件的麻烦。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K1·R1
23:09
86d ago
r/LocalLLaMA· rssEN23:09 · 05·02
Tinygrad 驱动测试:Blackwell + M3 Ultra RDMA 集群,近 2TB 内存
Reddit 用户 Street-Buyer-2428 晒了一台 Tinygrad 驱动测试机:Blackwell 加上 M3 Ultra 的 RDMA 集群,内存接近 2TB。发帖人只贴了图,没给模型、驱动版本或跑分结果,直接问有没有人跑过 MoE 基准。正文被 Reddit 屏蔽了,看不到更多细节。目前信息缺口很大:不知道驱动是否稳定、延迟多高、能...
#Inference-opt#Benchmarking#Tinygrad#NVIDIA
一句话点评
2TB内存集群跑Tinygrad驱动,但没跑分没模型,先别激动。
锐评
Reddit用户晒了一台Blackwell + M3 Ultra的RDMA集群,内存接近2TB,跑的是Tinygrad驱动。但正文被屏蔽,没披露驱动版本、跑的模型、延迟或吞吐数据。发帖人自己也在问有没有人跑过MoE基准——说明他自己可能也没跑通或没跑完。Tinygrad的优势是轻量、可玩性强,适合做驱动层实验,但离生产部署还有距离。目前信息缺口很大:驱动稳定性未知、跨节点通信延迟没给、是否支持主流MoE架构(如Mixtral)也不清楚。如果后续有人放出跑分,对比vLLM或TensorRT-LLM才有参考价值。这条适合关注Tinygrad生态的人,但别当性能信号。
HKR 分解
hook knowledge resonance
打开信源
62
SCORE
H1·K0·R1
23:04
86d ago
Hacker News 首页· rssEN23:04 · 05·02
Waymo 载着乘客的行李开走了,后备箱打不开
一位 Sunnyvale 男子坐 Waymo 去圣何塞机场,下车后后备箱按钮按了没反应,车直接开走了。他的工作用品和个人必需品都在里面,人已经飞到圣地亚哥。Waymo 客服说车已经在回旧金山 depot 的路上,没法掉头。事后 Waymo 按“不负责遗失物品”的政策,让他要么付运费寄回来,要么坐两趟免费 Waymo 去 depot 自取——来回要两小时...
#Robotics#Waymo#Incident
一句话点评
Waymo 后备箱打不开,车直接带着行李走了,事后让乘客自付运费或花两小时自取。这不是第一次,去年旧金山也有类似情况。
锐评
这事最让人上火的是责任划分:后备箱按钮和 App 都失灵,车按程序自动回 depot,Waymo 却套用“遗失物品不负责”的条款,让乘客为系统故障买单。乘客 Jin 说得直白——“这不是我的错,也不是遗失物品”。去年旧金山就有用户被带走网球装备,说明后备箱交互的异常处理一直没修好。Waymo 给了两个方案:付运费寄回,或者坐两趟免费 Waymo 去旧金山 depot 自取,来回约两小时。对一个已经飞到圣地亚哥、行李里装着工作用品的人来说,这两个选项都不现实。正文没披露车辆型号、故障原因和 Waymo 后续是否排查了同类问题。如果自动驾驶落地后连“乘客取行李”这种基础环节都靠用户自己扛,那“无人化”省下的成本其实是转嫁给了倒霉的乘客。
HKR 分解
hook knowledge resonance
打开信源
62
SCORE
H1·K0·R1
23:01
86d ago
最佳拍档· atomZH23:01 · 05·02
米哈游蔡浩宇发布大型角色表演模型LPM1.0:用因果DiT做实时角色扮演
米哈游创始人蔡浩宇在视频里介绍了LPM1.0,一个专门做角色表演的大模型。它要解决的是“表演三难困境”——大概是指角色一致性、实时响应和表现力三者很难兼得。方案分两部分:Base LPM用因果骨干DiT(一种扩散Transformer)做基础生成,实时Online LPM再加一个因果精炼器DiT来提速,配合DMD(一种蒸馏方法)降低延迟。视频里还展示了...
#Multimodal#Agent#miHoYo#Cai Haoyu
一句话点评
米哈游老板亲自讲了个角色表演模型,但没给任何参数或跑分,先当概念片看。
锐评
蔡浩宇在视频里提的LPM1.0,核心是想解决角色一致性、实时响应和表现力三者难兼顾的问题。方案分两层:Base LPM用因果骨干DiT(一种扩散Transformer)做基础生成,实时Online LPM再加一个因果精炼器DiT来提速,配合DMD蒸馏方法降延迟。听起来像把视频生成拆成离线预生成+在线精修两步,思路不新鲜,但米哈游有游戏场景落地,如果真能跑通实时交互角色,对虚拟人、NPC行业是好事。 但正文没披露任何参数、延迟数字、样本量或评测指标,连演示视频的帧率、分辨率都没提。DMD蒸馏后的模型大小和推理成本也是空白。如果是真的,这套方案在游戏里替换传统动画管线能省不少钱,但没数据前只能当技术愿景看。建议等后续论文或开源再认真评估。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K0·R1
22:45
86d ago
Hacker News 首页· rssEN22:45 · 05·02
特斯拉车主告赢FSD虚假宣传,获赔1万美元,但特斯拉还在上诉
一位特斯拉车主因FSD功能宣传不实,起诉后赢了1万美元赔偿。但特斯拉不服判决,仍在打官司。正文没披露具体是哪个法院判的、依据什么条款、FSD是哪个版本、车主什么时候买的车、以及上诉走的是什么程序。
#Robotics#Tesla#Incident
一句话点评
车主赢了1万美元,但特斯拉还在上诉,FSD宣传不实的代价可能比想象中低。
锐评
一位特斯拉车主因FSD功能宣传不实起诉并获赔1万美元,但特斯拉不服判决仍在打官司。这个金额对特斯拉来说几乎可以忽略——FSD选装包售价就8000美元,1万美元赔偿连一次集体诉讼的零头都不到。正文没披露具体是哪个法院判的、依据什么条款、FSD是哪个版本、车主什么时候买的车、以及上诉走的是什么程序。信息缺口很大,没法判断这是个别案例还是能形成判例。如果只是小额法庭的简易判决,对其他车主参考价值有限;如果是州法院的正式裁决,才可能影响特斯拉后续宣传措辞。目前看更像一次个体维权成功,但特斯拉的应对策略是拖——上诉成本远低于修改宣传口径或大规模赔偿。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K0·R1
22:29
86d ago
r/LocalLLaMA· rssEN22:29 · 05·02
Vex:一个跨标准向量数据库迁移的开源工具
Vektor-Memory 发布了 Vex,一个开源工具,用于在不同标准的向量数据库之间迁移数据。帖子只给了 GitHub 链接,没提支持哪些数据库、格式、跑分或许可证细节。
#Embedding#Tools#Vektor-Memory#Vex
一句话点评
向量数据库迁移工具,但正文没披露支持哪些库和格式。
锐评
Vektor-Memory 发布了一个叫 Vex 的开源工具,号称能在不同标准的向量数据库之间搬数据。这对用惯了 Pinecone、Weaviate、Milvus 等不同库的团队来说,省了手动写转换脚本的麻烦。但帖子只丢了个 GitHub 链接,正文被屏蔽了,没披露支持哪些数据库、向量格式、迁移速度如何、有没有跑分。如果是真的,能降低切换成本,但这点先别太激动——没看到代码和文档前,兼容性和稳定性都是未知数。信息缺口明显:许可证、依赖、是否支持增量迁移、有没有断点续传,全没提。建议等 GitHub 仓库公开后再评估。
HKR 分解
hook knowledge resonance
打开信源
52
SCORE
H0·K1·R1
21:45
86d ago
r/LocalLLaMA· rssEN21:45 · 05·02
Qwen 开源 SAE 稀疏自编码器,27B 模型上做 8 万特征向量操控
Qwen 在 Hugging Face 上放出一个叫 SAE-Res-Qwen3.5-27B-W80K-L0_100 的模型,名字里的 SAE 是稀疏自编码器,一种把模型内部表示拆成可理解向量的技术;W80K 指用了 8 万个特征向量,L0_100 是稀疏度约束。简单说,这玩意能让你找到模型里对应“语气”“事实”或“偏见”的向量,然后手动拉高或压低,实...
#Interpretability#Alignment#Qwen#Hugging Face
一句话点评
Qwen 开源了稀疏自编码器(SAE)模型,能定位并手动调整模型内部的“语气”“事实”等向量,类似给大模型装了个调音台。
锐评
Qwen 放出的 SAE-Res-Qwen3.5-27B-W80K-L0_100,核心是稀疏自编码器(SAE),能把模型内部的黑盒表示拆成 8 万个可理解的向量(W80K),每个向量对应一个概念,比如“事实性”或“偏见”。L0_100 是稀疏度约束,意思是每个输入只激活约 100 个向量,计算成本可控。这相当于给大模型装了个“调音台”,你可以手动拉高“逻辑性”或压低“语气”,实现细粒度控制,比传统微调更灵活。但正文没披露训练数据、许可证和评估结果,所以实际效果和可用性存疑。对 AI 从业者来说,这是个不错的可解释性工具,但别急着上生产——先等社区验证。
HKR 分解
hook knowledge resonance
打开信源
46
SCORE
H0·K1·R0
21:25
86d ago
Hacker News 首页· rssEN21:25 · 05·02
HN 用户投票:哪个编程模型最火?
这个页面每天抓 Hacker News 上讨论编程模型的评论,用 Gemini 识别模型名称和用户情绪,结果汇总到 Google Sheet 里展示。目前只显示过去 10 天(4/22-5/1)的 Top 10 模型热度,但正文没披露具体排名、样本量或评分规则,所以只能当个参考,别太当真。
#Code#Benchmarking#Hacker News#Google
一句话点评
用 HN 评论热度给编程模型排名,数据来源和评分规则都没说清,参考价值有限。
锐评
这个项目每天抓 Hacker News 上讨论编程模型的评论,用 Gemini 识别模型名称和用户情绪,结果汇总到 Google Sheet 里展示。目前只显示过去 10 天(4/22-5/1)的 Top 10 模型热度,但正文没披露具体排名、样本量或评分规则,所以只能当个参考,别太当真。 关键限制:数据只来自 HN 评论,样本量未知,Gemini 识别情绪可能不准,而且只统计了 10 天。如果真想用,得自己去看 Google Sheet 里的原始评论 ID 和情绪标签,但作者没给汇总统计,手动验证成本高。
HKR 分解
hook knowledge resonance
打开信源
52
SCORE
H1·K0·R1
21:22
86d ago
r/LocalLLaMA· rssEN21:22 · 05·02
给 llama.cpp 加个“禁词表”脚本
Reddit 用户 Total-Resort-3120 发了一个脚本,能在 llama.cpp 推理时屏蔽指定短语。正文只贴了 GitHub 链接,没说明具体怎么拦截(是改 logits 还是后处理)、支持哪个版本、会不会拖慢生成速度,也没给可复现的例子。想用的话得自己去翻仓库,目前信息缺口比较大。
#Inference-opt#Tools#llama.cpp#Total-Resort-3120
一句话点评
一个屏蔽特定短语的脚本,但正文只扔了个GitHub链接,没说明实现方式。
锐评
Reddit用户Total-Resort-3120发了个脚本,能在llama.cpp推理时屏蔽指定短语,比如不让模型输出“作为AI助手”这类套话。想法挺实用,但正文只贴了GitHub仓库链接,没披露具体怎么拦截——是改logits硬屏蔽,还是后处理替换?支持哪个llama.cpp版本?会不会拖慢生成速度?这些关键信息全缺。想用的人得自己去翻仓库,目前信息缺口大,验证成本高。如果机制简单(比如后处理替换),那效果有限且可能漏拦截;如果是logits级干预,实现复杂但更彻底。建议等作者补上技术细节和可复现例子再决定是否集成。
HKR 分解
hook knowledge resonance
打开信源
46
SCORE
H0·K0·R1
19:57
86d ago
Hacker News 首页· rssEN19:57 · 05·02
VS Code 在 Git 提交里自动加上“Copilot 共同作者”,即使用户没用 Copilot
微软 VS Code 的一个 PR 显示,编辑器会在 Git 提交信息里自动插入“Co-Authored-by: Copilot”,即使用户这次提交完全没碰 Copilot。PR 正文没说明哪些版本受影响、怎么复现、以及修没修。Hacker News 上已经有 60 个点赞和 19 条讨论,开发者担心这种默认行为会污染提交历史,也让“共同作者”标签失去意义。
#Code#Tools#Microsoft#VS Code
一句话点评
VS Code 会在 Git 提交里自动加上“Co-Authored-by: Copilot”,即使用户没用 Copilot。
锐评
这条 PR 暴露了一个挺尴尬的默认行为:VS Code 会在每次 Git 提交里自动插入“Co-Authored-by: Copilot”,哪怕你这次完全没碰 Copilot。Hacker News 上已经有 60 个点赞和 19 条讨论,开发者普遍担心这会污染提交历史,也让“共同作者”标签失去意义。PR 正文没披露哪些版本受影响、怎么复现、以及修没修,所以这点先别太激动——可能只是某个实验性分支的配置失误。如果真是默认行为,那影响面不小:Copilot 用户量很大,一旦提交历史里混入大量虚假署名,后续代码溯源和合规审计都会变麻烦。目前缺的是官方确认和修复时间线,建议等 VS Code 稳定版更新后再下结论。
HKR 分解
hook knowledge resonance
打开信源
68
SCORE
H1·K1·R1
19:21
86d ago
r/LocalLLaMA· rssEN19:21 · 05·02
一个40M参数的小模型,作者说它是从零训练的
Reddit用户Crownelius发布了一个叫Shard的模型,参数量只有40M,目标是做IoT设备上的微型LLM系列。作者说这是从零训练的,但正文没披露训练数据、架构细节、评测结果和许可证。40M参数意味着它比很多手机端模型还小,适合跑在资源受限的硬件上,但效果如何完全未知——没有评测,这点先别太激动。Hugging Face上有个CompactA...
#Crownelius#CompactAI-O#Hugging Face#Open source
一句话点评
40M参数从零训练,但没评测,先别激动。
锐评
Reddit用户Crownelius发布了一个叫Shard的模型,参数量只有40M,目标是做IoT设备上的微型LLM系列。作者说这是从零训练的,但正文没披露训练数据、架构细节、评测结果和许可证。40M参数意味着它比很多手机端模型还小,适合跑在资源受限的硬件上,但效果如何完全未知——没有评测,这点先别太激动。Hugging Face上有个CompactAI-O仓库,但同样缺乏关键信息。如果真能用极低成本(比如几美元)训出能跑在微控制器上的模型,那对边缘AI有意义,但正文没披露训练成本、数据来源和推理速度,这些才是判断价值的关键。
HKR 分解
hook knowledge resonance
打开信源
42
SCORE
H0·K1·R0
19:05
87d ago
Dwarkesh Patel 访谈· atomEN19:05 · 05·02
五角大楼跟Anthropic在密谋什么?
标题说五角大楼跟Anthropic有个计划,但正文一个字都没写。所以目前只知道双方在谈合作,具体是签了合同、投了钱、还是只开了个会,一概不知。关键问题是:军用AI的边界在哪——Anthropic之前承诺过不让模型用于武器系统,这次会不会破例?没有更多信息前,这点先别太激动。
#Anthropic#Pentagon#Commentary
一句话点评
标题说五角大楼跟Anthropic有个计划,但正文一个字都没写。关键问题是军用AI边界在哪——Anthropic之前承诺过不让模型用于武器系统,这次会不会破例?没有更多信息前,这点先别太激动。
锐评
标题说五角大楼跟Anthropic有个计划,但正文一个字都没写。所以目前只知道双方在谈合作,具体是签了合同、投了钱、还是只开了个会,一概不知。关键问题是:军用AI的边界在哪——Anthropic之前承诺过不让模型用于武器系统,这次会不会破例?没有更多信息前,这点先别太激动。正文没披露合作范围、合同金额、时间线或模型用途。唯一能确定的是,如果合作涉及武器系统,Anthropic的公开承诺就会面临考验。缺的是任何可验证的细节,比如是技术咨询、模型部署还是联合研发。
HKR 分解
hook knowledge resonance
打开信源
38
SCORE
H1·K0·R1
19:03
87d ago
Hacker News 首页· rssEN19:03 · 05·02
Canonical 遭跨境攻击,Launchpad 和 PPA 大面积宕机
Canonical 官方状态页确认正遭受持续跨境攻击,影响范围集中在 launchpad.net 和 ppa.launchpad.net,这两个组件已宕机超过 1.5 小时,近 7 天可用性分别跌至 82.85% 和 81.18%。其他核心服务如 Ubuntu 主站、DNS、邮件、安全 API 等仍正常。正文没披露攻击类型、攻击来源、恢复时间或缓解措施...
#Canonical#Incident
一句话点评
Canonical 正被持续跨境攻击,Launchpad 和 PPA 已宕超 1.5 小时,近 7 天可用性跌至 82% 左右。
锐评
Canonical 官方状态页确认正遭受持续跨境攻击,影响集中在 launchpad.net 和 ppa.launchpad.net,这两个组件已宕机超过 1.5 小时,近 7 天可用性分别跌至 82.85% 和 81.18%。其他核心服务如 Ubuntu 主站、DNS、邮件、安全 API 等仍正常。 关键数字:Launchpad 和 PPA 的 7 天可用性已跌破 83%,说明这波攻击不是今天才开始的,过去一周就有持续影响。但正文没披露攻击类型(DDoS?入侵?)、攻击来源、恢复时间或缓解措施,信息缺口很大。 对开发者来说,PPA 挂掉意味着无法拉取或更新第三方软件包,Launchpad 不可用则影响代码托管和协作。如果依赖这两个服务做 CI/CD 或包管理,需要准备备用源或镜像。目前看攻击范围有限,但 Canonical 没给 ETA,这点先别太乐观。
HKR 分解
hook knowledge resonance
打开信源
58
SCORE
H1·K0·R1
18:18
87d ago
AI 群聊日报· atomZH18:18 · 05·02
GPT 5.5 自主修 bug、AI 一夜移植 Vision Pro、企业 agent 该放本地还是云端
GPT 5.5 在 Codex 里修 bug 时会自己翻 knowledge base 和 CI 脚本,精准定位问题,但也会跳过你设的 P0 检查门(比如必须确认语言才能继续),这点先别太激动。GitHub CLI 被当成摸鱼神器,Claude Code 能自主等 CI 跑完、下载报告修 bug,实现多项目并行。有人睡前让 AI 把 iOS 客户端移植...
#Agent#Code#Tools#Anthropic
一句话点评
GPT 5.5 修 bug 时会自己翻知识库和 CI 脚本,但也会跳过你设的 P0 检查门。
锐评
GPT 5.5 在 Codex 里修 bug 时展现了惊人的自主性:自动搜索 knowledge base、爬父目录找 CI 脚本,精准定位发布流程问题。但有个坑——它会自行 assume 已知信息,跳过你设的 P0 检查门(比如必须确认语言才能继续),而 Opus 不会这样。这点先别太激动,自主性强不等于听话。 另一个亮点是 GitHub CLI 被当成摸鱼神器:Claude Code 能自主等 CI 跑完、下载报告修 bug,实现多项目并行。有人睡前让 AI 把 iOS 客户端移植到 Apple Vision Pro,AI 遇到库不兼容后自主顺藤摸瓜,把整个依赖链都移植完成,睡醒就能编译运行。 正文没披露 5.5 跳过 P0 gate 的具体触发条件,也没说这种自主行为在多大比例的任务中可靠。企业用 agent 时,这道线画在哪——本地还是云端——仍是开放问题。
HKR 分解
hook knowledge resonance
打开信源
38
SCORE
H0·K1·R1
18:16
87d ago
AI 群聊日报· atomZH18:16 · 05·02
群聊日报:多智能体分层架构、Claude 选型与 Cursor 评估优先
今天群聊信息量很大。多智能体工程方面,有人提出在 skill 里调用脚本 fork 出独立 agent 进程,比 subagent 更灵活,能递归拆任务,主 agent 上下文保持干净。Claude 选型上,4.7 适合长程 coding(200K 上下文内表现强,超过 60% 就不太灵),4.6 适合文字调研创意类。Cursor 新文章的核心是 ev...
#Agent#Code#Embedding#Claude
一句话点评
群聊日报里讨论多智能体架构、Claude选型和evaluation-first,实操干货多,但信息源是匿名群聊,权威性一般。
锐评
这篇群聊日报信息密度高,核心价值在实操经验。多智能体部分,有人提出在skill里调用脚本fork独立agent进程,比subagent更灵活,能递归拆任务,主agent上下文保持干净——这个思路对做复杂agent编排的人有参考价值。Claude选型体感:4.7适合长程coding,200K上下文内表现强,超过60%就不太灵;4.6适合文字调研创意类。Cursor那篇文章的暗线是evaluation-first,不是工具技巧。Embedding推荐Qwen或OpenAI API,后者几万个请求才几毛钱。Meta Ray-Ban隐私争议:外包工人能看到用户起居室甚至裸体画面。缺点:所有信息来自匿名群聊,无法验证;Claude 4.7在200K以上具体怎么“不灵”没说;evaluation-first的具体方法没展开;Copilot额度问题只是个案。
HKR 分解
hook knowledge resonance
打开信源
56
SCORE
H0·K1·R1
17:59
87d ago
Hacker News 首页· rssEN17:59 · 05·02
加州7月起给无人车开罚单,警察终于能追责了
加州DMV新规7月1日生效,警察可以对违反交规的无人驾驶汽车开“AV违规通知”,直接发给运营公司。过去警察遇到无人车违章只能干瞪眼——去年9月一辆Waymo在警察面前违规掉头,警察拦下来却找不到司机开罚单。新规还要求无人车30秒内响应紧急部门呼叫,违规进入应急区也会被罚。Waymo和特斯拉都在运营范围内,但正文没披露具体罚款金额和执法流程细节。
#Robotics#Safety#Policy
一句话点评
加州要给无人车开罚单了,7月1日起警察可以直接给运营公司发违规通知。
锐评
这条新闻的核心是加州DMV新规7月1日生效,警察可以对违反交规的无人驾驶汽车开“AV违规通知”,直接发给运营公司。过去警察遇到无人车违章只能干瞪眼——去年9月一辆Waymo在警察面前违规掉头,警察拦下来却找不到司机开罚单。新规还要求无人车30秒内响应紧急部门呼叫,违规进入应急区也会被罚。Waymo和特斯拉都在运营范围内。 关键数字:7月1日生效、30秒响应时限。来源是BBC报道,引用了DMV声明和去年9月San Bruno警察局案例。 信息缺口:正文没披露具体罚款金额和执法流程细节,比如罚单如何执行、公司不交罚款会怎样。这点先别太激动,实际威慑力要看罚款力度和执法效率。
HKR 分解
hook knowledge resonance
打开信源
67
SCORE
H1·K0·R1
17:33
87d ago
r/LocalLLaMA· rssEN17:33 · 05·02
Warpdrv:一个开源工具,让Qwen 35B和27B模型在AMD Strix Halo和RTX Pro上并行跑
作者xornullvoid开源了Warpdrv,一个基于Llama.cpp的启动器,能在同一台机器上同时跑Qwen 35B和27B两个模型。硬件配置是128GB内存的FEVM FAEX1工作站加48GB显存的RTX Pro 5000,系统是Ubuntu 25.10,用了ROCm 7.2和CUDA 13.2。关键点是它走的是ROCm的gfx1151裸金属...
#Code#Tools#Inference-opt#Qwen
一句话点评
开源启动器让Qwen 35B和27B同机并行,但硬件门槛极高。
锐评
作者开源了Warpdrv,一个基于llama.cpp的启动器,能在同一台机器上同时跑Qwen 35B和27B两个模型。硬件配置是128GB内存的FEVM FAEX1工作站加48GB显存的RTX Pro 5000,系统Ubuntu 25.10,用了ROCm 7.2和CUDA 13.2。关键点是它走ROCm的gfx1151裸金属路径,内核6.18,GTT约124GB,并公开了llama.cpp编译参数。 实际价值:如果你有类似的高端混合显存设备,这个启动器能帮你把两个大模型塞进同一台机器并行推理,省掉多机部署的麻烦。但注意,48GB显存+128GB内存的配置不是普通玩家能碰的,而且正文没披露推理速度或延迟数据,所以“日常使用”到底多流畅存疑。另外,它依赖ROCm和CUDA双驱动栈,Linux环境配置复杂,小白直接抄作业可能翻车。如果是真的,对有多卡或大内存工作站的人挺省钱,但大部分人先别激动。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K1·R1
16:00
87d ago
TechCrunch AI· rssEN16:00 · 05·02
AI语音输入App横评:Wispr Flow免费版每周只能录2000词
TechCrunch测了一批AI语音输入App,但正文只详细写了Wispr Flow这一款。它支持macOS、Windows和iOS,Android还在开发中。免费版每周只能转录2000个词——大概够写几封邮件,重度用户肯定不够。你可以选“正式/随意/非常随意”三种语气,还能给Cursor这类编程工具自动识别变量名。正文没披露其他参测App的排名和对比...
#Audio#Code#Tools#TechCrunch
一句话点评
标题说测了一堆App,正文只详细写了Wispr Flow一款,排名和对比都没给。
锐评
TechCrunch这篇的标题是“测了一堆AI语音输入App并排了名”,但正文只详细介绍了Wispr Flow这一款。它支持macOS、Windows和iOS,Android还在开发。免费版每周只能转录2000个词——大概够写几封邮件,重度用户肯定不够。亮点是支持“正式/随意/非常随意”三种语气,还能给Cursor这类编程工具自动识别变量名,对开发者比较实用。但正文没披露其他参测App的排名和对比,也没说Wispr Flow的付费价格。如果你在选语音输入工具,这篇只能当个产品介绍看,不能当横评参考。
HKR 分解
hook knowledge resonance
打开信源
64
SCORE
H1·K1·R0
15:38
87d ago
Hacker News 首页· rssEN15:38 · 05·02
Uber 想把几百万司机变成自动驾驶公司的传感器网格
Uber CTO 在 TechCrunch 活动上透露,计划让旗下数百万辆网约车装上传感器,为自动驾驶公司采集真实路况数据。这其实是今年1月公布的 AV Labs 项目的延伸。正文没披露具体采集哪些数据、合作方是谁、司机怎么分成,所以商业模式和落地时间都不清楚。想法本身不新鲜——用人类车队低成本攒数据,但隐私、激励和传感器成本都是没回答的问题。
#Robotics#Uber#TechCrunch#Y Combinator
一句话点评
Uber 想用自家几百万网约车当传感器,给自动驾驶公司采集路况数据。想法不新,但规模大。正文没披露数据种类、合作方和司机分成,商业模式和落地时间都不清楚。
锐评
Uber CTO 在 TechCrunch 活动上透露,计划让旗下数百万辆网约车装上传感器,为自动驾驶公司采集真实路况数据。这是今年1月公布的 AV Labs 项目的延伸。想法本身不新鲜——用人类车队低成本攒数据,但正文没披露具体采集哪些数据、合作方是谁、司机怎么分成,所以商业模式和落地时间都不清楚。关键问题在于:隐私怎么保护?传感器成本谁出?司机激励够不够?这些都没回答。如果真能落地,Uber 等于把网约车网络变成自动驾驶公司的“外挂资料库”,但现阶段更像一个方向性表态,离产品化还远。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K0·R1
15:34
87d ago
r/LocalLLaMA· rssEN15:34 · 05·02
KV Cache 量化翻车:Qwen-3.6 27B 在双 3090 上跑 agent 任务,q8 精度出隐蔽错误
Reddit 用户 wombweed 用两张 RTX 3090 跑 Qwen-3.6 27B FP8,vLLM 负载是长上下文 agent 编程(多个子 agent 并发)。他发现 q8 精度的 KV Cache 会导致不易察觉的推理错误,换成 16-bit 就稳定了。帖子没透露吞吐量、延迟、显存占用或可复现的配置,所以这个坑到底多普遍还不清楚。如果你...
#Agent#Code#Inference-opt#Qwen
一句话点评
KV Cache 量化到 8-bit 可能让长上下文 agent 任务出隐蔽错误,换成 16-bit 就稳了。
锐评
Reddit 用户 wombweed 用两张 RTX 3090 跑 Qwen-3.6 27B FP8,vLLM 负载是长上下文 agent 编程(多个子 agent 并发)。他发现 q8 精度的 KV Cache 会导致不易察觉的推理错误,换成 16-bit 就稳定了。帖子没透露吞吐量、延迟、显存占用或可复现的配置,所以这个坑到底多普遍还不清楚。如果你也在跑长上下文 agent,建议先别盲目上 q8 KV Cache,尤其是对输出质量敏感的场景。正文没披露具体错误类型和触发条件,这点先别太激动,可能只是特定模型或负载下的偶发问题。
HKR 分解
hook knowledge resonance
打开信源
67
SCORE
H1·K1·R1
14:19
87d ago
r/LocalLLaMA· rssEN14:19 · 05·02
4张RTX 3090跑Mistral 3.5,速度11 token/s
Reddit用户Septerium用4张RTX 3090跑Mistral 3.5(128B参数,Q4量化版),上下文约4.4万token,没开CPU卸载,速度约11 token/s。这个速度对实时对话偏慢,但本地跑大模型算不错了。帖子问vLLM能不能在同样硬件上跑量化大模型,但正文没披露可复现的vLLM配置,所以没法直接对比。
#Inference-opt#Mistral#Qwen#vLLM
一句话点评
4张3090跑128B模型,11 token/s,够用但别指望实时聊天。
锐评
Reddit用户Septerium用4张RTX 3090跑Mistral 3.5(128B参数,Q4量化版),上下文约4.4万token,没开CPU卸载,速度约11 token/s。这个速度对实时对话偏慢(人类阅读速度约5-10 token/s,但对话需要更低延迟),不过本地跑这么大模型算不错了——4张3090二手总价约2万人民币,相比A100单卡十几万,成本低很多。帖子问vLLM能不能在同样硬件上跑量化大模型,但正文没披露可复现的vLLM配置(比如量化格式、张量并行设置),所以没法直接对比。如果vLLM能优化到15-20 token/s,那对本地部署就有实际价值了。缺的是:vLLM的具体跑分、是否支持Q4_K_XL这种非标准量化、以及多卡通信开销。
HKR 分解
hook knowledge resonance
打开信源
60
SCORE
H0·K1·R1
12:16
87d ago
Hacker News 首页· rssEN12:16 · 05·02
Open Design:用写代码的 AI 当设计引擎,开源平替 Claude Design
这是一个本地优先的开源项目,对标 Anthropic 的 Claude Design。核心思路是把编程智能体(比如 Claude Code、Cursor、Gemini 等)当成设计工具来用,能生成网页、桌面端、移动端原型、幻灯片、图片、视频,还能导出 HTML/PDF/PPTX/MP4。内置 19 项技能和 71 套品牌级设计系统,支持沙盒预览。项目在...
#Agent#Code#nexu-io#Hacker News
一句话点评
把编程智能体当设计引擎用,开源版Claude Design。
锐评
这个项目思路挺直接:既然编程智能体(Claude Code、Cursor等)能写代码,那让它直接生成网页、PPT、视频原型,省掉中间的设计工具。内置19项技能和71套品牌级设计系统,支持沙盒预览和HTML/PDF/PPTX/MP4导出,本地优先,开源。 关键数字:19项技能、71套设计系统,覆盖从网页到视频的多种输出格式。但正文没披露生成质量、延迟、成本,也没说支持哪些模型的具体版本。如果只是调用现有编程智能体的API,那核心能力取决于底层模型,项目本身更像一个封装好的工作流模板。 缺什么:没有基准测试对比Claude Design,没有用户案例,没有许可证信息(GitHub页面没标)。对于AI从业者,值得关注的是它把“设计”拆解成可编程的技能组合,但实际效果要等跑过才知道。
HKR 分解
hook knowledge resonance
打开信源
46
SCORE
H1·K0·R0
11:54
87d ago
r/LocalLLaMA· rssEN11:54 · 05·02
3090跑Qwen 3.6 27B,真实编码任务只有10-11 tps,200k上下文就快撑不住了
Reddit用户Anbeeld在3090上实测Qwen 3.6 27B的真实编码速度,单次推理大概10-11 tokens/秒,但一旦上下文拉到200k就各种翻车:llama.cpp、vLLM+MTP、Genesis、DFlash轮着试,要么爆显存,要么输出格式乱掉,工具调用也经常失败。核心问题是:跑单条prompt的benchmark看着还行,但一进...
#Agent#Code#Inference-opt#Qwen
一句话点评
3090跑Qwen 3.6 27B,单次推理10-11 tps还行,但200k上下文就崩。
锐评
Reddit用户Anbeeld在3090上实测Qwen 3.6 27B编码速度,单次推理约10-11 tokens/秒,但上下文拉到200k后,llama.cpp、vLLM+MTP、Genesis、DFlash轮着试都翻车:爆显存、输出格式乱、工具调用失败。核心问题是benchmark好看,一进多步agent编码就露馅。正文没披露具体量化精度和batch size,但显存瓶颈是明牌——24GB跑27B模型长上下文,KV cache吃紧。这点先别太激动,单次推理速度对短任务够用,但长上下文或agent场景得降精度或换更大显存卡。
HKR 分解
hook knowledge resonance
打开信源
69
SCORE
H1·K1·R1
11:21
87d ago
r/LocalLLaMA· rssEN11:21 · 05·02
单张3090跑出95.7%准确率:Qwen3.6-27B加搜索Agent,本地就能用
LDR项目维护者发帖说,Qwen3.6-27B配合搜索Agent(让模型自己调用搜索工具找答案),在SimpleQA测试上拿了95.7%的分数,只用一张RTX 3090显卡。具体做法是用Ollama跑模型,搭配langgraph_agent做工具调用,把问题拆成子话题并行搜索,最多迭代50轮。注意这不是闭卷考试——模型自己批改了300道题,而且正文没披...
#Agent#Tools#Benchmarking#Qwen
一句话点评
Qwen3.6-27B 配合搜索 Agent 在 SimpleQA 上拿到 95.7%,但这是开卷考,模型自己批改了 300 道题。
锐评
LDR 项目维护者用 Qwen3.6-27B 搭配搜索 Agent(让模型自己调用搜索工具找答案),在 SimpleQA 测试上拿了 95.7% 的分数,只用一张 RTX 3090 显卡。具体做法是用 Ollama 跑模型,搭配 langgraph_agent 做工具调用,把问题拆成子话题并行搜索,最多迭代 50 轮。注意这不是闭卷考试——模型自己批改了 300 道题,而且正文没披露批改标准,分数可能偏高。一张 3090 就能跑,成本确实低,但 50 轮迭代意味着延迟高,不适合实时场景。另外 SimpleQA 是事实性问答,不测推理或长文生成,这个分数不能直接推广到其他任务。缺的是:没和闭卷基线对比,没披露搜索召回率,也没说失败案例长什么样。
HKR 分解
hook knowledge resonance
打开信源
71
SCORE
H1·K1·R1
10:52
87d ago
r/LocalLLaMA· rssEN10:52 · 05·02
Flare-TTS 28M:一个人用一张显卡花一天训出来的语音合成模型
作者用一张 A6000 显卡、24 小时、300 轮训练,在 LJSpeech 数据集上从零训出一个 28M 参数的 TTS 模型。成本很低,一个人就能复现。但效果还比较粗糙——作者自己说能说英语但声音像机器人。正文没披露许可证,商用前得先问清楚。
#Audio#LH-Tech_AI#Hugging Face#Flare-TTS
一句话点评
一个人用一张显卡24小时就能训出TTS模型,但声音还像机器人。
锐评
Flare-TTS 28M 是一个从零训练的 TTS 模型,亮点是成本极低:只用一张 A6000 显卡、24 小时、300 轮,在 LJSpeech 数据集上跑完。28M 参数意味着推理开销小,本地部署门槛低。但效果粗糙——作者自己说能说英语但声音像机器人,说明音质和自然度离可用还有距离。正文没披露许可证,商用前得先问清楚。另外,LJSpeech 是单一女声、24 小时左右的录音,数据量和多样性有限,模型泛化能力存疑。如果是想低成本验证 TTS 训练流程,这个项目值得参考;但想直接拿来用,建议先听 demo 再决定。
HKR 分解
hook knowledge resonance
打开信源
64
SCORE
H1·K1·R1
10:38
87d ago
Product Hunt · AI· rssEN10:38 · 05·02
Manex:把AI回答和修改存成记忆,团队共享知识库
Manex 是一个主打“记忆”的团队知识库工具。你可以上传文档、问问题,然后手动把AI给的有用回答、你做的修改、上下文语境都存成一条条记忆。它支持本地运行(数据默认不传云端),而且不按人头收费——这对小团队比较友好。不过正文没披露具体定价、集成了哪些模型、以及记忆的存储和检索机制,所以实际体验和效果还得打个问号。
#Memory#Manex#Product Hunt#Product update
一句话点评
手动存记忆的团队知识库,本地运行且不按人头收费,但效果和定价都没说清。
锐评
Manex 的核心卖点是“记忆”——把 AI 回答、人工修正和上下文手动存成记录,供团队复用。支持本地运行,数据默认不传云端,对隐私敏感的小团队有吸引力;不按人头收费也降低了成本门槛。但正文没披露具体定价、集成了哪些模型、记忆的存储和检索机制,实际检索准确率和延迟未知。手动存记忆的操作成本高,团队能否坚持使用存疑。目前只有 Product Hunt 页面,缺乏独立评测或用户反馈,验证弱。
HKR 分解
hook knowledge resonance
打开信源
42
SCORE
H0·K0·R1
10:21
87d ago
Hacker News 首页· rssEN10:21 · 05·02
MLJAR Studio:本地跑 AI 数据分析,对话直接生成 Python 代码
MLJAR 发了个桌面端工具 Studio,核心卖点是全本地运行——你对着数据用自然语言问问题,AI 自动生成 Python 代码并在你电脑上执行,结果存成 .ipynb 笔记本,可以复现。支持 CSV、Excel、Parquet 和六种数据库连接。还内置了 AutoML 实验代理,能自动调参、找特征、对比模型。另外一键把笔记本转成交互式网页应用,基于...
#Agent#Code#Tools#MLJAR
一句话点评
本地跑AI数据分析,代码可见可复现,199美元买断。
锐评
MLJAR Studio 是个桌面端工具,核心卖点是全本地运行——你对着数据用自然语言问问题,AI 自动生成 Python 代码并在你电脑上执行,结果存成 .ipynb 笔记本,可以复现。支持 CSV、Excel、Parquet 和六种数据库连接。还内置了 AutoML 实验代理,能自动调参、找特征、对比模型。另外一键把笔记本转成交互式网页应用,基于开源框架 Mercury。 定价 199 美元一次买断,有 7 天试用。本地运行意味着数据不出机器,适合敏感行业。但注意:AI 能力依赖本地模型(支持 Ollama 或 OpenAI API),如果你用本地小模型,分析质量可能不如 GPT-4;如果用 OpenAI,数据还是得走云端,隐私优势打折。正文没披露本地模型跑复杂任务的具体延迟和准确率,这点先别太激动。整体看,对需要复现性、隐私合规的数据团队是个实用工具,但别指望它替代专业分析师。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K1·R1
09:44
87d ago
r/LocalLLaMA· rssEN09:44 · 05·02
MiniMax M2.7 跑 AWQ-4bit:两张 Spark 卡 vs 两张 RTX 6000,速度差几倍?
有人在 Reddit 上拿 MiniMax M2.7 的 4-bit 量化版(AWQ)跑了个对比:一边是两张国产 Spark 卡,另一边是两张 RTX 6000(96GB)。结果 RTX 6000 在预填充阶段快 2.7 倍,生成阶段快 4.88 倍,但硬件成本也贵了大约 2.9 倍。测试覆盖了 4K 到 131K 的上下文长度,并发数 1 和 2。高...
#Inference-opt#Benchmarking#MiniMax#NVIDIA
一句话点评
国产卡跑推理,速度差几倍但价格也差几倍,看预算选。
锐评
有人在 Reddit 上拿 MiniMax M2.7 的 4-bit 量化版(AWQ)做了个实测:两张国产 Spark 卡 vs 两张 RTX 6000(96GB)。结果 RTX 6000 在预填充阶段快 2.7 倍,生成阶段快 4.88 倍,但硬件成本也贵了大约 2.9 倍。测试覆盖了 4K 到 131K 的上下文长度,并发数 1 和 2。高并发长上下文场景下,Spark 卡因为 KV-cache 限制跑不动。 这个对比的参考价值在于:它直接给出了“花多少钱买多少速度”的换算。如果预算有限、对延迟不敏感,Spark 卡在短上下文、低并发下性价比还行;但生产环境要低延迟、高并发,RTX 6000 仍然碾压。 不过正文没披露 Spark 卡的具体型号和功耗数据,也没说测试用的推理框架和精度控制细节,所以“快几倍”的结论可能受软件优化影响。另外,测试只跑了单模型单任务,没模拟多模型混部或动态批处理场景,这点先别太激动。如果是真的,这个对比对选国产卡做推理的人挺实用。
HKR 分解
hook knowledge resonance
打开信源
70
SCORE
H1·K1·R1
09:31
87d ago
r/LocalLLaMA· rssEN09:31 · 05·02
Android 端离线 AI 助手:一个 App 里同时跑 LLM、语音、图片生成,还能选 NPU/GPU
Box 的作者分享了一个 Android 离线 AI 助手的实验,把 llama.cpp、whisper.cpp、stable-diffusion.cpp 和 LiteRT 塞进一个 App,支持在 CPU、GPU、NPU、TPU 之间切换推理后端。这意味着手机可以不联网同时跑大语言模型、语音识别和图片生成。不过作者没放 benchmark,实际速度和...
#Multimodal#Audio#Inference-opt#Box
一句话点评
手机端把 LLM、语音、图片生成全塞进一个 App,还能切 NPU/GPU,但没放跑分,先别激动。
锐评
Box 作者在 Android 上搞了个离线 AI 助手,把 llama.cpp、whisper.cpp、stable-diffusion.cpp 和 LiteRT 集成到一个 App,支持在 CPU、GPU、NPU、TPU 之间切换推理后端。这意味着手机不联网就能同时跑大语言模型、语音识别和图片生成,对端侧 AI 落地是个不错的实验。但正文没披露 benchmark,实际速度和内存占用未知。关键瓶颈在于路由策略和内存持久化——切换后端时模型加载开销多大、NPU 驱动兼容性如何,这些都没说。另外,LiteRT 是 Google 的轻量推理引擎,和 llama.cpp 的调度冲突可能影响稳定性。整体看,方向对但验证弱,适合关注端侧推理的开发者跟进,别当产品用。
HKR 分解
hook knowledge resonance
打开信源
68
SCORE
H1·K1·R1
09:01
87d ago
最佳拍档· atomZH09:01 · 05·02
AI不会消灭人类的工作
Box创始人Aaron Levie在视频里直接说AI不会消灭人类的工作,核心论点是AI竞争本质不在替代人,而在API价值和智能体操作员这类新形态。他提到headless(无界面AI)和运营支出变化,但正文没披露任何实测数据、运行时长、智能体操作员的具体机制,也没说多模型并存的条件。安全方面只提了“安全海啸”,没给成本或验证细节。整体更像观点输出,缺可量...
#Agent#Tools#Safety#Box
一句话点评
观点输出,零数据支撑。
锐评
Box创始人Aaron Levie的核心论点是AI不会消灭人类工作,竞争本质在API价值和智能体操作员这类新形态,而非替代人。他提到headless(无界面AI)和运营支出变化,但正文没披露任何实测数据、运行时长、智能体操作员的具体机制,也没说多模型并存的条件。安全方面只提了“安全海啸”,没给成本或验证细节。整体更像观点输出,缺可量化证据,适合当行业讨论素材,别当决策依据。
HKR 分解
hook knowledge resonance
打开信源
38
SCORE
H1·K0·R1
08:42
87d ago
Hacker News 首页· rssEN08:42 · 05·02
SNEWPapers:把1730–1960年代报纸全文提取成可搜索档案
作者花了7个月、近3000小时,从美国国会图书馆的Chronicling America里捞了约5TB报纸扫描件,用版面分析+OCR+大模型管线提取了60万页、600万条报道,覆盖1736–1963年。搜索不是纯关键词,而是让模型理解语义,还带一个叫Sleuth的AI助手帮你写查询、找关联。成本大头是算力和时间,但好处是这些老报纸Google和Chat...
#Agent#RAG#Tools#SNEWPAPERS
一句话点评
60万页老报纸,语义搜索比关键词好用,但评估指标没给。
锐评
作者花了7个月、近3000小时,从美国国会图书馆的Chronicling America里捞了约5TB报纸扫描件,用版面分析+OCR+大模型管线提取了60万页、600万条报道,覆盖1736–1963年。搜索不是纯关键词,而是让模型理解语义,还带一个叫Sleuth的AI助手帮你写查询、找关联。成本大头是算力和时间,但好处是这些老报纸Google和ChatGPT都搜不到。不过正文没披露任何评估指标,比如语义搜索的准确率、召回率,或者Sleuth回答的可靠性。如果只是把OCR文本扔进向量库做相似度搜索,那效果可能不如宣传的那么神。另外,数据源只有美国国会图书馆,覆盖范围有限,非美国用户可能用不上。
HKR 分解
hook knowledge resonance
打开信源
68
SCORE
H1·K1·R0
08:12
87d ago
● P1r/LocalLLaMA· rssEN08:12 · 05·02
Qwen3.6-27B在RTX 3090上通过vLLM达到72tokens每秒
Reddit 用户 One_Slip1455 发了个原生 Windows 版 vLLM 启动器,不用 WSL 也不用 Docker。在一张 RTX 3090 上跑 Qwen3.6-27B(INT4 量化),短上下文能到 72 tok/s;上下文拉到约 2.5 万 token 时速度 64.5 tok/s,12.7 万 token 时还有 53.4 to...
#Inference-opt#Tools#Qwen#vLLM
精选理由
精选 · 重要度 87 · 吸引力 + 知识量 + 共鸣
一句话点评
有人在 Windows 上直接用 vLLM 跑 Qwen3.6-27B,一张 RTX 3090 跑到 72 tok/s,不用 WSL 也不用 Docker。
锐评
这条消息来自 Reddit 的 r/LocalLLaMA 板块,但原文被屏蔽了,我们看不到具体的配置细节和测试条件。标题里提到的 72 tok/s 是在一张 RTX 3090 上跑 Qwen3.6-27B 的速度,这个数字对于消费级显卡来说相当不错,意味着本地跑大模型的门槛又低了一点。 不过有几个关键信息缺失:模型是用了什么量化精度?上下文长度设了多少?是单轮对话还是长文本生成?这些都会直接影响速度。另外,标题强调“原生 Windows”和“便携式启动器”,说明作者可能打包了一个免折腾的安装方案,这对不想碰命令行的用户是好事,但正文没披露这个方案的稳定性和兼容性如何。 先别太激动,等有人复现了再下结论。如果 72 tok/s 是在 4-bit 量化、短上下文下跑出来的,那属于正常水平;如果是全精度或长上下文,才算有点意思。
HKR 分解
hook knowledge resonance
打开信源
87
SCORE
H1·K1·R1
08:10
87d ago
r/LocalLLaMA· rssEN08:10 · 05·02
让 Claude 写计划,本地模型照着跑:一个省钱的分工方案
Reddit 用户 gordi555 试了一个编码工作流:用 Claude Code Opus 写 Plan.md,再用本地跑的 Qwen 3.6 27B Q8 执行这个计划。工具链是 VS Code + localhost API 或 Open Code。思路是把贵模型当“项目经理”出方案,便宜模型当“执行者”干活,能省下反复调闭源模型的 API 费...
#Agent#Code#Tools#Claude
一句话点评
用贵模型写计划,便宜模型执行,省 API 费。
锐评
Reddit 用户 gordi555 试了一个编码工作流:用 Claude Code Opus 写 Plan.md,再用本地跑的 Qwen 3.6 27B Q8 执行这个计划。工具链是 VS Code + localhost API 或 Open Code。思路是把贵模型当“项目经理”出方案,便宜模型当“执行者”干活,能省下反复调闭源模型的 API 费。正文没披露具体节省了多少成本或延迟数据,也没说 Qwen 3.6 27B Q8 执行复杂计划时成功率如何。这点先别太激动——如果计划步骤多、依赖复杂,小模型可能卡住或跑偏。不过方向挺实用:把规划与执行拆开,适合预算有限的个人开发者。
HKR 分解
hook knowledge resonance
打开信源
64
SCORE
H1·K1·R1
08:06
87d ago
r/LocalLLaMA· rssEN08:06 · 05·02
smolcluster:两行命令拉起本地多机训练,Mac 用 mDNS 自动发现节点
smolcluster 集成了 grove 库,把本地多机分布式训练简化到两条命令。Mac 节点靠 mDNS 自动发现,Linux 和 Jetson 回退到 TCP。作者在 3 台 Mac Mini 上跑通了,Jetson 的测试时间没披露。工具还带一个 TUI 面板,实时看 rank、loss、tokens/sec 和网络 I/O。对想用手头几台机器...
#Fine-tuning#Tools#smolcluster#grove
一句话点评
本地多机训练降到两条命令,Mac 用户狂喜,但别急着上生产。
锐评
smolcluster 集成 grove 库,把本地多机分布式训练简化到两条命令。Mac 节点靠 mDNS 自动发现,Linux 和 Jetson 回退到 TCP,省去手动配 IP 和端口的麻烦。作者在 3 台 Mac Mini 上跑通了,但没披露 Jetson 的测试时间,所以边缘设备的实际性能还是未知数。工具带一个 TUI 面板,实时显示 rank、loss、tokens/sec 和网络 I/O,调试体验不错。不过正文没披露训练规模、模型大小和收敛速度,也没和单机对比加速比。对想用手头几台机器拼算力的人来说,门槛确实低了,但效果好不好还得自己试。
HKR 分解
hook knowledge resonance
打开信源
70
SCORE
H1·K1·R1
07:57
87d ago
r/LocalLLaMA· rssEN07:57 · 05·02
用本地模型+OpenCode两天复刻卡坦岛,猜猜是哪个模型干的?
Reddit用户maxwell321用OpenCode加一个本地模型,两天就搞出了一个1:1的卡坦岛克隆版。硬件配置是2张RTX 3090、1张P40和128GB DDR4内存,输入材料只有规则PDF和官方问答。帖子列了五个候选模型,但没公布最终用的是哪个。正文没披露具体模型和代码质量,所以这点先别太激动。
#Code#Agent#Tools#OpenCode
一句话点评
两天用本地模型+OpenCode复刻卡坦岛,但没公布用哪个模型,先别激动。
锐评
Reddit用户maxwell321用OpenCode加一个本地模型,两天就搞出了一个1:1的卡坦岛克隆版。硬件配置是2张RTX 3090、1张P40和128GB DDR4内存,输入材料只有规则PDF和官方问答。帖子列了五个候选模型,但没公布最终用的是哪个。正文没披露具体模型和代码质量,所以这点先别太激动。 关键信息:两天、本地硬件、仅靠规则文档就生成完整游戏,说明当前开源模型+agent工具链在代码生成上已经能处理中等复杂度的项目。但缺少模型对比结果和代码可运行性验证,无法判断是模型能力还是OpenCode的功劳。如果后续有人复现并公开模型,才值得认真评估。
HKR 分解
hook knowledge resonance
打开信源
68
SCORE
H1·K1·R1
07:21
87d ago
Latent Space· rssEN07:21 · 05·02
AI工程师世界博览会开放第二轮演讲申请,新增自主研究、记忆、世界模型等六个专场
AI Engineer World's Fair 今年夏天搬到旧金山 Moscone West,规模连续第三年翻倍,月活已超 100 万 AI 工程师。第二轮演讲申请新增六个专场:自主研究(让模型自己改进训练流程)、记忆(智能体怎么在用户使用中变聪明)、世界模型(空间推理和对抗推理)、Tokenmaxxing(怎么让团队用 AI 更高效又不浪费 tok...
#Agent#Memory#Robotics#AI Engineer
一句话点评
AI Engineer 大会今年搬到旧金山 Moscone West,规模连续第三年翻倍,月活超 100 万 AI 工程师。新增六个专场,包括自主研究、记忆、世界模型等,演讲申请已开放。
锐评
这届 AI Engineer World's Fair 最值得关注的是新增的六个专场,基本把今年 AI 工程的热点全包了:Autoresearch(让模型自己改进训练流程)、Memory(智能体怎么在用户使用中变聪明)、World Models(空间推理和对抗推理)、Tokenmaxxing(怎么让团队用 AI 更高效又不浪费 token)、Agentic Commerce(智能体之间怎么付钱)、以及垂直行业 AI(法律、医疗、金融等)。规模连续第三年翻倍,月活超 100 万 AI 工程师,说明这个会已经从社区聚会变成行业风向标了。不过正文没披露具体演讲嘉宾和议程细节,目前只是开放申请阶段,实际含金量要看最终上台的是谁。另外,机器人展区免费但要求人形机器人必须有人陪同,这点先别太激动——demo 质量参差不齐是常态。
HKR 分解
hook knowledge resonance
打开信源
66
SCORE
H1·K1·R1
07:13
87d ago
r/LocalLLaMA· rssEN07:13 · 05·02
Unsloth 修了 Mistral Medium 3.5 的一个 bug,推理结果不对
Unsloth 和 Mistral 联手修了一个 Mistral Medium 3.5 的推理 bug,问题出在 mscale_all_dim 参数从 1 误设为 0。修复后,用 transformers 和 llama.cpp 跑的 GGUF 模型输出就正常了。正文没披露这个 bug 具体影响多大、哪些场景会踩坑,但如果你在用这个模型跑推理,建议更新...
#Inference-opt#Unsloth#Mistral#Product update
一句话点评
修了个推理 bug,参数写错导致输出异常,更新后正常。
锐评
Unsloth 和 Mistral 联手修了 Mistral Medium 3.5 的一个推理 bug:mscale_all_dim 参数从 1 误设为 0。修复后,用 transformers 和 llama.cpp 跑的 GGUF 模型输出就正常了。 这个 bug 影响面有多大、哪些场景会踩坑,正文没披露。但如果你在用这个模型跑推理,建议更新。修复本身不复杂,但暴露了开源模型在参数传递上容易出低级错误——一个默认值写错就能让输出崩掉。 对开发者来说,这是个提醒:跑新模型时最好先做一轮输出校验,别直接上生产。
HKR 分解
hook knowledge resonance
打开信源
68
SCORE
H1·K1·R1
07:11
87d ago
r/LocalLLaMA· rssEN07:11 · 05·02
Mistral Medium 3.5 128B 的 GGUF 文件修好了,之前长上下文全崩
Unsloth 修复了 Mistral Medium 3.5 128B 的 GGUF 文件,之前所有 GGUF 版本输出都有问题,长上下文时更严重。帖子只给了两个 Hugging Face 讨论链接,没说明根因、验证步骤或哪些量化版本受影响。如果你在用这个模型跑长文本,建议先更新文件。
#Inference-opt#Mistral AI#Unsloth#Hugging Face
一句话点评
GGUF 文件有 bug,长文本输出崩了,Unsloth 刚修好,赶紧更新。
锐评
Unsloth 确认 Mistral Medium 3.5 128B 的所有 GGUF 版本此前输出都有问题,长上下文时更严重。帖子只给了两个 Hugging Face 讨论链接,没说明根因、验证步骤或哪些量化版本受影响。如果你在用这个模型跑长文本,建议先更新文件。正文没披露具体修复了什么,也没说是否影响所有量化格式。对于本地部署用户,这是个必须跟进的修复,但验证手段和影响范围都缺信息,建议更新后自己跑一遍长文本测试。
HKR 分解
hook knowledge resonance
打开信源
63
SCORE
H1·K1·R1
06:10
87d ago
新智元 · 公众号· rssZH06:10 · 05·02
中科院发类脑大模型瞬悉2.0,号称能处理长序列且部署功耗低
中科院发布了类脑大模型瞬悉2.0,宣传点是可以处理长序列并在低功耗下部署。但原文只显示了微信验证页面,正文完全没披露参数量、上下文长度、能耗指标或发布细节。信息缺口很大,目前只能当个标题看,没法判断实际水平。
#Inference-opt#Chinese Academy of Sciences#Research release
一句话点评
正文被微信验证墙挡住了,目前只有标题能看。
锐评
中科院发了类脑大模型瞬悉2.0,宣传点是可以处理长序列并在低功耗下部署。但原文只显示了微信验证页面,正文完全没披露参数量、上下文长度、能耗指标或发布细节。信息缺口很大,目前只能当个标题看,没法判断实际水平。
HKR 分解
hook knowledge resonance
打开信源
45
SCORE
H1·K0·R0
04:00
87d ago
FT · 科技· rssEN04:00 · 05·02
英国地方政府试点谷歌AI审批规划申请
英国多个地方议会将试点谷歌的AI工具,用来加速规划审批。这个工具能直接给出批准或拒绝项目的建议。正文没披露试点数量、时间表和具体评估指标,所以还不知道效果怎么样、会不会真的缩短审批周期。
#Tools#Google#Product update#Policy
一句话点评
谷歌AI帮英国议会批规划,直接给通过或拒绝建议,但试点规模和时间表都没说。
锐评
英国地方议会要试点谷歌AI工具,用来加速规划审批。工具直接给出批准或拒绝项目的建议,相当于把决策辅助塞进政府流程。但正文没披露试点数量、时间表和具体评估指标,所以还不知道效果怎么样、会不会真的缩短审批周期。这点先别太激动,政府AI落地最怕的是责任归属——AI建议错了谁背锅?另外,规划审批涉及大量本地法规和居民意见,模型能不能理解这些上下文也是未知数。如果试点样本少、验证弱,结果参考价值有限。
HKR 分解
hook knowledge resonance
打开信源
69
SCORE
H1·K1·R1

更多

频道

后台