ax@ax-radar:~/podcasts $ ls -t podcasts/
33 srcsignal 72%cycle 04:32

播客·视频

50 episodes · updated 3m ago
6 个频道在监控
筛选精选全部仅精选
全部频道50
2026-09-19 · 星期六2026年9月19日
2026-09-17 · 星期四2026年9月17日
2026-09-16 · 星期三2026年9月16日
2026-09-15 · 星期二2026年9月15日
2026-09-14 · 星期一2026年9月14日
2026-09-10 · 星期四2026年9月10日
2026-09-08 · 星期二2026年9月8日
2026-09-07 · 星期一2026年9月7日
2026-09-05 · 星期六2026年9月5日
2026-09-03 · 星期四2026年9月3日
2026-09-01 · 星期二2026年9月1日
2026-08-28 · 星期五2026年8月28日
2026-08-26 · 星期三2026年8月26日
2026-08-25 · 星期二2026年8月25日
2026-08-22 · 星期六2026年8月22日
2026-08-21 · 星期五2026年8月21日
2026-08-20 · 星期四2026年8月20日
2026-08-19 · 星期三2026年8月19日
2026-08-18 · 星期二2026年8月18日
2026-08-15 · 星期六2026年8月15日
2026-08-08 · 星期六2026年8月8日
2026-08-07 · 星期五2026年8月7日
17:17
46d ago
● P1Dwarkesh Patel 播客· rssEN17:17 · 08·07
持续学习时代:AI模型在部署后持续更新权重
Dwarkesh Patel 认为,一旦模型能在部署后持续更新权重,整个 AI 格局就会变。他打了个比方:就像学萨克斯,光靠看前人的笔记永远学不会,模型也不能只靠会话间传小纸条来真正干活。这会直接冲击现在的监管思路——不能再指望上线前做一次安全检查就万事大吉,按月或按季度做风险巡检才更合理。对齐研究也得转向,从盯着冻结的权重,变成防止模型在持续更新中被...
#Inference-opt#Dwarkesh Patel#Anthropic#DeepSeek
精选理由
精选 · 重要度 88 · 吸引力 + 知识量 + 共鸣
一句话点评
Dwarkesh 预测模型部署后会持续学经验,这会让 AI 监管和商业模式全变样,但正文没给出任何技术实现细节。
锐评
这篇文章的核心判断是:未来的 AI 不会像现在这样训练完就冻结,而是像人一样,在跟用户打交道的过程中不断更新自己的“脑内回路”。作者用学萨克斯风的例子把这个道理讲得很透——光靠记笔记传给下一个人,永远学不会。这个视角直接挑战了当前“先评测再部署”的监管思路,指出如果模型权重一直在变,那一次性的安全检查就没意义了,不如改成定期巡检。 文章还推演了几个商业后果,比如模型会越用越聪明,用户想换供应商就像开掉一个熟悉公司所有业务的老员工,迁移成本极高。这会给领先的 AI 实验室带来真正的护城河,他们甚至可能补贴用户来换取训练数据。但所有这些推演都建立在一个大前提上:技术上真的能实现安全、高效的持续学习。正文完全没有讨论这个前提,没提任何具体方法、算力开销或灾难性遗忘问题。所以这些预测更像是一份思想实验,告诉你如果这事成了世界会怎样,但离“这事能成”还差着关键的技术证据。
HKR 分解
hook knowledge resonance
打开信源
88
SCORE
H1·K1·R1
2026-08-04 · 星期二2026年8月4日
2026-08-03 · 星期一2026年8月3日
2026-08-01 · 星期六2026年8月1日
2026-07-30 · 星期四2026年7月30日
2026-07-29 · 星期三2026年7月29日
2026-07-28 · 星期二2026年7月28日
2026-07-23 · 星期四2026年7月23日
2026-07-16 · 星期四2026年7月16日
2026-07-14 · 星期二2026年7月14日
2026-07-09 · 星期四2026年7月9日
09:00
75d ago
● P1最佳拍档· atomZH09:00 · 07·09
Lilian Weng论述AI自我改进的核心在于Harness工程而非模型本身
Lilian Weng发了一篇长文,讲AI通过递归实现自我改进,核心是先做好Harness工程(可以理解为给模型搭好训练和评估的脚手架)。文章提到了三种设计模式:ACE、MCE和Meta-Harness,以及反馈循环和STOP机制。正文没披露具体技术细节,比如每种模式怎么实现、效果如何,所以想深入了解得去看视频。
#Lilian Weng
精选理由
精选 · 重要度 88 · 吸引力
一句话点评
Lilian Weng 这篇综述把 AI 自我改进的焦点从模型本身拉回到“脚手架工程”,观点很明确:模型再强,也得靠外部工具链和反馈循环才能自己迭代自己。
锐评
Lilian Weng 梳理了 35 篇论文,核心判断是:AI 的递归自我改进(RSI)目前主要靠 Harness 工程,也就是围绕模型搭建的工具链、反馈循环和任务编排,而不是让模型直接修改自身权重。她把这套思路拆成三种设计模式,并重点提到了 ACE 和 Meta-Harness 等近期工作。 这个判断对从业者来说挺实在。它意味着现阶段与其死磕模型内部能力,不如把精力花在怎么让模型在业务流程里跑起来、怎么收集高质量反馈信号。文章也引了 Greg Brockman 的类似观点,说明业界在往同一个方向靠。 不过,这篇综述本身是观点梳理,不是实验报告。正文没给出这些 Harness 方法在具体任务上的横向对比数据,也没讨论不同设计模式在成本、延迟上的实际开销。如果后续能补上工程落地时的坑和量化收益,参考价值会更大。
HKR 分解
hook knowledge resonance
打开信源
88
SCORE
H1·K0·R0
2026-07-08 · 星期三2026年7月8日
2026-07-03 · 星期五2026年7月3日
2026-07-02 · 星期四2026年7月2日
2026-07-01 · 星期三2026年7月1日
2026-06-30 · 星期二2026年6月30日
2026-06-26 · 星期五2026年6月26日
2026-06-24 · 星期三2026年6月24日
2026-06-22 · 星期一2026年6月22日

更多

频道

后台