晚点聊 LateTalk

本期《晚点聊》，我与刚从港科大博士毕业的一位年轻研究者高深远，他从去年开始在英伟达实习，接下来马上会正式加入英伟达的具身智能实验室 GEAR。

我们聊了深远 2024 年以来一直专注的方向：世界模型。

前 1 个多小时，我们展开了整个世界模型的大图景：它的分类？它是为了解决什么问题？它的现状、瓶颈和未来方向，以及各主要公司的思路。

很多人认为世界模型的说法太模糊、涵盖太多，这是一些早期技术的常见现象，这期正好厘清，目前有哪些做世界模型的方法和思路。

后一部分，我们聊了GearLab 在世界模型上的一些实践。尤其是去年底至今，他们陆续发布的世界模型 DreamDojo，（深远是这个工作的联合一作）以及被认为有可能会取代 VLA 的世界动作模型 DreamZero 的研发历程和具体创新点。也延展聊了世界模型可能的竞争局面。

深远描绘了他认为非常有前景的一种自进化循环——它由世界模型、策略模型（如 VLA、WAM 等）和连接二者的 Agent 构成。在英伟达，世界模型和策略模型有 DreamDojo-DreamZero 的组合，在 DeepMind 有 Genie-SIMA的组合。以下的图示更容易帮助理解播客里的讨论。

图注：图中大脑代表 agent，机器人代表 policy，地球代表世界模型，中间是数据集。世界模型的输出（对世界下一刻的预测）是 agent 的输入，供 agent 给预测打分，打分可用以优化 policy；同时世界模型的输出也是 policy 的输入，而 policy 的输出（动作）是世界模型的输入。同时，agent 也给 policy 做任务规划。

世界模型到 agent 和 policy 是用视频/图像通信；policy 到世界模型是用 action 通信；agent 到 policy 是用文本通信；agent 优化 policy 可以是一个打分数值，也可以是由文本媒介转过来的一种分数信号。

本期节目的图文版也已经发布:与英伟达 GEAR 高深远聊世界模型、自进化循环和 DreamDojo

本期嘉宾：高深远，英伟达 GEAR 研究员

本期主播：程曼祺，《晚点 LatePost》科技报道负责人

剪辑：Nick、甜食

时间线跳转：

- 世界模型大图景

02:19 世界模型是什么？ 施加动作，预测世界下一刻的状态

05:35 多 Agent（车/机器人）互联的世界模型

09:57 按世界状态的表征方式分类： 4 种世界模型

15:33 最看好 video 世界模型， 因为数据够丰富

19:36 世界模型为何热起来？ 数据增多 + 策略模型变强了

- 世界模型、策略模型和 Agent 的自进化循环

21:42 策略是什么？和世界模型的关系

23:39 WAM（DreamZero）相比 VLM 的变化

28:26 世界模型的一大价值是服务策略： 测评、生成数据、突破物理限制的虚拟强化学习

33:42 循环三要素： 世界模型、策略、Agent，它们如何彼此连接、优化

- 世界模型的未来

43:07 当前最大瓶颈，突破泛化： 物理的泛化、动作的泛化

51:49 世界模型难以横评， 难以直观看到不同模型的差别

55:28 各团队的世界模型进展： DeepMind、Nvidia、OpenAI、General Intuition

- 从自动驾驶到具身，从 AI Lab 到 GEAR

01:02:44 “在学界继续做自动驾驶世界模型没意思了”

01:06:30 加入 GEAR，DreamDojo 和 DreamZero 的发起

01:14:12 在英伟达构建最大规模 Human Center 数据

01:21:05 跨本体的 Latent action，以后还需要吗？

01:28:41 DreamDojo 的评测： 自建 6 个 benchmark 的逻辑

01:34:50 自己不掌握视频基模，能做出有竞争力的世界模型吗？

- 01:45:44 连点成线

相关链接：

157 期：【具身季报 26Q1】宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手

150 期：【年末AI回顾】从模型到应用、从技术到商战，拽住洪流中的意义之线|Solo

148 期:它石智航陈亦伦：具身的三道曙光和第一道关卡

附录：一些名词解释

- 级联误差，Cascade Error：指在包含多个串联模块或阶段的系统中，前一阶段产生的误差未被纠正，直接传递给下一阶段，误差被放大。

- Genie（Generative Interactive Environments）：DeepMind 团队发布的基础世界模型。它能通过一张图或一段文字描述生成一个动作可控的虚拟世界。目前发布到 Genie 3

- SIMA（Scalable Instructable Multiworld Agent）：DeepMind团队开发的虚拟角色策略模型（DeepMind 称其为 Agent），能理解玩家用自然语言下达的指令（如“向左转”、“拿起斧头”），在 Genie 等各种虚拟环境中操控角色执行任务（产生动作）。

-** Intuition**：一家希望打造空间智能的美国创业公司。

小红书@曼祺_火柴Q即刻@曼祺_火柴Q

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。

这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「闭源软件价值消失，从 token 和模型上赚钱。」

今天的嘉宾是明略科技创始人吴明辉。2004 年时，他就在北大计算机系做人工智能研究，硕士期间开始创业。

在这一轮大模型热潮前，明略曾在 2020 年尝试用 AI 做组织智能，大举扩张，包括收购了 Manus 创始人肖宏的上一家创业公司，夜莺科技。这一次 AI 尝试以失败告终。

这没有影响吴明辉现在对 AI 的热情。24 年以来，明略陆续发布了自己的行业模型，完成了上市。在 OpenClaw 引起个人 Agent 热潮后，他们也开始了一场更彻底的变革。

这一期我们聊了 AI 怎么影响 SaaS 和软件，明略做出的应对，他们即将开源发布的多 Agent 协同网络章鱼，以及一个存在已久的组织可以怎么被 AI 改变。

本期节目的图文版也已经发布:对话明略吴明辉：AI 正在杀死 SaaS，但我找到了一条新路

本期嘉宾

吴明辉 明略科技创始人

本期主播

程曼祺 《晚点》科技报道负责人

时间线跳转：

SaaS 已死，软件系统本身会走向开源

01:42 Agent 正杀死 SaaS 已死，数据和上下文的价值更大了

05:53 OpenClaw 开启的新可能：穷人版（不从基模入手的）持续学习

11:53 明略的主业数据挖掘和分析，如何被 AI 改变

19:51 新探索：Agentic Service。软件开源、自训模型赚 Token。

多 Agent 协同网络，“龙虾哲学”

29:15 章鱼想构建集体学习网络， (eˣ)' = eˣ 的指数级增长要给自己造工具

35:51 章鱼开发过程：小团队+AI，核心改造是：认人+权限+信任机制 + 品鉴信号

46:23 龙虾的哲学：康德的义务论约束不了人，但可以约束龙虾

56:30 vs 巨头：章鱼直接开源，“飞书做 AI 转型，也得开源”

01:05:51 自研 GUI-VLA 模型，最大场景是软件自动测试

01:14:35 vs 更小初创企业：1800 人的明略会变得更像“投资公司”

从 Scaling up 到 Scaling Out：站在"被AI欺负的人"那边

01:20:33 scaling up 是追求单性能突破，scaling out 是横向扩展 agent 网络；后者对人的价值更友好

01:26:37 专注行业小型模型，将开源web retriever数据集；Agent 网络可实现个性化持续学习

01:34:19 验证标准：商业成功+ 科学发现能力；风险是“物理猝死”，大脑太活跃

5 年前做 EIP（企业智能平台）， 失败的教训

01:37:47 技术判断太乐观，团队共识不够：

01:45:29 1000 多人大团队，"八方神仙"做一个没人懂的产品

01:55:23 从春风得意到减半裁员：看到人的存在；所以现在不裁员，给每个人 AI 船票

01:58:58 希望本身产生力量，尤其是众人的希望

02:03:29 新的 AI 投入何时表现在财务上？

AI 原生一代

02:08:11 看女儿用 AI：AI 原生一代的观察与启发

02:11:37 不再和孩子一起刷奥数题，识别 beautiful 的题才做

02:15:14 没有危险的专业，而是只会 Think 是危险的

02:18:43 工程师的新价值：在不断变化的应用环境里判断需求，这仍是 AI 无法做的

02:24:29 Scaling Out一定会发生：小公司会先做出来

连点成线：Coding is eating the world，从软件重塑世界到代码重塑世界

剪辑：Nick

相关链接：

156期：AI季报26Q1：OpenClaw、OpenAI vs Anthropic的三重对阵、自进化

151期：MuleRun 陈宇森：Claude Code 带来 Agent 创作新范式、未来的软件是日抛式的

小红书@曼祺_火柴Q即刻@曼祺_火柴Q

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。

这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「走进不同团队的成果，创新从来是连续的，不是跳跃的。」

上周五，DeepSeek V4 发布。我们邀请了两位一线 AI 从业者一起详解 DeepSeek V4 的技术实现和创新想法。

如果一句话概括：DeepSeek V4 并没有带来新的“范式变化”，它是继续在 R1 的“测试时扩展”范式下，用一系列组合创新和工程优化，让百万上下文从理论进入实用。

超长上下文上的稳定表现，正是 Agent 和多步复杂任务亟需的能力之一。

本期涉及的诸多技术术语见 Shownotes 末尾注释。

本期节目的图文版也已经发布:详解 DeepSeek V4：Infra 巨鲸 “四连击”，百万上下文走进现实

本期嘉宾

赵晨阳，RadixArk 工程师，SGLang 开源推理框架开发者

刘益枫，UCLA 博士生

本期主播

程曼祺，晚点科技报道负责人

时间线：

体感、对比、消失的成本、DeepSeek 的节奏

03:01 编程能力与“御三家”有差距；不再采用 DeepSeek 自己提出的 MLA

07:44 不再披露训练成本，“用模型能力说话”

09:23 延期推测：四个耦合的新 feature （新注意力+Muon+mHC+FP4）一起上，难度爆炸

12:36 不是范式创新，沿现有范式仍有巨大提升空间

性能与效率

14:32 提出新的能力方向比刷单个 benchmark 重要

16:41 坦诚的内部评测：9% DeepSeek 工程师不会把V4 Pro 作为编程首选

23:03 单 token 推理的计算量和 KV cache 大幅优化，但解决同样问题的 token 消耗更多了

V4 具体进展

28:32 整体思路：极致的稀疏

33:45 混合稀疏注意力：放弃 MLA，SWA滑动窗口+CSA稀疏压缩+HCA稠密压缩，层间预定义分工

39:37 Muon 优化器已成检验工程能力试金石

48:52 mHC：从 Seed 提出 HC 到 mHC；Kimi 的 Attention Residuals

54:24 Infra 两个关键词：TileLang & FP4

01:10:11 多专家训练+蒸馏的后训练

01:13:20 评测危机：benchmark会过时饱和，evaluation是永恒追求，agent评估未共识

更多讨论

01:19:25 近期模型共性：架构趋同（MOE+Muon），优化方向驱动（agent、coding）

01:25:18 美国追新能力、高定价；中国追性价比、工程极限

01:28:00 V4 最有可能被记住的思想：极致压缩+低激活比+低单token成本，成为后续开源模型起点

剪辑：Nick

相关链接：

158期：V4发布前的DeepSeek：人才竞争、组织特点和独特的AGI目标

143期：再聊 Attention：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进

104期：我给线性注意力找“金主”，字节 say No，MiniMax say Yes

103期：用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进

102期：DeepSeek 启动开源周，大模型开源到底在开什么？

附录：术语、概念解释

- 模型架构相关

Token-wise（词元级）改进：优化模型处理单 token 的过程，通常用于提升注意力计算、上下文建模或推理效率。

Layer-wise 的改进：优化模型不同网络层的结构或计算方式，通常用于提升训练稳定性、表达能力或整体计算效率。

MoE：Mixture of Experts 混合专家网络，让不同“专家”子网络处理不同输入，降低单次计算成本。

哈希路由：把 token、样本或请求分配到不同专家、节点或存储位置的方法。V4 在前几层 MoE 用了哈希路由，避免起始层路由塌缩。

Engram：DeepSeek 之前提出的一种带 N-gram 编码器的辅助模块，通过额外编码连续 token 片段，帮助模型利用局部短语级信息。V4 未使用 Engram。

- 注意力相关

MLA：Multi-head Latent Attention，多头潜在注意力，引入潜在表示压缩 KV 信息的注意力机制，能降低显存占用和计算开销。

MQA：Multi-Query Attention，多查询注意力结构，共享 Key/Value，仅保留多头 Query，提升推理效率并减少 KV cache。

线性注意力：通过核函数或近似方法将注意力复杂度从二次降低为线性（一维），是改进原初注意力随上下文长度增加，计算和显存爆炸的方向之一。

稀疏注意力：仅计算部分 token 间的注意力（而非全连接），改进原初注意力问题的另一主流方向。

滑动窗口注意力：限制注意力仅在局部窗口内计算的一种稀疏注意力。

CSA：Compressed Sparse Attention，压缩稀疏注意力。用于长上下文建模的注意力机制。把序列分组压缩成更少的token，query再从中挑选出最相关的部分。V4中的压缩比是4:1。

HCA：Heavily Compressed Attention，高度压缩注意力。同样用于长上下文建模。相比CSA压缩比例更高（128:1），query无需挑选token。

NSA/DSA：V4发布之前，DeepSeek 在年初和 9 月先后提出的两种稀疏注意力方案。

- 优化器相关

AdamW：一种改进的 Adam 优化器，通过解耦权重衰减（weight decay）提升训练稳定性和泛化能力。

Muon：一种面向大模型训练的优化算法，通过改进梯度更新或内存效率来提升训练性能。

Learning Rate：学习率，控制模型参数每次更新步长的超参数，对训练稳定性和收敛速度至关重要。

牛顿-舒尔茨迭代：一种用于矩阵归一化或求逆的数值迭代方法。Muon 作者 Jordan 提到通常使用 5 次迭代，V4 中采用了 10 次迭代。

- 残差相关

HC：Hidden/Highway Connection，一类改进残差连接的信息通路设计，用于增强信息传递或控制梯度流。

mHC：Manifold-Constrained Hyper-Connections 流形约束超连。DeepSeek 在 HC 基础上的改造，解决了 HC 在大规模训练时的数值不稳定问题。mHC 使用了双随机矩阵，即每行和、每列和都等于 1 的矩阵，以约束信息流。

Attention Residuals：注意力残差连接，将注意力模块输出与输入相加，用于稳定训练并保留原始信息。

- Infra 相关

矩阵乘法：深度学习中最核心的基础计算操作（如向量与权重相乘）。

Kernel：算子核，指在底层硬件（如 GPU）上执行的高效计算函数，是深度学习算子的实现基础。比如矩阵乘法就要写 Kernel 去实现。

CUDA：英伟达开发的能使用 GPU 的一层软件系统，也指一套语言，本次访谈语境里指编写 GPU 算子 kernel 的语言。

Triton：由 OpenAI 开源，是对 CUDA 的一层抽象，能更简单的写 Kernel。

TileLang：一种面向 AI 高性能算子的 tile 级 DSL / 编译框架，把矩阵乘法、注意力等张量计算映射到 GPU 等硬件上执行，在 Triton 的易用性和 CUDA 的控制力之间取得了较好的平衡。

FP8、FP4、INT4：低精度数值格式，分别用 8 位、4 位浮点和 4 位整数表示模型中的权重或中间数据，用于降低显存和带宽压力、提升训练或推理效率。

FP4 比 FP8 更省显存和带宽，又比 INT4 更保留浮点动态范围，因此更适合复杂训练/采样链路，但收益取决于硬件、缩放策略和 kernel 实现。V4 在 1.6T 参数规模上实现 FP4 训练是个不小的挑战。

小红书@曼祺_火柴Q即刻@曼祺_火柴Q

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。

这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

出海对于中国企业来说并不新鲜，无论是早年的华为、中兴，还是大疆、影石、拓竹这样的消费硬件公司，再到 Tiktok、腾讯游戏、Temu 等互联网公司，成功的例子有非常多。但之所以我们说它是一个新的话题，是因为我们来到这个 AI 的时代，不仅看到大批的 AI 创业公司正在积极的向海外拓展，也见证着 AI 改造他们出海的路径、方式、增长、营销。

过去一年，我们也看到了很多借助 AI 营销翻车的案例，比如麦当劳在荷兰上线的一支几乎是由 AI 生成的节日广告，上线后就迅速遭到了大量的吐槽：不仅仅是画面看起来比较粗糙，更在于这个广告它传达出来的气质被认为是廉价的、偷懒的，没有什么诚意。

今天的播客，我们与飞书深诺 Meetsocial 的创始人兼 CEO 沈晨岗先生一起聊了聊，AI 在今天究竟是如何改变中国企业出海模式的？中国与美国的 AI 营销生态究竟有什么区别？在 AI 时代到来以后，企业需要建立起哪些新的能力，才能在营销战中脱颖而出？

本期节目由飞书深诺特别支持播出

本期嘉宾

沈晨岗，飞书深诺集团创始人兼 CEO

本期主播

高洪浩，晚点 latepost 主笔

时间线：

Part 1 中国企业出海变迁史

04:17 中国企业出海的三个阶段：产品、公司、品牌

07:43 早年中国出海企业没有认识到营销的力量

09:45 2025 年开始中国企业出海营销范式发生变化

12:32 转型成功的出海企业案例：安克

16:18 衡量企业出海能力的模型指标：D-MES

Part 2 AI 时代下，中国企业出海的新变化

22:47 出海营销领域在 AI 上的共识与非共识

25:29 AI 的使用应该与企业的商业化目标相匹配

30:38 过去三年，AI 如何改变出海营销

Part 3 中国与美国的 AI 营销

34:07 硅谷观察记：中美 AI 营销的差异

38:30 美国营销公司的历史包袱导致 AI 难落地

Part 4 AI 在未来将如何改变出海营销

42:16 Agent 时代的出海营销模式

48:42 案例：Agent 变革短剧投流

51:46 AI 时代，创意和审美变得更重要

57:07 出海服务商如何适应 AI 时代

01:01:30 三年和五年后，AI 将如何改变出海营销

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。

这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「不做人形机器人的具身智能创业。」

本期嘉宾是原力灵机的联合创始人和 CEO 唐文斌。

2011 年，他和两位清华同学，印奇、杨沐一起创立旷视，这是中国最早的 AI 创业公司。比 DeepMind 晚一年。

2025 年初，唐文斌成立原力灵机，开始具身智能的新创业。

在本科到研究生时，他做过七年中国信息奥赛国家队的总教练，认识了大量奥赛 “小天才”，其中不少人之后加入了旷视，现在又在原力灵机和文斌一起创业。

本期节目也有视频版，可在小红书、B 站、抖音、视频号平台关注「晚点聊 LateTalk」收看。

本期节目的图文版也已经发布:对话原力灵机唐文斌：当中国最早的 AI 创业者做具身，他选择先不做人形

这期我们聊了竞赛往事、旷视的创业复盘和原力灵机的这 1 年：这是一家不做人形机器人的具身智能公司。也是一家会直接参与多模态基模预训练的公司。

这两件事都是非常规的少数派选择。

原力灵机会给中国具身市场带来哪些不同？请听完整节目吧。

本期嘉宾

唐文斌，原力灵机联合创始人 & CEO

本期主播

程曼祺，晚点科技报道负责人

剪辑：杨

时间线：

竞赛、姚班、IOI 国家队总教练：解题的本质是优化，出题比难题更难

01:49 同时参与三项奥赛：信息奥赛的乐趣是解法不唯一

05:50 本科继续 TopCoder ：Challenge 机制下，一次干掉 19 个队

08:29 七年 IOI 国家队教练：出题比做题难

10:31 唐杰的第一个研究生，与印奇相约创业

旷视创业：从体感游戏到 AI 技术平台

15:30 以 CV 技术做体感游戏，登上 App Store 免费榜前三

21:56 Face++ 开放平台，技术驱动 vs 产品驱动的两种创业

24:45 高中生范浩强成为旷视 6 号员工，“强进（周而进）组合” 夺得 ICCV 人脸识别全球冠军

30:19 AI to B 三个总结：价值可量化、不占客户太高成本、避免项目陷阱

十年前的智能机器人

34:31 调度系统才是提效核心，5 轮竞标拿下优衣库上海大仓

41:08 从差点搞砸到见到柳井正，拿下优衣库全球订单

从旷视机器人到原力灵机：参与预训练、不做人形机器人

49:21 从范浩强到张祥雨：旷视的一些 “老人” 为何不散？

53:37 再看「天才策略」：大牛口头禅是 “这不本质”，而影响客户体验的所有东西都本质

01:00:38 具身原生：参与 VLM 预训练，一开始就加入机器人数据

01:11:01 只有具身公司能做的事

01:23:34 不做人形机器人，用模块化组合避免 overkill 或 underkill

01:27:14 RoboChallenge 和 Dexbotic，为何创业公司要开源 Infra?

01:39:39 具身行业会先分散再集中，幸存的个位数公司多数会是中国公司

01:46:34 为了低谷的绸缪：备足干粮、专注投入相信的事

01:55:33 曾做过太多加法，发现 A+B+C≈max(A,B,C)

02:03:50 创业 15 年：感谢一波又一波浪潮，依旧兴奋

02:04:51 真正的通用智能机器人，“这值得投入 lifetime”

02:06:14 连点成线

相关链接：

157 期：具身季报 26Q1：宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手

155 期：贾鹏创立至简后的首次访谈：从英伟达到理想，具身智能的六边形战士

小红书@曼祺_火柴Q即刻@曼祺_火柴Q

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。

这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：