我在 Character.ai 做 Post Training|对谈前 C.AI 模型应用算法专家 Ted
活动预告🥳:12 月 7 日,我们会请到 Ted 做一场线上活动,大家记得翻到 shownotes 末尾查看报名信息!在我 9 月份的硅谷行程里,我见过的印象最深、让我最有收获的人之一就是 Ted。那个时候他正要离开 Character.ai,作为第四十多号加入的员工,他对于 C.AI 的产品、模型、训练等等的熟悉程度都非常高,这次很开心能把他请来,跟大家一起分享下美国最著名的 AI 公司内部是如何运作的,Post Training 的最佳实践是怎么做的,以及硅谷一众 AI 从业者的现状和认知等。这期播客的内容基本代表了美国最一线的 AI 从业者的实践和认知,非常有代表性,希望对大家有帮助!最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看)【人类博物馆】导游:曲凯,42章经创始人28 号珍藏:Ted,前 C.AI 模型应用算法专家Part 1 从内部视角看 C.AI 01:06 为什么商业化一直没做起来? 04:40 如果 C.AI 当时往 AGI 赌把大的,或者把产品交给字节系,能改写自己的结局吗? 06:51 我们很认可 Talkie,但不想学 Talkie 09:36 被收购后,你还相信 C.AI 类产品的未来吗? 11:35 有人说「C.AI 不是真正的 AI 陪伴」,那它到底是啥? 12:19 C.AI 为什么做得比别人好?Part 2 我在 C.AI 做 Post Training 的这一年 14:56 工作状态是 996(主动的哈,passion! 17:15 Post Training 的核心是设计高效的迭代路径 18:42 四种迭代路径,都有很多低垂的果实可以摘 21:40 怎么评估和改善「模型变蠢」的问题? 22:54 迭代中一个有趣的 EQ 涌现 24:19 Post Training 到底是怎么个流程? 25:37 介绍 Post Training 三大件:SFT(监督微调) 、RLHF(人类反馈强化学习)、DPO (直接偏好对齐) 32:07 以上天花板极高,RAG 和 Prompt Engineering 我们几乎没做 32:53 帮你拉开和同行差距的 2 道数据思考题: 33:18 你微调用的数据,质量真的不能更高了吗? 36:00 收集来的用户偏好数据,只能是点赞点踩吗? 39:32 大家现在关注的几个技术难题,C.AI 是怎么做的? 39:49 怎么做好评估? 41:10 怎么做好意图识别? 43:22 C.AI 的语音延迟基本是业界做得最好的,是怎么做到的? Part 3 硅谷观察 46:17 一个不被公开的秘密:ChatGPT 内部也是多模型混用? 47:28 硅谷整体还是很乐观,推理侧仍然大有可为 50:45 硅谷现状: 51:01 做产品的想靠多模态赚钱 51:06 搞算法的想复制 o1 51:16 两边都在期待自动交互 Agent 解锁的想象空间 53:48 复盘最近的硅谷求职记 53:54 Post-train 人才极其抢手 54:27 印象最深的是,面 Cursor 的时候,我甚至被允许用 Cursor 现场解题 56:03 最喜欢被问到「你觉得我们的 idea 有多不靠谱?」 56:45 如果我是面试官,我会考察面试者的这项直觉能力 57:28 我很喜欢现在硅谷的氛围!当下可能是华人扬眉吐气的最好时机【活动预告🥳】12 月 7 日,我们会请到 Ted 做一场线上活动,感兴趣的朋友欢迎点击链接或扫描下面的二维码,一起来认识&交流!【The gang that made this happen】 制作人:陈皮、Celia 剪辑:陈皮 Bgm:Mondo Bongo - Joe Strummer & The Mescaleros
--------
1:00:11
这可能才是 AI 陪伴真正该有的样子|对谈刷屏产品 EVE 创始人 Tristan
几周前,EVE 的产品宣传片一上线就在 B 站获得了超百万播放,且刷屏了朋友圈。几天前正好和一个投资人聊天,大家在讨论未来的 AI 巨头和入口型的公司/产品到底有什么可能性,我当时就说 AI 陪伴类产品肯定是有大机会的,过去两年里,真正验证了 PMF 的赛道就是 Character.ai 类的产品形态,不管从用户量级还是时长等数据来看,这类产品都一骑绝尘。当然,如 EVE 的创始人所说,在他眼中,C.AI 根本就还不算真的陪伴,这可能也是类似产品没有获得更大突破和成功的原因。作为最早的恋爱游戏类公司创始人,他有自己一套清晰的关于陪伴的定义,这不仅让他做出了最成功的乙男向游戏《奇点时代》,也让他能做出现在的这款万众期待的 EVE。在这期播客中,我们具体聊了他是如何定义陪伴的、他是如何用各种复杂工程手段解决长期记忆等模型问题的、以及他是如何把游戏和 AI 产品结合起来的等等话题,作为最早期的内测用户之一,我非常相信 EVE 能在明年成为一款现象级的产品。最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看)【人类博物馆】导游:曲凯,42章经创始人27 号珍藏:Tristan,EVE 创始人,《奇点时代》创始人【时光机】Part 1 背景介绍 00:54 为什么我说 C.AI 类产品根本不是陪伴 2:38 陪伴的第一性原理Part 2 工程设计 4:22 所有人都解决不了的长期记忆问题,你们是怎么实现的? 4:55 被动记忆与主动记忆的区别 6:24 情侣实验与 128 个记忆槽位 8:03 给 AI 女友设计脑回路:我们用十几个模型搭建了一套工程管线 10:08 举个例子,一个最复杂的话题处理流程是什么样子的? 12:44 交代一下成本与商业模式Part 3 游戏设计 14:07 一个迷思:为什么只有你们把 AI 产品做到了这个程度? 15:42 从游戏转做 AI 陪伴的明显优势 17:07 那些产品中的游戏化设计 (及用意) 23:51《奇点时代》一年 2 亿流水,其实远低于我们对男性恋爱游戏的市场预期 25:00 我相信世界 50% 人都会需要一个 AI 伴侣 27:14 聊聊角色设计Part 4 AI 设计 29:27 怎么做到 10 个月的时间就快速搞懂、搭建起这样一套 AI 架构? 31:13 如何训练出市面上最好的情感聊天效果? 32:39 我们找了一个天资卓绝的真人陪聊,试图复刻她的大脑 37:51 AI 陪伴的四个核心要素38:10 超级对齐38:26 真实时空感知39:17 独立人格43:20 荷尔蒙钩子 43:45 模型的情商和智商到底是怎样一个关系?【Reference】 EVE 预告 PV (内含产品内测申请链接) EVE 模型系统工作机制:【The gang that made this happen】 制作人:Celia 剪辑:陈皮 Bgm:Mondo Bongo - Joe Strummer & The Mescaleros
--------
45:16
Cursor 刷屏背后,复盘 AI Coding 的现状与发展|对谈 Gru.ai 创始人张海龙
活动预告🥳:11 月 7 日晚,我们会请到张海龙做一场免费的线上活动,大家记得翻到 shownotes 末尾查看报名信息!前一阵 Cursor 刷屏,也带火了有关 AI Coding 的讨论。AI Coding 到底发展如何了,Cursor 为什么火了,他们和 Github Copilot 的区别是什么,Coding Copilot 又和 Agent 的区别是什么?其他那些 AI Coding 公司都在做什么,为什么国内的 AI Coding 似乎不温不火?带着类似的种种问题,作为一个非技术背景的人,我找来了张海龙一起来聊聊 AI Coding 这件事。海龙无疑是国内在 Coding 领域最有发言权的人之一,他写了 20 多年程序,一直致力于做给程序员的工具,他曾经是开源中国的联合创办人和 Coding.net 的创始人,最近的一年多时间里他也又重新创业在做 AI Coding 方向。在摸索了一段时间以后,他也经历过产品转型、也踩过坑,这些都让他对 AI Coding 有了更深的理解,也对当下这个市场各个公司和类别有了更好的判断。所以,你可以把这期播客当做一个对 AI Coding 领域的入门和了解的素材,哪怕不懂编程,听完这期你也会有更深的了解和认知。最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看)【人类博物馆】导游:曲凯,42章经创始人26 号珍藏:张海龙,Gru.ai 创始人,前 Coding.net 创始人兼 CEO、开源中国联合创办人【时光机】Part 1 为什么国内的 (AI) coding 没做起来 1:56 Developers 是最不愿意花钱的一群人? 3:37 我最新的感知是,海外比国内更卷 4:33 国内 AI coding 发展现状 5:31 国内是在有 PMF 之后卷,海外是在有 PMF 之前卷Part 2 Coding Copilot vs Agent 6:20 Copilot 与 Agent 的区别:Copilot 是给你一把电钻,Agent 是给你一个小弟 7:43 Copilot 已经明确跑通了 PMF 7:52 简评赛道老大哥 Github Copilot 9:03 详评新晋顶流 Cursor:成功靠的是大胆创新,大胆到一开始很多人觉得不靠谱 16:53 Agent 还没有找到 PMF 17:27 Devin 等等都是有声量,无留存 18:53 但为什么这个赛道还如此拥挤? Part 3 关于 Coding Agent 的实践思考 21:30 我们找到的一个好落地的场景:Unit Test 24:37 Agent 会最终淘汰 Copilot 吗? 25:30 我不相信「编程大众化」的未来 27:44 模型会最终吃掉 Coding Agent 吗? 30:50 我坚定地认为,AI 替代不了人类程序员 32:44 一些硅谷观察 32:52 有千奇百怪的 AI+ 项目,且能拿钱 33:52 我在国内啥 SaaS 都不买,来了这啥 SaaS 都买 35:27 最后的建议:多读论文多动手,获得那些微妙的体感至关重要【活动预告🥳】11 月 7 日晚,我们会请到张海龙做一场线上活动,感兴趣的朋友欢迎点击链接或扫描下面的二维码,一起来认识&交流!【Reference】 Cursor 成功的背后:两个 PMF【The gang that made this happen】 制作人:陈皮、Celia 剪辑:陈皮 Bgm:Mondo Bongo - Joe Strummer & The Mescaleros
--------
37:08
重生之我在大厂做 AI+教育的 18 个月 | 对谈高途 AI 产品负责人封诚
我们做过非常多创业者的访谈,这次不一样。封诚作为一个连续创业者,在 AI 最鼎盛的时期,反而选择加入了大厂高途,并在内部负责 AI 产品的探索。之前也有人提过说想听到更落地的实际的 AI 在传统行业的应用,这期播客中我们就聊了他们是如何在业务中具体应用 AI 的,比如在获客、转化和交付等全链条场景中的探索和试错。作为结果,目前他们已经能用 AI 把转化效率提升至少一倍,并且模式也已经完全跑通,相信这件事不只是在教育行业可以得到应用,在其他很多行业也是类似的。此外,我们自然也聊到了很多教育领域的情况,以及他在大厂做 AI 的感受。最后提一个问题,你觉得 AI 到底能不能取代老师呢?而当 AI 可以帮老师解决几乎所有的问题时,老师实际存在的意义又是什么呢?我很喜欢这期播客中我们一起给出的答案。最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看)【人类博物馆】导游:曲凯,42章经创始人25 号珍藏:封诚,高途 AI 提效 & 创新产品负责人【时光机】Part 1 AI 赋能传统业务的核心是提效 01:56 体现在三个环节: 02:47 交付端:提效不明显,但存在彻底掀桌子的可能 03:45 获客端:有很多短期的机会,但不可持续... 06:38 转化端:价值最大,可稳定提效至少一倍 09:43 AI 把我们的成单率提高了 3-4 倍 12:42 招人之「让懂 AI 的人学业务」会好过「让懂业务的人学 AI」 14:23 转化场景里 AI 具体能做什么? 16:25 提效的本质是给金牌销售配了一堆助理Part 2 AI native 的探索和思考 17:11 用好 AI 的最大难题:大家 ego 太大,耻于摘那些低垂的果实 18:37 怎么培养创业者视角?稻盛和夫培养管理者的方式对我很有启发 22:10 AI 和教育的本质非常 match 22:46 AI 提效这个事儿能不能外包来搞? 26:31 AI+教育都有哪些全新的产品机会? 29:35 当 AI 可以帮老师解决所有问题时,老师存在的意义是什么? 32:45 创业者都可以问自己这三个问题【活动预告】10 月 24 日,我们会在北京办一场线下活动。除了主讲嘉宾封诚,我们还请到了其他嘉宾,在陆续确认中。感兴趣的朋友欢迎点击链接或扫描下面的二维码,一起来认识 & 交流!(尤其欢迎正在探索把 AI 和传统业务结合起来的朋友们~)【The gang that made this happen】 制作人:陈皮、Celia 剪辑:陈皮 Bgm:Mondo Bongo - Joe Strummer & The Mescaleros
--------
35:31
找 PMF 就是要做没壁垒的事 | 对谈连续创业者 Albert
Albert 是我个人最喜欢的嘉宾,每次的输出都有很强的时效性、有很多的深度认知、也有很多实操经验,他很擅长总结、思考和输出金句,且言之有物。这期播客大概正好是上期之后的一年,也是 Albert 真正做 AI 产品的一年,所以在这期播客中我们反思了很多 AI 创业和产品的认知,比如 AI 的本质到底是什么?该怎么选择 AI 的落地方向?该如何寻找 AI 产品的 PMF 等。另外,这一年对很多人来说都是面对很多 AI 的发展局限和负反馈的一年,Albert 也给我们讲了他是如何克服这个问题、如何改变思维方式的(包括他向张一鸣提的两个问题和对答案的思考)。相信所有听过上期 拒绝三亿美金 offer 的人 节目的人,应该都认同一件事,就是小宇宙真的欠他一个首页。这不,新一期又来了。最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看)【人类博物馆】导游:曲凯,42章经创始人六号珍藏:Albert,AI 创业者 (往期考古:拒绝三亿美金 offer 的人 | 对谈音遇创始人 Albert)【时光机】Part 1 AI 创业的本质 2:15 最重要的问题有两个: AI 的长期关键要素是什么? 因为 AI 的出现,各行各业的哪些长期关键要素会发生变化? 3:05 AI 创业的本质:通过数据,提升模型的交付能力,进而提升用户体验 3:58 AI 创业的核心:评估 (评估决定迭代效率) 4:15 Albert 的进场原则用户对交付是否有明确预期?仅依靠模型是否能完成交付? 12:21 创业的核心是定义资产Part 2 我在微信上问了张一鸣两个问题 16:53 如果张一鸣没做成字节,他大概率会做出拼多多 28:26 张一鸣回我说:对于有才华的人,要做更有把握的事 29:50 运气是优势被时间放大的结果 31:25 总说做正确的事,到底什么叫正确的事? 32:29 我请教了张一鸣怎么训练平常心 34:10 我们往往会高估理想带来的激情,低估正反馈带来的刺激Part 3 找 PMF 就是要做没壁垒的事 36:33 现在 AI 有太多可做的了 38:20 工具产品的要义只有一个:用速度换规模 40:23 我是一向反对过脑瘾的,但在今天,我反而觉得你是有条件去想一些终局的 41:52 如果让我现在从 0 到 1 再创业,我会这样做 43:34 AI 还会有爆发吗? 47:15 快速评估一个 AI 创业者的认知,可以问这些问题 49:29 最近在琢磨:当摄像头带了脑子,世界能发生什么?Part 4 人才与预期管理 50:32 最焦虑的还是人才 (欢迎联系!) 52:01 给大家传授一下为什么总能飞速跟进新技术 53:51 再传授一下做 C 端产品,最该具备的一个认知 55:23 去年最大的认知变化:别上播客 (但今年还是来了 57:26 对 AI 的预期?特别乐观啊,甚至都想做硬件 58:13 面试最常问的一个问题 1:00:14 我一直在思考怎么能给人才提供安全感【活动预告】10 月 8 号,在北京,我们还会邀请 Albert 来一场线下活动!感兴趣的朋友欢迎点击链接或扫描下面的二维码,一起来认识&交流!(限 50 人,如果有想加入 Albert 团队的 AI 工程师同学,尤其欢迎前来面基!)【The gang that made this happen】 制作人:陈皮、Celia 剪辑:思娜 Bgm:Mondo Bongo - Joe Strummer & The Mescaleros