Home
cover of episode 我在 Character.ai 做 Post Training|对谈前 C.AI 模型应用算法专家 Ted

我在 Character.ai 做 Post Training|对谈前 C.AI 模型应用算法专家 Ted

2024/11/16
logo of podcast 42章经

42章经

Chapters

讨论了Character.ai商业化困难的原因,包括缺乏积极探索和团队思考不足。同时,比较了美国和国内AI创业公司在商业化上的不同态度和环境影响。
  • Character.ai团队长期处于既要产品又要AGI的愿景中,导致无法专注。
  • 国内AI创业公司普遍认为商业化是最重要的事情,而美国公司则更依赖投资人的支持。
  • 如果重来一遍,Ted认为应该更专注于AGI的研发,可能会改变公司的发展轨迹。

Shownotes Transcript

活动预告🥳:12 月 7 日,我们会请到 Ted 做一场线上活动,大家记得翻到 shownotes 末尾查看报名信息!

在我 9 月份的硅谷行程里,我见过的印象最深、让我最有收获的人之一就是 Ted。

那个时候他正要离开 Character.ai,作为第四十多号加入的员工,他对于 C.AI 的产品、模型、训练等等的熟悉程度都非常高,这次很开心能把他请来,跟大家一起分享下美国最著名的 AI 公司内部是如何运作的,Post Training 的最佳实践是怎么做的,以及硅谷一众 AI 从业者的现状和认知等。

这期播客的内容基本代表了美国最一线的 AI 从业者的实践和认知,非常有代表性,希望对大家有帮助!

最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接)报名(里面也有目前已加入的成员名单,可点击查看)

人类博物馆】

**导游:**曲凯,42章经创始人

**28 号珍藏:**Ted,前 C.AI 模型应用算法专家

Part 1 从内部视角看 C.AI

  • 01:06 为什么商业化一直没做起来?
  • 04:40 如果 C.AI 当时往 AGI 赌把大的,或者把产品交给字节系,能改写自己的结局吗?
  • 06:51 我们很认可 Talkie,但不想学 Talkie
  • 09:36 被收购后,你还相信 C.AI 类产品的未来吗?
  • 11:35 有人说「C.AI 不是真正的 AI 陪伴」,那它到底是啥?
  • 12:19 C.AI 为什么做得比别人好?

Part 2 我在 C.AI 做 Post Training 的这一年

  • 14:56 工作状态是 996(主动的哈,passion!

  • 17:15 Post Training 的核心是设计高效的迭代路径

    • 18:42 四种迭代路径,都有很多低垂的果实可以摘
    • 21:40 怎么评估和改善「模型变蠢」的问题?
    • 22:54 迭代中一个有趣的 EQ 涌现
  • 24:19 Post Training 到底是怎么个流程?

    • 25:37 介绍 Post Training 三大件:SFT(监督微调) 、RLHF(人类反馈强化学习)、DPO (直接偏好对齐)
    • 32:07 以上天花板极高,RAG 和 Prompt Engineering 我们几乎没做
  • 32:53 帮你拉开和同行差距的 2 道数据思考题:

    • 33:18 你微调用的数据,质量真的不能更高了吗?
    • 36:00 收集来的用户偏好数据,只能是点赞点踩吗?
  • 39:32 大家现在关注的几个技术难题,C.AI 是怎么做的?

    • 39:49 怎么做好评估?
    • 41:10 怎么做好意图识别?
    • 43:22 C.AI 的语音延迟基本是业界做得最好的,是怎么做到的?

Part 3 硅谷观察

  • 46:17 一个不被公开的秘密:ChatGPT 内部也是多模型混用?

  • 47:28 硅谷整体还是很乐观,推理侧仍然大有可为

  • 50:45 硅谷现状:

    • 51:01 做产品的想靠多模态赚钱
    • 51:06 搞算法的想复制 o1
    • 51:16 两边都在期待自动交互 Agent 解锁的想象空间
  • 53:48 复盘最近的硅谷求职记

    • 53:54 Post-train 人才极其抢手
    • 54:27 印象最深的是,面 Cursor 的时候,我甚至被允许用 Cursor 现场解题
    • 56:03 最喜欢被问到「你觉得我们的 idea 有多不靠谱?」
    • 56:45 如果我是面试官,我会考察面试者的这项直觉能力
  • 57:28 我很喜欢现在硅谷的氛围!当下可能是华人扬眉吐气的最好时机

活动预告🥳】

12 月 7 日,我们会请到 Ted 做一场线上活动,感兴趣的朋友欢迎点击链接)或扫描下面的二维码,一起来认识&交流! The gang that made this happen】

  • 制作人:陈皮、Celia
  • 剪辑:陈皮
  • Bgm:Mondo Bongo - Joe Strummer & The Mescaleros