Home
晚点聊 LateTalk
58: 光年之外联创再出发，与袁进辉聊 AI Infra 到底做什么？| AI 大爆炸
01:09:23
Share
2024/1/24
晚点聊 LateTalk
Request Transcript
Frequently requested episodes will be transcribed first
Chapters
第一段创业历程回顾 & AI Infra 是做什么？
梦想当科学家，2008 年博士后时选了一条激进的路，做机器学习和脑科学交叉学科研究。
当时深度学习还没热，未能转教职，来到工业界。在微软亚研院开发出 LightLDA（一种主题模型），这是互联网搜推广的核心系统之一，被快手等公司使用。
2016 年开始开发 AI 训练框架。当时 Google 的 TensorFlow 等框架已出现，如何差异化？
袁进辉的反共识判断：未来模型会变得非常大，需要新系统，创立 OneFlow。
再次创业，做硅基流动：看到大模型推理需求会超过训练，也能避免这支团队分散。
“我们进光年的时候是40人，出来的时候是35人。”
业务重心：从训练转向推理，专注于大模型的推理部署。
商业模式：全球化战略，面向海外市场；在国内则要绑定客服愿意付费的东西，不能只有软件。
国内商业化的难度：需要创造性的策略和产品形态。
技术不会一直是壁垒，算法尤其传播得快。
工程能力可能更关键。因为一个算法上的好点子，往往被执行后 ROI 极高，所以大家都会做；工程优化则是每个单点的 ROI 都不大，需要日积月累，到最后真正会做的团队非常少。
期待大模型超级应用，认为它们大概率不来自现在的大模型公司。
成为"张一鸣"背后的人？但张一鸣背后没有人——超级应用未来自己做 AI Infra 怎么办？
软件层面的竞争将加剧，但顶尖供应商将获得大回报。
Shownotes
Transcript
No transcript made for this episode yet, you may request it for free.
PodQuest
PodQuest
Podcast Discovery Engine
PodQuest PodQuest Podcast Discovery Engine