cover of episode EP 40. [EN] 对话MosaicML联创:创业2年,13亿美金收购,大模型与AI infra的过去与未来

EP 40. [EN] 对话MosaicML联创:创业2年,13亿美金收购,大模型与AI infra的过去与未来

2023/12/4
logo of podcast OnBoard!

OnBoard!

Frequently requested episodes will be transcribed first

Shownotes Transcript

好久不见!OnBoard! 回来啦!这一期又是考验听力的全英文访谈。这次,我们跟亲历者聊聊,今年AI领域最受瞩目的一笔10亿美金的并购:Databricks 今年6月以13亿美金的“天价”,收购了当时成立2年的大语言模型(LMM)基础设施创业公司 MosaicML。

Hello World, who is OnBoard!?

可以说,这是今年最受关注的AI领域收购之一了,之后AI 基础设施领域的巨头和创业公司,都被这次收购推动,开始了融资和产品迭代的热潮。收购的时候,MosaicML 仅有60多人,但是已经推出了 MPT 7B, 30B 两个开源大语言模型,总下载量超过330万。也是最早一批推出开源LLM的公司之一。这次访谈,Monica 不仅邀请到了 MosaicML 联合创始人、CTO,Hanlin Tang, 还邀请到还有之前来OnBoard! 做过客的非常专业的硅谷成长期投资人, Sapphire Ventures 合伙人,Casber Wang,我们得以从创始人和投资人的视角,一起解读这个有里程碑意义的收购,以及对于生成式AI,AI infra 核心竞争力和未来格局等等话题进行非常有意思的探讨。

准备好你的英语听力,enjoy!

嘉宾介绍

Hanlin Tang (@hanlintang), 现Databricks Neural Networks CTO, 前 MosaicML co-founder & CTO, Intel AI Lab Senior Director, Nervana (2016.9 被Intel 4亿美金收购)创始团队成员

Casber Wang (@CasberW), Sapphire Ventures 合伙人,专注data, infra, 安全等领域,投资了Auth0, JumpCloud, StarTree 等。Sapphire Ventures 是一家资产管理总额超过110亿美金的全球风险投资基金。

Onboard!主持:Monica(推特:@Monica_XieY):美元VC投资人,前 AWS 硅谷团队+AI创业公司打工人,公众号:M小姐研习录 (ID: MissMStudy) 主理人 | 即刻:莫妮卡同学

我们都聊了什么

[01:57] 两位嘉宾自我介绍,Hanlin 最近感兴趣的AI产品,以及Casber 最近在AI领域的投资

[08:40] LLM 的到来对传统 MLOps 公司有什么影响

[14:13] MosaicML 介绍,2021年如何发现这个创业机会的

[17:28] ChatGPT 发布以来,MosaicML 经历了哪些重要的里程碑事件,行业有哪些重要变化

[21:41] MosaicML 早期客户是哪些公司?

[22:55] MosaicML 的几个重要产品决定:一开始为什么要做开源?

[26:43] 创业公司应该如何思考是否要开源?

[34:36] MosaicML 如何做开源商业化?商业化模式如何演进?

[37:17] 如何思考 LLM serving 和训练平台的产品竞争力和差异性?MosaicML 的平台如何在探索中演进?

[42:32] MosaicML 为何推出自己的开源LLM?

[45:39] 客户如何选择LLM?常见的问题是什么?有什么常见的误解?

[51:11] 开源和闭源LLM格局会如何演进?如何影响LLM周边的生态?我们能从云计算生态发展历史中学到什么

[58:39] 客户如何衡量LLM的performance? 客户需要的是怎样的服务?

[62:06] LLM 会如何改变SaaS 生态?为什么说我们低估了数据对新的平台的意义?

[70:52] 为什么说提高LLM 训练效率和成本没有 silver bullet? 做成本优化的公司如何设计商业模式?

[82:00] 企业如何思考是否要自己训练LLM?还是在已有模型上 fine tune?

[89:23] MosaicML 被 Databricks 收购之后会有哪些变化?下一个聚焦的点是什么?

[91:32] Casber 作为投资人,如何看待 Databricks 对 MosaicML 的收购?对未来行业有什么影响?

[95:44] Hanlin 创业以来对于行业的观点有过什么改变?过去和未来有什么值得关注的变化?

[108:52] 如果坐时光机到5年后,你最想问的问题是什么?

提到的公司

  • MosaicML

  • Databricks

  • Weights & Bias

  • FlowGPT

参考文字

欢迎关注M小姐的微信公众号,了解更多中美软件、AI与创业投资的干货内容!

M小姐研习录 (ID: MissMStudy)

大家的点赞、评论、转发是对我们最好的鼓励!

如果你能在小宇宙上点个赞,Apple Podcasts 上给个五星好评,就能让更多的朋友看到我们努力制作的内容,打赏请我们喝杯咖啡,就给你比心!