cover of episode E117|对话贾扬清:大模型的开源之战与应用时代|AIGC特辑

E117|对话贾扬清:大模型的开源之战与应用时代|AIGC特辑

2023/8/1
logo of podcast 硅谷101

硅谷101

AI Deep Dive AI Chapters Transcript
People
贾扬清
Topics
贾扬清:Llama 2 开源降低了大模型开发和研究的门槛,促进了创新,并改变了大模型行业的竞争格局。开源模型在长期发展中更具优势,因为其迭代速度更快,更容易吸引人才和资源。企业使用AI辅助决策,更倾向于自建模型以掌控数据安全和决策过程。小企业或注重成本的企业更适合使用闭源模型的API接口;而大规模应用且有财力的企业则可以选择在开源模型上自建模型。大模型的闭源并非完全出于安全考虑,更多的是商业选择。大模型的护城河在于人才的聪明才智和对用户需求的敏锐度。GPT-4泄密事件验证了大模型会向专业化模型方向发展。推理成本通常是训练成本的5到10倍。Lepton.ai 帮助企业提升系统效率和人力效率,提供PaaS和部分SaaS服务,帮助企业更方便地使用AI模型。Transformer架构并非完美,未来可能会有更好的架构出现。现有的Transformer大模型可能只是过渡态。内容创作和内容交互是AI应用快速获得回报的领域。走出舒适区才能获得成长。 泓君:Llama 2 开源后,开发者可以选择使用闭源模型的API接口或开源Llama 2的源代码进行开发,两者成本不同。Yann LeCun 认为Meta 开源 Llama 2 将改变大模型行业的竞争格局。如何看待大模型领域的竞争格局,包括OpenAI、Meta、微软、谷歌和马斯克的XAI?GPT-4 泄密事件后,你获取到的最重要的信息是什么?如何看待Jasper等AI应用的护城河?客户最大的痛点是什么?你们如何解决准确性问题?

Deep Dive

Chapters
本期节目讨论了Meta发布的Llama 2开源大模型对行业的影响。Llama 2不仅性能提升,还开源了预训练数据,降低了企业开发大模型的成本。嘉宾贾扬清分析了开源与闭源模型的成本、优势和劣势,并探讨了开源对行业竞争格局的影响。
  • Llama 2开源允许商用,为企业提供了更低廉和简便的开发大模型方式
  • 闭源模型面临应用场景受限和成本收益比低的挑战
  • 开源降低了开发门槛,促进了创新和人才聚集
  • Meta的开源举动可能改变大模型行业的竞争格局

Shownotes Transcript

7月19日,Meta发布了免费可商用版的开源大模型Llama2。这次的Llama2除了性能得到了极大的提升外,Meta还开源了它的预训练数据,使得企业能够以更低廉的价格和简便的方式开发自己的大模型。图灵奖获得者 Yann LeCun在推特上表示Meta 此举可能将改变大模型行业的竞争格局。

本期播客我们邀请到了Lepton.ai 的创始人贾扬清,一同来聊聊Llama2开源后对行业的影响、GPT-4的泄密,以及他为什么更看好应用的创业方向。

【主播】 泓君,资深媒体人 【嘉宾】 贾扬清,Lepton.ai 创始人

贾扬清本科和研究生阶段就读于清华大学自动化专业,后赴加州大学伯克利分校攻读计算机科学博士。他在博士期间创立并开源了如今业内耳熟能详的深度学习框架Caffe,被微软、雅虎、英伟达、Adobe 等公司采用。2013年毕业后,他加入谷歌,是谷歌大脑 TensorFlow 的作者之一。2016年2月加盟Facebook,并开发出Caffe2Go、Caffe2、PyTorch等深度学习框架。2019 年 3 月正式加入阿里巴巴,担任阿里巴巴集团副总裁、阿里云智能计算平台事业部总裁。

【你将听到】 Llama2开源与开源精神 01:58 Llama开源的影响:可以商用 03:47 闭源模型的两个挑战:应用场景不够和成本收益比 06:15 理解开源:互联网是基于开源去做的 08:30 《开源软件经济学》——Stack Overflow创始人经济学角度解释开源 12:32 长线看好:Meta become the cool kid again 15:11 再谈安全:开源公司并不能阻止邪恶版大模型 16:46 三个人做出举世瞩目的成绩,创新往往诞生于小的团队 19:17 “我的经历一直逆潮流而行” 20:29 AI应用领域的方向在哪里? 22:42 争议Jasper,理解用户的价值

GPT-4泄密与成本分析 24:23 安全只是借口?OpenAI不开放的原因是可复制性与商业的选择 25:14 闭源模型没有护城河,只有6-12个月的领先优势 26:15 何谓AI顶级人才:对科研与用户的双敏锐度 29:01 GPT-4泄密后观感:不再走单一模型路线,而是逐渐转为专业化模型 31:10 推理成本是训练成本的5-10倍 34:35 Lepton.ai创业方向:提升系统效率与帮助客户做AI 38:01 GPT-4、Llama2可能全都是过渡态?现有的大模型是否全部走错了方向 42:27 出圈新应用:妙鸭相机

关于创业 45:36 走出舒适圈,创业的每天都不一样 47:28 准确性依然是难点,与Langchain的技术合作案例 52:37 找合伙人:热情比经验重要 56:10 硅谷最让人的兴奋的地方:一群聪明人在现有道路之外开辟的新路径

【后期】 AMEI

【BGM】 Simple Pleasantries - Arthur Benson A Breeze - spring gang

【Shownotes】 肖阳、泓君

【在这里找到我们】 公众账号:硅谷101 收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客 海外用户:Apple Podcast|Spotify|TuneIn|Google Podcast|Amazon Music 联系我们:[email protected])

Special Guest: 贾扬清.