cover of episode Vol.43|ChatGPT 爆火,AI 时代如何突围「缺芯困境」

Vol.43|ChatGPT 爆火,AI 时代如何突围「缺芯困境」

2023/2/10
logo of podcast Founder 100

Founder 100

Frequently requested episodes will be transcribed first

Chapters

Shownotes Transcript

【本期内容】

**人工智能领域的新宠儿 ChatGPT 正在疯狂刷屏。**但其创新和颠覆的背后,并不只是靠堆参数、堆样本、调算法。而容易被忽视的,是其支撑一切的算力基础设施: 据评估,采购一片英伟达顶级 GPU 成本为 8 万元,GPU 服务器成本通常超过 40 万元。对于 ChatGPT 而言,支撑其算力基础设施至少需要上万颗英伟达 GPU A100,一次模型训练成本超过 1200 万美元。 __如果想要复刻、甚至超越 ChatGPT 的成就,必须要突围芯片和算力的「卡脖子」难题。__目前国产芯片的发展面临两个机遇:

  • 首先是缺芯困局下,国产化替代的呼声越来越高,这无疑给国内芯片创业者提供了一个发展的缓冲期。对于 2020 年创业做大算力芯片的后摩智能创始人 & CEO 吴强来说,「在芯片成长早期,这个条件是国内独有的,我在美国是不敢做芯片创业的。」
  • ChatGPT 大火,人工智能发展对于大算力的需求,给予了芯片创业新的机会。在吴强看来,存算一体芯片可能是国产芯片算力弯道超车的机会。相比较传统的冯·诺依曼架构芯片,「存算一体」创新计算架构对工艺的依赖较弱,能用 28nm 工艺做出基于传统计算架构的其他 AI 芯片用 7nm,甚至 5nm 工艺才能实现的性能/能效比。要知道,这次 ChatGPT 背后采用的英伟达 GPU A100,就是采用 7nm 制程工艺。

本期播客,我们就邀请到顶级芯片学术会议(ISCA等)组委会委员、后摩智能创始人 & CEO 吴强,来跟 Founder 100 栏目观察员王式一起聊聊,国内芯片创业的机遇和差异化优势。

                                

🎉如果你喜欢节目并想和我们交流、分享内容看法👉欢迎添加 幕后微信「18981006667」,备注「播客」

                               

【延伸阅读】

存算一体,国产大算力芯片的新机遇 | Rebuild 2022)

                              

【精彩时刻】

02:09 存算一体芯片架构:适合数据量庞大的计算(如 AI 计算)

05:24 存算一体的演进简史

07:22 **认知:**很多时候算力上不去,不是因为计算不行,而是带宽不够

09:18 存算一体核心挑战:存储介质的工艺、从学术到商业量产

11:52 为什么美国的芯片创业公司很少?

15:20 **应用场景:**需要大算力的场景,比如自动驾驶

18:22 对于自动驾驶,存算一体能够在成本上带来优势吗?

21:23 **认知:**国内卡脖子的都是大芯片,小芯片从来不卡

22:00 **认知:**同等算力下,存算一体对于工艺制程要求更低

24:57 存算一体:功耗低、成本低、算力高

29:41 **认知:**真正的护城河其实不是芯片本身,而是软件生态

                      

【嘉宾 & 公司简介】

  • 吴强(后摩智能创始人 & CEO):

美国普林斯顿大学博士,AMDGPGPU/OPENCL 创始团队核心成员,Facebook 资深技术专家,国内知名 AI 芯片独角兽公司技术副总裁及 CTO 等,科研成果曾获 MICRO-38 唯一一个最佳论文奖,科研成果被 IEEE Micro 评选为年度最有影响的 12 个科技成果之一,顶级芯片学术会议(ISCA等)组委会委员,美国 NSF 云计算评审委员会委员。

  • 后摩智能:

创立于 2020 年底,是国内首家专注于存算一体技术的大算力 AI 芯片公司,致力于突破智能计算芯片性能及功耗瓶颈,加速人工智能普惠落地。其提供的大算力、低功耗的高能效比芯片及解决方案,可应用于智能驾驶、泛机器人等边缘端,以及云端推理场景。

                                   

【关于我们】

跟 100 位创业者,聊聊最有潜力的科技赛道。欢迎来到  Founder 100 栏目 :-) 👉这里我们会跟「早期科技创业者」深度聊天,记录他们的思考洞察,也许他们的日常就是咱们还未探索过的新鲜玩意儿~

                                 

栏目观察员:王式

视频号:FounderPark

公众号:Founder Park

本期编辑:Muji、田文博

音乐:38辑 - AudioJungle 精选合集 - 技术