Home
cover of episode E16 数据至智慧:从”训练大模型“到”推理大模型“

E16 数据至智慧:从”训练大模型“到”推理大模型“

2024/3/3
logo of podcast 揭秘科技

揭秘科技

Frequently requested episodes will be transcribed first

Shownotes Transcript

很多听众都应该听说过大模型的训练,除了训练大模型,可能还会听到“推理大模型”或者“大模型推理端”。那么什么是“大模型训练”,什么是“大模型推理”呢?今天,我们要谈谈一下这两个让许多人感到神秘的话题:大型模型的训练和推理,他们之间的区别,对算力的需求有什么不同,以及大模型商业推广过程中行业客户面临哪些挑战。