cover of episode Vol.25 对谈百度智能云:做大模型应用,不要对AI的能力有妄念

Vol.25 对谈百度智能云:做大模型应用,不要对AI的能力有妄念

2024/11/18
logo of podcast AI局内人 | AGI Insider

AI局内人 | AGI Insider

AI Deep Dive AI Insights AI Chapters Transcript
People
张鹏
节目旁白
谢广军
阮瑜
Topics
张鹏:探讨AI时代与移动互联网时代应用开发范式的差异,关注AI应用如何创造闭环价值。 阮瑜:百度智能云应用基于文心大模型和千帆平台,通过简单的配置就能满足客户个性化需求,解决传统NLP技术客服难以个性化解决问题的问题。大模型赋能智能客服,个性化解决用户问题,提升客户满意度和转化率。大模型应用于餐饮行业客服,显著降低了客服转人工比例,节省了大量人工成本。移动互联网时代应用开发流程是瀑布式,而AI时代则引入了更多低代码/零代码方式,开发流程更简便,效率更高。AI时代应用开发,想法验证更快,但最终代码可能由AI生成,核心仍是人的idea。 谢广军:AI时代应用开发,创意验证容易,但生产环境落地需要构建应用架构、模型优化等步骤。大模型应用落地三步走:选模型、构建应用架构、调优上线。AI原生应用开发的两种模式:自上而下业务驱动型和自下而上技术驱动型。AI原生应用开发的三大坑:成本、效果、持续迭代。 阮瑜:AI应用开发的两大坑:对AI能力抱有不切实际的幻想;忽略行业知识和理解。 谢广军:AI原生应用开发的三大坑:成本、效果、持续迭代。

Deep Dive

Key Insights

What are the key differences between AI application development and mobile internet application development?

AI application development differs from mobile internet development in its use of large models and low-code or no-code solutions. AI allows for rapid prototyping and testing with minimal coding, whereas mobile internet development follows a more traditional, waterfall process. AI also leverages large models to generalize solutions, reducing the need for custom development for each scenario.

How does AI help in meeting the personalized needs of B2B customers?

AI helps B2B customers by providing personalized solutions through large models that can adapt to various customer preferences and styles. For example, in customer service, AI can simulate different agent personalities based on customer needs, such as a friendly or formal tone, without requiring extensive custom development. This flexibility reduces costs and improves customer satisfaction.

What are the common pitfalls in AI-native application development?

Common pitfalls in AI-native development include overestimating AI capabilities, neglecting industry-specific knowledge, and failing to establish clear goals. Developers must avoid unrealistic expectations about AI's current abilities and focus on practical, scenario-specific solutions. Additionally, understanding and integrating industry expertise is crucial for creating effective AI applications.

What types of talent are most needed in the AI industry?

The AI industry requires individuals with strong learning abilities, AI-native thinking, and cross-industry knowledge. Teams must quickly adapt to new technologies and apply them creatively to solve industry-specific problems. Additionally, a deep understanding of both AI and the target industry is essential for developing impactful applications.

How does the Qianfan platform support AI application development?

The Qianfan platform supports AI development by providing tools for model selection, application architecture, and optimization. It helps developers quickly validate ideas, reduce development costs, and improve application performance. The platform also offers data and model tools to streamline the development process and ensure applications are production-ready.

Chapters
本期节目探讨了AI时代与移动互联网时代应用开发的差异。AI时代,借助大模型能力,开发流程简化,开发速度加快,可以快速验证想法。但核心仍然是人的idea。
  • AI时代应用开发流程简化,开发速度加快,可快速验证想法;
  • 大模型的低代码/无代码工具降低了开发门槛;
  • AI时代更强调快速迭代和MVP验证

Shownotes Transcript

欢迎收听 AI 局内人 AGI Insider 是极客公园旗下的科技创业者社区 Founder Park 出品的 AGI 系列播客节目本节目每周邀请相关领域的观察者和从业者与我们一起探讨和交流通用人工智能领域新的机遇与各种可能性

进入 2024 年后大模型的能力迭代逐渐进入平稳期大模型的技术趋势从大语言模型开始更多的转向多模态而模型的 API 价格也迎来了骤降更多模态的可能性给了开发者更多的想象空间模型调用的成本解放则打开了开发者最重要的一道桥谷一切都在预示着 AI 应用爆发已临近前夜

AI 时代的应用开发与移动互联网时代到底有何不同 AI 和应用开发者之间的分工和定位是什么?专业领域的知识和行业经验如何被 AI 模型一日千里的算力加持和赋能修订具备合作能力的人最适合投身 AI 产业当然最后也是最核心的问题永远是 AI 开发者如何适应这个新的时代

本期节目极客公园的创始人兼总裁张鹏和百度的两位副总裁阮渝和谢广军围绕以上这些问题展开了一场有趣而精彩的讨论

大家好 欢迎来到 Boundary Parts 的直播间当然今天肯定大家意识到了今天你们的直播间有点不一样因为它看起来不是在杰克公园的办公室里面而是来到了一个新的场景下这个地方是百度智能云的展厅我们都知道刚刚结束的百度世界大会里面他们提了一个主题叫应用来了我其实对于应用这件事是非常感兴趣我相信你们也是

那既然我们要聊聊应用那就真看一看百度在过去这一年里他们做了哪些有意义的应用这些应用背后就能让我们看到什么样的趋势和经验

很高兴今天我请来了两位朋友,两位百度的副总裁谢广俊,广俊应该在前半的平台里面支持了很多的开发者当然还有刚才咱们在聊到的阮于总,我们已经在智能客服,在数字人这些领域里面都有很多的时间了所以今天我们不妨一起去聊一聊,真的 AI 这个概念走过了去年的热潮期

到今年到底把它变成一个能创造闭环价值的应用到底有什么背后的经验可以教给大家的那阮云东我先问问你吧因为其实刚才我们体验了这个产品我其实挺好奇的如果具体的去看这样的产品背后到底用了文心大模型的什么样的能力就是

就是这个能力最终落到我们刚才看到很好的效果里是怎么让它能够对齐到场景智能云的这些应用都背后用了千帆这边提供的很多能力我们其实是长在千帆上面面对

各种企业和用户的这种应用产品那像智能客服而言我们实际上用千帆的话就是用千帆底层提供的是大模型的能力在上面我们做了非常丰富的应用的这个应用层那客户呢其实就添整简单的一些画布就能完成他客户的一个简单的流程

这样的话就能解决非常多用户在来到这个比如说餐饮行业它会有很多客服的实际问题这样一对一的非常个性化的就能解决那以往其实在传统的 NLP 的这种技术的客服之下我们实际上是比较难个性的去解决用户的问题但有了大模型的能力其实可以非常个性的去解决客户的能力

那这些其实都用到了千帆本身给应用这边提供的很多工具链呀然后平台的非常多的能力那在这些能力上面也长出了面对不同场景的很多应用嗯你刚才说的这点就是对于满足个性化的需求其实 AI 在里边起到了一个所谓的泛化的这种意义你就不用每个都个性化的去去为他们再重新去做一遍 AI 就能把这个过程做完了但我还是关心一下效果嗯

最终从你们看这个结果上看就到底提升了就是客户的是吧比如说他的付费的转化率还是客户服务的满意度就你们有什么样的这种指标能监测到他对这个效果实际的提升对我们内部的话一般的话去看客户的这个在客服这个场景满意度主要是看端到端的回复的这个用户的这个准确度回复他是不是准确

但是到了客户的这个场景其实要看的是对客户实际的这个效果的影响举一个我们头部的一个餐饮行业的客户使用了客业以后整个的就是客服转人工的比例从 22%降到了 10%然后呢每天大概 7 万的处理这个客服整个的这个量级然后同时节省了 2.5 万的人工的作息的钱

就相当于每天要省 2.5 万元人民币的钱其实这个是非常显著的一个大模型本身的应用在一个具体的场景下帮客户创造出非常有效的一个价值我一个挺强烈的感觉就是去年的时候我们看模型还要看一些所谓的参数层面的分值现在我们看的就是具体到底提升多少的

实际解决问题这个事在客户面前其实都是一个巨项的数字这个挺大的一个变化不过我还是想再追问一下这个阮玉东

你是一定是在移动互联网的这个时代里面就在做产品观产品对吧你有没有观察到这种所谓的 AI 时代到来之后这个开发范式有没有变化就是这种做一个产品的方法论或者是它的这种流程有没有变化一会儿我这个问题要问广军的我先听你们平台上的开发者之一对吧他们是怎么感悟这事的然后我再看看你怎么总结的对

就是原来移动时代的移动互联网时代的开发其实流程就是从产品经理对一个用户需求有一个抽象有了一个抽象以后我们开始整理用户需求的调研最后出 MRD 然后呢开始研发

看完了以后对吧优异进设计的评审然后研发开始开发最后测试然后上线传统的标准化的流程就是这么一个瀑布式的流程那到了 AI 时代其实影响比较大的是说因为有了大模型的很多能力很多零代码甚至是低代码的方式实际上可以在这个

这个通过千帆提供的 agent 的方式就很容易就解决了可能 PM 有一些想法如果是在现有的工具链支持的情况下可能输入一两句话它可能就能跑出来一个简单的闭环的一个小的 MAP 的这么

一个 agent 就可以在线上试了那这个其实是比较大的颠覆那如果是涉及到比较复杂的场景其实还是一个小切口我们用原来的这种移动互联网的这种经验吧然后来开发但过程中其实也引入了非常多现在新的这种开发模式比如说我们做的这个文心快码就是相当于自动写代码帮助研发能够快速的去生成代码然后代码的采纳率也比较高

这样的话相当于你有了想法以后未来可能终有一天这个代码可能全是机器写的然后整个这个效率就会大幅的提升这个其实是在现在我们的开发方式中发现有非常多不一样的地方一个就是流程越来越简便然后有了很多先进的工具可以用其次就是整个这个模式再往更高效的方式去

听起来在之前移动互联网大家能不能快速的去尝试一些东西验证一些东西这个里边除了人的想法之外也包含了这个技术或者说这套原有的那个技术框架下你还是要按部就班的一步一个脚印的完成的看起来你刚才说的今天这个想法最重要然后你反而这个往前测试啊小样本啊 MVP 往前跑的时候反而有 AI 在反而更快了

这个我觉得是个挺大的变化当然长期来看最终哪怕代码都是 AI 写这个 idea 还得是人的对吧然后再看看这个广军这个广军你们平台上阮宇总是你的一个重要的开发者对吧这个但是你肯定看了更多的开发者你会怎么看这件事今天到底这个开发范式是出现了什么变化它是相对原来是哪更容易了哪更难了

这个还是挺有意思的一个话题刚才阮渝介绍的这个过程确实也是我们平台上很多典型的开发者他经历的这个过程确实就是说从整个应用创意的验证确实是很容易的但是说真正到了生产可能还是需要经过一系列的构建的其实切翻平台其实还是说在整个过程当中

进一步能够降低大家的这样的一个开发门槛我总结呢就是现在大模型驱动的这个应用的落地在我们平台上一般是经历这么几步第一步就是说要了解这个模型内在能力要选模型这种选模型呢其实就有很多的学问可以看了

是选多大尺寸的模型比如说我们现在像文心的这个模型我们有 4.0 有 3.5 还有更小的像 speedlight 这样的模型还有一些专业模型啊

甚至说这里边就是要做成这样的一个应用除了语言模型可能还有一些传统意义上多模态的模型或者传统意义的视觉模型等等这一块就是说可能选一个模型的这样的一个集合这是第一步第二步其实就是构建应用架构

今天大模型落地的应用架构也相对比较统一了比如说刚才软鱼介绍的智能体这就是一个很通用的这样一个架构我们其实在整个切换平台上对智能体的支持我们希望能做到用户门槛越来越低然后除了智能体架构用户可能也需要改造

我自己的这个传统的这种应用方式应用模式其实今天呢我们也在探索通过这个 B 代码的方式来去做这个传统的这种端到端应用的自动化的应用的构建是对我们的这个产品呢就是 AI 苏达这样的一个产品然后这是第二步前两步呢其实我们还是致力于说让大家能够很快速的能够验证这个想法啊

但是真正在企业尤其是在这个生产环境中要落地呢目前其实还会遇到就是说整个创意是可以验证的但是效果呢可能未必能满足就是整个生产环境的这样的一个需要那就是指的是这个应用的效果

这时候其实用户就需要就是说模型的优化调优比如说我们的知识库类的应用它需要去结合着它自己的文档的内容去做整个 reg 这样的工程策略的这种调优当然还包括各种性能相关的优化所以我总结其实就是三步第一步选模型第二步选工程架构第三步调优上线这是

一个典型的今天大模型落地的过程这个里边呢其实千行平台呢提供了非常多的这样一个机制和功能来支持这件事听起来你看就跟我们现在全世界都知道你要搞个硬件嘛你最好就得多跑深圳对吧因为那边供应链丰富你说这儿不行挑挑你在那一礼拜能挑好几轮对吧

其实我感觉你这就类比啊就是今天要搞模型前半就相当于做了个硬件的深圳您是缺零部件啊你还是要怎么把它调好啊然后你未来怎么有效的组合起来然后你最终还得能算过账对吧你这一个大工作台上把这个事解决完就不要自己全球乱跑了这种我觉得就是很务实的一个阶段性的大家都必要的东西而且其实这里边确实体现了开发范式的一些变化这跟当年移动互联网

咱们那个饭食刚才阮于分享的我觉得就是有不同所以可能也确实存在着新一代的开发者哪怕是上一代的产品人今天上了也得先来这一套对吧把这个能变成统一标准当然这个事上我觉得也让我挺感兴趣的就是说我们今天其实很多的创业者都已经入场了

刚才我们俩还在聊说这个超级应用我没有看到甚至说现象就应用也没有那么多就说明这个 PMF 还是挺不容易找刚才你也在讲就是它不只是你把技术传起来就行了你有大量复杂的工作这就意味着一个创业要真走这个 AI native 的路线也挑战挺大广军这边应该这么多开发者里边有成功的有失败的对吧有发展好的发展不好的

你肯定会有些总结今天这个场上帮我们总结如果是个要做 AI Native 应用的创业者做这个决定之前要评估点啥呢过去这段时间其实我的总结基本上就是做应用的开发者分成了两类一类就叫做自上而下业务驱动的他原来有自己的应用有自己的这样的一个业务模式

今天大模型时代到来了啊他希望的是呢通过这个大模型啊来降本增效啊来能够驱动他整个这个业务呢更好的这个用户体验或者是降本增效啊花更少的钱能够办更多的事啊

这是一类啊这类呢就是业务目标它很明确然后呢更多的是希望就是说这个技术能够给我带来什么样新的价值这是一类第二类呢就是自下而上技术到业务去技术驱动业务的嗯

这个可能更像是咱们所介绍的这种 AI native 所谓的 AI 原生它实际上是说一直在思考的问题就是大模型这项技术能够催生出什么新的应用来跟原来完全不一样的应用和业态来那么一直在探索这样的一个

我觉得这两种模式其实在整个我们平台上都有非常成功的案例你比如说第一种我举个例子像我们原来有一个客户他是做执教培训行业的这里

就职业教育发布职业教育的培训和考试这家公司它的 APP 名字叫考试宝它其实一个重要的场景就是有很多做职业考试的比如考厨师的考医疗证的这些人要在它的平台上去刷题去模拟考试

然后他本身提供的功能呢除了这个让人家做题有题之外他得有答案甚至呢他得有相关这个答案的解析比如说这道题为什么选 A 他以前呢就拿解析这段来说他是通过人来去一道题一道题去进行标注的他们算过成本

应该是在元的量级也就是比如说一块钱两块钱这样一个量级就是这一道题今天他发现还有了大模型我做相同的这样的一个事我就可以通过大模型把这样的一个解析给它生成了在达到人的标注的效果的前提下他甚至连一分钱都用不到他挣几厘钱然后就能够生成一道题

这个就是典型的降低增效业务模式还是原来的业务模式但是呢我通过这个降低整个这样的一个门槛使得我整个这个业务呢有提升这是一种第二种呢确实就是说还是在我有自己的赛道我有自己的这个领域那么在这个领域里边呢我怎么能够创造出新的机会比如还拿这个

教育来举例子比如在英语教培行业里边它总是有一个英语对链的场景学口语以前是找一个外教和一个中国人联系对吧跟他对话去做整个实践的

今天有很多客户呢通过大模型通过这个软鱼刚才介绍的这个数字人这样的技术就是一个虚拟人和我的这个用户去进行这个英语的这个陪练他能够去听出你的这个语气能够纠正你的语法能够纠正整个这种发音的一些那种问题这个效率呢现在这个菜道跑得也非常顺了

你跑得也非常通这个其实不仅是这样子弄起来了我觉得它就是创造了一种全新的大模型带来又增长一个全新的模式

听起来我觉得这里边刚才说的有一个共性今天可能不管是叫加 AI 还是 AI Native 可能最终要决定做之前听起来就是还得定一个明确的目标否则就是你要说咱做个独立开发者探索一下没有关系做个小东西看一看对吧找找手感但真的要是跑起来要做业务的话还是要把目标定的明确啊

这点可能也跟上个时代反而是有类似的所以今天也不能说一说 AI 来了都颠覆开发范式有变化但是我觉得做产品的目标还是没变化的那是没变化的反而要更强化因为以前你自己编点代码今天用户一用上就烧你头根对吧更需要想清楚说到这儿我就想起来虽然很让人兴奋现在又有一些新的创新机会但这里边也一定有坑

所以我先听听这个阮玉总就是在你刚才分享了从移动互联网的产品的开发方式到这个方式去做这种新的 AI 驱动的产品这里边有没有什么真能摊过的坑啊

对吧就是这个里边能不能跟我分享一点让大家少挡点坑对我觉得做 AI 的这种应用的话两个目前看比较大的坑第一个主要是产品经理也好还有客户也好还有用户也好对 AI 这件事情本身不要抱太多的幻想

就是大家对于 AI 这件事情的理解其实这一年多也发现有一个渐进的过程从开始万物皆可 AI 现在开始越来越归向理性和务实的这一面

所以在做应用的过程中其实不管是移动互联网也好还是 AI 时代做应用也好本质都是要找到客户和用户的场景然后在这个场景下务实的去做好用户需求的满足那才能够真正的

把这个应用的生命力给焕发出来其实就像刚才广军说他你得有个目标这个目标就是你满足用户的需求这个场景下用户他的需求和客户的需求得到极大的满足创造出价值它才是真正的一个好应用甚至要能拆解出来那个关键指标到底是什么我刚才听你讲的那个关键指标

开解这个关键指标对客户来讲关键指标是啥对就是比如说像客服场景可能客户最重最在乎的就是你能帮我的用户解决多少客诉问题你能帮我节省多少这个成本那可能就是一个很典型的目标在数字人这个场景那可能更多的是说在线下有屏的地方他能替代多少真人的这种互动

场景不一样目标不一样解决用户的那个需求点也不一样那第二个其实是越到 AI 的原生时代的这个应用越容易踩坑就是大家认为可以忽略很多行业的知识和行业的

理解其实往往在这个方面就会踩非常多的坑就是不管什么时候都要尊重专业尤其是尊重行业即使是在我们做 AI 的这个过程中其实也需要花很大的时间去跟客户也好用户也好去整理他公司内的知识结构知识体系然后做好他的数据治理就是智能化这件事情是投不开数字化的一定是先有数字化有了知识体系才有智能化

所以它一定是一个可以数字一起的跃迁但是不能跳过所以这一点也是在面对很多客户的过程中就发现实际上这里面需要大量的做深入的去理解和整理然后才能够要想 AI 在某一个场景特别好的去解决你的问题一定是下面做了非常多的大量的知识体系的梳理所以这两个是在做 AI 原生的开发的时候

遇见比较多的共性的坑吧包括我们在做智能客服的时候其实也是不同的客户之间也有很多我们其实就抽象了大家共性的一些功能把它做到了线上但是跟你这个产品相关的很多知识体系知识治理然后我们也花大量的时间跟客户一起来整理就是你想让客户你的用户问的准那我们就把知识体系做得非常好所以

在千帆上不断地去让他训练然后呢当然是符合各种数据安全的情况下然后你的这个企业内的知识训得越好那回答的问题越好精准度也越高用户也越来越满所以这其实是一个就两个大坑吧也希望

新的一些创业者能够避掉这些坑不要对每个人都当一遍对对对尽量少惨你刚才说这点其实挺关键的就是第一我觉得不要对 AI 至少我觉得每个阶段的 AI 的能力不要对它有过度的妄念然后你消除这个妄念然后你就带长一些东西就是要去更理解场景里的具象的需求甚至比如像刚才讲一个都是同样的技术不同的客户谁用的好谁用的不好其实跟他的 AI ready 程度有关

所以反过来你你也可以去选择就是合适的领域合适的客户去把它一个个做好但它确实很难一下就水银泻地啊说我做一个东西就泛化到全行业整个商业体系就全怎么着了我觉得这个可能也是这一年我们观察到很大的一个变化大家曾经觉得 AI 应该水银泻地但今天发现来就是说你还是要一步一个脚运日供于足的往前去走

但还是提供了一些新的生产力变化我相信这边这个广军应该会有也很多的理解啊你看你观察了样本不光是他们了他只是你开发者之一你这个里边肯定还有很多来你再给扩展扩展从另一个视角来看吧就是如果是从我们做平台的视角我总结了今天其实我们平台上的这个开发者其实一般会有几个坑可能需要去比啊

第一个呢就是还是这个成本的坑其实从去年下个年到今年呢其实平台上有非常多的这样的一个开发者来去做各式各样这个应用的这个验证这里边一个普遍遇到的一个问题或者一个难关呢

说我怎么能够从验证真正到这个应用到这个实际上线能够产生这个应用的价值这里边呢其实每一个企业它对每一个场景都是需要去计算这个 RF

去计算人的这样的一个业务收益的所以这里边就我觉得第一个坑就是说我们是不是用了大模型整个这样的一个成本能够降低或者是说成本的降低和这个业务的收益是不是成正比是不是有没有点感觉跟去年大家都想试一试那时候不计成本小米今年明确的都要算账我觉得这是 make size 的

所以不能把去年套到今年那不是正常的浪广今年其实大家都知道从大模型调用来说从 5 月份一直到现在其实模型的调用不止我们各家在持续的在降价这个降价我们发现降价之后应用的整个量确实在显著提升其实也证明大家其实在过去一段时间卡在成本上其实没出来

那这里面呢其实从技术的角度来说呢我们也需要提供一系列的帮助客户能够去降低这个大模型本身应用的这个成本的一些机制和技术你比如说如何用这个尺寸更小的模型能够达到就是您这个场景里面的效果这里面呢就需要做模型开发了

包括怎么去整个量化这样子的包括其实在应用里面怎么能够使用大小模型结合的方式去构建应用这些其实第一个我觉得第一个坎是成本的坎第二个其实是效果的坎

很多这个开发者其实创业证做完了但是真正想去上生产的会发现就是我无论怎么去优化无论怎么去调其实还是达不到我这样的一个满意程度比如说

做客服来说我一个具体的场景希望的理想目标是说 90%的准确回复率就能够达到用户的需求了但是我会卡在比如 88%这条线上可能它就转过来还是刚才咱们介绍的

大模型的整个这个落地呢调优也是一个非常重要的一个可以说是在目前的大模型的能力向前里边还是一个必经之路啊所以在千帆的平台上我们其实过去这一年多啊致力于在这个调优的工具链不管是模型调优还是刚才介绍的应用策略调优怎么让用户能够调出一个更好的效果在这上面其实做了非常多的这个建设嗯

我觉得这是第二个坑第三个坑其实也是效果的坑这个跟第二个的区别在于说用户是已经用上了上线了但是他会发现用了一段时间原来我在线下测试或者是初期小流段的时候我这个应用效果还挺好的然后过了一段时间过了两三个月发现我这个应用又不能满足用户的这个

需求和需要了这个时候其实大部分原因就是用户结构变了用户的 query 变了所以这个里面我们认为在目前要去做大模型落地它是得持续去迭代持续去优化不管是模型还是应用的这样一个能力的

它不是说放在那然后我就永远是效果好的所以现在其实我们也在提倡用户在千帆的平台上构建出自己的这样的一个数据闭环或者数据飞轮来通过自己用户的这些数据能够进一步的调用模型然后调用上线不断的迭代起来能够使得模型的

不管是模型还是应用它越来越聪明越来越适应整个这样的一个应用模式其实我觉得这个也是容易踩到一个坑目前从平台的角度来说这三个坑其实都很典型你这三个坑我觉得还是特别形象或者说我觉得也是我的根本就是很多创业者的感知总结起来其实就是今天做个 AI 的产品或者服务

它一定不是上来打一场歼灭战就解决战斗的对吧封闭开发多少天对吧然后一个一代产品成为了核心突破点以前这都是我们上个时代是有点这种感觉但今天你发现说从上来要看到它的残酷性对吧这个成本你得算清楚你要算不清楚这东西不能闭环产生不了价值第二呢就是你的真正把这个功能要做到位呢你还是要持续的你要去调优对吧你要去 match 那个对应的东西

它不是一个你写一条代码就解决了模型也要再调整然后你要去匹配那个场景而且这还不是一次做完就完未来会持续的做每年都要做你发展越好越要做所以你看这就是一场长期的一个要跟着 AI 一起成长的战斗如果这几点没意识清楚很可能出来就容易踩坑里是啊

我感觉你刚才说这些东西都体现出了千帆在帮大家填什么坑是吧是这个感觉你看你总结的这些问题然后你就要适配因为你要帮大家解决这个问题这还是蛮清楚的希望你们把这坑给我们多填上点我再追问一个因为你们做的这个业务

其实本质上看起来说数字人客服它可以有一些标准的有一些最佳实践但是确实到每个客户面前这个事需求还是不一样而且我们也说大模型虽然它比我们都说今天做完了以后把所有的客户就都适配了但本质上它是不是应该更支持

这种所谓个性化的服务的需求但以前咱们要说传统的 SaaS 软件领域一说这个事这就要赔钱了因为就是一个复杂的项目落地时间极长客户成功成本极大对吧我不知道这个 AI 在里面出现之后到底对这个传统的问题解决的怎么样有什么帮助没有就怎么让它真的能支持你们不要把自己给累坏了的情况下还把客户的这种客户化的落地个性化

能够做得更好这里面有什么可以分享的经验吗对 AI 这边的技术开始涌现了以后实际上在客户也好数字人也好还有一些行业应用的场景里面都是非常显著的解决了客户和用户的个性化问题

因为这一块呢我们其实有一些实践是说当面对客户的需求过来比如说像课月的这个场景其实就是满客户客服整个这一块的用户需求来了以后其实你还是会抽象一下有非常多的共性问题

比如说它整个进来以后用户跟我们之间的这种系统之间的这种对话然后以及最后形成公单怎么转移它其实是有很多标准化的流程的在标准化的流程过程中实际上在接待客户的这些界面这层面上是完全可以抽象成统一的你不管哪个行业你面对客户的很多标准化说它都是固定的

那大模型的好处是在于是说用户进来他有很多喜好你原来的那个 NLP 场景下很多的这种小模型你可能就是规范的一个画数所以你看了很多

客服呢它就是像机器人它就真的是很机械感但是有了大模型以后呢它就很个性化你可以定义你说我这个客服我想要一个轻松的小姐姐的形象那它可能就是一个轻松小姐姐形象跟客户之间是有个话说然后有可能他说我希望一个非常严谨的表达非常客观的这样一个活

一个角色的客服他也可以这样来模拟所以呢不同的用户他有不同客服风格的喜好然后呢对应大模型其实能够很快的去生成这类的风格在前面其实是这种个性化的人的这种一个就是 agent 的这种模仿背后呢实际上是我们提供的基于千帆的一系列的工具链这个画布的能力呀然后包括这个客服本身的这个情感化的很多这种

属性啊等等这些都是可以共行来做的所以实际上很大程度上面去节省了我们的开发成本而且也能够非常快速的去附用到其他行业比如说餐饮那你的知识库可能就是你今天买几个炸鸡对吧然后呢退单呀订单呀然后这些问题但是可能换到奶茶店它也是能用的

然后换到餐饮行业可能就非常统一的这种服务流程然后呢你换到在线的像一些教育场景的付费课程的这些售卖实际上很多也是通用的然后也可以迁移所以其实是解决了原来在做 2B 场景里面大规模的定制化的很多问题

这个也是从科学这一段时间的实验过来其实有很多客户我们客户有在线教育的有招聘的餐饮的就是很多类型也支持了非常多看起来以后就是在某个行业里有了非常好的最佳实践之后很容易在这个行业里面就是更多的人都能把它用起来并且都能比较好的解决问题

对吧就可能在一开始去实现这样的一个最佳实践的过程中是最关键的对它其实相当于我们有一个公用的工具这个工具一旦在场景中跑通了以后可以在不同的覆盖到不同的行业里去那这是克服这个场景像西林的数字人的场景就是更显著了就因为有了数据的这种画像的资产以后它很容易就复用了

所以呢在场景里面你的人的这种美术资产然后我们现在可以通过一句话快速的生成一个数字人然后这个数字人你可以用在线下大屏里面做这种手语的客服你还可以用在你的这个银行系统里面然后去做很多需要数字人出现的这种场景

这都是非常多的延展我还想再问问广俊其实刚才阮总其实谈到了我们到底大模型这件事它怎么能够有效的去发挥作用让客户化能做得更好但咱说到客户这个里边也确实不同场景需求不一样万一创业者做了个产品找错了方向代价也都挺大的所以是不是在这里不管是用

这种 AI 的产品还是造 AI 产品的人可能是不是在做这个选择之前都需要评估一下自己这个场景领域包括自己 Rev Ready 大模型要到场景落地之前要做什么样的准备才算是说

还应该去试一试应该去推动这件事对其实这个和刚才我们介绍的那两种模式也是比较相关的我原有的这样的一个应用结合着这个大模型的能力我能够改变整个我的用户交互模式这个对用户体验有提升或者是说我能够代替我原来的这样的一个人工环节使我的效率有提升通过这样的一些就是总结好的一些方法呢

就能够评判说我这个大模型落地到底能不能成为一个商业模式能不能 work 这是第一第二个呢就是还是讲通过大模型的这个能力强线反过来能不能创造新的这样的一个应用场景我觉得这个事呢其实会更难啊这个事就是值得探索那探索的方法论呢其实

把所有的前前后后的整个这样的一个商业模式最终能够想清楚现在很多创业者其实可能只解决了第一步就是用户价值可能一定程度想清楚了但是咱们刚才讲这个用户价值本身也是随着技术能力的向线在逐渐在变的

如果是没有真正的商业模式跑通其实整个这样的一个业务也很难跑起来所以结合大模型的能力向下不断的再去尝试新的业务场景的过程当中这里边其实还是需要把整个商业化的模式能够想得更加的透彻能够更清楚这里边其实还要分享一个观点就是

大模型这件事确实是一个人类技术史上一个非常大的一个跃迁但是在这个跃迁过程当中我觉得今天还处在一个对于大模型的能力来讲早期阶段还处于一个非常早期或者非常初级的一个阶段

我们觉得呢未来几年啊大模型本身的这个能力它是逐渐在跃迁式的这个上升的每跃迁一次可能会拓展出新的这样一个应用的边界了这个呢其实还是推荐就是我们的这个开发者呢能够向前看能够往前去去去做啊

今天起点的时候不要预期太高不要手太松还是要很严谨的去评估其实刚才你们说到的一个观点让我觉得挺有意思刚才是阮玉总说的就是说不要对 AI 今天有妄念他能做的东西不是他没有价值而是说你不要超过这个预期后来最让我想到一点咱们都说大模型有幻觉

发现人的幻觉可能是今天更严重的问题对吧就是客户有幻觉然后开发者有幻觉那这个事大概率就没戏了对吧你至少逐渐要一方是清醒的对吧所以而且你看就是模型和人大家既然都有幻觉嗯

我们模型技术需要时间去进步幻觉逐渐才能去消失甚至也许永远不会消失这就是它的特质但我觉得人是要先约束自己的幻觉这可能就刚才你说的准备条件是先消灭人创业者自己的幻觉开发者自己的幻觉这个还是非常值得在经过狂热的去年和今年务实的一年的探索之后值得留给大家的一个点

那我再问个很务实的问题我还是很关心这种开发办事变化对于创业对于一个组织一个产品团队的影响软鱼总因为自己在带这样的一个非常 AI native 的叫 AI 是你核心引擎的这样的团队

你觉得今天跟互联网移动互联网时代一个团队里面人的构成能力的分配会带来什么变化就是你会更需要什么样的人我们顺着可以推演什么样的人未来是企业里面 AI 相关应用最需要的这种人才

对我觉得可能讲一些特质会更容易定义这样的人群如果是面向未来的 AI 时代的话我觉得一个人的学习能力或一个组织的学习能力是越来越凸显了因为大模型的技术包括 AI 的技术变化是非常快的

你对于新事物的理解,你团队整体的认知水平,以及你领军人物及你核心团队的认知水平,可能决定了你对于这个产品本身和用户场景的理解,最后新的技术怎么用在这个场景里面产生比较大的价值,是跟这个群体本身的学习能力是完全相关的。

所以这一点其实我觉得以前也重要但是因为变化太快了这个能力就显得越发重要另外一个就是在新的这种大模型的这一波来了以后对组织而言很重要的是

团队里面 AI 原生的思维方式就是你是不是基于现在的技术和我们所掌握的这些能力本身来思考问题是用一种全新的视角来重构原来的业务找新的场景新的机会这个其实也是比较重要的再有一个就是说因为有很多

新的机会涌现所以对于一个面向客户的组织而言更重要的是说你跨行业知识的理解就你不完全是懂互联网就行了你可能要懂你的餐饮行业你的教育行业你所面对客户的这个行业那不同行业知识的储备跟现有大模型的相结合然后帮助各个产业去完成数字化的跃迁这个其实也是非常重要所以这三个能力我觉得在

新的这一波来了以后不管是组织也好个人也好其实都是比较凸显的也很重的对于公寓领域的知识要学得快然后最好还得有点私域的知识积累这样我觉得就可能这样的人才是在模型就是 AI 应用落地里面会很需要尤其是走到商业壁画里面这对专业有什么影响吗比如像文科生理科生

是不是今天文科生的机会和理科生的机会变得更平等了在做科技产品的时候我觉得 AI 面前人人平等人人平等对大家只要会用好 AI 实际上不管是

什么学科出身吧都会有属于自己的你的一个知识结构你的知识库然后呢你可能文科生你掌握的处理科生以外的知识更广布因为公寓的知识和你自己提炼的那些内容你要有自己的想法你就搞一个自己的 reg 对吧然后把自己所有的经验就比如极客公园里所有的

非常历史上的这种采访的文章啊深入的内容啊都放进去然后逊模型最后可能出来的内容和效果是更好就每个人都有自己的那个优势点阮玉总是什么专业历史学你学历史的文科生我学新闻的文科生我们隔着一个理科生比个心看来我们这个文科生确实是 AI 面前人生平等对

看来我们李克生不占优势了李克生我正好就问到李克生一个关键的问题这其实也是我相信虽然我们已经聊了几段时间对这个问题也是我一直很感兴趣的

你说这个千帆在今天咱们形成了这样的一个这么多开发者在上面去做事情支持了这么多人如果再往前看这个千帆做事的这个边界和目标到底是什么样因为这也从当年要有这么一个东西然后今天跟大家共同战斗一年就是完了之后我估计你们也会有一些朋友

就是一个是说接下来的目标再有一个是最终的边界嗯啊就因为你也看了这么多应用在去做是吧你怎么定位自己在这波浪潮里最终的那个位置大模型的这个落地啊今天普遍意义上来讲啊如果从技术的角度来说我觉得就是几个要素啊嗯

一个就是这个算力嗯一个是这个数据嗯啊一个是这个模型本身的这个能力第四个呢就是这个应用啊应用开发和应用场景今天呢其实千帆本身也是致力于就是说在整个这四个要素里边去看啊我们本身的这样的一个定位首先呢作为一个大模型平台啊

我们要时刻关注就是说用户的这个需求用户需要什么样的模型啊我们今天从技术研发的角度来说啊模型的边界到了哪那么我们整个的这样的一个预制模型呢就应该做到哪啊

第二个呢就是我觉得是需要就是我们在这个数据工具上能够下苦功夫就是结合着这个大模型的应用企业需要什么样的这个数据能力今天讲应用我需要这个去做预训练我需要去做微调

我需要构建应用的这个知识库这些呢其实在企业落地的环节都需要数据工具加持所以数据类的工具一定是千帆所需要大力去做的事第三个呢就是模型类的工具刚才咱们讲就是

不是越大的模型越先进的模型越适合落地应用的我觉得这工具呢其实就两个目标一个是说降低门槛用户开发的整个这样的一个构建应用的这个门槛越来越低甚至我们提过就是说

你可能刚才讲创意验证阶段你一句话你把你的意图说清楚你就能构建出一个应用来这是降低门槛第二个呢就是真正的构建企业级的应用那就不光是降低门槛的事了验证完了整个这样的一个创意来说真正做的时候还涉及到各种的调优那这应用策略调优的这种工具也代表了我们现在的方向所以总结起来就是数据类的

模型类的和这个应用类的开发的平台这是我们千帆的这个定位首先啊千帆平台我们不去做应用对我们不去做应用但是呢我们也是需要深入这个场景我们还是希望就是我们的开发者包括软鱼的团队也是我们千帆平台上的这个开发者

他们来使用我们平台的能力能够更好的去构建它本身的这样的一个应用而且这个应用真的是可落地的应用这里面其实就有非常多的工具的事数据的事以及整个模型的事需要去切换平台不断的去迭代不断的去支持这是我们的定位的边界你看我们心中都是

未来的希望你看到都是一个大人一个明确的事这就是我觉得李克生对这个世界特别大的意义和价值因为他把这个通向未来的每一块砖咱得铺好所以其实我觉得还挺感谢前藩的因为看得出来包括阮于总刚才也在讲到就作为你上面的一个非常非常紧密合作的开发者之一对吧他们这一年其实挺多的收获我觉得某种程度上我也看得见你从他们身上也在找自己

这样一个前进的方向所以我觉得今天还是非常开心邀请两位我们一起聊一聊真的是看了看我们从大模型的那种狂热期到真正去把它创造价值的这一年到底有什么样的经验有什么样的收获也看到了文科生理科生分别大家在里边模型面前人人平等就是大模型面前人人平等对吧可能未来做产品的时候也期待千帆上更多的产品开发者们

越做越幸福是有一个更好的平台感谢两位今天给我们带来的分享期待着新的一年能够看到更多的进展我们回头到处再聚好好的谢谢谢谢