内容介绍

一、Deloitte践行之路 大模型赋能企业

二、产品博士-基于阿里云白炼的首个阿里云内部案例

三、模型+应用双轮驱动:全面开放的大模型生态

 

由德勤中国咨询业务，云服务全国领导合伙人孙晓臻介绍Deloitte践行之路大模型赋能企业。阿里云智能集团产品总监毛军介绍产品博士-基于阿里云白炼的首个阿里云内部案例;阿里云智能集团飞天实验室高级产品专家徐志远介绍模型+应用双轮驱动:全面开放的大模型生态

 

一、Deloitte践行之路 大模型赋能企业

1.生成式人工智能

相信大家都意识到了人工智能，尤其是生成式人工智能，是现在最重要的技术现象。生成式人工智能为各行各业的客户带来了极大提高的生产效率、带来巨大价值甚至颠覆行业的想象力，但这个想象力何时变成现实，大家各自有判断。尽管科技发展迅速，深层次人工智能技术的发展速度前所未见，但它落地企业尤其是为企业带来价值的节奏相对缓慢且有时反复。所以今天讨论这个问题很有必要，当下全球关于人工智能的讨论中，有不少站在人工智能是否是泡沫的角度。当然我今天并不着眼于解决或探讨这个问题，我想跟大家讨论的是如何把人工智能的想象力变成现实。

生成式人工智能是前所未见的技术，原因之一是它比以前的人工智能技术更容易被普通大众接受和感受。每个人现在都知道什么是生成式人工智能，但要把它落地到企业中，挑战变得更大而不是更小。这是一个矛盾的地方，企业里从总经理到仓库保管员，可能每个人都知道chatgtp，但是企业应该运用生成式人工智能，但如何运用并为企业带来巨大业务价值，很难有标准答案，因为它涉及的方面非常多。如果关注各个论坛的讨论题目，会看到很多围绕技术演进、数据、基础设施、风险和规则的讨论，这说明把这样的技术运用到企业端不容易。

中国企业引入高科技的路径通常是上面这条深色的线，称之为幻灭曲线，即导入过程会经历从热点到大力投入到破灭，再重新定位到真正发挥价值的地方，然后发挥价值这样一个过程。现在很多中国企业更愿意做跟随者，小步快走。所以，中国企业在定义生成式人工智能战略时，基本在这两条曲线之间，既不一定大力投入做自动驾驶、药物研发等，也不一定完全小步快走。但这两条曲线各自有风险，幻灭曲线路径可能会有过度投资的陷阱，小步快走可能陷入价值碎片化的陷阱。所以，在这个过程中，定义符合企业自身和行业特点的愿景和目标就显得非常重要。

2.关键问题

对每一个企业来讲，关键问题是在人工智能上要不要投入，投入多久。答案不同决定了思考人工智能转型之路的方式方法不同。企业在规划时，无论在哪一条曲线上，都应考虑避免重复走路、确保每次尝试的边际价值明确等事情。

第二个问题是人工智能转型之路和数字化转型之路一样吗？我们希望从其他人的经验中寻找尝试新事物的路径。所以很多人会模糊到底是数字化转型还是智能化转型，总结下来就是两句话，第一，数字化转型目标比较明确、成熟，先有成熟的商业化软件和数字化体系，企业去跟随；第二，人工智能不知道最后对企业带来多大价值，如何衡量，使用过程中可能需要迭代、改进，需要对不确定性有很好的预期。所以两者不同带来的是在转型之路上不能照抄以往经验，需要有适合人工智能落地的新思考方式。不论是不断尝试和迭代找到适合自己的方式，还是已经有明确战略，从底层做起，能够在理论基础上运用实践进行各层级的突破。无论哪一种方法都不是在过往经验中寻找方法，而是通过人工智能特点安排新的方法。

人工智能也有一个悖论，一方面大家担心人工智能会取代很多人的工作，另一方面现代企业做人工智能最缺的恰恰是能驾驭人工智能的人，而不是算力，算力成本迟早会降下来，但人才不是短期内能解决的问题。一个企业要做好人工智能，不但要考虑有多少适合的人才，还要考虑如何把这些人才协调在组织中更好地部署，发挥最大作用，而这个问题往往被很多企业忽略。

现在企业面临的是人工智能技术快速发展，各种应用想法平台成熟不全，不是缺乏选择，而是选择过多，不知道哪个大模型在哪个任务上表现更好，我们看到的所有表单比拼和真正大模型落地是两码事。所以，人工智能端到端要给企业提供环境，帮助企业完成转型之路，需要有好的合作伙伴。从德勤来讲，从人工智能服务到平台工具链，到基础，整个链路都需要有对应的合作伙伴 。我们选择阿里云作为合作伙伴，是基于双方对市场的长期认知，希望成为客户长期的合作伙伴，认为人工智能要给企业带来真正业务价值需要走一条长路，而不是只关注当下。在合作过程中，我们更多的将我们队行业的洞察，人才库，在行业经验上的积累和阿里的工具链大模型平台做更好的整合。在我们做过的很多案例当中，非常深刻体会是首先确保对任务认知的清晰度，才能拥有完整的解决方案去帮助客户实践。第二是人工智能从上线才真正开始接力，也就是说系统是在运营过程当中通过反馈机制来理解哪方面还存在缺陷，通过迭代去优化而不是压缩系统。昨晚上线后，所有的内容相对标准化，人工智能做完以后在开始整理，这里点可以将平台和咨询能力很好的整合，而我们给客户提供的是围绕长期价值的服务。

3. 落地人工智能

现在谈一下如何给企业落地人工智能。以前最多的讨论是帮助客户定义产品，梳理场景，人工智能生成AI是每一个人都体验过的技术，当企业梳理场景先做还是后做时，你会面临很多想法。通过各种方法论梳理出来的仍然是单个方法论。但现在中国已经有不少企业对单个场景做过尝试并看到价值。问题是一个场景的价值有边界，企业真正要的是提升市场竞争力，改变财务结构，改变竞争格局。以前我们忽略了端到端的场景，我们不是只做一个场景，需要改善整个流程端到端的价值。所以未来人工智能的竞争（围绕百亿的大平台，或者通义模型）会越来越重视帮助企业实现端到端流程的提升，让不同场景之间的价值可以传递，重新设想有了生成式人工智能后业务模式的本质变化。生成式永远可以是个人工具，但对于企业每一个人的提升是碎片化的，没有办法把每个人的碎片化提升变成整个企业的经济效益整体提升。对于企业来说，关键技术和关键模型是否能找到突破口提升整体效益。未来会有越来越多的端到端的技术被AI化，每一个行业具体落地的形式会变化，关键是不同的行业和企业如何思考这个问题。今天，在中国已经有不少的客户和企业不断考虑也在做这样的事情。如果要将所有流程串联，作为过程上的考量，就必须在前面谈到的在六个支柱方面有深刻理解和布局。如何解决数据问题，如果是端到端就以为着所需要的知识来源是分散的，所以整合这些数据和对应技术与人工智能无关，这是一个投入。我们有顾客通过大量的互联网终端设备整合所在行业的终端消费者消费信息。如何通过大模型运用最佳架构快速迭代所需功能。比如我要做智能体，我如何在企业里有组织有规划的迭代和生产我需要的智能体，并且通过智能体之间的关联对接业务流程。以及如何才能吧这样的模式与最后的业务模式最终解决的问题，要么是如何跟客户收到了最佳个性化处理，增加了订单。要么就是在整个过程中我对所有的投入做了进一步的自动化。所以大大提升和优化，使得成本减少。所以未来智能的竞争不再是单一性能的竞争，而是研究什么样的业务流程能够运用人工智能达到整体提升，这种竞争会形成企业间的竞争趋势。

今天大部分客户追求价值变现快、成本低，但在人工智能领域，短期的输赢和长期的整合创新、端到端流程创新在价值体现上有很大不同，未来企业在这方面会有一场竞赛。我们希望将来有更多机会跟大家分享和讨论人工智能如何帮助企业实现价值。

 

二、产品博士-基于阿里云白炼的首个阿里云内部案例

百炼自发布以来，很多客户已经开始实践。阿里云本身也有很多智能应用需求，阿里云是不是基于百炼在做呢？我今天为大家分享的是阿里云最早也相对非常成熟的典型 案例——产品博士。产品博士是将产品知识与大模型相结合，为阿里云智能内部提供产品知识服务，帮助内部人员提升工作效率，快速获取产品知识。

产品知识对阿里云意味着什么呢？阿里云的知识资产很丰富，最核心的是产品知识。我们把产品知识分成三个层次。第一个层次是结构化的数据内容，通常在关键数据库里，存储产品实际信息、产品关系、人员和组织信息等，特点是真实可靠、客观准确。如果有问到这些数据的疑问，可以直接转化后回答用户，但这种情况概括面较少。更多的是回答产品能做什么等问题，这部分内容质量要求高，是经过专门打磨、标准化生产的结构化内容，非常准确客观。为了覆盖其他周边问题，我们还准备了扩大知识，如市场报告、客观材料等。

1.问答能力

我们能提供的问答能力主要有两种。第一种是内部人员想了解产品的各种属性和能力，如对象存储的功能、个性、应用场景、案例优势等，这是最常见的方式。客户通常围绕业务问题，询问如何通过产品或产品组合解决业务场景问题，我们也能提供相应答案。从产品的建设来看，除了提供上述结构化问题的答案外，我们还能提供参考资料供深入学习，同时把产品相关的人员和组织信息带出来，界面上还安排了与用户的互动。

2.主要应用场景

我们主要的应用场景是内部一线销售和技术支持人员，他们主要面临三种场景：一是需要快速回答的场景；二是需要综合多种知识、请教专业人员才能回答的复杂问题场景比如售前参议规划；三是需要回答产品详细使用或细节的售后场景。经过半年的实践，阿里云智能内部的这个产品得到了很好的应用，核心用户群体使用率高，这里给大家两组数据。第一组数据就是今天我们的核心用户群体，他们的使用率达到73％。从最近的八月份来看，提问量超过了15万。那么之所以有这样一个应用的规模，一方面已经来自于我们的运营工作。但是最主要的还是问答的质量和效率，我们的问题平均回答理采纳率都已经做到90%甚至更高。换句话讲就是说我们可以将我们的句识率比较低。同时正确率和采纳率提升，效果比较好。之所以能有这样的效果，通过我们实践，因为有两个最重要的要素。第一个是模型的能力，第二个是内容的质量。模型能力有两方面，一是基模，基模的能力和参数规模会产生全局根本性的影响，我们今天使用的机模是通义千问和RAG能力。另外我们也使用了百炼平时能力，内置了pront，告诉产品是一个支持博士，第一问回答产品知识问题，请你用如下方式进行回答，他可以结构化的用我们希望的方式回答各种问题。

3. 内容质量

内容质量在很多企业实践中会带来问题。我们要针对业务产品需要构建规划，明确需要什么样的内容，而不是有什么放什么。要在规划范围内构建知识，保障知识的质量，不要放入太多内容，知识太多会重复，质量也参差不齐，所以要进行任务筛选，选择高质量的问题，再进行工作量的分配。现在很多团队会先简建立一个IT团队，打造应用或者产品，当我发现效果不好以后内容要怎么安置，但其实这个工作量不大，是你假想的误区。所以要筛选高质量内容做可控工作量的任务。比如企业招人不会先招小学生培养，而先招复合条件的大学生。和我们今天所说一样，要先从海量工作库里选取高质量内容，然后做少量的知识治理。所以先做产品和规划对内容清晰以后做下一步分类和打标再做少量的内容治理。这个内容治理怎么做呢，有几个方面。第一突出要点，比如ECS特训是一个知识点，可以在文件命名上对这些要点尽量特殊化，第二对文档内容结构化，不同结构框架可以描述不同知识点，这样质量更高。第三针对一些特定的概念术语或者英文缩写或者重要话题可以做二次加工或者定向增补。但是这种加工要基于dadcase发展，通过dadcase迭代找到相应原因，分类再解决。有一些复杂问题需要跨多个文档才能得到答案，但是召回片段是有限的，跨文件过多效果不一定好，那么我们需要构建一个顶级文档，关联不同知识片段形成更高水平的关联性文档，更好的告诉模型能力进行问答 。还有一些复杂表格解析并不好，当你发现这个问题时也可以做一些处理和优化表格内容。

4.使用过程

内容规划好后就可以使用了。我们可以通过工程化方式带来更便捷的工具，如批量导入，文档转换平台，自动更新，关联到内容，因为在企业里不同的知识系统不止一个，比如产品博士，阿里云知识系统叫“云知道”，我还可以对接阿里云官网，还可以对接标准知识产品库，不要直接提取原文件去做处理，容易形成知识分叉，源文件更新后要做自动保存迁移，降低成本。导入后可以查看效果，在此之前要导入基准评测集，他来自于业务需要。比如你今天构建一个业务应用，它的涵盖运维范围是怎样的，要合理分配评测集。建议使用客观数据、真实数据，再进行发布上线。 发布后还需要不断迭代，通过分析问题，如从未使用过的用户和使用一段时间后不再使用的用户，了解原因，进行优化。不要轻易发布，要确保与真实场景关联，发布后要有持续的迭代。新百炼会打造更加强大的应用能力。因为更加开放的生态性的模型能力，能进一步提升效果。并且还可以引入其他补充功能，带来更多优质高需求的内容。这是未来可以发力的方向。这个产品在计算馆有专门展台。如果有兴趣，可以去实际体验操作。相信在企业内部，大家首先想到的可能都是知识问答内部采用。

 

三、模型+应用双轮驱动:全面开放的大模型生态

1.生态产生原因

在大模型时代，如果大家希望融入大模型上下游生产链，跟阿里及业内大模型公司一起探索场景落地，获取价值，展示场景服务，应该如何做百炼和阿里在这方面做了哪些事情。今天非常希望跟大家交流两个点。首先讲讲为什么会有生态。本质上，很多模型落地时有两个重要点，一个是模型，一个是应用。大家听了一天，看到了如何利用模型解决业务或生产问题，也会发现需要构建应用。应用需要额外的东西，本质上大模型是技术，解决问题需要过程，中间是完整链条，模型本身不能直接解决问题，实际业务生产中需要额外的 API、设计业务逻辑和完成交付。对于云厂商和百炼平台，提供一整个模型加应用的双重驱动基础设施。在此基础上，欢迎做模型的厂商，不管是有资源模型能力、做三方模型还是做阿里开闭源模型上下游生态的厂商，为我们提供模型供给。左边是模型，右边是应用。在模型方面，会集成开源、地源及三方模型，在应用方面，需要用到 API、插件、三方应用，甚至需要咨询和服务，这些往往不是是在座企业和上下游开发者擅长的，而是在相关开发云生产的。所以百炼平台在设计生态和模型时有四个重要要点。如果关注大模型生态上下游，希望当前业务结合大模型生态实现客户价值，与阿里云和百炼共同完成业内经典交互和落地业务实现，可以看看适用于哪个生态。一个是模型生态，比较好理解。百炼除了支持一方模型，还支持一系列业内领先的大模型服务。除了模型还有应用。如果基于通义模型做了好应用，缺乏对外实现业务增长的通道，可以通过应用生态方式引入优秀应用，叠加模型和应用的企业和开发者入口，实现业务价值。当然，如果企业不是做应用或大模型的，可以提供特殊 API，比如聚合搜索API，金融数据查询 API、计算 API 等，通过插件生态接入大模型落地过程，用户通过调用 API 实现付费和二次转售。最后是服务生态。如果企业是交付型的，有好的售前交付解决方案架构，可以基于百炼提供的模型和模型应用工具链提供一站式交互服务，降低交付成本和实施成本。四个生态都围绕模型如何落地、为企业带来业务价值和在生产中实现业务价值。

2.众多模型

百炼在模型生态上已经上线了众多模型，包括百川、月之暗面、零一万物我给你minimax那国际、东南亚本地模型瑞卡、开源模型FLUX和 stable diffusion 等。如果有模型研发能力或在领域和行业模型中有很好理解，欢迎联系我们，将模型上架到百炼，我们会给予引流支持。阿里云在大模型平台中是国内唯一一个拥有出海、新加坡本地服务资质及本地合规服务的平台。对于自研模型需要出海的，欢迎联系我们，我们提供海外版模型上架三方模型服务。如果有三方模型或希望集成百炼平台能力作为二次提供外部服务的平台能力，我们也非常希望支持大家。现在百炼在工具店上全面开放了 20 多个主流模式工具，不管是一方模型还是三方模型，都可以利用智能体工作流体验rag、微调评测等工具面板服务。如果企业更注重业务理解和行业理解，欢迎基于工具链构建自有二次集成平台，把专业领域模型和行业模型结合平台能力交付出去。

3.. 业务为先的应用生态

讲完模型讲应用。好的应用甚至比好的模型还重要，因为它大大缩短了实际业务客户需求到真实技术之间的距离。很多时候，平台方和模型方不会解决最后一公里的问题，这需要在座各位通过自身对领域行业业务数据的理解，结合模型去落地。不管是一方应用还是三方应用，我们都有好的通道帮助引流到平台。我们也引入了像islid, chat excel等三方来开发应用体系。如果应用构建和研发困难，企业可以提供特殊 API，百炼致力于成为聚合最多 API 的大模型组织平台，会结合阿里云市场能力共同发布 1000 多个 API 服务，有成熟分成模式帮助实现业务结算和盈利。我们引入了不同领域的 API，并给予支持。

4.合作共赢的服务生态

讲完模型和应用，会发现当去到客户那里，客户需要的往往不是工具链或基础模型，而是围绕模型形成的一整套解决方案。这个解决方案有很强的业务属性，来自对客户业务场景的理解，用什么样的工具、技术、框架和解决方案去解决业务问题。阿里云和百炼希望在生态链条上，每一家合作伙伴能共同完成模型落地的最后一公里问题。我们欢迎三类合作伙伴：咨询集成型企业，有 IT 领域理解，为特定行业提供交互和服务，有领域落地经验，希望借助大模型实现业务二次增长；有传统成熟 SaS 软件的企业，希望利用大模型实现新功能和增长；做 AI 创新的创业公司，希望通过我们的模型技术和领域支持实现落地。在服务生态中，我们非常希望培育合作伙伴，成为未来大模型业务落地的最佳实践，沉淀更多案例为客户提供场景。

5.权益方面

在权益方面，我们会给予技术赋能，教大家如何使用模型，优化和监测模型，让大家在业务领域更好地落地。我们也会做联合市场推广，提高在阿里企业客户中的影响力，还有商机合作，为大家带来商机提升。所有生态合作计划欢迎访问阿里云官网，加入百炼生态合作体系，也可以在官网渠道联系我们成为合作伙伴。如果有客户交付问题或真实业务场景，欢迎随时联系我们共同探索大模型在千行百业中的应用。在这里其实是一些流程，包括我们的一些资质和要求，我就不在这儿多说了，还是刚刚所提到的一点。阿里云百炼，其实我们在模型和模型整套的工具链的都有比较好的理解，也会提供非常完整的工具。但是真正落地到行业里面怎么用，如何用你的行业的特点是什么?他们最常用的是什么?哪些是高价值的场景。需要什么样的数据需要什么样的模型需要怎么样的评价?

测标准怎么在你的行业和领域里面探索出一条全新的路。往往是今天今天双方合作联手才有可能达到的一个过程。所以有想法的公司和企业都可以随时联系我们来成为我们的合作点伙伴的生态联盟。我们也会不断去探索业内在不同领域里面生态的合作伙伴来做提升。这个是我们刚刚所提到的不同类型所得到的对应的阐述物。

最后总结一下，100%的业务价值等于 50%的产品技术和 50%的解决方案。从早期数据到基础模型，再到工具链加速模型落地，完成前面三点才实现 50%，还需要解决方案。解决方案的本质不是商机和项目，而是知道怎样做。在金融、医疗、法律、工业等领域，每个细分场景都有很多knowhow，它决定了如何利用生产要素实现业务价值，也会反过来帮助优化数据、模型和工具。最后业务实践是业务价值的唯一衡量标准，它是不断迭代和优化的过程，需要真实业务反馈回来的知识和数据理解，跨越大模型业务落地的最后一公里。希望今天和伙伴们一起跨越大模型业务落地的最后一公里，实现更多客户价值。感谢大家参与阿里云百炼的赛事，从RAG聊到平台、技术和合作，本质上是在大模型课题下，如何跟平台共生，拥抱模型，拥抱变化时代，把业务价值交付成客户价值。未来希望一起共同繁荣大模型生态，实现业务价值落地和客户转型。