场景简介

本次实验以设计Prompt来实现客服场景意图分类为目的，需在阿里云百炼平台创建一个应用，在应用中设计Prompt并测试调优。

背景知识

本场景主要涉及以下云产品和服务：

• 大模型服务平台百炼

  基于通义系列大模型和三方大模型的一站式大模型服务平台，提供生成式大模型的全流程应用工具和企业大模型的全链路训练工具。

您可扫描下方二维码或者钉钉搜索钉钉群号： 77600022533，加入阿里云百炼答疑群。

前提条件

云起实验室将在您的账号下开通本次实操资源，资源按量付费，需要您自行承担本次实操的云资源费用。

进入实操前，请确保阿里云账号满足以下条件：

• 已通过实名认证并且账户余额充足。

• 云资源产生的费用需您自行承担，云起实验室不会向您征收额外费用。

• 所有实验操作将保留至您的账号，请谨慎操作。

• 实操结束后，您可以选择继续付费保留资源，或参考手册自动/手动释放资源。

开通大模型服务平台百炼

本步骤指导您如何开通大模型服务平台百炼，如果您已开通过，请跳过此步骤。

1. 在实验页面，勾选我已阅读并同意《阿里云云起实践平台服务协议》后，单击进入实操。

   

2. 前往阿里云百炼控制台。

3. 在服务协议对话框中，阅读并单击同意。

   说明

   如果您是大模型服务平台百炼的老用户，不会弹出此对话框，请您跳过此步骤。

   

4. 在首页顶部，显示如下图所示的消息，您需要开通百炼的模型服务，以获得免费额度，请单击开通服务。

   说明

   如果未显示该消息，则表示您已经开通，请跳过此步骤。

   

5. 在弹出的对话框中，勾选我已阅读并同意《模型管理服务协议》，单击确认开通。

   

创建百炼大模型应用

阿里云百炼应用基于AssistantAPI技术架构，结合大语言模型（LLM）的推理、知识检索增强、插件调度等能力，构建应对各类复杂场景任务的场景应用。通过集成化、直观易用的产品界面，为开发者提供了丰富的应用配置选项，包括大型语言模型（LLM）选择、Prompt工程、知识检索增强、插件调度、流程调度等功能。

1. 前往阿里云百炼控制台。

2. 在左侧导航栏中，单击我的应用。

   

3. 在我的应用页面，单击新增应用。

   

4. 在弹出的对话框中，选择智能体应用，单击直接创建。

   

5. 在应用配置页面，模型选择通义千问-Max模型，参数配置保持默认即可。在选择模型区域，单击设置，然后单击模型选择，在弹出的对话框中选择任意模型，单击确认。

   说明

   本实验以通义千问-Max模型为例。模型也可选择通义千问其他模型。

   

   

6. 设计Prompt。

   • 实验要求：在客服场景，有时候需要利用大模型识别买家当前的意图和当前的情绪状态，请编写解决该任务的Prompt，并且结论要求以JSON格式输出。JSON格式包括input和output。input表示：用户和客服的历史对话，和最新一轮用户的query。output表示：用户当前的意图。

   • 示例Prompt：

     说明

     在设计Prompt时，请仔细阅读实验要求，参考示例Prompt，设计出符合要求的Prompt。您可以使用Prompt优化功能来帮助优化Prompt。其中，知识检索增强以及插件等能力可不开启。

     #角色
     你是一名客服经理，需要分析用户和客服的对话记录，了解用户的意图以及用户的情绪。并以JSON格式输出。
     
     ##示例
     input：{"历史对话":[{"用户": "我买的在线课程过了一年后无法看的话，可以延期","客服": "可以的，可以延期两次"}],"user_query": "15942345435"}
     output: { "用户意图": "我要延期课程, 我的手机号是15942345435.", "用户情绪"： "中性"}

     

7. 测试并调优。

   根据测试用例，测试已设计的Prompt是否按照要求输出，并进行优化。

   1. 在Prompt设计完成后，单击发布。

      

   2. 在发布版本区域，输入测试用例并发送。

      以下为测试用例：

      • {"历史对话":[{ "用户": "到底什么时候发货？已经等了好几天了","客服": "非常抱歉，会尽快为您发货的"},{"用户": "不是说48小时发货吗？怎么不守信用", "客服": "非常抱歉，会尽快为您发货的"}],"user_query":"再不发货我就退了"}

      • {"历史对话":[{"用户": "你好，请问175/180斤，我选的尺码合适么？","客服": "能提供下想要咨询的宝贝链接吗？"},{"用户": "商品链接" , "客服": "根据您提供的身高175.0厘米, 体重90.0公斤,您看中的这款根据您的数据推荐：XXL"} ],"user_query": "我平时都是XL的，会大的吧？"}

      • {"历史对话":[{"用户": "这个不是说到手价99吗","客服":"您查看的这款商品参加超级品牌日，领券下单更优惠，喜欢快来抢购吧！（区间价代表商品不同颜色的折扣力度不同，具体以付款页面为准） 活动时间：6月11日0:00-23:59:59"},{"用户": "这个怎么不是","客服": "活动内容出来了但宝贝价格没有变呢"}],"user_query":"现在活动不是已经开始了吗？"}

      • {"历史对话":[{"用户": "怎么回事，我这还没收货呢，就降价了","客服": "亲亲 现货产品30天内支持保价哦（付定金的预售产品不支持哈）"},{"用户": "好吧，怎么操作","客服": "操作方式：1.在活动当天重新提交原订单，不要付款，若提交的价格低于原订单实付价的，2.将订单确认交易，申请【仅退款】-原因【退运费】-金额是填写差价的金额PS：原订单实付款-重提交订单支付款=差价"} ],"user_query": "行吧，明天弄"}

      说明

      测试用例可不局限于以上几个，可以使用自己的测试用例。

      

实验结论

根据测试可以看出大模型可以按照实验要求输出结果，得到用户的当前意图以及分析出用户的情绪。

清理资源

• 在完成实验后，如果无需继续使用资源，请根据以下步骤，先删除阿里云百炼应用，再结束实操。

  • 删除阿里云百炼应用。

    1. 前往阿里云百炼控制台。

    2. 在左侧导航栏中，单击我的应用。

       

    3. 在我的应用页面，找到您创建的应用，选择更多 > 删除应用。

       

    4. 在确定删除该应用对话框中，单击确认删除。

       

  • 删除阿里云百炼应用后，选择不保留资源，单击结束实操。在结束实操对话框中，单击确定。

    

• 在完成实验后，如果需要继续使用资源，选择付费保留资源，单击结束实操。在结束实操对话框中，单击确定。请随时关注账户扣费情况，避免发生欠费。