阿里云百炼产品月刊【2024年8月】

简介: 阿里云百炼产品月刊【2024年8月】,涵盖本月产品和功能发布、应用实践等内容,帮助您快速了解阿里云百炼产品的最新动态。

铛铛铛!阿里云百炼大模型服务平台第二期「产品月刊」准点上线啦🎉

快搬好板凳前排坐好!新鲜出炉的产品月刊这就为您奉上~~


1. 🍬产品功能更新

1.1 数据服务

👉据管理、知识索引功能的管控API上线:🔗API目录


1.2 应用服务

👉全新升级了智能体,工作流,智能体编排应用🔗应用入口

👉长期记忆memory相关openAPI,应用推理API支持memoryId上线🔗API目录

👉智能体应用支持多函数调用,支持循环调用的打断:🔗智能体编排应用

  • AI-Agent应用创建新增支持qwen2-72b-instruct,qwen2-57b-a14b-instruct模型🔗应用入口
  • 流程编排内容优化:🔗流程管理
  • 我的应用模块选择模型后,支持展示最大长度数据:🔗我的应用
  • 应用测试窗支持长期记忆用户洞察&用户画像:🔗应用测试入口
  • 析言新增数据上传官方预置数据库🔗析言测试入口


1.3 模型服务


1.4 系统服务


2. 🍬模型更新迭代

👉FLUX文生图模型:🔗模型详情

👉新增Qwen2-Math模型:🔗模型详情



3. 🍬阿里云百炼大模型服务平台8月产品Relase Note

功能所属模块

功能主要描述

模型管理

  • 新增模型:FLUX文生图模型Qwen2-Math模型qwen-plus-0806快照模型,提供免费额度,可进行体验。
  • 升级了qwen-plus模型

模型训练

  • 新增DPO训练模式:直接优化模型参数来实现对模型行为的精确控制,而无需使用复杂的强化学习策略。
  • 新增qwen2-7Bqwen2-72B模型支持训练部署:qwen2-7B支持OpenAI API风格调用,通过服务详情页获取服务访问地址和访问凭证。qwen2-72B使用PAI-QuickStart中的全量参数微调,基于Megatron-LM训练流程,支持多种并行技术和显存优化。
  • 新增模型自动化评测通过提供全链路服务、多样化的评测工具、自动化半自动化的评测流程以及多维度的评测结果,极大地提升了模型开发和应用构建的效率和质量。

模型调用

  • 新增batch调用模式:成本较低、状态查询较灵活,无QPM限流、高效的调度机制、广泛的适用场景、支持多种模型,为用户提供了一个高效、灵活且经济的大模型调用解决方案。

应用管理

  • 析言新增数据上传官方预置数据库:可针对excel进行问答,数据分析、绘制可视化图表。可以直接使用官方预置的数据库进行测试,简化了测试流程。
  • 新增升级了智能体,工作流,智能体编排应用:能够更高效地开发和部署大模型应用。
  • 新增智能体应用支持多函数调用,支持循环调用的打断使得智能体能够执行更复杂的任务,并且节省资源并提高应用的响应速度。
  • AI-Agent应用创建新增支持qwen2-72b-instruct,qwen2-57b-a14b-instruct模型:丰富了应用模型支持类型,增强了多语言能力,扩展了上下文长度支持。
  • 新增应用测试窗支持长期记忆用户洞察&用户画像应用能够根据用户的历史交互数据,提供更加个性化的服务和响应,在对话中保持对用户意图和偏好的连续理解,保持上下文的连贯性。
  • 长期记忆memory相关openAPI,应用推理API支持memoryId上线。

数据管理

  • 新增数据管理、知识索引功能的管控API:支持上传、处理和管理数据,可以创建和管理不同的数据类目,提供了文档管理的灵活性,使得数据组织更加高效和有序。
  • 数据清洗增加毒性去除因子,敏感词词库精简:提升内容安全性,优化数据处理效率。
  • 结构化数据支持增量导入、支持表头数据类型设置通过支持表头数据类型设置,用户可以在数据导入时定义每列数据的类型,增量导入功能允许用户只上传更新或新增的数据,使得数据维护更加灵活和高效。
  • 数据处理增强支持场景化 - 分类、抽取、创作:丰富了处理增强场景。
  • 模型数据导入优化:支持了自动刷新。导入有失败的时候,显示了不同错误码代表的意思,可以自行排查,失败详情文件里也会有对应错误码。

系统管理

  • 百炼新增可信业务空间
  • 业务空间管理、账号管理、全部APIKEY支持RAM权限



作者介绍
目录