人工智能平台PAI产品使用合集之PAI机器学习预置处理器在部署完成后怎么进行调用

简介: 阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。

问题一:请问在机器学习PAI加载批数据集csv文件时,支持加载的最大列数是多少呢?

请问在机器学习PAI加载批数据集csv文件时,支持加载的最大列数是多少呢?我加载88列的csv文件时报错 Exception in thread "main" org.apache.flink.table.api.ExpressionParserException: Could not parse expression at column 1011: string matching regex \p{javaJavaIdentifierStart}\p{javaJavaIdentifierPart}*' expected but1' found



参考答案:

对于第一个问题,从错误提示上看并不是由于列数过多导致的,而是解析表达式时遇到了正则表达式匹配失败的情况,具体原因可能是某一行中的第 1011 列不符合预期格式,建议检查一下数据源是否有异常的数据或者字符。

第二个问题,一般来说,Flink 和 Flink PAI 对于 CSV 文件格式的要求都是:第一行为表头,其余每行为一条记录;表头由逗号分隔的一系列字符串构成,这些字符串代表每一列的名字;记录则由逗号分隔的一系列字符串构成,每条记录的数量应该与表头一致;表头和记录中都允许出现空格和特殊符号,但不允许出现换行符和制表符。

如果没有数字开头的列,且包含特殊符号,例如 @ 符号,那么可以正常创建表并加载数据,但需要注意的是,在 SQL 查询时需要转义特殊字符,例如:

CREATE TABLE my_table (
  `@column` STRING,
  ...
)

然后使用反引号 ` 将特殊符号包裹起来即可正确引用



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/567629



问题二:关于不同方式部署Stable-Diffusion-WebUI的疑问

已解决

关于部署Stable-Diffusion-WebUI,看到了各种不同的方法,目前有三个不同方案:

1、通过PAI-EAS快速部署AI绘画Stable Diffusion WebUI;

2、通过PAI-DSW,快速启动Stable Diffusion WebUI;

3、通过FC函数部署Stable Diffusion WebUI;

那么请问:

这三种方式部署SD的区别是什么?

分别有什么优劣势?

哪种更加划算?

谢谢!



参考答案:

  1. PAI-EAS 方案:PAI-EAS 提供预置图像处理、数据处理和模型训练的能力,并且易于管理资源。它可以节省您的时间和精力,并且无需关心底层细节。
  1. PAI-DSW 方案:PAI-DSW 提供强大的计算能力,便于快速搭建AI开发环境,并且拥有丰富的功能。
  2. FC Function 方案:FC Function 方案可以提供更高的弹性伸缩性和自动扩容能力,并且成本更低。

总体而言,PAI-EAS 和 PAI-DSW 方案更加适合部署 AI 绘画任务,而 FC Function 方案更加适合大规模处理任务,同时更便宜。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/567040



问题三:机器学习PAI是只支持部署model.json文件吗?

机器学习PAI是只支持部署model.json文件吗?这边部署失败了 Traceback (most recent call last):

[2023-11-02 13:31:53] File "xgboost.py", line 74, in

[2023-11-02 13:31:53] runner.run()

[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/allspark/init.py", line 896, in run

[2023-11-02 13:31:53] self.initialize()

[2023-11-02 13:31:53] File "xgboost.py", line 54, in initialize

[2023-11-02 13:31:53] tl2cgen.export_lib(model, toolchain='gcc', libpath='./mymodel.so',

[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/shortcuts.py", line 82, in export_lib

[2023-11-02 13:31:53] temp_libpath = create_shared(

[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/create_shared.py", line 105, in create_shared

[2023-11-02 13:31:53] libpath = _create_shared(

[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/contrib/gcc.py", line 68, in _create_shared_gcc

[2023-11-02 13:31:53] return _create_shared_base(dirpath, recipe, nthread=nthread, verbose=verbose)

[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/contrib/create_shared.py", line 98, in _create_shared_base

[2023-11-02 13:31:53] raise TL2cgenError(

[2023-11-02 13:31:53] tl2cgen.exception.TL2cgenError: Error occured in worker #0: gcc: internal compiler error: Killed (program cc1)

[2023-11-02 13:31:53] Please submit a full bug report,

[2023-11-02 13:31:53] with preprocessed source if appropriate.

[2023-11-02 13:31:53] See https://aone.alibaba-inc.com/project/767688/issue/ for instructions.

[2023-11-02 13:31:53] gcc: internal compiler error: Killed (program cc1)

[2023-11-02 13:31:53] Please submit a full bug report,

[2023-11-02 13:31:53] with preprocessed source if appropriate.

[2023-11-02 13:31:53] See https://aone.alibaba-inc.com/project/767688/issue/ for instructions.

[2023-11-02 13:31:53]



参考答案:

.json 和 .m 应该都可以,这个processor使用了treelite部署,不是原生的xgboost库,您如果有需求我可以临时打个包,具体需要使用哪个库



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/566862



问题四:机器学习PAI这个是如何指定xgboost版本的呢?

机器学习PAI这个是如何指定xgboost版本的呢?我没有找到入口。XGBoost2.0版本支撑了多任务学习算法

一个样本可以输出多个模型分结果



参考答案:

PAI机器学习服务不直接支持指定xgboost版本,但是在自定义镜像中您可以自行安装所需的xgboost版本。您可以在镜像构建过程中使用pip install xgboost==2.0命令安装XGBoost2.0版本。

另外,您可以使用自定义环境的方式指定特定版本的xgboost,自定义环境的示例见《PAI机器学习服务用户手册》中的“使用自定义环境”部分。自定义环境中包含了需要的Python环境以及特定版本的xgboost。

至于XGBoost2.0版本所支持的多任务学习算法,在安装完所需版本后,可以直接按照XGBoost官方文档中的指示实现多任务学习算法的编写和运行。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/566861



问题五:机器学习PAI这种预置的processor 部署完成之后调用就是直接用字符串数组的入参形式么?

机器学习PAI这种预置的processor 部署完成之后调用就是直接用字符串数组的入参形式么?

类似这个?



参考答案:

https://help.aliyun.com/zh/pai/user-guide/deploy-gbdt-models-and-call-gbdt-model-services



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/566860

相关实践学习
使用PAI+LLaMA Factory微调Qwen2-VL模型,搭建文旅领域知识问答机器人
使用PAI和LLaMA Factory框架,基于全参方法微调 Qwen2-VL模型,使其能够进行文旅领域知识问答,同时通过人工测试验证了微调的效果。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
4月前
|
人工智能 自然语言处理 运维
【新模型速递】PAI-Model Gallery云上一键部署Kimi K2模型
月之暗面发布开源模型Kimi K2,采用MoE架构,参数达1T,激活参数32B,具备强代码能力及Agent任务处理优势。在编程、工具调用、数学推理测试中表现优异。阿里云PAI-Model Gallery已支持云端部署,提供企业级方案。
327 0
【新模型速递】PAI-Model Gallery云上一键部署Kimi K2模型
|
8月前
|
机器学习/深度学习 人工智能 JSON
【解决方案】DistilQwen2.5-R1蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践
阿里云的人工智能平台 PAI,作为一站式的机器学习和深度学习平台,对DistilQwen2.5-R1模型系列提供了全面的技术支持。无论是开发者还是企业客户,都可以通过 PAI-ModelGallery 轻松实现 Qwen2.5 系列模型的训练、评测、压缩和快速部署。本文详细介绍在 PAI 平台使用 DistilQwen2.5-R1 蒸馏模型的全链路最佳实践。
|
7月前
|
机器学习/深度学习 人工智能 自然语言处理
Cosmos on PAI系列一:PAI-Model Gallery云上一键部署NVIDIA Cosmos Reason-1
本篇文章介绍 Cosmos 最新世界基础模型 Cosmos Reason-1 如何在阿里云人工智能平台 PAI 上进行快速部署使用。
|
7月前
|
人工智能 JSON 算法
【解决方案】DistilQwen2.5-DS3-0324蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践
DistilQwen 系列是阿里云人工智能平台 PAI 推出的蒸馏语言模型系列,包括 DistilQwen2、DistilQwen2.5、DistilQwen2.5-R1 等。本文详细介绍DistilQwen2.5-DS3-0324蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践。
|
8月前
|
人工智能 运维 API
PAI-Model Gallery云上一键部署阶跃星辰新模型Step1X-Edit
4月27日,阶跃星辰正式发布并开源图像编辑大模型 Step1X-Edit,性能达到开源 SOTA。Step1X-Edit模型总参数量为19B,实现 MLLM 与 DiT 的深度融合,在编辑精度与图像保真度上实现大幅提升,具备语义精准解析、身份一致性保持、高精度区域级控制三项关键能力;支持文字替换、风格迁移等11 类高频图像编辑任务类型。在最新发布的图像编辑基准 GEdit-Bench 中,Step1X-Edit 在语义一致性、图像质量与综合得分三项指标上全面领先现有开源模型,比肩 GPT-4o 与 Gemin。PAI-ModelGallery 支持Step1X-Edit一键部署方案。
|
3月前
|
机器学习/深度学习 人工智能 供应链
决策智能是新的人工智能平台吗?
决策智能融合数据、决策与行动,通过AI与自动化技术提升企业决策质量与效率,支持从辅助到自动化的多级决策模式,推动业务敏捷性与价值转化。
|
4月前
|
人工智能 自然语言处理 运维
【新模型速递】PAI-Model Gallery云上一键部署gpt-oss系列模型
阿里云 PAI-Model Gallery 已同步接入 gpt-oss 系列模型,提供企业级部署方案。
|
5月前
|
机器学习/深度学习 人工智能 运维
阿里云PAI人工智能平台介绍、优势及收费标准,手动整理
阿里云人工智能平台PAI是面向开发者和企业的机器学习与深度学习工程平台,提供数据标注、模型构建、训练、部署及推理优化等全链路服务。内置140+优化算法,支持PyTorch、TensorFlow等多种框架,具备高性能训练与推理能力,适用于自动驾驶、金融风控、智能推荐、智慧医疗等多个行业场景。PAI提供零代码开发、可视化建模、大模型一键部署等功能,助力企业快速构建AI应用。支持多种购买方式,如按量付费、预付费等,满足不同业务需求。
|
7月前
|
人工智能
生成式人工智能认证(GAI认证)官网 - 全国统一认证中文服务平台上线
生成式人工智能(AI)正深刻改变职场规则,但系统化学习相关技术成为难题。近日,由全球知名教育公司培生推出的生成式人工智能认证(GAI认证)中文官网正式上线,为专业人士和学习者提供了权威解决方案。该认证涵盖核心技能、提示工程、伦理合规等内容,助力持证者紧跟技术前沿,在职场中脱颖而出。全国统一认证平台提供便捷报名与在线考试服务,考后快速出成绩并颁发证书。行动起来,开启AI职业新篇章!

相关产品

  • 人工智能平台 PAI