问题一:请问在机器学习PAI加载批数据集csv文件时,支持加载的最大列数是多少呢?
请问在机器学习PAI加载批数据集csv文件时,支持加载的最大列数是多少呢?我加载88列的csv文件时报错 Exception in thread "main" org.apache.flink.table.api.ExpressionParserException: Could not parse expression at column 1011: string matching regex \p{javaJavaIdentifierStart}\p{javaJavaIdentifierPart}*' expected but
1' found
参考答案:
对于第一个问题,从错误提示上看并不是由于列数过多导致的,而是解析表达式时遇到了正则表达式匹配失败的情况,具体原因可能是某一行中的第 1011 列不符合预期格式,建议检查一下数据源是否有异常的数据或者字符。
第二个问题,一般来说,Flink 和 Flink PAI 对于 CSV 文件格式的要求都是:第一行为表头,其余每行为一条记录;表头由逗号分隔的一系列字符串构成,这些字符串代表每一列的名字;记录则由逗号分隔的一系列字符串构成,每条记录的数量应该与表头一致;表头和记录中都允许出现空格和特殊符号,但不允许出现换行符和制表符。
如果没有数字开头的列,且包含特殊符号,例如 @ 符号,那么可以正常创建表并加载数据,但需要注意的是,在 SQL 查询时需要转义特殊字符,例如:
CREATE TABLE my_table ( `@column` STRING, ... )
然后使用反引号 ` 将特殊符号包裹起来即可正确引用
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/567629
问题二:关于不同方式部署Stable-Diffusion-WebUI的疑问
已解决
关于部署Stable-Diffusion-WebUI,看到了各种不同的方法,目前有三个不同方案:
1、通过PAI-EAS快速部署AI绘画Stable Diffusion WebUI;
2、通过PAI-DSW,快速启动Stable Diffusion WebUI;
3、通过FC函数部署Stable Diffusion WebUI;
那么请问:
这三种方式部署SD的区别是什么?
分别有什么优劣势?
哪种更加划算?
谢谢!
参考答案:
- PAI-EAS 方案:PAI-EAS 提供预置图像处理、数据处理和模型训练的能力,并且易于管理资源。它可以节省您的时间和精力,并且无需关心底层细节。
- PAI-DSW 方案:PAI-DSW 提供强大的计算能力,便于快速搭建AI开发环境,并且拥有丰富的功能。
- FC Function 方案:FC Function 方案可以提供更高的弹性伸缩性和自动扩容能力,并且成本更低。
总体而言,PAI-EAS 和 PAI-DSW 方案更加适合部署 AI 绘画任务,而 FC Function 方案更加适合大规模处理任务,同时更便宜。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/567040
问题三:机器学习PAI是只支持部署model.json文件吗?
机器学习PAI是只支持部署model.json文件吗?这边部署失败了 Traceback (most recent call last):
[2023-11-02 13:31:53] File "xgboost.py", line 74, in
[2023-11-02 13:31:53] runner.run()
[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/allspark/init.py", line 896, in run
[2023-11-02 13:31:53] self.initialize()
[2023-11-02 13:31:53] File "xgboost.py", line 54, in initialize
[2023-11-02 13:31:53] tl2cgen.export_lib(model, toolchain='gcc', libpath='./mymodel.so',
[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/shortcuts.py", line 82, in export_lib
[2023-11-02 13:31:53] temp_libpath = create_shared(
[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/create_shared.py", line 105, in create_shared
[2023-11-02 13:31:53] libpath = _create_shared(
[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/contrib/gcc.py", line 68, in _create_shared_gcc
[2023-11-02 13:31:53] return _create_shared_base(dirpath, recipe, nthread=nthread, verbose=verbose)
[2023-11-02 13:31:53] File "/home/admin/docker_ml/workspace/predictor/loan_multiloan_correct_risk_model_v11/ENV/lib/python3.8/site-packages/tl2cgen/contrib/create_shared.py", line 98, in _create_shared_base
[2023-11-02 13:31:53] raise TL2cgenError(
[2023-11-02 13:31:53] tl2cgen.exception.TL2cgenError: Error occured in worker #0: gcc: internal compiler error: Killed (program cc1)
[2023-11-02 13:31:53] Please submit a full bug report,
[2023-11-02 13:31:53] with preprocessed source if appropriate.
[2023-11-02 13:31:53] See https://aone.alibaba-inc.com/project/767688/issue/ for instructions.
[2023-11-02 13:31:53] gcc: internal compiler error: Killed (program cc1)
[2023-11-02 13:31:53] Please submit a full bug report,
[2023-11-02 13:31:53] with preprocessed source if appropriate.
[2023-11-02 13:31:53] See https://aone.alibaba-inc.com/project/767688/issue/ for instructions.
[2023-11-02 13:31:53]
参考答案:
.json 和 .m 应该都可以,这个processor使用了treelite部署,不是原生的xgboost库,您如果有需求我可以临时打个包,具体需要使用哪个库
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/566862
问题四:机器学习PAI这个是如何指定xgboost版本的呢?
机器学习PAI这个是如何指定xgboost版本的呢?我没有找到入口。XGBoost2.0版本支撑了多任务学习算法
一个样本可以输出多个模型分结果
参考答案:
PAI机器学习服务不直接支持指定xgboost版本,但是在自定义镜像中您可以自行安装所需的xgboost版本。您可以在镜像构建过程中使用pip install xgboost==2.0
命令安装XGBoost2.0版本。
另外,您可以使用自定义环境的方式指定特定版本的xgboost,自定义环境的示例见《PAI机器学习服务用户手册》中的“使用自定义环境”部分。自定义环境中包含了需要的Python环境以及特定版本的xgboost。
至于XGBoost2.0版本所支持的多任务学习算法,在安装完所需版本后,可以直接按照XGBoost官方文档中的指示实现多任务学习算法的编写和运行。
关于本问题的更多回答可点击进行查看:
https://developer.aliyun.com/ask/566861
问题五:机器学习PAI这种预置的processor 部署完成之后调用就是直接用字符串数组的入参形式么?
机器学习PAI这种预置的processor 部署完成之后调用就是直接用字符串数组的入参形式么?
类似这个?
参考答案:
https://help.aliyun.com/zh/pai/user-guide/deploy-gbdt-models-and-call-gbdt-model-services
关于本问题的更多回答可点击进行查看: