人工智能平台PAI 操作报错合集之DSSM负采样时,输入数据不同,被哈希到同一个桶里,导致生成的embedding相同如何解决

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。

问题一:图形训练预测遇到了一些错误

这是组件的运行日志后半部分

2023-12-01 09:40:00,746 INFO: dlc endpoint pai-dlc.cn-shenzhen.aliyuncs.com

2023-12-01 09:40:00,748 INFO: input artifact input_table value is None

2023-12-01 09:40:00,748 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:00,779 INFO: Workspace list_features result: ['PaiDLC:IntegrateWithWorkspace']

2023-12-01 09:40:01,447 INFO: DLC job url: https://pai.console.aliyun.com/?regionId=cn-shenzhen&workspaceId=34471#/job/detail?jobId=dlc1ulv3lx1i7wmw

2023-12-01 09:40:01,702 INFO: job status: Creating

2023-12-01 09:40:16,960 INFO: job status: Failed

2023-12-01 09:40:16,962 INFO: input artifact input_table value is None

2023-12-01 09:40:16,962 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,003 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,003 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,208 INFO: delete data source: d-hkz9gro543u1x8i3ku

2023-12-01 09:40:17,209 INFO: input artifact input_table value is None

2023-12-01 09:40:17,209 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,242 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,242 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,443 INFO: delete data source: d-2a1agl03244fe6x59y

组件是通用图像预测easycv,上游组件是读取oss数据和图像检测训练easycv,

前几次测试的时候还可以调用起dlc到runing,后面就知道一下creating就出现failed了



参考答案:

根据提供的日志信息,可以看出组件在运行过程中出现了创建失败的情况。具体原因可能与以下几个因素有关:

  1. 输入数据问题:日志中显示input_tableinput_pose_detection_model_path的值都为None。这可能是由于上游组件没有正确传递这些输入数据导致的。请检查上游组件是否正确读取了OSS数据和图像检测模型,并将它们传递给当前组件。
  2. 资源限制:日志中还显示了作业状态为Failed,这可能是因为系统资源不足导致作业无法正常创建。请检查系统资源使用情况,如CPU、内存等,并确保它们满足组件的运行需求。
  3. 网络问题:日志中还显示了与阿里云相关的一些信息,如DLC(Deep Learning Compute)服务端点、工作空间等。如果网络连接存在问题,可能会导致作业创建失败。请检查网络连接是否正常,并确保可以访问到阿里云的相关服务。
  4. 配置问题:日志中还显示了一些初始化和删除数据集的操作。如果配置不正确,可能会导致作业创建失败。请检查相关配置是否正确,并确保它们符合预期的要求。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/574166



问题二:机器学习PAI报一个问题:我DSSM负采样版本,请问这个问题咱们有碰到过吗?

机器学习PAI报一个问题:我DSSM负采样版本,user tower输入两个特征:gender(F, M, UNKNOWN,共3种)与age_level([1, 17], [18, 24], ..., UNKOWN,共11种),item tower一个特征:item_id。我们输入数据都提前补好了缺失值,gender的hash_bucket_size设的200(unique value有3个),age_level的hash_bucket_size设为300。我们预期上user tower产生33种不同的user embedding,但是实际上有一些样本attr被hash到同一个bucket里去了,只有30种不同的user embedding,导致他们虽然feature不同但是embedding相同,请问这个问题咱们有碰到过吗?

看上图,gender一样age_level不一样,但是embedding一样,看起来是age_level被hash到同一个bucket了



参考答案:

确实是一样的,这种取值有限的,要么用个vocab_dict或者EmbeddingVariable好了 可以防止冲突,或者干脆设置的大一些,比如1000

这说明,大多数未知年龄的,都把他当做25-29 的年龄来处理(应该出现概率高)。看起来也有道理啊,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573260



问题三:请教下机器学习PAI现在GPU用不了可能是什么问题呢?

请教下机器学习PAI现在GPU用不了可能是什么问题呢?



参考答案:

上面好像都是要10.0,下面我看是10.1



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573257



问题四:机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?

机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?



参考答案:

机器学习PAI在等待云端的gateway资源可能是因为需要进行模型加载、数据预处理等操作。这个过程可能需要一些时间来准备所需的资源,因此需要等待一段时间。可以耐心等待一段时间,如果还不行的话,检查网络连接是否正常,以及阿里云账户是否有足够的资源来支持相关操作。

详细可以看看EAS常见问题:https://help.aliyun.com/zh/pai/support/faq-about-eas



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573256



问题五:机器学习PAI为什么 easyrec 打分会失败啊?

机器学习PAI为什么 easyrec 打分会失败啊?

用的是 mmoe 的模型,也不知道咋回事。



参考答案:

看最后一行的日志,已经提示了,输出没有写对



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573255

相关实践学习
使用PAI+LLaMA Factory微调Qwen2-VL模型,搭建文旅领域知识问答机器人
使用PAI和LLaMA Factory框架,基于全参方法微调 Qwen2-VL模型,使其能够进行文旅领域知识问答,同时通过人工测试验证了微调的效果。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
1月前
|
机器学习/深度学习 数据采集 算法
量子机器学习入门:三种数据编码方法对比与应用
在量子机器学习中,数据编码方式决定了量子模型如何理解和处理信息。本文详解角度编码、振幅编码与基础编码三种方法,分析其原理、实现及适用场景,帮助读者选择最适合的编码策略,提升量子模型性能。
173 8
|
1月前
|
机器学习/深度学习 人工智能 供应链
决策智能是新的人工智能平台吗?
决策智能融合数据、决策与行动,通过AI与自动化技术提升企业决策质量与效率,支持从辅助到自动化的多级决策模式,推动业务敏捷性与价值转化。
|
3月前
|
机器学习/深度学习 人工智能 运维
阿里云PAI人工智能平台介绍、优势及收费标准,手动整理
阿里云人工智能平台PAI是面向开发者和企业的机器学习与深度学习工程平台,提供数据标注、模型构建、训练、部署及推理优化等全链路服务。内置140+优化算法,支持PyTorch、TensorFlow等多种框架,具备高性能训练与推理能力,适用于自动驾驶、金融风控、智能推荐、智慧医疗等多个行业场景。PAI提供零代码开发、可视化建模、大模型一键部署等功能,助力企业快速构建AI应用。支持多种购买方式,如按量付费、预付费等,满足不同业务需求。
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
人机融合智能 | 数据与知识双驱动式人工智能
本章系统介绍了数据驱动、知识驱动及双驱动人工智能的理论与应用。数据驱动方法依赖大数据和深度学习,在图像识别、自然语言处理等领域取得突破,但面临标注成本高、可解释性差等问题。知识驱动方法通过知识表示与推理提升系统理解能力,却在泛化性和适应性上受限。为弥补单一范式的不足,数据与知识双驱动融合两者优势,致力于构建更智能、可解释且安全可靠的AI系统,兼顾伦理与隐私保护。文章还回顾了AI发展历程,从早期神经网络到当前大规模语言模型(如GPT、BERT)的技术演进,深入解析了各类机器学习与深度学习模型的核心原理与应用场景,展望未来AI发展的潜力与挑战。
242 0
|
6月前
|
机器学习/深度学习 算法 数据挖掘
PyTabKit:比sklearn更强大的表格数据机器学习框架
PyTabKit是一个专为表格数据设计的新兴机器学习框架,集成了RealMLP等先进深度学习技术与优化的GBDT超参数配置。相比传统Scikit-Learn,PyTabKit通过元级调优的默认参数设置,在无需复杂超参调整的情况下,显著提升中大型数据集的性能表现。其简化API设计、高效训练速度和多模型集成能力,使其成为企业决策与竞赛建模的理想工具。
216 12
PyTabKit:比sklearn更强大的表格数据机器学习框架
|
5月前
|
人工智能
生成式人工智能认证(GAI认证)官网 - 全国统一认证中文服务平台上线
生成式人工智能(AI)正深刻改变职场规则,但系统化学习相关技术成为难题。近日,由全球知名教育公司培生推出的生成式人工智能认证(GAI认证)中文官网正式上线,为专业人士和学习者提供了权威解决方案。该认证涵盖核心技能、提示工程、伦理合规等内容,助力持证者紧跟技术前沿,在职场中脱颖而出。全国统一认证平台提供便捷报名与在线考试服务,考后快速出成绩并颁发证书。行动起来,开启AI职业新篇章!
|
9月前
|
机器学习/深度学习 数据采集 JSON
Pandas数据应用:机器学习预处理
本文介绍如何使用Pandas进行机器学习数据预处理,涵盖数据加载、缺失值处理、类型转换、标准化与归一化及分类变量编码等内容。常见问题包括文件路径错误、编码不正确、数据类型不符、缺失值处理不当等。通过代码案例详细解释每一步骤,并提供解决方案,确保数据质量,提升模型性能。
380 88
|
6月前
|
数据采集 机器学习/深度学习 人工智能
数据驱动智能,智能优化数据——大数据与人工智能的双向赋能
数据驱动智能,智能优化数据——大数据与人工智能的双向赋能
459 4
|
6月前
|
机器学习/深度学习 存储 Kubernetes
【重磅发布】AllData数据中台核心功能:机器学习算法平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。

热门文章

最新文章

相关产品

  • 人工智能平台 PAI
  • 下一篇
    开通oss服务