人工智能平台PAI 操作报错合集之DSSM负采样时,输入数据不同,被哈希到同一个桶里,导致生成的embedding相同如何解决

简介: 阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。

问题一:图形训练预测遇到了一些错误

这是组件的运行日志后半部分

2023-12-01 09:40:00,746 INFO: dlc endpoint pai-dlc.cn-shenzhen.aliyuncs.com

2023-12-01 09:40:00,748 INFO: input artifact input_table value is None

2023-12-01 09:40:00,748 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:00,779 INFO: Workspace list_features result: ['PaiDLC:IntegrateWithWorkspace']

2023-12-01 09:40:01,447 INFO: DLC job url: https://pai.console.aliyun.com/?regionId=cn-shenzhen&workspaceId=34471#/job/detail?jobId=dlc1ulv3lx1i7wmw

2023-12-01 09:40:01,702 INFO: job status: Creating

2023-12-01 09:40:16,960 INFO: job status: Failed

2023-12-01 09:40:16,962 INFO: input artifact input_table value is None

2023-12-01 09:40:16,962 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,003 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,003 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,208 INFO: delete data source: d-hkz9gro543u1x8i3ku

2023-12-01 09:40:17,209 INFO: input artifact input_table value is None

2023-12-01 09:40:17,209 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,242 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,242 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,443 INFO: delete data source: d-2a1agl03244fe6x59y

组件是通用图像预测easycv,上游组件是读取oss数据和图像检测训练easycv,

前几次测试的时候还可以调用起dlc到runing,后面就知道一下creating就出现failed了



参考答案:

根据提供的日志信息,可以看出组件在运行过程中出现了创建失败的情况。具体原因可能与以下几个因素有关:

  1. 输入数据问题:日志中显示input_tableinput_pose_detection_model_path的值都为None。这可能是由于上游组件没有正确传递这些输入数据导致的。请检查上游组件是否正确读取了OSS数据和图像检测模型,并将它们传递给当前组件。
  2. 资源限制:日志中还显示了作业状态为Failed,这可能是因为系统资源不足导致作业无法正常创建。请检查系统资源使用情况,如CPU、内存等,并确保它们满足组件的运行需求。
  3. 网络问题:日志中还显示了与阿里云相关的一些信息,如DLC(Deep Learning Compute)服务端点、工作空间等。如果网络连接存在问题,可能会导致作业创建失败。请检查网络连接是否正常,并确保可以访问到阿里云的相关服务。
  4. 配置问题:日志中还显示了一些初始化和删除数据集的操作。如果配置不正确,可能会导致作业创建失败。请检查相关配置是否正确,并确保它们符合预期的要求。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/574166



问题二:机器学习PAI报一个问题:我DSSM负采样版本,请问这个问题咱们有碰到过吗?

机器学习PAI报一个问题:我DSSM负采样版本,user tower输入两个特征:gender(F, M, UNKNOWN,共3种)与age_level([1, 17], [18, 24], ..., UNKOWN,共11种),item tower一个特征:item_id。我们输入数据都提前补好了缺失值,gender的hash_bucket_size设的200(unique value有3个),age_level的hash_bucket_size设为300。我们预期上user tower产生33种不同的user embedding,但是实际上有一些样本attr被hash到同一个bucket里去了,只有30种不同的user embedding,导致他们虽然feature不同但是embedding相同,请问这个问题咱们有碰到过吗?

看上图,gender一样age_level不一样,但是embedding一样,看起来是age_level被hash到同一个bucket了



参考答案:

确实是一样的,这种取值有限的,要么用个vocab_dict或者EmbeddingVariable好了 可以防止冲突,或者干脆设置的大一些,比如1000

这说明,大多数未知年龄的,都把他当做25-29 的年龄来处理(应该出现概率高)。看起来也有道理啊,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573260



问题三:请教下机器学习PAI现在GPU用不了可能是什么问题呢?

请教下机器学习PAI现在GPU用不了可能是什么问题呢?



参考答案:

上面好像都是要10.0,下面我看是10.1



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573257



问题四:机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?

机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?



参考答案:

机器学习PAI在等待云端的gateway资源可能是因为需要进行模型加载、数据预处理等操作。这个过程可能需要一些时间来准备所需的资源,因此需要等待一段时间。可以耐心等待一段时间,如果还不行的话,检查网络连接是否正常,以及阿里云账户是否有足够的资源来支持相关操作。

详细可以看看EAS常见问题:https://help.aliyun.com/zh/pai/support/faq-about-eas



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573256



问题五:机器学习PAI为什么 easyrec 打分会失败啊?

机器学习PAI为什么 easyrec 打分会失败啊?

用的是 mmoe 的模型,也不知道咋回事。



参考答案:

看最后一行的日志,已经提示了,输出没有写对



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573255

相关实践学习
使用PAI+LLaMA Factory微调Qwen2-VL模型,搭建文旅领域知识问答机器人
使用PAI和LLaMA Factory框架,基于全参方法微调 Qwen2-VL模型,使其能够进行文旅领域知识问答,同时通过人工测试验证了微调的效果。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
9月前
|
机器学习/深度学习 数据采集 算法
量子机器学习入门:三种数据编码方法对比与应用
在量子机器学习中,数据编码方式决定了量子模型如何理解和处理信息。本文详解角度编码、振幅编码与基础编码三种方法,分析其原理、实现及适用场景,帮助读者选择最适合的编码策略,提升量子模型性能。
744 8
|
机器学习/深度学习 人工智能 物联网
通义灵码在人工智能与机器学习领域的应用
通义灵码不仅在物联网领域表现出色,还在人工智能、机器学习、金融、医疗和教育等领域展现出广泛应用前景。本文探讨了其在这些领域的具体应用,如模型训练、风险评估、医疗影像诊断等,并总结了其提高开发效率、降低门槛、促进合作和推动创新的优势。
通义灵码在人工智能与机器学习领域的应用
|
机器学习/深度学习 数据采集 JSON
Pandas数据应用:机器学习预处理
本文介绍如何使用Pandas进行机器学习数据预处理,涵盖数据加载、缺失值处理、类型转换、标准化与归一化及分类变量编码等内容。常见问题包括文件路径错误、编码不正确、数据类型不符、缺失值处理不当等。通过代码案例详细解释每一步骤,并提供解决方案,确保数据质量,提升模型性能。
618 88
|
机器学习/深度学习 算法 数据挖掘
PyTabKit:比sklearn更强大的表格数据机器学习框架
PyTabKit是一个专为表格数据设计的新兴机器学习框架,集成了RealMLP等先进深度学习技术与优化的GBDT超参数配置。相比传统Scikit-Learn,PyTabKit通过元级调优的默认参数设置,在无需复杂超参调整的情况下,显著提升中大型数据集的性能表现。其简化API设计、高效训练速度和多模型集成能力,使其成为企业决策与竞赛建模的理想工具。
554 12
PyTabKit:比sklearn更强大的表格数据机器学习框架
|
11月前
|
机器学习/深度学习 人工智能 运维
阿里云PAI人工智能平台介绍、优势及收费标准,手动整理
阿里云人工智能平台PAI是面向开发者和企业的机器学习与深度学习工程平台,提供数据标注、模型构建、训练、部署及推理优化等全链路服务。内置140+优化算法,支持PyTorch、TensorFlow等多种框架,具备高性能训练与推理能力,适用于自动驾驶、金融风控、智能推荐、智慧医疗等多个行业场景。PAI提供零代码开发、可视化建模、大模型一键部署等功能,助力企业快速构建AI应用。支持多种购买方式,如按量付费、预付费等,满足不同业务需求。
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
人机融合智能 | 数据与知识双驱动式人工智能
本章系统介绍了数据驱动、知识驱动及双驱动人工智能的理论与应用。数据驱动方法依赖大数据和深度学习,在图像识别、自然语言处理等领域取得突破,但面临标注成本高、可解释性差等问题。知识驱动方法通过知识表示与推理提升系统理解能力,却在泛化性和适应性上受限。为弥补单一范式的不足,数据与知识双驱动融合两者优势,致力于构建更智能、可解释且安全可靠的AI系统,兼顾伦理与隐私保护。文章还回顾了AI发展历程,从早期神经网络到当前大规模语言模型(如GPT、BERT)的技术演进,深入解析了各类机器学习与深度学习模型的核心原理与应用场景,展望未来AI发展的潜力与挑战。
750 0
|
数据采集 机器学习/深度学习 人工智能
数据驱动智能,智能优化数据——大数据与人工智能的双向赋能
数据驱动智能,智能优化数据——大数据与人工智能的双向赋能
782 4
|
机器学习/深度学习 数据采集 算法
机器学习在生物信息学中的创新应用:解锁生物数据的奥秘
机器学习在生物信息学中的创新应用:解锁生物数据的奥秘
1114 36
|
机器学习/深度学习 人工智能
Diff-Instruct:指导任意生成模型训练的通用框架,无需额外训练数据即可提升生成质量
Diff-Instruct 是一种从预训练扩散模型中迁移知识的通用框架,通过最小化积分Kullback-Leibler散度,指导其他生成模型的训练,提升生成性能。
420 11
Diff-Instruct:指导任意生成模型训练的通用框架,无需额外训练数据即可提升生成质量
|
机器学习/深度学习 传感器 人工智能
人工智能与机器学习:改变未来的力量####
【10月更文挑战第21天】 在本文中,我们将深入探讨人工智能(AI)和机器学习(ML)的基本概念、发展历程及其在未来可能带来的革命性变化。通过分析当前最前沿的技术和应用案例,揭示AI和ML如何正在重塑各行各业,并展望它们在未来十年的潜在影响。 ####
403 27

相关产品

  • 人工智能平台 PAI