人工智能平台PAI 操作报错合集之DSSM负采样时,输入数据不同,被哈希到同一个桶里,导致生成的embedding相同如何解决

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
简介: 阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。

问题一:图形训练预测遇到了一些错误

这是组件的运行日志后半部分

2023-12-01 09:40:00,746 INFO: dlc endpoint pai-dlc.cn-shenzhen.aliyuncs.com

2023-12-01 09:40:00,748 INFO: input artifact input_table value is None

2023-12-01 09:40:00,748 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:00,779 INFO: Workspace list_features result: ['PaiDLC:IntegrateWithWorkspace']

2023-12-01 09:40:01,447 INFO: DLC job url: https://pai.console.aliyun.com/?regionId=cn-shenzhen&workspaceId=34471#/job/detail?jobId=dlc1ulv3lx1i7wmw

2023-12-01 09:40:01,702 INFO: job status: Creating

2023-12-01 09:40:16,960 INFO: job status: Failed

2023-12-01 09:40:16,962 INFO: input artifact input_table value is None

2023-12-01 09:40:16,962 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,003 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,003 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,208 INFO: delete data source: d-hkz9gro543u1x8i3ku

2023-12-01 09:40:17,209 INFO: input artifact input_table value is None

2023-12-01 09:40:17,209 INFO: input artifact input_pose_detection_model_path value is None

2023-12-01 09:40:17,242 INFO: Initialize DlcJobHelper from context: region_id=cn-shenzhen workspace_id=34471 is_use_workspace=True

2023-12-01 09:40:17,242 INFO: delete dataset using workspace service api

2023-12-01 09:40:17,443 INFO: delete data source: d-2a1agl03244fe6x59y

组件是通用图像预测easycv,上游组件是读取oss数据和图像检测训练easycv,

前几次测试的时候还可以调用起dlc到runing,后面就知道一下creating就出现failed了



参考答案:

根据提供的日志信息,可以看出组件在运行过程中出现了创建失败的情况。具体原因可能与以下几个因素有关:

  1. 输入数据问题:日志中显示input_tableinput_pose_detection_model_path的值都为None。这可能是由于上游组件没有正确传递这些输入数据导致的。请检查上游组件是否正确读取了OSS数据和图像检测模型,并将它们传递给当前组件。
  2. 资源限制:日志中还显示了作业状态为Failed,这可能是因为系统资源不足导致作业无法正常创建。请检查系统资源使用情况,如CPU、内存等,并确保它们满足组件的运行需求。
  3. 网络问题:日志中还显示了与阿里云相关的一些信息,如DLC(Deep Learning Compute)服务端点、工作空间等。如果网络连接存在问题,可能会导致作业创建失败。请检查网络连接是否正常,并确保可以访问到阿里云的相关服务。
  4. 配置问题:日志中还显示了一些初始化和删除数据集的操作。如果配置不正确,可能会导致作业创建失败。请检查相关配置是否正确,并确保它们符合预期的要求。



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/574166



问题二:机器学习PAI报一个问题:我DSSM负采样版本,请问这个问题咱们有碰到过吗?

机器学习PAI报一个问题:我DSSM负采样版本,user tower输入两个特征:gender(F, M, UNKNOWN,共3种)与age_level([1, 17], [18, 24], ..., UNKOWN,共11种),item tower一个特征:item_id。我们输入数据都提前补好了缺失值,gender的hash_bucket_size设的200(unique value有3个),age_level的hash_bucket_size设为300。我们预期上user tower产生33种不同的user embedding,但是实际上有一些样本attr被hash到同一个bucket里去了,只有30种不同的user embedding,导致他们虽然feature不同但是embedding相同,请问这个问题咱们有碰到过吗?

看上图,gender一样age_level不一样,但是embedding一样,看起来是age_level被hash到同一个bucket了



参考答案:

确实是一样的,这种取值有限的,要么用个vocab_dict或者EmbeddingVariable好了 可以防止冲突,或者干脆设置的大一些,比如1000

这说明,大多数未知年龄的,都把他当做25-29 的年龄来处理(应该出现概率高)。看起来也有道理啊,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573260



问题三:请教下机器学习PAI现在GPU用不了可能是什么问题呢?

请教下机器学习PAI现在GPU用不了可能是什么问题呢?



参考答案:

上面好像都是要10.0,下面我看是10.1



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573257



问题四:机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?

机器学习PAI正在等待在云端的gateway资源 为啥一直在等待 gateway 资源啊?



参考答案:

机器学习PAI在等待云端的gateway资源可能是因为需要进行模型加载、数据预处理等操作。这个过程可能需要一些时间来准备所需的资源,因此需要等待一段时间。可以耐心等待一段时间,如果还不行的话,检查网络连接是否正常,以及阿里云账户是否有足够的资源来支持相关操作。

详细可以看看EAS常见问题:https://help.aliyun.com/zh/pai/support/faq-about-eas



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573256



问题五:机器学习PAI为什么 easyrec 打分会失败啊?

机器学习PAI为什么 easyrec 打分会失败啊?

用的是 mmoe 的模型,也不知道咋回事。



参考答案:

看最后一行的日志,已经提示了,输出没有写对



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/573255

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
2天前
|
机器学习/深度学习 人工智能 算法
基于Java的人工智能与机器学习初探
基于Java的人工智能与机器学习初探
14 0
|
3天前
|
机器学习/深度学习 存储 人工智能
【人工智能】机器学习算法综述及常见算法详解
【人工智能】机器学习算法综述及常见算法详解
|
4天前
|
机器学习/深度学习 数据采集 算法
数据分享|R语言机器学习预测案例合集:众筹平台、机票折扣、糖尿病患者、员工满意度
数据分享|R语言机器学习预测案例合集:众筹平台、机票折扣、糖尿病患者、员工满意度
|
5天前
|
数据采集
【大模型】大语言模型训练数据中的偏差概念及其可能的影响?
【5月更文挑战第5天】【大模型】大语言模型训练数据中的偏差概念及其可能的影响?
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
【AI 生成式】如何利用生成式人工智能进行机器学习的数据增强?
【5月更文挑战第4天】【AI 生成式】如何利用生成式人工智能进行机器学习的数据增强?
|
10天前
|
机器学习/深度学习 存储 数据采集
【Python 机器学习专栏】PCA(主成分分析)在数据降维中的应用
【4月更文挑战第30天】本文探讨了主成分分析(PCA)在高维数据降维中的应用。PCA通过线性变换找到最大化方差的主成分,从而降低数据维度,简化存储和计算,同时去除噪声。文章介绍了PCA的基本原理、步骤,强调了PCA在数据降维、可视化和特征提取上的优势,并提供了Python实现示例。PCA广泛应用在图像压缩、机器学习和数据分析等领域,但降维后可能损失解释性,需注意选择合适主成分数量及数据预处理。
|
10天前
|
机器学习/深度学习 Python
【Python机器学习专栏】时间序列数据的特征工程
【4月更文挑战第30天】本文探讨了时间序列数据的特征工程,强调其在捕捉季节性、揭示趋势、处理异常值和提升模型性能中的重要性。介绍了滞后特征、移动窗口统计特征、时间戳特征、频域特征和波动率特征等方法,并提供了Python实现示例。通过有效特征工程,可提高时间序列分析的准确性和预测可靠性。
|
10天前
|
机器学习/深度学习 计算机视觉 Python
【Python 机器学习专栏】图像数据的特征提取与预处理
【4月更文挑战第30天】本文探讨了图像数据的特征提取与预处理在机器学习中的重要性。图像数据具有大容量、信息丰富和冗余性高的特点。特征提取涉及颜色、纹理和形状特征;预处理包括图像增强、去噪和分割。Python的OpenCV和Scikit-image库在处理这些任务时非常有用。常见的特征提取方法有统计、变换和基于模型的方法,而预处理应注意保持图像真实性、适应性调整及验证评估。有效的特征提取和预处理能提升模型性能,Python工具使其更高效。
|
10天前
|
机器学习/深度学习 自然语言处理 算法
【Python机器学习专栏】文本数据的特征提取与表示
【4月更文挑战第30天】本文探讨了文本特征提取与表示在机器学习和NLP中的重要性。介绍了词袋模型、TF-IDF和n-gram等特征提取方法,以及稀疏向量和词嵌入等表示方式。Python中可利用sklearn和gensim库实现这些技术。有效的特征提取与表示有助于将文本数据转化为可处理的数值形式,推动NLP和机器学习领域的进步。
|
10天前
|
机器学习/深度学习 数据采集 算法
【Python机器学习专栏】使用Scikit-learn进行数据编码
【4月更文挑战第30天】本文介绍了Python Scikit-learn库在机器学习数据预处理中的作用,尤其是数据编码。数据编码将原始数据转化为算法可理解的格式,包括标签编码(适用于有序分类变量)、独热编码(适用于无序分类变量)和文本编码(如词袋模型、TF-IDF)。Scikit-learn提供LabelEncoder和OneHotEncoder类实现这些编码。示例展示了如何对数据进行标签编码和独热编码,强调了正确选择编码方法的重要性。

热门文章

最新文章

相关产品

  • 人工智能平台 PAI